Course · 7 chapters
Führe ein LLM auf deinem eigenen Rechner aus
Run a capable private LLM on the laptop you already own, no cloud bill. Pick a tool, fit a model to your VRAM with quantization, then serve it to your app. 7 chapters, ~2h.
What you'll be able to do
- Run an LLM on your own machine
- Pick the right local model for the job
- Read VRAM and quantization specs
- Serve a model over an OpenAI API
- Weigh local models against cloud models
- Spec hardware to run bigger models
What's inside
- 1Ein LLM auf deinem eigenen Rechner ausführen: Starte hier
Die Karte dieses Pfads — warum es sich lohnt, Modelle lokal auszuführen, wie die sechs Kapitel aufeinander aufbauen und wo du anfängst.
- 2Warum ein LLM lokal laufen lassen
Das Modell auf deinem eigenen Rechner ist schwächer als die Spitze — und dieser Tausch lohnt sich öfter, als du denkst.
- 3Die Tools, die Modelle ausführen
Vier freundliche Eingangstüren, ein gemeinsamer Motor darunter — die Wahl dreht sich also um Komfort, nicht um Leistung.
- 4Hardware- & Quantisierungs-Realität
Eine Zahl entscheidet, ob ein Modell auf deinem Rechner läuft — und ein Trick lässt dich sie biegen.
- 5Wähle dein lokales Modell
Deine Hardware hat das Feld schon eingegrenzt — jetzt wähle nach der Aufgabe und lies die Lizenz, bevor du dich festlegst.
- 6Liefere ein Modell an deine App aus
Lokale Modelle sprechen dieselbe Sprache wie die Cloud — eines in deinen Code einzubinden bedeutet also meist, eine einzige Zeile zu ändern.
- 7Bau eine bessere Heimmaschine
Aus deiner Hardware herausgewachsen? Das Upgrade ist eine Zahl — lass die richtige Art Speicher wachsen, und eine ganze Modellklasse öffnet sich.
Frequently asked questions
- What will I learn in this course?
- You learn to run a large language model on the computer you already own: choosing a tool to run models, fitting a model to your hardware using VRAM and quantization, picking a model by task and license, serving it to your own app, and upgrading your machine when you outgrow it. The path runs across 7 chapters covering tools, hardware, model choice, and serving.
- Who is this course for?
- It is built for engineers and curious beginners who want a local LLM running on their own laptop or PC instead of relying only on cloud APIs. No prior experience with local models is assumed, since the path starts from why local matters and builds up step by step.
- Do I need to code or have machine learning experience?
- You do not need any machine learning background. Basic comfort with a terminal helps for the chapter on serving a model to your app, where you connect it through an OpenAI-compatible API, but the path is written for non-experts.
- How long is the course and is there a certificate?
- The path is about 2 hours total across 7 chapters at a foundations level. You can complete it at your own pace and earn a certificate of completion in the AI Academy.
- Is this course free?
- No, this is a paid path included with an AI Academy subscription. It covers running a local LLM end to end, from choosing a tool to serving a model and upgrading your hardware.
Earn a certificate
Complete all chapters to receive your certificate of completion.