Kurs · 7 Kapitel
Führe ein LLM auf deinem eigenen Rechner aus
Betreibe ein leistungsfähiges privates LLM auf deinem eigenen Laptop – ohne Cloud-Kosten. Wähle ein Tool, passe ein Modell per Quantisierung an deinen VRAM an und stelle es deiner App bereit. 7 Kapitel, ~2h.
Das wirst du können
- Ein LLM auf deinem eigenen Rechner betreiben
- Das passende lokale Modell für die Aufgabe wählen
- VRAM- und Quantisierungsangaben lesen
- Ein Modell über eine OpenAI API bereitstellen
- Lokale und Cloud-Modelle abwägen
- Hardware für größere Modelle spezifizieren
Was drin ist
- 1Ein LLM auf deinem eigenen Rechner ausführen: Starte hier
Die Karte dieses Pfads — warum es sich lohnt, Modelle lokal auszuführen, wie die sechs Kapitel aufeinander aufbauen und wo du anfängst.
- 2Warum ein LLM lokal laufen lassen
Das Modell auf deinem eigenen Rechner ist schwächer als die Spitze — und dieser Tausch lohnt sich öfter, als du denkst.
- 3Die Tools, die Modelle ausführen
Vier freundliche Eingangstüren, ein gemeinsamer Motor darunter — die Wahl dreht sich also um Komfort, nicht um Leistung.
- 4Hardware- & Quantisierungs-Realität
Eine Zahl entscheidet, ob ein Modell auf deinem Rechner läuft — und ein Trick lässt dich sie biegen.
- 5Wähle dein lokales Modell
Deine Hardware hat das Feld schon eingegrenzt — jetzt wähle nach der Aufgabe und lies die Lizenz, bevor du dich festlegst.
- 6Liefere ein Modell an deine App aus
Lokale Modelle sprechen dieselbe Sprache wie die Cloud — eines in deinen Code einzubinden bedeutet also meist, eine einzige Zeile zu ändern.
- 7Bau eine bessere Heimmaschine
Aus deiner Hardware herausgewachsen? Das Upgrade ist eine Zahl — lass die richtige Art Speicher wachsen, und eine ganze Modellklasse öffnet sich.
Häufige Fragen
- Was lerne ich in diesem Kurs?
- Du lernst, ein großes Sprachmodell auf deinem eigenen Computer zu betreiben: ein Tool zum Ausführen von Modellen auswählen, ein Modell mithilfe von VRAM und Quantisierung an deine Hardware anpassen, ein Modell nach Aufgabe und Lizenz auswählen, es deiner eigenen App bereitstellen und deinen Rechner aufrüsten, wenn du an seine Grenzen stößt. Der Pfad umfasst 7 Kapitel zu Tools, Hardware, Modellauswahl und Serving.
- Für wen ist dieser Kurs geeignet?
- Er richtet sich an Entwickler:innen und neugierige Einsteiger:innen, die ein lokales LLM auf ihrem eigenen Laptop oder PC betreiben möchten, anstatt ausschließlich auf Cloud-APIs zu setzen. Vorkenntnisse mit lokalen Modellen werden nicht vorausgesetzt, da der Pfad bei den Grundlagen beginnt und Schritt für Schritt aufbaut.
- Muss ich programmieren können oder ML-Erfahrung mitbringen?
- Du brauchst keinerlei Machine-Learning-Kenntnisse. Grundlegende Erfahrung mit einem Terminal ist hilfreich für das Kapitel, in dem du ein Modell über eine OpenAI-kompatible API mit deiner App verbindest – der Pfad ist jedoch für Nicht-Expert:innen geschrieben.
- Wie lang ist der Kurs und gibt es ein Zertifikat?
- Der Pfad umfasst insgesamt ca. 2 Stunden in 7 Kapiteln auf Einsteigerniveau. Du kannst ihn in deinem eigenen Tempo absolvieren und ein Abschlusszertifikat in der AI Academy erwerben.
- Ist dieser Kurs kostenlos?
- Nein, dies ist ein kostenpflichtiger Pfad, der im Rahmen eines AI Academy-Abonnements enthalten ist. Er behandelt den vollständigen Betrieb eines lokalen LLM – von der Tool-Auswahl über das Bereitstellen eines Modells bis hin zur Hardware-Aufrüstung.
Zertifikat erhalten
Schließe alle Kapitel ab, um dein Abschlusszertifikat zu erhalten.