Cursus · 7 hoofdstukken
Draai een LLM op je eigen machine
Draai een krachtige privé-LLM op je eigen laptop, zonder cloudkosten. Kies een tool, pas een model aan je VRAM aan met kwantisatie en serveer het naar je app. 7 hoofdstukken, ~2u.
Wat je zult kunnen
- Draai een LLM op je eigen machine
- Kies het juiste lokale model voor de taak
- Begrijp VRAM- en kwantisatiespecificaties
- Serveer een model via een OpenAI API
- Vergelijk lokale modellen met cloudmodellen
- Specificeer hardware voor grotere modellen
Wat erin zit
- 1Draai een LLM op je eigen machine: begin hier
De kaart van dit pad — waarom modellen lokaal draaien de moeite waard is, hoe de zes hoofdstukken op elkaar voortbouwen, en waar te beginnen.
- 2Waarom een LLM lokaal draaien
Het model op je eigen machine is zwakker dan de frontier — en toch loont die ruil vaker dan je zou denken.
- 3De tools die modellen draaien
Vier vriendelijke voordeuren, één gedeelde engine eronder — dus de keuze gaat over comfort, niet over capaciteit.
- 4Hardware- en kwantisatierealiteit
Eén getal bepaalt of een model op je machine draait — en één truc laat je het buigen.
- 5Kies je lokale model
Je hardware versmalde het veld al — kies nu op de klus en lees de licentie voordat je je vastlegt.
- 6Bied een model aan je app aan
Lokale modellen spreken dezelfde taal als de cloud — dus er een in je code koppelen is vooral één regel veranderen.
- 7Bouw een betere thuismachine
Je hardware ontgroeid? De upgrade is één getal — laat de juiste soort geheugen groeien, en een hele modelklasse gaat open.
Veelgestelde vragen
- Wat leer ik in deze cursus?
- Je leert een groot taalmodel draaien op de computer die je al hebt: een tool kiezen om modellen te draaien, een model aanpassen aan je hardware via VRAM en kwantisatie, een model selecteren op taak en licentie, het serveren naar je eigen app en je machine upgraden wanneer je de grenzen bereikt. Het pad bestaat uit 7 hoofdstukken over tools, hardware, modelkeuze en serving.
- Voor wie is deze cursus bedoeld?
- De cursus is gemaakt voor engineers en nieuwsgierige beginners die een lokale LLM op hun eigen laptop of pc willen draaien in plaats van uitsluitend op cloud-API's te vertrouwen. Eerdere ervaring met lokale modellen is niet vereist, want het pad begint bij het waarom van lokaal draaien en bouwt stap voor stap op.
- Moet ik kunnen programmeren of machine learning-ervaring hebben?
- Je hebt geen machine learning-achtergrond nodig. Basiskennis van een terminal is handig voor het hoofdstuk over het serveren van een model naar je app, waarbij je het verbindt via een OpenAI-compatibele API, maar het pad is geschreven voor niet-experts.
- Hoe lang duurt de cursus en is er een certificaat?
- Het pad duurt in totaal ongeveer 2 uur verdeeld over 7 hoofdstukken op basisniveau. Je kunt het in je eigen tempo voltooien en een certificaat van voltooiing behalen in de AI Academy.
- Is deze cursus gratis?
- Nee, dit is een betaald pad dat is inbegrepen bij een AI Academy-abonnement. Het behandelt het draaien van een lokale LLM van begin tot eind: van het kiezen van een tool tot het serveren van een model en het upgraden van je hardware.
Behaal een certificaat
Rond alle hoofdstukken af om je certificaat van afronding te ontvangen.