Course · 7 chapters
Esegui un LLM sulla tua macchina
Run a capable private LLM on the laptop you already own, no cloud bill. Pick a tool, fit a model to your VRAM with quantization, then serve it to your app. 7 chapters, ~2h.
What you'll be able to do
- Run an LLM on your own machine
- Pick the right local model for the job
- Read VRAM and quantization specs
- Serve a model over an OpenAI API
- Weigh local models against cloud models
- Spec hardware to run bigger models
What's inside
- 1Eseguire un LLM sulla tua macchina: si parte
La mappa di questo percorso — perché eseguire i modelli in locale conviene, come i sei capitoli si costruiscono l'uno sull'altro, e da dove iniziare.
- 2Perché eseguire un LLM in locale
Il modello sulla tua macchina è meno potente di quelli di frontiera — eppure conviene scegliere il locale più spesso di quanto pensi.
- 3Gli strumenti che eseguono i modelli
Quattro porte d'ingresso amichevoli, un solo motore condiviso sotto — così la scelta è una questione di comodità, non di capacità.
- 4La realtà di hardware e quantizzazione
Un solo numero decide se un modello gira sulla tua macchina — e un solo trucco ti permette di piegarlo.
- 5Scegli il tuo modello locale
Il tuo hardware ha già ristretto il campo — ora scegli in base al lavoro e leggi la licenza prima di impegnarti.
- 6Servire un modello alla tua app
I modelli locali parlano la stessa lingua del cloud — quindi collegarne uno al tuo codice è quasi solo cambiare una riga.
- 7Costruire una macchina migliore per casa
Hai superato il tuo hardware? L'upgrade è un solo numero — fai crescere il tipo giusto di memoria, e si apre un'intera classe di modelli.
Frequently asked questions
- What will I learn in this course?
- You learn to run a large language model on the computer you already own: choosing a tool to run models, fitting a model to your hardware using VRAM and quantization, picking a model by task and license, serving it to your own app, and upgrading your machine when you outgrow it. The path runs across 7 chapters covering tools, hardware, model choice, and serving.
- Who is this course for?
- It is built for engineers and curious beginners who want a local LLM running on their own laptop or PC instead of relying only on cloud APIs. No prior experience with local models is assumed, since the path starts from why local matters and builds up step by step.
- Do I need to code or have machine learning experience?
- You do not need any machine learning background. Basic comfort with a terminal helps for the chapter on serving a model to your app, where you connect it through an OpenAI-compatible API, but the path is written for non-experts.
- How long is the course and is there a certificate?
- The path is about 2 hours total across 7 chapters at a foundations level. You can complete it at your own pace and earn a certificate of completion in the AI Academy.
- Is this course free?
- No, this is a paid path included with an AI Academy subscription. It covers running a local LLM end to end, from choosing a tool to serving a model and upgrading your hardware.
Earn a certificate
Complete all chapters to receive your certificate of completion.