Corso · 7 capitoli
Esegui un LLM sulla tua macchina
Esegui un LLM privato e potente sul laptop che hai già, senza costi cloud. Scegli uno strumento, adatta un modello alla tua VRAM con la quantizzazione, poi collegalo alla tua app. 7 capitoli, ~2h.
Cosa saprai fare
- Eseguire un LLM sulla tua macchina
- Scegliere il modello locale giusto per ogni task
- Leggere le specifiche di VRAM e quantizzazione
- Servire un modello tramite API OpenAI
- Confrontare modelli locali e cloud
- Configurare l'hardware per modelli più grandi
Cosa contiene
- 1Eseguire un LLM sulla tua macchina: si parte
La mappa di questo percorso — perché eseguire i modelli in locale conviene, come i sei capitoli si costruiscono l'uno sull'altro, e da dove iniziare.
- 2Perché eseguire un LLM in locale
Il modello sulla tua macchina è meno potente di quelli di frontiera — eppure conviene scegliere il locale più spesso di quanto pensi.
- 3Gli strumenti che eseguono i modelli
Quattro porte d'ingresso amichevoli, un solo motore condiviso sotto — così la scelta è una questione di comodità, non di capacità.
- 4La realtà di hardware e quantizzazione
Un solo numero decide se un modello gira sulla tua macchina — e un solo trucco ti permette di piegarlo.
- 5Scegli il tuo modello locale
Il tuo hardware ha già ristretto il campo — ora scegli in base al lavoro e leggi la licenza prima di impegnarti.
- 6Servire un modello alla tua app
I modelli locali parlano la stessa lingua del cloud — quindi collegarne uno al tuo codice è quasi solo cambiare una riga.
- 7Costruire una macchina migliore per casa
Hai superato il tuo hardware? L'upgrade è un solo numero — fai crescere il tipo giusto di memoria, e si apre un'intera classe di modelli.
Domande frequenti
- Cosa imparerò in questo corso?
- Imparerai a eseguire un large language model sul computer che hai già: scegliere uno strumento per eseguire i modelli, adattare un modello al tuo hardware usando VRAM e quantizzazione, scegliere un modello in base al task e alla licenza, collegarlo alla tua app e aggiornare la macchina quando ne hai bisogno. Il percorso si sviluppa in 7 capitoli che coprono strumenti, hardware, scelta del modello e serving.
- A chi è rivolto questo corso?
- È pensato per sviluppatori e principianti curiosi che vogliono un LLM locale sul proprio laptop o PC, senza dipendere solo dalle API cloud. Non è richiesta alcuna esperienza precedente con i modelli locali: il percorso parte dal perché il locale è importante e costruisce le competenze passo dopo passo.
- Devo saper programmare o avere esperienza di machine learning?
- Non hai bisogno di alcuna base di machine learning. Una certa familiarità con il terminale è utile per il capitolo sul serving del modello alla tua app, dove lo colleghi tramite un'API compatibile con OpenAI, ma il percorso è scritto per chi non è esperto.
- Quanto dura il corso ed è previsto un certificato?
- Il percorso dura circa 2 ore totali, distribuiti in 7 capitoli a livello foundations. Puoi completarlo al tuo ritmo e ottenere un certificato di completamento nell'AI Academy.
- Il corso è gratuito?
- No, è un percorso a pagamento incluso nell'abbonamento all'AI Academy. Copre l'esecuzione di un LLM locale dall'inizio alla fine: dalla scelta dello strumento al serving del modello, fino all'aggiornamento dell'hardware.
Ottieni un certificato
Completa tutti i capitoli per ricevere il tuo certificato di completamento.