Corso · 7 capitoli
Fine-Tuning e Distillazione di Modelli Open
From we should fine-tune to a governed loop: LoRA on open weights, distillation from frontier models, and the evals that prove it worked.
Cosa saprai fare
- Un albero decisionale per capire quando il fine-tuning vale il suo costo, e il laboratorio che userai per dimostrarlo sul tuo task.
- Trasforma un mucchio di esempi raccattati nelle poche centinaia di righe curate, deduplicate e con licenza in regola che vale davvero la pena usare per l'addestramento.
- Dimensiona l'adapter al task, la GPU all'adapter, e scegli il checkpoint che generalizza davvero.
- Trasforma il giudizio di un modello di frontiera in segnale di addestramento per il tuo modello open, senza superare la linea tracciata dai suoi termini di servizio.
- Trasforma un singolo punteggio positivo in un harness prima/dopo documentato, un drift set delle capacità, e un gate ship/no-ship che chiunque altro potrebbe rieseguire.
- Trasforma un checkpoint che ha superato il gate in un adapter live con un nome, un canary e un piano di rollback.
Cosa contiene
- 1Fine-tuning di modelli open: inizia da qui
Sei capitoli che accompagnano un checkpoint a pesi open dalla decisione di fare fine-tuning fino a un adapter in produzione, con un piano di rollback pronto.
- 2La decisione di fine-tuning
Un albero decisionale per capire quando il fine-tuning vale il suo costo, e il laboratorio che userai per dimostrarlo sul tuo task.
- 3Dataset Engineering per il Tuning
Trasforma un mucchio di esempi raccattati nelle poche centinaia di righe curate, deduplicate e con licenza in regola che vale davvero la pena usare per l'addestramento.
- 4LoRA e QLoRA in Pratica
Dimensiona l'adapter al task, la GPU all'adapter, e scegli il checkpoint che generalizza davvero.
- 5Distillazione da Modelli di Frontiera
Trasforma il giudizio di un modello di frontiera in segnale di addestramento per il tuo modello open, senza superare la linea tracciata dai suoi termini di servizio.
- 6Eval che dimostrano che ha funzionato
Trasforma un singolo punteggio positivo in un harness prima/dopo documentato, un drift set delle capacità, e un gate ship/no-ship che chiunque altro potrebbe rieseguire.
- 7Il serving del tuo modello fine-tuned
Trasforma un checkpoint che ha superato il gate in un adapter live con un nome, un canary e un piano di rollback.
Ottieni un certificato
Completa tutti i capitoli per ricevere il tuo certificato di completamento.