Curso · 7 capítulos
Fine-Tuning e Destilação de Modelos Abertos
From we should fine-tune to a governed loop: LoRA on open weights, distillation from frontier models, and the evals that prove it worked.
O que você vai saber fazer
- Uma árvore de decisão para saber quando o fine-tuning vale o custo, e o laboratório que você vai usar para provar isso na sua própria tarefa.
- Transformar uma pilha de exemplos raspados nas poucas centenas de linhas curadas, deduplicadas e licenciadas que realmente valem o treinamento.
- Dimensionar o adaptador para a tarefa, a GPU para o adaptador, e escolher o checkpoint que realmente generaliza.
- Transformar o julgamento de um modelo de fronteira em sinal de treino para o seu modelo aberto, sem cruzar a linha que os termos de serviço dele traçam.
- Transformando uma única pontuação aprovada em um harness documentado de antes/depois, um conjunto de deriva de capacidade e um portão de aprovação que qualquer outra pessoa consiga rodar de novo.
- Transformando um checkpoint que passou no portão num adapter em produção com nome, canário e plano de rollback.
O que tem dentro
- 1Fine-Tuning de Modelos Abertos: Comece Aqui
Seis capítulos que levam um checkpoint de pesos abertos da decisão de fazer fine-tuning até um adapter em produção com um plano de rollback.
- 2A decisão de fine-tuning
Uma árvore de decisão para saber quando o fine-tuning vale o custo, e o laboratório que você vai usar para provar isso na sua própria tarefa.
- 3Engenharia de Dataset para Fine-Tuning
Transformar uma pilha de exemplos raspados nas poucas centenas de linhas curadas, deduplicadas e licenciadas que realmente valem o treinamento.
- 4LoRA & QLoRA na Prática
Dimensionar o adaptador para a tarefa, a GPU para o adaptador, e escolher o checkpoint que realmente generaliza.
- 5Destilação a Partir de Modelos de Fronteira
Transformar o julgamento de um modelo de fronteira em sinal de treino para o seu modelo aberto, sem cruzar a linha que os termos de serviço dele traçam.
- 6Evals Que Provam Que Funcionou
Transformando uma única pontuação aprovada em um harness documentado de antes/depois, um conjunto de deriva de capacidade e um portão de aprovação que qualquer outra pessoa consiga rodar de novo.
- 7Servindo Seu Modelo Ajustado
Transformando um checkpoint que passou no portão num adapter em produção com nome, canário e plano de rollback.
Ganhe um certificado
Conclua todos os capítulos para receber seu certificado de conclusão.