Curso · 7 capítulos
Rode um LLM na Sua Própria Máquina
Rode um LLM privado e capaz no notebook que você já tem, sem custas de nuvem. Escolha uma ferramenta, ajuste um modelo à sua VRAM com quantização e sirva-o ao seu app. 7 capítulos, ~2h.
O que você vai saber fazer
- Rode um LLM na sua própria máquina
- Escolha o modelo local certo para cada tarefa
- Interprete especificações de VRAM e quantização
- Sirva um modelo via API compatível com OpenAI
- Compare modelos locais com modelos na nuvem
- Especifique hardware para rodar modelos maiores
O que tem dentro
- 1Rode um LLM na sua própria máquina: comece por aqui
O mapa deste path — por que rodar modelos localmente vale a pena, como os seis capítulos se constroem uns sobre os outros, e por onde começar.
- 2Por que rodar um LLM localmente
O modelo na sua própria máquina é mais fraco que a fronteira — e essa troca compensa com mais frequência do que você imagina.
- 3As ferramentas que rodam modelos
Quatro portas de entrada amigáveis, um mesmo motor por baixo — então a escolha é sobre conforto, não capacidade.
- 4Hardware e a realidade da quantização
Um número decide se um modelo roda na sua máquina — e um truque deixa você dobrá-lo.
- 5Escolha o seu modelo local
O seu hardware já estreitou o campo — agora escolha pela tarefa e leia a licença antes de se comprometer.
- 6Sirva um modelo para o seu app
Os modelos locais falam a mesma língua que a nuvem — então conectar um ao seu código é, em sua maior parte, mudar uma única linha.
- 7Monte uma máquina caseira melhor
Ficou grande demais para o seu hardware? O upgrade é um número — cresça o tipo certo de memória, e uma classe inteira de modelos se abre.
Perguntas frequentes
- O que vou aprender neste curso?
- Você aprende a rodar um grande modelo de linguagem no computador que já possui: escolher uma ferramenta para executar modelos, ajustar um modelo ao seu hardware usando VRAM e quantização, selecionar um modelo por tarefa e licença, disponibilizá-lo para o seu próprio app e atualizar sua máquina quando precisar de mais capacidade. O percurso abrange 7 capítulos sobre ferramentas, hardware, escolha de modelos e disponibilização.
- Para quem é este curso?
- Foi criado para engenheiros e iniciantes curiosos que querem um LLM local rodando no próprio notebook ou PC, em vez de depender apenas de APIs na nuvem. Não é necessária experiência prévia com modelos locais, pois o percurso começa pelo motivo de o uso local ser relevante e avança passo a passo.
- Preciso saber programar ou ter experiência em machine learning?
- Não é necessário nenhum conhecimento de machine learning. Familiaridade básica com o terminal ajuda no capítulo sobre disponibilização de um modelo para o seu app, onde você o conecta por meio de uma API compatível com OpenAI, mas o percurso foi escrito para quem não é especialista.
- Qual é a duração do curso e há certificado?
- O percurso tem cerca de 2 horas no total, distribuídas em 7 capítulos em nível de fundamentos. Você pode concluí-lo no seu próprio ritmo e obter um certificado de conclusão na AI Academy.
- Este curso é gratuito?
- Não, este é um percurso pago incluído na assinatura da AI Academy. Ele cobre a execução de um LLM local de ponta a ponta, desde a escolha de uma ferramenta até a disponibilização de um modelo e a atualização do seu hardware.
Ganhe um certificado
Conclua todos os capítulos para receber seu certificado de conclusão.