Corso · 5 capitoli
Adversarial AI
Rilascia funzionalità LLM che resistono agli attacchi. Difenditi da prompt injection, context poisoning e jailbreak, poi avvia un programma interno di red-team. 5 capitoli, avanzato, per sviluppatori.
Cosa saprai fare
- Difendi le funzionalità LLM dalla prompt injection
- Proteggi gli agenti AI dal data poisoning
- Automatizza i test di jailbreak con DeepTeam
- Esegui algoritmi di attacco collaudati come PAIR
- Trasforma gli attacchi in gate CI economici
- Avvia un programma interno di AI red-team
Cosa contiene
- 1Adversarial AI: parti da qui
Un orientamento sullo percorso Adversarial AI in quattro capitoli — difensore → superficie di minaccia → offesa → programma — che copre tutto, dalla tua prima patch contro la prompt injection alla gestione di una pratica interna di red-team che regge gli attacchi del 2026.
- 2Fondamenti di difesa dalla prompt injection
Perché la prompt injection esiste, come gli attaccanti la sfruttano e la difesa a strati di cui ogni funzione basata su LLM ha bisogno prima del rilascio.
- 3Context Poisoning e Indirect Injection
Mappa e difendi la superficie d'attacco dell'era degli agenti — poisoning del RAG, payload veicolati dai documenti, poisoning della memoria e dirottamento dell'output dei tool che le difese contro l'injection diretta non raggiungono.
- 4Strumenti automatici di jailbreak
LRM attaccanti, pattern BYO-attacker, il trio DeepTeam / PyRIT / Mindgard e gli algoritmi automatici (PAIR, TAP, GCG) che trasformano il red-teaming da attività di un singolo ingegnere a un programma continuo.
- 5Red teaming AI e valutazione avversariale
Mandare avanti un programma di red-team per l'AI in produzione — tassonomia, ciclo di vita dei finding, monitoraggio runtime, disciplina di regression e il playbook interno.
Domande frequenti
- Cosa imparerò in questo corso di adversarial AI?
- Imparerai a difendere e attaccare sistemi basati su LLM: correggere la prompt injection con la defense-in-depth, bloccare il context poisoning e l'indirect injection su RAG e agenti, usare strumenti automatizzati per il jailbreak e gestire un programma interno di AI red-team. Il percorso si articola in cinque capitoli che coprono le fasi di difesa, superficie di attacco, offensiva e gestione del programma.
- A chi è destinato questo percorso di AI security?
- È pensato per gli sviluppatori che rilasciano funzionalità LLM in produzione e per i team di sicurezza che le testano. Il livello è avanzato: si presuppone che tu abbia già esperienza con app LLM, agenti o pipeline RAG.
- Ho bisogno di esperienza di programmazione o conoscenze pregresse di AI security?
- Sì. Si tratta di un percorso ingegneristico avanzato: dovresti sentirti a tuo agio nella creazione di funzionalità LLM e nella lettura del codice. Il corso utilizza strumenti offensivi come PyRIT, DeepTeam e Mindgard, quindi avere familiarità con l'esecuzione di tool Python è utile.
- Quanto dura il corso Adversarial AI ed è previsto un certificato?
- Il percorso dura circa 100 minuti suddivisi in cinque capitoli, incluso un breve capitolo introduttivo. Otterrai un certificato di completamento una volta terminati tutti i capitoli.
- Questo corso è gratuito?
- No. Adversarial AI è un percorso a pagamento incluso nell'AI Academy by Anthropos. Copre la difesa dalla prompt injection, il context poisoning, gli strumenti automatizzati per il jailbreak e l'AI red teaming.
Ottieni un certificato
Completa tutti i capitoli per ricevere il tuo certificato di completamento.