Cursus · 5 hoofdstukken
Adversariële AI
Lever LLM-functies die bestand zijn tegen aanvallen. Verdedig je tegen prompt injection, context poisoning en jailbreaks, en voer een intern red-team programma uit. 5 hoofdstukken, gevorderd, voor engineers.
Wat je zult kunnen
- Verdedig LLM-functies tegen prompt injection
- Bescherm AI-agents tegen data poisoning
- Automatiseer jailbreak-tests met DeepTeam
- Voer bewezen aanvalsalgoritmen zoals PAIR uit
- Zet aanvalsbevindingen om in goedkope CI-gates
- Voer een intern AI red-team programma uit
Wat erin zit
- 1Adversarial AI: Start hier
Een oriëntatie door het vierdelige Adversarial AI-skillpad — verdediger → dreigingsoppervlak → aanval → programma — van je eerste patch tegen prompt-injectie tot het draaien van een interne red-teampraktijk die de aanvallen van 2026 doorstaat.
- 2Grondbeginselen van verdediging tegen prompt injection
Waarom prompt injection bestaat, hoe aanvallers het misbruiken en de gelaagde verdediging die elke LLM-functie nodig heeft voordat je hem live zet.
- 3Contextvergiftiging en indirecte injectie
Breng het aanvalsoppervlak van het agent-tijdperk in kaart en verdedig het — RAG-vergiftiging, payloads verstopt in documenten, geheugenvergiftiging en gekaapte tool-output die verdedigingen tegen directe injectie niet bereiken.
- 4Geautomatiseerde jailbreak-tooling
Attacker-LRM's, BYO-attacker-patronen, het DeepTeam / PyRIT / Mindgard-trio, en de geautomatiseerde algoritmen (PAIR, TAP, GCG) die red-teaming transformeren van een eenpersoonsbezigheid naar een doorlopend programma.
- 5AI Red Teaming & Adversarial Evaluation
Voer een red-team-programma uit voor productie-AI — taxonomie, de finding-lifecycle, runtime-monitoring, regressiediscipline en het interne playbook.
Veelgestelde vragen
- Wat leer ik in deze adversarial AI-cursus?
- Je leert LLM-systemen te verdedigen én aan te vallen: prompt injection patchen met defense-in-depth, context poisoning en indirecte injection blokkeren in RAG en agents, geautomatiseerde jailbreak-tooling inzetten en een intern AI red-team programma opzetten. Het pad omvat vijf hoofdstukken verdeeld over de fasen defender, threat-surface, offense en program.
- Voor wie is dit AI-beveiligingspad bedoeld?
- Het is ontwikkeld voor engineers die LLM-functies in productie bouwen en de securityteams die deze testen. Het niveau is gevorderd, dus er wordt aangenomen dat je al ervaring hebt met LLM-apps, agents of RAG-pipelines.
- Heb ik programmeerervaring of voorkennis van AI-beveiliging nodig?
- Ja. Dit is een gevorderd engineeringpad, dus je moet vertrouwd zijn met het bouwen van LLM-functies en het lezen van code. Het maakt gebruik van offensieve tools zoals PyRIT, DeepTeam en Mindgard, dus ervaring met Python-tooling is een voordeel.
- Hoe lang duurt de Adversarial AI-cursus en is er een certificaat?
- Het pad duurt ongeveer 100 minuten verdeeld over vijf hoofdstukken, inclusief een kort oriëntatiehoofdstuk. Je ontvangt een certificaat van voltooiing zodra je alle hoofdstukken hebt afgerond.
- Is deze cursus gratis?
- Nee. Adversarial AI is een betaald pad dat inbegrepen is bij AI Academy by Anthropos. Het behandelt prompt injection-verdediging, context poisoning, geautomatiseerde jailbreak-tooling en AI red teaming.
Behaal een certificaat
Rond alle hoofdstukken af om je certificaat van afronding te ontvangen.