Kurs · 5 Kapitel
Adversariale KI
Entwickle LLM-Features, die Angriffen standhalten. Verteidige dich gegen Prompt Injection, Context Poisoning und Jailbreaks – und baue ein internes Red-Team-Programm auf. 5 Kapitel, fortgeschritten, für Engineers.
Das wirst du können
- LLM-Features gegen Prompt Injection absichern
- KI-Agenten gegen Data Poisoning härten
- Jailbreak-Tests mit DeepTeam automatisieren
- Bewährte Angriffs-Algorithmen wie PAIR einsetzen
- Angriffsfunde in günstige CI-Gates umwandeln
- Internes KI-Red-Team-Programm aufbauen
Was drin ist
- 1Adversarial AI: Hier starten
Eine Orientierung über den vierteiligen Adversarial AI Skill Path – Verteidiger → Angriffsfläche → Offensive → Programm – von deinem ersten Prompt-Injection-Patch bis zum Betrieb einer internen Red-Team-Praxis, die 2026er-Angriffen standhält.
- 2Grundlagen der Prompt-Injection-Abwehr
Warum Prompt Injection existiert, wie Angreifer sie ausnutzen und welche mehrschichtige Verteidigung jedes LLM-Feature vor dem Launch braucht.
- 3Context Poisoning & Indirect Injection
Kartiere und verteidige die Angriffsfläche der Agent-Ära — RAG-Poisoning, dokumentbasierte Payloads, Memory-Poisoning und Tool-Output-Hijacking, die von Direct-Injection-Abwehr nicht erfasst werden.
- 4Automatisiertes Jailbreak-Tooling
Angreifer-LRMs, BYO-Attacker-Muster, das DeepTeam / PyRIT / Mindgard-Trio und die automatisierten Algorithmen (PAIR, TAP, GCG), die Red-Teaming von einer Einzelperson-Aufgabe in ein kontinuierliches Programm verwandeln.
- 5AI Red Teaming & Adversarial Evaluation
Ein Red-Team-Programm fuer Produktions-KI aufsetzen — Taxonomie, der Finding-Lifecycle, Runtime-Monitoring, Regressionsdisziplin und das interne Playbook.
Häufige Fragen
- Was lerne ich in diesem Adversarial-KI-Kurs?
- Du lernst, LLM-basierte Systeme zu verteidigen und anzugreifen: Prompt Injection mit Defense-in-Depth beheben, Context Poisoning und indirekte Injection in RAG und Agenten blockieren, automatisierte Jailbreak-Tools einsetzen und ein internes KI-Red-Team-Programm betreiben. Der Lernpfad umfasst fünf Kapitel zu den Phasen Defender, Threat Surface, Offense und Programm.
- Für wen ist dieser KI-Sicherheitspfad geeignet?
- Er richtet sich an Engineers, die LLM-Features in der Produktion entwickeln, sowie an Security-Teams, die diese testen. Das Niveau ist fortgeschritten – du solltest bereits mit LLM-Apps, Agenten oder RAG-Pipelines vertraut sein.
- Brauche ich Programmiererfahrung oder Vorkenntnisse in KI-Sicherheit?
- Ja. Dies ist ein fortgeschrittener Engineering-Pfad – du solltest sicher im Entwickeln von LLM-Features und im Lesen von Code sein. Der Kurs verwendet offensive Tools wie PyRIT, DeepTeam und Mindgard, daher sind Kenntnisse im Umgang mit Python-Tools hilfreich.
- Wie lange dauert der Adversarial-KI-Kurs und gibt es ein Zertifikat?
- Der Lernpfad umfasst ca. 100 Minuten über fünf Kapitel, einschließlich eines kurzen Einführungskapitels. Nach Abschluss aller Kapitel erhältst du ein Abschlusszertifikat.
- Ist dieser Kurs kostenlos?
- Nein. Adversarial KI ist ein kostenpflichtiger Lernpfad, der in der AI Academy by Anthropos enthalten ist. Er behandelt Prompt-Injection-Abwehr, Context Poisoning, automatisierte Jailbreak-Tools und KI-Red-Teaming.
Zertifikat erhalten
Schließe alle Kapitel ab, um dein Abschlusszertifikat zu erhalten.