KI-Sicherheitsrisiken im Unternehmen: Die OWASP Top 10 für Agentic AI Applications und konkrete Maßnahmen für IT-Leiter

Warum KI-Agenten eine neue Klasse von Sicherheitsrisiken schaffen

Autonome Entscheidungen erweitern die Angriffsfläche drastisch

KI-Agenten treffen heute eigenständig Entscheidungen, rufen externe Tools auf und steuern komplexe Abläufe über mehrere Systeme hinweg. Diese Autonomie vergrößert die Angriffsfläche erheblich, denn Angreifer können nicht mehr nur einzelne Systeme, sondern ganze automatisierte Prozessketten kompromittieren. Die Fähigkeit, Werkzeuge und APIs ohne menschliche Freigabe zu nutzen, macht KI-Agenten zu einem attraktiven Ziel für gezielte Manipulationen und Missbrauch.

Traditionelle Sicherheitsmodelle stoßen an ihre Grenzen

Die bisherigen IT-Sicherheitsansätze setzen auf statische Zugriffskontrollen und menschliche Überwachung. KI-Agenten durchbrechen diese Paradigmen, indem sie dynamisch agieren und Entscheidungen ohne explizite Kontrolle treffen. Laut dem Cisco State of AI Security Report 2026 fühlen sich nur 29 Prozent der Unternehmen auf die sichere Nutzung von agentischer KI vorbereitet. Das zeigt deutlich, dass klassische Sicherheitsmodelle für autonome KI-Systeme nicht ausreichen und dringend angepasst werden müssen.

Erste dokumentierte Angriffe unterstreichen die Dringlichkeit

Im September 2025 wurde der erste dokumentierte KI-Cyberangriff bekannt, bei dem eine staatlich geförderte Gruppe einen KI-Agenten für eine mehrtägige Spionagekampagne einsetzte. Rund 80 bis 90 Prozent der Angriffsdurchführung liefen autonom ab, ohne menschliches Eingreifen. Dieses Beispiel verdeutlicht, wie schnell autonome KI-Agenten zu Werkzeugen hochentwickelter Angriffe werden können und wie dringend Unternehmen ihre Sicherheitsstrategien anpassen müssen.

Maschinenidentitäten dominieren die IT-Landschaft

Das Verhältnis von Maschinen- zu menschlichen Identitäten in Unternehmen liegt laut einer Analyse von Palo Alto Networks bereits bei 82:1. Jede dieser Maschinenidentitäten – sei es ein KI-Agent, eine API oder ein Automatisierungstool – stellt einen potenziellen Angriffsvektor dar. Die exponentielle Zunahme autonomer Systeme erfordert deshalb neue Konzepte für Identitäts- und Zugriffsmanagement, um Sicherheitslücken zu vermeiden.

Die Kombination aus Autonomie, der Zunahme von Maschinenidentitäten und ersten realen Angriffen macht klar: KI-Agenten schaffen eine neue Klasse von Sicherheitsrisiken, die Unternehmen jetzt angehen müssen.

Weiterführende Informationen zu den Grundlagen der KI-Sicherheit finden Sie in unserem Beitrag.

Die OWASP Top 10 für Agentic AI Applications: Überblick und Besonderheiten

Die im Dezember 2025 erstmals veröffentlichte OWASP Top 10 für Agentic AI Applications markiert einen Meilenstein in der Absicherung autonomer KI-Agenten. Über 100 Experten aus Forschung, Industrie und Sicherheitscommunity haben diese Liste entwickelt, um die spezifischen Risiken durch Autonomie und Komplexität agentischer KI-Systeme zu adressieren. Anders als klassische OWASP-Listen für Webanwendungen oder frühere LLM-Sicherheitslisten fokussiert dieses Framework auf die erweiterten Bedrohungen, die durch eigenständige Entscheidungsfindung, Tool-Interaktionen und dynamische Prozessketten entstehen. Für IT-Leiter bietet es eine dringend benötigte Orientierung, um die neue Angriffsfläche systematisch zu identifizieren und zu priorisieren.

Was unterscheidet Agentic AI-Risiken von Web- und LLM-Security?

Agentic AI-Systeme agieren grundlegend anders als klassische Webanwendungen oder reine Large Language Models (LLMs). Während Web-Apps meist statische Benutzerinteraktionen und klar definierte Schnittstellen bieten, orchestrieren KI-Agenten komplexe Abläufe über mehrere Systeme und greifen dynamisch auf APIs, externe Tools und Datenbanken zu – oft ohne menschliche Freigabe. Diese Autonomie und verteilte Entscheidungslogik erhöhen die Komplexität der Sicherheitsrisiken erheblich. Angreifer können nicht nur einzelne Komponenten kompromittieren, sondern ganze Aktionsketten manipulieren oder kaskadierende Ausfälle auslösen. Die OWASP Top 10 für Agentic AI hebt Risiken wie Agent Goal Hijack, Tool-Missbrauch und Identitätsmissbrauch hervor, die klassische Sicherheitsframeworks nicht oder nur unzureichend abdecken ([1], [2], [3]).

Die Kombination aus Autonomie, Tool-Integration und verteiltem Zustand schafft ein neues Sicherheitsparadigma, das IT-Leiter in ihren Strategien berücksichtigen müssen.

Im Folgenden analysieren wir die wichtigsten Risiken und ihre praktischen Auswirkungen.

Die wichtigsten OWASP Agentic AI Top 10 Risiken im Unternehmensalltag

Agent Goal Hijack und Tool-Missbrauch – was passiert im Ernstfall?

Agent Goal Hijack bezeichnet die Manipulation der Ziele eines KI-Agenten durch Angreifer, die die Autonomie des Systems ausnutzen, um unerwünschte Aktionen auszuführen. Häufig erfolgt dies über Prompt Injection, um die Entscheidungslogik zu unterwandern und den Agenten in eine schädliche Richtung zu lenken. Ergänzend kommt Tool-Missbrauch hinzu: KI-Agenten können externe Werkzeuge oder APIs aufrufen, die Angreifer für Schädigungen nutzen. Memory Poisoning, also die gezielte Veränderung des internen Kontexts oder Speichers, ermöglicht langfristige Kompromittierung und Beeinflussung der Aktionen. Diese Angriffspfade gefährden ganze Prozessketten, da sie autonome Abläufe unterwandern ([4], [3]).

Identitäts- und Privilegienmissbrauch: Die neue Schatten-IT

Im Unternehmenskontext sind nicht-menschliche Identitäten – also KI-Agenten, Automatisierungstools und APIs – die größte Schwachstelle. Das Verhältnis von Maschinen- zu menschlichen Identitäten liegt laut Palo Alto Networks bei rund 82:1, was das Identitätsmanagement komplex macht. Diese Vielzahl an Maschinenidentitäten bildet eine Schatten-IT, die schwer zu kontrollieren ist und Angreifern zahlreiche Angriffspunkte bietet. Ein Beispiel sind 492 exponierte Model Context Protocol (MCP)-Server ohne Authentifizierung, die potenziell für Angriffe genutzt werden konnten. Der Missbrauch von Identitäten und Privilegien ermöglicht lateral Movement und kompromittiert sensible Daten oder Funktionen ([5], [6]).

Kaskadierende Ausfälle und Inter-Agenten-Kommunikation

Agentic AI-Systeme arbeiten oft als Multi-Agenten-Systeme, in denen mehrere autonome Agenten miteinander kommunizieren und kooperieren. Fehler oder Angriffe auf einen Agenten können sich so schnell auf andere Agenten und verbundene Systeme ausbreiten – ein Phänomen, das als kaskadierende Ausfälle bekannt ist. Die dynamische Orchestrierung von Tools und Agenten erhöht die Komplexität und erschwert die Fehlerisolierung. Ein kompromittierter Agent kann falsche Informationen weitergeben oder unerwartete Aktionen auslösen, was kritische Geschäftsprozesse stört. Unternehmen müssen diese Risiken verstehen, da sie Verfügbarkeit und Integrität direkt gefährden ([4], [3]).

Nach dieser Risikoanalyse folgt die Handlungsanleitung: Wie IT-Leiter diese Risiken gezielt adressieren.

Konkrete Maßnahmen und Prioritäten: Was IT-Leiter jetzt tun müssen

Die komplexen Risiken autonomer KI-Agenten verlangen von IT-Leitern eine gezielte und priorisierte Absicherungsstrategie. Neben technischen Lösungen sind vor allem die Steuerung der Autonomie und transparente Überwachung entscheidend. Die folgenden Maßnahmen bilden das Fundament, um die Angriffsfläche schnell zu reduzieren und langfristige Governance-Strukturen zu etablieren.

Least Agency und Human-in-the-Loop: Risiko durch Kontrolle begrenzen

Das Prinzip der Least Agency verlangt, KI-Agenten nur die minimale Autonomie zu gewähren, die für ihre Aufgaben unbedingt nötig ist. Jede unnötige Entscheidungsfreiheit erhöht das Risiko von Fehlverhalten oder Manipulation. Ergänzend sorgt das Human-in-the-Loop-Prinzip dafür, dass kritische Aktionen – etwa Zugriff auf sensible Daten oder Code-Ausführung – nur mit menschlicher Genehmigung erfolgen. Diese Doppelstrategie reduziert die Angriffsfläche deutlich und verhindert unbeaufsichtigten Schaden. OWASP und Branchenexperten empfehlen diese Maßnahmen als zentrale Sicherheitsanker für den produktiven Einsatz von Agentic AI ([4], [3]).

Observability und Audit-Logging: Transparenz schaffen

Transparenz über Verhalten und Berechtigungen der KI-Agenten ist eine Grundvoraussetzung für effektives Sicherheitsmanagement. Studien zeigen, dass nur 21 Prozent der Führungskräfte vollständige Einsicht in Aktionen und Zugriffsrechte ihrer Agenten haben ([2]). Unveränderliche Audit-Logs, die alle Agentenaktivitäten in Echtzeit erfassen, sind deshalb essenziell. Sie ermöglichen nicht nur die Nachverfolgung verdächtiger Aktionen, sondern bilden auch die Basis für schnelle Incident Response und forensische Analysen. Zudem unterstützen umfassende Observability die Einhaltung regulatorischer Anforderungen und schaffen Vertrauen in die KI-Systeme.

Compliance und Governance: Schnittstelle zur IT-Governance und Regulatorik

Mit der EU-KI-Verordnung (EU AI Act) gewinnt die Einhaltung gesetzlicher Vorgaben an Bedeutung. Sie fordert robuste Risikomanagementsysteme, menschliche Aufsicht und Transparenz bei Hochrisiko-KI-Systemen – Anforderungen, die sich direkt auf Agentic AI-Anwendungen übertragen lassen ([4]). Gartner prognostiziert, dass bis 2028 rund 40 Prozent der CIOs sogenannte Guardian Agents einsetzen werden – spezialisierte KI-Systeme, die andere Agenten überwachen und so eine zusätzliche Governance-Schicht bieten ([6]). IT-Leiter müssen Compliance- und Governance-Anforderungen frühzeitig in ihre Sicherheitsstrategie integrieren und Schnittstellen zu bestehenden IT-Governance-Strukturen schaffen, um regulatorische Risiken zu minimieren und Kontrolle über autonome Systeme zu gewährleisten.

Im nächsten Kapitel finden Sie eine priorisierte Checkliste, die diese Maßnahmen strukturiert und Entscheidungshilfen bietet, um die Absicherung von Agentic AI-Anwendungen systematisch umzusetzen.

Entscheidungshilfe: Priorisierte Checkliste für die Absicherung von Agentic AI-Anwendungen

Vergleichstabelle: Maßnahmen nach Aufwand, Wirkung und Compliance-Fit

Diese Tabelle fasst die wichtigsten Maßnahmen zusammen und ordnet sie nach Aufwand, Wirkung auf die Sicherheit sowie Relevanz für Compliance-Anforderungen ein. Die Priorisierung hilft IT-Leitern, Ressourcen gezielt einzusetzen und schnell wirksame Sicherheitsverbesserungen zu erzielen ([4], [3]).

Warnhinweise: Häufige Fehler bei der Absicherung von KI-Agenten

Ein häufiger Fehler ist, klassische IT-Sicherheitsmaßnahmen 1:1 auf autonome KI-Agenten zu übertragen. Die alleinige Absicherung von Schnittstellen reicht nicht aus, da KI-Agenten über natürliche Sprache und dynamische Tool-Interaktionen agieren. Viele IT-Teams unterschätzen zudem die Komplexität von Maschinenidentitäten und Privilegien, was zu einer unkontrollierten Schatten-IT führt. Fehlendes Monitoring der Agentenaktivitäten in Echtzeit lässt Angriffe oder Fehlverhalten oft zu spät erkennen. Auch die Bedeutung von Human-in-the-Loop-Kontrollen wird häufig vernachlässigt, obwohl sie bei kritischen Entscheidungen unverzichtbar sind. IT-Leiter sollten diese Fehlannahmen aktiv adressieren, um Sicherheitslücken zu vermeiden ([2], [1]).

Im Folgenden geben wir einen Ausblick auf die Weiterentwicklung der Risiken und einen klaren Handlungsaufruf.

Fazit: KI-Agenten sicher betreiben – jetzt Verantwortung übernehmen

Autonome KI-Agenten erweitern die Angriffsfläche in Unternehmen deutlich und stellen IT-Leiter vor neue Sicherheitsherausforderungen. Die OWASP Top 10 für Agentic AI Applications bieten erstmals einen praxisorientierten Standard, der die spezifischen Risiken dieser Technologie adressiert und klare Handlungsfelder aufzeigt. Für IT-Verantwortliche sind diese Leitlinien unverzichtbar, um Sicherheitslücken frühzeitig zu erkennen und zu schließen ([7], [4]).

Der produktive Einsatz von KI-Agenten gelingt nur durch eine Kombination aus gezielten technischen Maßnahmen wie Least Agency und Human-in-the-Loop sowie einer robusten Governance-Struktur, die Transparenz und Kontrolle sicherstellt. IT-Leiter müssen jetzt aktiv werden, um Risiken systematisch zu auditieren und empfohlene Sicherheitspraktiken umzusetzen. Die priorisierte Checkliste bietet eine konkrete Entscheidungsgrundlage.

Wer diese Verantwortung ignoriert, riskiert nicht nur Sicherheitsvorfälle mit erheblichen finanziellen und reputativen Folgen, sondern auch regulatorische Sanktionen im Rahmen der EU-KI-Verordnung. Die Zeit für reaktive Maßnahmen ist vorbei – proaktives Handeln sichert langfristigen Erfolg und Akzeptanz autonomer KI-Systeme.

Nutzen Sie die OWASP Top 10 als Leitfaden, um Ihre KI-Agenten sicher und kontrolliert in Unternehmensprozesse zu integrieren.