Bert Kondruss, KonBriefing Research, Deutschland
Die Welt der Governance, Risk Management und Compliance (GRC) steht vor einem Wandel: Agentic AI eröffnet neue Möglichkeiten, Risiken effizienter zu steuern, regulatorische Anforderungen besser einzuhalten und Geschäftsprozesse resilienter zu gestalten. Auf dieser Seite erfahren Sie, was Agentic AI ist, wie es funktioniert und welchen Mehrwert es speziell im Kontext von GRC bietet.
Wichtig
Agentic AI in GRC-Tools
Agentic AI:
Autonome, kontextsensitiv handelnde KI, die Entscheidungen vorbereitet und Prozesse automatisiert.
Allgemeine Anwendungsfälle:
Datenanalyse, Dokumentation, Monitoring, Anomalieerkennung.
GRC-spezifische Anwendungsfälle:
Risikoanalyse, Compliance-Überwachung, Audit-Vorbereitung, Drittparteien-Monitoring.
Herausforderungen:
Transparenz, Nachvollziehbarkeit, Bias, Integration - lösbar durch Governance, Human-in-the-Loop und Validierung.
Ausblick:
Agentic AI wird ein zentraler Bestandteil von GRC-Systemen und steigert Resilienz, Effizienz und Compliance-Fähigkeit.

Was ist Agentic AI?

Agentic AI beschreibt eine neue Generation von Künstlicher Intelligenz, die nicht nur auf Anfragen reagiert, sondern eigenständig agieren, planen und Entscheidungen vorbereiten kann. Während klassische KI-Systeme meist passiv und regelbasiert arbeiten, ist Agentic AI in der Lage, dynamische Abläufe zu steuern und komplexe Aufgaben zu automatisieren.
Historisch entwickelte sich Agentic AI aus der Kombination von Large Language Models (LLMs) mit autonomen Entscheidungs- und Planungskomponenten. Erste Forschungsarbeiten im Bereich "autonomous agents" zeigen, dass KI-Systeme zunehmend in der Lage sind, zielgerichtet, kontextsensitiv und adaptiv zu handeln. Dies macht sie zu einem wertvollen Werkzeug für GRC-Disziplinen, die von Komplexität und Dynamik geprägt sind.

Eigenschaften, Funktionsweise und Nutzen

Agentic AI zeichnet sich durch eine oder mehrere der folgenden Merkmale aus:
  • Mehrere LLM-Aufrufe: Das System führt mehrfach Aufrufe an LLMs durch. Dabei kann es verschiedene Modelle nutzen und somit unterschiedliche Spezialisierungen der Modelle sowie deren unterschiedliche Kosten berücksichtigen
  • Workflows: Der Ablauf ist entweder in bestimmten Grenzen durch die Programmlogik vorgegeben oder wird weitgehend durch ein LLM bestimmt.
  • Integration: Es sind externe Systeme und Datenquellen angebunden, beispielsweise zur Suche in der Datenbank oder zum Versenden einer E-Mail.
  • Planer: Ein Planer plant und koordiniert die Aktivitäten
  • Autonomie: Aufgaben können eigenständig bearbeitet und nächste Schritte abgeleitet werden.
Die Funktionsweise basiert auf einer Kombination von Wissensmodellen, Sprachverständnis und Entscheidungslogik. Agentic AI kann Informationen auswerten, Risiken analysieren, Compliance-Vorgaben prüfen und Handlungsempfehlungen ableiten.
Der Nutzen liegt in der Möglichkeit, komplexe Aufgaben automatisiert zu lösen.

Anwendungsfälle von Agentic AI

Allgemeine Anwendungsfälle

  • Automatisierte Recherche und Analyse großer Datenmengen
  • Erstellung von Berichten und Dokumentationen
  • Unterstützung bei Entscheidungsfindung und Szenario-Analysen
  • Kontinuierliches Monitoring von Prozessen und Risiken
  • Frühzeitige Erkennung von Anomalien und Abweichungen

Anwendung im GRC-Kontext

  • Automatisierte Risikoanalyse: Erkennung und Bewertung von Risiken in Echtzeit
  • Compliance-Überwachung: Abgleich regulatorischer Anforderungen mit internen Prozessen
  • Audit-Vorbereitung: Automatische Sammlung relevanter Nachweise
  • Kontinuierliches Monitoring: Überwachung von Kontrollen, Policies und Drittparteien
  • Vorbereitung von Management-Reports: KI-generierte Zusammenfassungen und Dashboards

Beispielhafte Anwendungsfälle nach GRC-Disziplin

  • Risikomanagement: automatisierte Risikoerkennung, Szenario-Analysen, Risikoberichte
  • Drittpartei-Management: Screening von Lieferanten, Risikoanalysen von Geschäftspartnern, kontinuierliches Monitoring
  • Krisenmanagement: Entscheidungsunterstützung, Kommunikationsvorlagen, Szenario-Simulation
  • Regulatory Compliance: automatisierte Prüfungen regulatorischer Änderungen, Gap-Analysen, Compliance-Dokumentation
  • Tax-Compliance: Abgleich steuerlicher Vorgaben, Prüfung von Reports, Monitoring von Änderungen im Steuerrecht

Herausforderungen und Risiken beim Einsatz von Agentic AI

Beim Einsatz von Agentic AI im GRC-Kontext gilt es, Sicherheit, Transparenz, Nachvollziehbarkeit, Datenqualität und Verantwortlichkeit sicherzustellen. Herausforderungen bestehen in der Erklärbarkeit von Entscheidungen, im Umgang mit Bias und Fehlinterpretationen sowie in der Integration in bestehende Prozesse.
Adressiert werden können diese durch klare Governance-Frameworks, Guardrails, Human-in-the-Loop-Ansätze, robuste Validierungsmechanismen und regelmäßige Audits der KI-Systeme.
Sicherheit: KI-Systeme müssen gegen eine Vielzahl von Angriffsvektoren geschützt werden, z.B. Prompt Injection oder Model Poisoning. Einen guten Überblick dazu geben die MITRE ATLAS Matrix oder die OWASP Top 10 for LLMs and GenAI Apps.
Guardrails: Mechanismen, Regel und Schutzmaßnahmen, um sicherzustellen, dass KI-Systeme und GenAI zuverlässig, sicher und nach ethischen und rechtlichen Vorgaben arbeitet. Beispiele:
  • Inhaltliche Begrenzungen: Verhindern, dass das Modell unerwünschte, gefährliche oder diskriminierende Inhalte erzeugt
  • Konformität mit Richtlinien: Sicherstellen, dass die Ausgaben mit gesetzlichen Vorgaben und mit den Unternehmensrichtlinien übereinstimmen.
  • Faktenkontrolle: Maßnahmen, um Halluzinationen zu reduzieren.

Worauf achten bei Auswahl eines GRC-Tools mit Agentic AI?

Allgemein

Bei der Auswahl eines GRC-Tools mit Agentic AI sollten Unternehmen auf Praxisnähe, Skalierbarkeit und Integrationsfähigkeit achten. Wichtig ist zudem, dass die Lösung transparente KI-Modelle bietet, die sich in bestehende Governance-Strukturen einfügen lassen.

Kriterien

Kriterien für eine Ausschreibung (RFI Request for Information oder RFP Request for Proposal). Vor einer Nutzung sollten die Kriterien auf die Anforderungen des eigenen Unternehmens bzw. der eigenen Organisation angepasst werden.
  • Nachvollziehbarkeit der KI-Entscheidungen (Explainable AI)
  • Integration in bestehende GRC-Prozesse und Tools
  • Unterstützung mehrerer GRC-Disziplinen
  • Echtzeit-Analysen und Monitoring
  • Anpassbarkeit an regulatorische Rahmenbedingungen
  • Benutzerfreundlichkeit und intuitive Bedienung
  • Automatisierte Berichterstellung
  • Datenqualitätssicherung und -validierung
  • Sicherheit der Modelle
  • Datenschutz (inkl. DSGVO-Konformität)
  • Schnittstellen zu Drittsystemen (APIs)
  • Flexibilität für unterschiedliche Branchen
  • Auditierbarkeit und Protokollierung
  • Unterstützung bei Krisenszenarien und Notfällen
  • Kosten-Nutzen-Transparenz
  • Roadmap für zukünftige Weiterentwicklungen der AI-Funktionalitäten

Ausblick

Die Entwicklung von Agentic AI steht erst am Anfang. In den kommenden Jahren wird sie zunehmend integraler Bestandteil moderner GRC-Systeme werden. Mit steigender Leistungsfähigkeit der KI und wachsender regulatorischer Komplexität wird Agentic AI den Unternehmen helfen, proaktiver zu agieren. Sie wird damit zum entscheidenden Faktor für effizientes und zukunftsfähiges GRC-Management.