KI ist in Sicherheitsoperationen weit verbreitet, doch die Governance hinkt hinterher

Sicherheitsteams berichten von schnelleren Untersuchungen

Der von Dimensional Research durchgeführte und von Elastic unterstützte Bericht AI Adoption in the SOC zeigt, dass Sicherheitsfachleute verschiedene Arten von KI einsetzen, darunter allgemeine Chatbots, individuell entwickelte Tools und native KI-Funktionen in Sicherheitsprodukten.

Der häufigste Anwendungsfall im Sicherheitsbereich waren Recherche, Wissensunterstützung und Schulungen, die 61 % der Befragten nannten. Es folgte die Analyse von Bedrohungsinformationen mit 60 %, während Dokumentation und Zusammenfassungen für Führungskräfte 54 % erreichten. Die Beschleunigung von Untersuchungen nannten 52 %, Threat Hunting 48 %.

Fast alle befragten Teams, nämlich 99,8 %, gaben an, von der Einführung von KI zu profitieren. Schnellere Untersuchungen waren mit 61 % der am häufigsten genannte Vorteil. Weitere genannte Verbesserungen waren eine insgesamt bessere Sicherheitslage mit 53 %, eine höhere Erkennungsqualität mit 48 % sowie eine höhere operative Effizienz und Zeitersparnis für Analysten mit 46 %.

Allgemeine Chatbots sorgen für Effizienz- und Sicherheitsbedenken

Die Umfrage ergab außerdem, dass 85 % der Teams negative Auswirkungen der KI-Einführung melden. Kosten waren mit 57 % das am häufigsten genannte Problem, während 50 % angaben, dass die meisten KI-Ausgaben korrigiert oder überarbeitet werden müssen, bevor sie verwendet werden können.

Allgemeine Chatbots wie ChatGPT, Claude und Copilot werden von 75 % der Teams eingesetzt. 66 % nutzen dagegen native KI-Funktionen, die in Sicherheits-Tools integriert sind. Die Befragten gaben an, dass universell einsetzbare Tools ein breiteres Aufgabenspektrum abdecken, was 58 % nannten. Kosten und Token-Management beeinflussten 48 %, die einfache Bedienung 40 %.

Elastic bezeichnet diese Nutzung externer Assistenten als „Sidecar-KI“. Das Übertragen von Untersuchungskontexten zwischen Tools kann zusätzliche Arbeit verursachen und durch die Offenlegung von Daten, unsicheres Plugin-Design oder unsichere Verarbeitung von Ausgaben vertrauliche Informationen preisgeben. Das Unternehmen warnt außerdem, dass Tools mit begrenztem Kontext selbstsichere Antworten erzeugen können, die nicht die vollständige Sicherheitstelemetrie eines Teams widerspiegeln.

Automatisierung soll menschliche Kontrolle beibehalten

Laut Elastic stimmen 89 % der Befragten der Aussage zu, dass die Zukunft der Sicherheitsoperationen in automatisierten agentischen Workflows mit detaillierter menschlicher Kontrolle und klarer Governance liegt. Derzeit verfügen jedoch nur 18 % über einen vollständig entwickelten Governance-Rahmen.

Die Umfrage deutet auf Systeme hin, die Untersuchungen durchführen, Zusammenhänge herstellen und Maßnahmen vorschlagen, während Menschen folgenreiche Entscheidungen genehmigen. Elastic zufolge kann integrierte KI den Wechsel zwischen Kontexten reduzieren, indem sie innerhalb des Untersuchungs-Workflows arbeitet und die Daten nutzt, die Analysten ohnehin prüfen. Das Unternehmen nennt Transparenz, Änderbarkeit, Datennähe und menschliche Genehmigung als Voraussetzungen für vertrauenswürdige KI-gestützte Workflows.

Der Bericht stellt außerdem einen Zusammenhang zwischen Reifegrad und gemeldetem Nutzen her. Alle Teams mit ausgereifter KI-Einführung berichteten von einem moderaten oder erheblichen Nutzen, verglichen mit 60 % der Teams in der Phase der begrenzten Nutzung. Für Sicherheitsteams sprechen die Ergebnisse eher für eine stärkere Integration und Kontrolle als für eine bloße Einschränkung des KI-Einsatzes.