AFRL bringt Stream Engines Deepfake-Analysator in testbereiten Status

Ein testbereites System aus einer einjährigen Zusammenarbeit

Die Entwicklung erfolgte im Rahmen eines Cooperative Research and Development Agreement, kurz CRADA, zwischen dem Information Directorate des Air Force Research Laboratory und Stream Engine. Die Vereinbarung wurde am 6. Juni 2025 mit einer Laufzeit von 12 Monaten unterzeichnet. Ihr wichtigstes technisches Ziel war die Integration und Evaluierung semantischer Technologien zur Deepfake-Erkennung.

Der gemeinsame Arbeitsplan wurde zu Beginn des Projekts überarbeitet. Stream Engine sollte einen Deepfake-Analysator von Grund auf entwickeln, während AFRL die Integration nutzte, um Belastungstests an seiner neu geschaffenen Test- und Evaluierungsumgebung durchzuführen.

Laut dem jährlichen CRADA-Bericht von AFRL wurde der Analysator in die neue Testumgebung integriert, die damit vollständig betriebsbereit wurde. Das System war im Juni 2026 für formale Tests bereit, und AFRL empfahl, die Zusammenarbeit fortzusetzen.

Wahrscheinlichkeiten aus sprachlichen Signalen berechnen

Stream Engine entwickelte den zweistufigen Erkennungsprozess auf Grundlage seiner Erfahrung mit großen Sprachmodellen, kurz LLMs, in der Textanalyse. Zunächst untersucht ein Modell, das semantische Merkmale extrahiert, den Text. Es konzentriert sich auf zwei Bereiche: grammatikalische und syntaktische Unregelmäßigkeiten sowie semantische Widersprüche innerhalb des Textes.

Anschließend kombiniert ein neuronales Klassifizierungsnetz diese Merkmale und berechnet Wahrscheinlichkeitswerte. Ziel ist es, von einer Maschine erzeugten Text von lediglich schlecht geschriebenem Text eines Menschen zu unterscheiden. Laut der Ankündigung bietet allein die sprachliche Flüssigkeit an der Oberfläche keine verlässliche Grundlage für diese Unterscheidung.

Der Analysator wurde in einem Container auf Basis einer von AFRL entwickelten Docker-Vorlage verpackt, was eine sichere Bereitstellung in der Testumgebung ermöglicht. AFRL stellte synthetische und manipulierte Datensätze für das Training sowie eine maßgeschneiderte Softwareumgebung für Integration und Tests bereit.

Als Nächstes folgt die formale Evaluierung

Laut der Ankündigung erreichte das Projekt trotz mehrerer Hindernisse den testbereiten Status. Das Team musste sich mit einem Stromausfall in der Einrichtung, einem sechswöchigen Stillstand der US-Bundesregierung und den erforderlichen Zugangsgenehmigungen für die Testumgebung auseinandersetzen. Im Bericht von AFRL heißt es, die Konfiguration der T&E-Umgebung sei im Juni 2026 erfolgreich abgeschlossen worden. Damit sei die Testumgebung für dieses und künftige Programme bereit.

Der Bericht von AFRL bezeichnet eine „verbesserte Technologie oder Software“ als den technologischen Nutzen, der der US-Luftwaffe geliefert wurde. Im Rahmen der Vereinbarung flossen keine Bundesmittel. Die Parteien schätzten den Beitrag von Stream Engine über den Zeitraum von 12 Monaten auf mehr als 1 Million US-Dollar, einschließlich Arbeitsaufwand des Personals, geistigem Eigentum, Beständen und Ausrüstung.

„Wir wurden gebeten, unsere Sprachintelligenz auf eines der schwierigsten Probleme der nationalen Sicherheit zu richten: festzustellen, ob Inhalte von einem Menschen geschrieben oder von einer Maschine erzeugt wurden“, sagte Brian Kim, Mitgründer und Chief Executive von Stream Engine. In der nächsten Phase sollen formale Tests und eine Evaluierung des Systems erfolgen.

Laut der Ankündigung von AFRL stellt die Bezugnahme auf das Labor keine Empfehlung für Stream Engine oder seine Produkte dar. Die im Bericht geäußerten Ansichten stammen von Stream Engine und geben nicht unbedingt die offizielle Position der US-Luftwaffe, des Verteidigungsministeriums oder der US-Regierung wieder.