Richter erörtern rechtliche KI-Halluzinationen und Risiken

Mehr als 2.000 Fälle von Halluzinationen erfasst

Laut einem am 3. November 2026 im Relativity-Blog veröffentlichten Bericht nahmen an der Veranstaltung fünf Richter mit zusammen mehr als 85 Jahren Erfahrung an Bundes-, Landes- und britischen Gerichten teil. Moderiert wurde die Diskussion von David Horrigan von Relativity.

Eines der zentralen Themen waren KI-Halluzinationen, bei denen ein System falsche juristische oder faktische Inhalte erzeugt. Der Beitrag verwies auf eine von Damien Charlotin geführte Datenbank, in der im Oktober 2025 etwas mehr als 400 solcher Fälle verzeichnet waren. Ein Jahr später war die Zahl auf 2262 gestiegen.

Der US-Bundesrichter William Matthewman sagte, Fehler müssten schnell eingeräumt werden. Laut der Zusammenfassung von Relativity könnte dies bedeuten, die Gegenseite proaktiv zu informieren, damit verbundene Kosten zu übernehmen, fehlerhafte Dokumente zurückzuziehen und anschließend mit dem Fall fortzufahren. Dem Bericht zufolge könnten Schuldzuweisungen, der erneute Einsatz von KI zur Verschleierung des Fehlers oder fehlende Reue die Situation verschlimmern.

Richterin Allison Goddard warnte, die Zahl der Halluzinationsfälle allein sage nichts darüber aus, wie sicher KI sei. Sie verglich sie mit einem Zähler ohne Nenner. Die Richterin sagte, das Phänomen habe einige Richter beim Einsatz von KI vorsichtig werden lassen, während einige Rechtsgemeinschaften die Technologie verboten hätten. Richter Xavier Rodriguez sagte, die Modelle würden besser, und ein vollständiges KI-Verbot könne dazu führen, dass Menschen diese Werkzeuge zu Hause nutzten.

Richter nutzen KI, allerdings in unterschiedlichem Umfang

Der Bericht stellte außerdem die Ergebnisse einer Umfrage aus dem Jahr 2026 vor. In der Studie, für die 500 Bundesrichter befragt wurden, gaben 38,4 Prozent der Befragten an, niemals KI zu nutzen, während 5,4 Prozent sie täglich einsetzen. Die übrigen Befragten lagen zwischen diesen beiden Extremen.

Goddard sagte, der Anteil der Nichtnutzer sei nicht überraschend, weil Richter von Gerichtsschreibern und anderen Mitarbeitern unterstützt würden. Matthewman wies jedoch auch darauf hin, dass nicht jeder Richter unbedingt wisse, wann er mit einem KI-basierten Werkzeug interagiere. Rodriguez sagte, es sei überraschend, dass viele Richter die Technologie monatlich, wöchentlich oder täglich nutzten.

Michelle Rick, Richterin am Michigan Court of Appeals, sagte, die Situation sei an Landesgerichten ähnlich. Dem Bericht zufolge richtete sie folgende Botschaft an Landesrichter, die erklärten, keine KI zu nutzen: „Doch, das tun Sie.“ Rick sagte, viele Menschen nutzten die Technologie jeden Tag, ohne es zu bemerken. Victoria McCloud, eine ehemalige Richterin in England und Wales, beschrieb den britischen Ansatz als Aufforderung zur Vorsicht. In Irland gelten dagegen detailliertere Regeln, und Richter werden vom Einsatz von KI abgehalten.

Die Mitglieder des Panels waren sich einig, dass Richter und Gerichte Schulungen und klare Regeln benötigen. Rodriguez sagte, Gerichte bräuchten neben Richtlinien auch praktische Leitlinien und konkrete Anwendungsfälle. Matthewman formulierte es so: „Wir müssen Orientierung geben. So wie Anwaltskanzleien Orientierung brauchen, brauchen auch Gerichte Orientierung.“

Schnellere Beweisermittlung, uneinheitlicher Rechtsschutz

Die Diskussion befasste sich auch mit der Verhältnismäßigkeit in Zivilverfahren, insbesondere mit Federal Rule of Civil Procedure 26(b)(1). Matthewman unterstützt die technologiegestützte Prüfung und jede Technologie, die die Bereitstellung relevanter Materialien beschleunigt. Er sagte, Gerichtsverfahren dauerten zu lange und die verfügbaren Werkzeuge könnten Rechtsstreitigkeiten schneller voranbringen.

Goddard sagte, die Regeln würden sich voraussichtlich nicht ändern, weshalb ihre Anwendung entscheidend sein werde. Bei der Erörterung der britischen Praxis betonte McCloud eine gezielte Beweisermittlung und schlug vor, dass Parteien beispielsweise mit Stichwortsuchen beginnen sollten, anstatt der KI sofort alle Materialien zu übergeben.

Nach wie vor gibt es keine einheitliche Haltung der Gerichte zum Schutz von Gesprächen, die mit KI-Werkzeugen geführt wurden, und von Arbeitserzeugnissen. Relativity führt drei aktuelle Entscheidungen auf: In United States v. Heppner wurde der Schutz nicht gewährt, während er in Warner v. Gilbarco, Inc. und Morgan v. V2X, Inc. gewährt wurde.

Die Botschaft des Panels an die Nutzer lautet, dass juristische Anwendungen von KI Überwachung und Schulungen erfordern. Falsche Inhalte müssen vor jeder Einreichung geprüft werden, während Gerichte und Kanzleien klare Leitlinien für den Einsatz der Technologie festlegen müssen. Dem Bericht zufolge kann die Technologie die Arbeit unterstützen, aber sie wird die richterliche Entscheidungsfindung nicht ersetzen.