Herkunft ist nicht Geltung: Die Verwechslung im Kern des Grounding juristischer KI

Fragt man einen beliebigen Anbieter juristischer KI, ob sein System halluziniert, erhaelt man stets eine Variante derselben Antwort: nein, denn jede Aussage sei in einer abgerufenen Quelle verankert, mit einem Zitat, das sich anklicken und pruefen laesst. Dies ist zur informellen Definition des Geloesten in der Branche geworden. Retrieval-augmented Generation ersetzte die freie Generierung, Zitate ersetzten blosse Behauptungen, und das Halluzinationsproblem wurde fuer, wenn nicht geloest, so doch zumindest eingedaemmt erklaert.

Es ist nicht eingedaemmt. Es wurde auf genau eine von zwei Eigenschaften verengt, die eine verankerte juristische Aussage benoetigt, waehrend die zweite, wohl schwierigere Eigenschaft nahezu vollstaendig unbearbeitet bleibt. Die Branche hat die Herkunft geloest. Sie hat die Geltung nicht geloest. Und weil diese beiden Eigenschaften von aussen identisch aussehen, liefert ein System, das nur ueber die erste verfuegt, Antworten, die auf dem Papier nicht von solchen zu unterscheiden sind, die beide besitzen.

Um diese Verwechslung geht es in diesem Artikel, und es lohnt sich, hier praezise zu sein, denn die Loesung des einen Problems bewirkt nichts fuer das andere.

Zwei Aussagen unter einem Wort

Wenn ein juristisches KI-System eine Antwort als "grounded" bezeichnet, erhebt es implizit zwei getrennte Tatsachenbehauptungen, und es lohnt sich, diese vollstaendig voneinander zu trennen.

Herkunft ist die Behauptung, dass eine zitierte Quelle existiert und das aussagt, was ihr zugeschrieben wird. Dies ist eine Behauptung ueber den gegenwaertigen Zustand eines Dokuments: existiert Article 1124 irgendeines Zivilgesetzbuchs, und stuetzt sein Wortlaut tatsaechlich die Aussage, die das Modell ihm zugeordnet hat. Herkunftsfehler sind das, was Menschen meinen, wenn sie von einem "halluzinierten Zitat" sprechen: eine Entscheidung, die nie ergangen ist, ein Gesetz, das nie erlassen wurde, oder eine reale Quelle, die gedehnt wird, um eine Aussage zu stuetzen, die sie in Wirklichkeit nicht trifft.

Geltung ist eine voellig andere Behauptung: dass die zitierte Quelle noch immer geltendes Recht ist, und zwar jetzt oder zu dem Stichtag, an den die Analyse gebunden ist. Nicht ausser Kraft gesetzt. Nicht durch einen spaeteren Rechtsakt abgeloest. Nicht in einer Weise geaendert, die den massgeblichen Wortlaut veraendert. Nicht aufgehoben (overruled), nicht in die Bedeutungslosigkeit abgegrenzt und nicht durch spaetere Rechtsprechung beschraenkt. Geltung ist keine Behauptung ueber das Dokument. Sie ist eine Behauptung ueber die Beziehung des Dokuments zu allem, was dem Recht widerfahren ist, seit das Dokument verfasst wurde.

Dies sind unabhaengige Achsen. Ein Zitat kann eine einwandfreie Herkunft und keinerlei Geltung besitzen: die Quelle ist real, die Wiedergabe ist korrekt, und nichts davon spielt eine Rolle, weil die Vorschrift vor achtzehn Monaten aufgehoben wurde. Ein Zitat kann im Prinzip eine mangelhafte Herkunft haben und dennoch auf etwas mit Geltung verweisen, doch dieser Fall ist seltener und weniger interessant. Die beiden Fehlermodi erfordern voellig unterschiedliche Erkennungsstrategien, und genau dies hat die Branche nicht verinnerlicht.

Warum RAG mit Zitaten nur die erste Eigenschaft liefert

Retrieval-augmented Generation erwarb sich ihren Ruf als Loesung fuer Halluzinationen, weil sie unmittelbar auf die Herkunft abzielt. Die Anfrage einbetten, das Korpus einbetten, die naechstgelegenen Passagen abrufen, eine auf diese Passagen konditionierte Antwort erzeugen und die Passage als Zitat anhaengen. Dies ist eine wahrhaft wirksame Architektur, um sicherzustellen, dass das Modell ueber etwas Existierendes spricht, statt es aus dem parametrischen Gedaechtnis zu erfinden. Es ist ein echter Fortschritt, und er ist nicht das, wogegen dieser Artikel argumentiert.

Doch man betrachte, worauf der Retrieval-Schritt tatsaechlich optimiert: semantische Aehnlichkeit zwischen der Anfrage und einer Passage im Korpus. Nichts an diesem Aehnlichkeitswert kodiert, ob die Passage noch in Kraft ist. Eine aufgehobene Vorschrift und die Aenderung, die sie aufhob, koennen im selben konsolidierten Text nur wenige Token voneinander entfernt stehen oder in benachbarten Datenbankzeilen, und ihre Embeddings werden nahezu identisch sein, weil sie denselben Gegenstand in aehnlicher Sprache beschreiben. Ein Praezedenzfall, der zwanzig Jahre lang die massgebliche Autoritaet war, und die Berufungsentscheidung, die ihn im vergangenen Jahr aufhob (overruled), teilen haeufig mehr Vokabular miteinander, als jeder von ihnen mit einer nicht verwandten, aber gegenwaertig geltenden Vorschrift teilt. Der Embedding-Abstand misst Themenbezug. Er misst nicht Gueltigkeit. In einer standardmaessigen Vektor-Retrieval-Pipeline gibt es keinen Mechanismus, der eine veraltete Quelle niedriger bewerten wuerde als eine aktuelle, denn das Veraltetsein ist keine semantische Eigenschaft des Textes. Es ist eine Eigenschaft der Position des Textes in einer Zeitachse, die das Embedding niemals sieht.

Dies ist der strukturelle Grund, warum RAG-Systeme jede Herkunftspruefung bestehen und dennoch selbstbewusst totes Recht ausliefern koennen. Das Zitat ist real. Die Passage sagt tatsaechlich das aus, was behauptet wird. Das Retrieval hat genau wie vorgesehen funktioniert. Und die Antwort ist falsch, und zwar in einer Weise, die kein noch so haeufiges erneutes Lesen der zitierten Passage aufdecken wuerde, denn die Passage selbst gibt keinen Hinweis darauf, dass sie abgeloest wurde. Die Abloesung ist nicht in den abgeloesten Text hineingeschrieben. Sie ist in ein anderes Dokument geschrieben, moeglicherweise in einem anderen Register, Amtsblatt oder Entscheidungssammler, das der Retrieval-Schritt keinen besonderen Anlass hatte, ebenfalls zutage zu foerdern.

Ein durchgearbeitetes Beispiel

Man betrachte beispielhaft eine Vorschrift eines Zivilgesetzbuchs zu vertraglichen Verjaehrungsfristen. Angenommen, sie setzte urspruenglich eine Frist von fuenfzehn Jahren, und eine Gesetzesreform einige Jahre spaeter verkuerzte sie auf fuenf, mit einer Uebergangsregel fuer Vertraege aus der Zeit vor der Reform. (Dieses Muster ist nicht hypothetisch: Spaniens Ley 42/2015 verkuerzte die allgemeine Verjaehrungsfrist fuer persoenliche Klagen nach Article 1964 des Código Civil von fuenfzehn Jahren auf fuenf, mit genau einem solchen Uebergangsregime.) Ein Korpus, das das konsolidierte Gesetzbuch korrekt aufgenommen hat, wird den aktuellen Fuenf-Jahres-Text enthalten. Wenn jedoch das Korpus oder die Embedding-Pipeline oder eine zwischengespeicherte Zwischenrepraesentation eine abgeloeste Fassung beibehalten hat, ein Chunk aus einem aelteren Scrape, ein wissenschaftlicher Kommentar, der die alte Regel zitiert, eine unterinstanzliche Entscheidung, die sie vor der Reform anwandte, dann hat ein Retrieval-System keinen strukturellen Grund, den aktuellen Text dem abgeloesten vorzuziehen. Beide Chunks sind thematisch identisch: beide handeln woertlich von der Verjaehrungsfrist fuer diese Klasse von Vertraegen. Der Aehnlichkeitswert kann sie nicht unterscheiden, denn das, was sie unterscheidet, der eine ist in Kraft und der andere nicht, ist im Text keiner der beiden Passagen kodiert. Es ist in einer Tatsache kodiert, die beiden aeusserlich ist: dem Datum der Reform, dem Datum des Inkrafttretens und dem Uebergangsregime, das bestimmt, auf welche Vertraege jede Fassung Anwendung findet.Quellen: Ley 42/2015 (BOE)

Nun uebertrage man dies auf die Rechtsprechung, wo das entsprechende Versagen schaerfer ausfaellt, weil es keinen konsolidierten Text gibt, auf den man zurueckgreifen koennte. Ein Praezedenzfall wird nicht durch Bearbeitung des urspruenglichen Urteils aufgehoben (overruled), sondern durch ein gesondertes, spaeteres Urteil, das nach der jeweiligen Konvention der Jurisdiktion feststellt, dass die fruehere Entscheidung nicht mehr das geltende Recht darstellt. Der Text des urspruenglichen Urteils aendert sich nicht. Er steht im Korpus, vollstaendig zitierfaehig, liest sich genauso ueberzeugend wie am Tag seiner Ergehung, und nichts an ihm deutet darauf hin, dass ein Gericht achtzehn Monate spaeter die gegenteilige Auffassung vertrat. Ein allein auf Herkunft ausgelegtes Retrieval-System wird ihn zutage foerdern, ihn korrekt zitieren und ihn getreu wiedergeben, waehrend es Recht ausliefert, das ein Berufsanfaenger mit Zugang zu einem Citator in dreissig Sekunden erkennen wuerde.

Diese dreissig Sekunden leisten mehr, als es den Anschein hat. Sie sind das gesamte Geltungsproblem, komprimiert auf eine einzige manuelle Pruefung, die nahezu keine automatisierte Pipeline durchfuehrt.

Die Infrastruktur, die die Haelfte davon bereits loest, und die Haelfte, die sie nicht beruehrt

Die Rechtsinformatik hat Jahrzehnte damit verbracht, Identifikator- und Strukturstandards aufzubauen, und es lohnt sich, fair zu sein, was diese tatsaechlich abdecken. ELI (der European Legislation Identifier) und ECLI (der European Case Law Identifier) verleihen jedem Gesetzgebungsakt und jeder gerichtlichen Entscheidung eine stabile, aufloesbare Identitaet. Akoma Ntoso verleiht Rechtsdokumenten eine strukturierte XML-Repraesentation, die Praeambel von operativem Text, Artikel von Absaetzen, Aenderungen vom Grundtext unterscheidet. Der Konsolidierungsdienst von EUR-Lex, zugaenglich ueber datierte CELEX-Identifikatoren, leistet etwas, das dem naeherkommt, was Geltung erfordert: er verfolgt konsolidierte Fassungen von EU-Rechtsvorschriften und legt fuer ein gegebenes Datum offen, welche Fassung einer Verordnung oder Richtlinie in Kraft war.Quellen: ELI (EUR-Lex) · ECLI (Council conclusions, 2011) · Akoma Ntoso · EUR-Lex consolidated texts

Dies ist echte Infrastruktur, und sie loest die Herkunft hervorragend. Ein Identifikator loest sich zu einem Dokument auf. Eine strukturierte Repraesentation sagt einem, welchen Teil des Dokuments man vor sich hat. Nichts davon sagt einem konsumierenden System aus sich heraus, ob genau diese Vorschrift, aufgeloest unter genau diesem Identifikator, zum Zeitpunkt der Fragestellung noch geltendes Recht war.

Wo dieses Problem historisch geloest wurde, geschah dies durch proprietaere, manuell kuratierte Citator-Dienste. Shepard's Citations und KeyCite existieren gerade deshalb, weil Geltung sich nicht aus dem blossen Vorhandensein des Textes ergibt; sie erfordert einen gesonderten Graphen der nachfolgenden Behandlung, aufgebaut von einer Armee von Redakteuren, die jede neue Entscheidung lesen und ihre Beziehung zu jeder frueheren, die sie zitiert, klassifizieren: gefolgt, abgegrenzt, beschraenkt, kritisiert, aufgehoben (overruled). Dies hat ueber ein Jahrhundert lang in einer Handvoll Common-Law-Maerkte funktioniert, zu enormen laufenden redaktionellen Kosten, und es existiert nicht in einer Form, die auf sechzig Jurisdiktionen von Gesetzgebung und Rechtsprechung zugleich skaliert. Niemand hat das Aequivalent von Shepard's fuer die legislative Geltung ueber sechzig Rechtsordnungen hinweg gebaut, denn niemand hat es gebraucht, bis ein KI-System begann, Fragen ueber alle sechzig zugleich selbstbewusst zu beantworten.

Was eine geltungsbewusste Architektur tatsaechlich erfordert

Wird die Herkunft dadurch geloest, dass ein Identifikator sich zu einem Dokument aufloest, so wird die Geltung durch einen Graphen geloest, und dieser benoetigt zwei strukturell unterschiedliche Graphtypen, denn Gesetzgebung und Rechtsprechung werden durch verschiedene Mechanismen abgeloest.

Bei der Gesetzgebung ist der Graph eine versionierte Aenderungskette. Jeder Knoten ist eine Fassung einer Vorschrift, gueltig ueber ein bestimmtes Intervall. Kanten repraesentieren Aenderung (diese Fassung ersetzt jene, wirksam ab diesem Datum), Ausserkraftsetzung (diese Vorschrift wird ausgesetzt, nicht aufgehoben, unter diesen Bedingungen) und Aufhebung (diese Fassung beendet die Gueltigkeit der Vorschrift vollstaendig). Uebergangsregime sind eine dritte Art von Kante, denn sie legen fest, welche Fassung auf Sachverhalte anzuwenden ist, die vor einem bestimmten Stichtag entstanden sind, und genau dies ist der Fall, an dem ein System scheitert, das nur den aktuellen Text kennt. Eine Geltungsabfrage gegen diesen Graphen ist keine Suche. Sie ist eine stichtagsbezogene Abfrage: gegeben eine Vorschrift und ein Datum, welche Fassung war in Kraft, und was besagt genau diese Fassung. Dies ist dieselbe Information, die der Konsolidierungsapparat von EUR-Lex fuer das EU-Recht bereits verfolgt. Fuer die meisten nationalen Rechtsordnungen existiert sie noch nicht in irgendeiner systematischen Form, und sie existiert ueberhaupt nicht als abfragbare API, die die meisten Retrieval-Pipelines aufrufen koennten.

Bei der Rechtsprechung ist der Graph ein Citator-Graph, und die Kanten tragen ein schwierigeres Problem: sie erfordern die Klassifizierung der Art der nachfolgenden Behandlung, nicht bloss ihrer Existenz. Eine spaetere Entscheidung, die eine fruehere zitiert, koennte ihr folgen, sie im Sachverhalt abgrenzen, ihren Kern auf eine engere Fallklasse beschraenken, ihre Begruendung in Frage stellen, ohne sie foermlich aufzuheben, oder sie unmittelbar aufheben (overruled). Diese sind nicht gleichwertig, und "von einer spaeteren Entscheidung zitiert" als ein einziges undifferenziertes Signal zu behandeln ist nahezu ebenso wenig hilfreich wie die nachfolgende Behandlung gaenzlich zu ignorieren. Diese Beziehung automatisch zu klassifizieren ist ein wahrhaft schweres Problem der natuersprachlichen Inferenz: es erfordert das Lesen der tatsaechlichen Behandlung der frueheren Entscheidung durch die spaetere, nicht bloss das Erkennen, dass ein Zitat existiert. Entailment-Modelle koennen darauf trainiert werden, einen brauchbaren ersten Durchgang bei den offenkundigeren Signalen von Aufhebung und Abgrenzung zu leisten, in der Sprache, die Gerichte konventionell dafuer verwenden, doch dies ist im allgemeinen Fall ein wahrhaft ungeloestes Forschungsproblem, und jedes Produktivsystem sollte dies ehrlich benennen, statt vorzugeben, ein Zitationsgraph zuzueglich eines Aehnlichkeitswerts stelle eine Gueltigkeitspruefung dar.

Das Ergebnis, wenn beide existieren, ist, dass eine Geltungspruefung aufhoert, eine Rechercheaufgabe zu sein, und zu einer Graphtraversierung wird: gegeben eine Aussage, die Quelle S zitiert, gibt es eine aktive Kante, datiert vor dem Abfragedatum, die S die Gueltigkeit entzieht, sei es durch Aenderung, Aufhebung oder Aufhebung (overruling). Diese Traversierung ist eine schnelle, deterministische, maschinell pruefbare Operation. Ohne den Graphen ist sie keine langsame Fassung derselben Pruefung. Sie wird ueberhaupt nicht durchgefuehrt. Das System besitzt keine Datenstruktur, in der die Frage "ist dies noch geltendes Recht" ueberhaupt darstellbar ist, und so geht es stillschweigend von ja aus.

Warum dies schlimmer kumuliert als Erfindung

Es gibt einen Grund, Geltungsfehler als gefaehrlicher zu behandeln als Herkunftsfehler, nicht als weniger gefaehrlich, und es lohnt sich, dies unmittelbar auszusprechen, denn die Aufmerksamkeit der Branche laeuft in die andere Richtung.

Ein erfundenes Zitat ist zumindest im Prinzip durch Existenz pruefbar. Existiert diese Entscheidung. Eine einzige Abfrage gegen einen beliebigen Entscheidungssammler beantwortet die Frage, und ein sorgfaeltiger Pruefer oder eine automatisierte Existenzpruefung erkennt es. Es ist ein peinlicher, sanktionsfaehiger, viel beachteter Fehlermodus, und er ist zugleich strukturell der leichter abzuwehrende der beiden, denn die Pruefung ist binaer und der Grundwahrheitswert (existiert diese Entscheidung in diesem Entscheidungssammler) ist eindeutig.

Ein veraltetes Zitat besteht genau diese Pruefung. Die Entscheidung existiert. Sie wurde von dem Gericht getroffen, das sie angibt, an dem angegebenen Datum, und sagt genau das aus, was zitiert wird. Jede Herkunftspruefung, die einem Pruefer zur Verfuegung steht, der nicht zugleich eine Geltungspruefung durchfuehrt, wird ein sauberes Ergebnis liefern. Der einzige Weg, es zu erkennen, besteht darin, bereits zu wissen oder nachzuschlagen, ob dieser Autoritaet spaeter etwas widerfahren ist, was genau die Information ist, die nicht im zitierten Dokument selbst wohnt. Deshalb ist der Instinkt eines erfahrenen Juristen, zu einem Citator zu greifen, keine Gewohnheit; er ist die Erkenntnis, dass Herkunft und Geltung verschiedene Fragen sind, die verschiedene Werkzeuge erfordern, und dass das erste Werkzeug die zweite Frage nicht beantworten kann, so sorgfaeltig es auch angewandt wird.

Unter Komposition wird es schlimmer. Juristisches Schlussfolgern ist selten eine einzelne Aussage; es ist eine Kette, in der eine Risikobewertung oder eine Gestaltungsempfehlung auf drei oder vier Praemissen ruht, von denen jede ihre eigene Autoritaet zitiert. Ist eine Praemisse in der Kette veraltet, herkunftssauber, aber geltungstot, so bleibt der Mangel nicht lokal. Jede nachgelagerte Schlussfolgerung, die auf dieser Praemisse aufbaut, erbt den Fehler stillschweigend, denn jeder einzelne Inferenzschritt sieht, fuer sich betrachtet, lokal stimmig aus. Die Kette ist nur so gut wie ihr schwaechstes Glied, und ein Geltungsfehler ist ein schwaches Glied, das nirgendwo im fertigen Ergebnis ein sichtbares Zeichen von Schwaeche gibt. Ein Pruefer, der das abschliessende Memo liest und prueft, dass jedes Zitat real ist und das aussagt, was ihm zugeschrieben wird, wird nichts Falsches finden, denn an der Herkunft ist nichts falsch. Der Mangel wohnt vollstaendig in der Schicht, die die Pruefung nie beruehrt hat.

Was "grounded" tatsaechlich bedeuten sollte

Sind Herkunft und Geltung wahrhaft getrennte Eigenschaften, so sollte der Anspruch eines Systems, grounded zu sein, in mindestens drei pruefbare Aussagen zerfallen, nicht in eine: diese Quelle existiert, unter diesem Identifikator, aufloesbar unabhaengig vom blossen Wort des Modells. Der Text dieser Quelle stuetzt genau diese Aussage, auf der Ebene der zitierten Passage, nicht des allgemeinen Themas. Und diese Quelle war zum massgeblichen Datum geltendes Recht, verifiziert gegen einen strukturierten Nachweis von allem, was ihr widerfahren ist, seit sie verfasst wurde, nicht abgeleitet aus dem Fehlen eines gegenteiligen Signals in der Passage selbst.

Das meiste von dem, was der Markt derzeit als geltendes juristisches KI-System mit Grounding bezeichnet, erfuellt die ersten beiden und schweigt zur dritten, nicht weil die dritte unwichtig waere, sondern weil sie eine Infrastruktur erfordert, die fuer die meisten Rechtsordnungen der Welt noch nicht existiert: stichtagsbezogene, versionierte Gesetzgebungsgraphen und automatisch oder halbautomatisch gepflegte Citator-Graphen, die Jurisdiktionen in einem Massstab umspannen, den kein einzelner proprietaerer Dienst je versucht hat. Diese Infrastruktur zu bauen ist ein kategorial anderes Projekt, als einen besseren Retriever oder einen besseren Zitat-Formatierer zu bauen. Es erfordert, die juristische Gueltigkeit als eine erstklassige, zeitliche, graphstrukturierte Tatsache zu behandeln, die fortlaufend verfolgt wird, waehrend sich das Recht aendert, statt als eine Eigenschaft, die sich vom Text des Rechts selbst ablesen laesst.

Bis dies existiert, erhebt jedes juristische KI-System mit Grounding einen Anspruch, den es tatsaechlich nicht verifizieren kann. Es kann einem sagen, woher eine Antwort stammt. Es kann einem noch nicht mit derselben Zuversicht sagen, ob dort, woher sie stammt, noch immer das Recht wohnt.