Wenn die Klausel die Halluzination ist: Vertragsklauseln fundieren und den Moment der Verpflichtung steuern

Ein KI-System, das im Auftrag eines anderen verhandelt oder entwirft, kann ein schlechteres Ergebnis fuer seinen eigenen Auftraggeber herbeifuehren, ohne irgendjemanden zu manipulieren. Es muss keine kognitive Verzerrung ausnutzen und der Gegenseite keine Tatsache falsch darstellen. Es genuegt, eine Bestimmung vorzuschlagen oder zu akzeptieren, deren tatsaechliche rechtliche Wirkung von dem abweicht, was beide Parteien fuer ihren Inhalt halten: eine Haftungsobergrenze bei der Freistellung, die einen Ausschluss fuer grobe Fahrlaessigkeit nicht uebersteht, eine Vertragsstrafe (liquidated damages), die ein Gericht als unzulaessige Vertragsstrafe (penalty) fuer nicht durchsetzbar erklaeren wuerde, ein Wettbewerbsverbot, dessen Reichweite ueber das hinausgeht, was das anwendbare Recht aufrechterhaelt. Keine der Parteien muss getaeuscht werden, damit dies geschieht. Beide koennen die Klausel lesen, uebereinstimmen, dass sie angemessen erscheint, und etwas unterzeichnen, das nicht das bewirkt, was einer von beiden erwartet.

Dieses Versagen ist schlimmer als eine offen halluzinierte Fundstelle, weil es keinen sichtbaren Mangel aufweist. Ein erfundener Fall steht immerhin auf dem Papier und stellt eine Behauptung auf, die jemand ueberpruefen kann. Eine Klausel, die unter dem anwendbaren Recht stillschweigend versagt, liest sich genau wie eine Klausel, die funktioniert. Sie hat die Verhandlung ueberstanden. Sie brachte einen Kompromiss, mit dem beide Seiten leben konnten. Es sieht aus, als sei die Verhandlung gelungen, bis zu dem Moment, in dem die Klausel geltend gemacht wird und nicht das bewirkt, was alle angenommen hatten.

Dies zu verhindern erfordert zwei Verteidigungslinien, und sie ersetzen einander nicht. Die eine verifiziert den Inhalt: Erzeugt diese konkrete Klausel unter diesem konkreten anwendbaren Recht und diesem Sachverhalt tatsaechlich die Wirkung, die sie zu erzeugen scheint. Die andere verifiziert den Prozess: Gibt es, unabhaengig davon, was das Verhandlungssystem selbst behauptet, einen Beleg dafuer, dass diese Verifikation tatsaechlich stattgefunden hat, bevor die Klausel akzeptiert wurde. Ein System, das nur ueber die erste verfuegt, kann eine schlechte Klausel dennoch durchgehen lassen, wenn niemand die Pruefung durchsetzt. Ein System, das nur ueber die zweite verfuegt, kann streng belegen, dass ein Prozess eingehalten wurde, waehrend die zugrunde liegende rechtliche Analyse innerhalb dieses Prozesses schlicht falsch war. Beide Versagensformen fuehren zum selben Ergebnis: ein unterzeichnetes Dokument, das nicht das bewirkt, was es sollte, mit einem Audit-Trail, der sauber aussieht.

Warum dies ein schwierigeres Fundierungsproblem ist als juristische Recherche

Die Fundierung einer analytischen Behauptung ist ein Aufloesungsproblem. Das System behauptet einen Rechtssatz, und die Fundierung prueft, ob eine woertliche, aktuelle Quelle ihn tatsaechlich stuetzt. Die Pruefung hat ein relativ festes Ziel: diese Passage, diese Bestimmung, sagt sie das aus, was behauptet wird.

Die Fundierung einer ausgehandelten Klausel ist ein anderes, schwierigeres Problem, denn das System stellt keine Behauptung ueber das Recht auf. Es schlaegt einen Wortlaut vor oder akzeptiert ihn, dessen rechtliche Wirkung davon abhaengt, wie das Recht ihn behandeln wuerde, was mehr erfordert als blosses Abrufen. Man betrachte drei dogmatische Kategorien, die in den meisten Rechtssystemen wiederkehren, jeweils unterschiedlich ausgeformt, aber fast ueberall in irgendeiner Form vorhanden.

Die Lehre von unzulaessiger Vertragsstrafe und pauschaliertem Schadensersatz. Viele Rechtsordnungen setzen eine Vertragsstrafenklausel nicht durch, die als Strafe wirkt statt als echte Vorabschaetzung des Schadens. Ein Betrag, den beide Parteien in gutem Glauben ausgehandelt haben, kann gerichtlich nicht durchsetzbar sein, wenn er diesen Test nicht besteht, und der Test ist sachverhaltsspezifisch: Welcher Schaden war zum Zeitpunkt des Vertragsschlusses vorhersehbar, nicht zum Zeitpunkt der Verletzung.

Zwingende Grenzen fuer Haftungsausschluss und Haftungsbeschraenkung. Die meisten Rechtssysteme lassen es nicht zu, dass Parteien die Haftung fuer bestimmte Kategorien vertraglich abbedingen, ueblicherweise grobe Fahrlaessigkeit, vorsaetzliches Fehlverhalten, Tod oder Koerperverletzung, unabhaengig davon, was die Klausel zur Haftungsobergrenze besagt. Eine Obergrenze, die im Dokument absolut zu lesen ist, kann in der Anwendung stillschweigend nur teilweise gelten, und welche Kategorien wie ausgenommen sind, unterscheidet sich je nach Rechtsordnung.

Form- und Reichweiteanforderungen an wettbewerbsbeschraenkende Klauseln. Wettbewerbsverbote, Abwerbeverbote und aehnliche beschraenkende Bestimmungen sind haeufig nur innerhalb bestimmter Grenzen von Dauer, Geografie und Reichweite durchsetzbar, Grenzen, die sich zwischen den Rechtsordnungen deutlich unterscheiden und an denen eine Klausel, die auf die Toleranz einer Rechtsordnung zugeschnitten ist, in einer anderen stillschweigend scheitern kann.

Keiner dieser Faelle ist ein Randfall. Sie sind das gewoehnliche Arbeitsgelaende der Vertragsverhandlung, und in jedem einzelnen ist der Text der Klausel nicht selbstauslegend. Ihre tatsaechliche Wirkung haengt von einem Rechtsbestand ab, gegen den das Verhandlungssystem pruefen muss, nicht bloss von einer Definition, die es abrufen muss.

Verteidigung eins: die Wirkung der Klausel fundieren, nicht nur ihren Wortlaut

Die Loesung uebertraegt dieselbe Disziplin, die bereits fuer juristische Fundstellen verlangt wird, auf ein anderes Ziel: nicht "existiert diese Fundstelle und sagt sie das aus, was behauptet wird", sondern "erzeugt diese vorgeschlagene Klausel unter dem konkreten anwendbaren Recht und den konkreten Tatsachen die Wirkung, die beide Parteien annehmen".

Konkret bedeutet dies, dass jede wesentliche Klausel, die ein Verhandlungssystem vorschlaegt oder akzeptiert, einen Verifikationsnachweis mit drei Bestandteilen tragen sollte, jeder davon im woertlichen Quelltext fundiert und nicht in einer paraphrasierten Zusammenfassung dessen, "wie das ueblicherweise funktioniert".

Die anwendbare Rechtslehre. Welche zwingende oder dispositive Regel des anwendbaren Rechts fuer diesen Klauseltyp massgeblich ist, belegt anhand der tatsaechlichen Bestimmung oder Rechtsprechungslinie, nicht anhand einer allgemeinen Beschreibung des Rechtsgebiets.

Die konkrete Tatsachenabhaengigkeit. Wo die Durchsetzbarkeit der Klausel von Tatsachen abhaengt, die noch nicht bekannt sind, die Reichweite einer wettbewerbsbeschraenkenden Klausel gemessen an der tatsaechlichen Rolle eines Arbeitnehmers, ob eine Haftungsobergrenze eine bestimmte Art der Verletzung uebersteht, sollte das System dies ausdruecklich benennen, statt die Mehrdeutigkeit stillschweigend in die Richtung aufzuloesen, in der die Klausel sauber aussieht.

Ein ausdruecklicher Status, keine vermengte Bewertung. Ob die Durchsetzbarkeit der Klausel geklaert und gegen eine klare, aktuelle Autoritaet verifizierbar ist, oder ob sie tatsaechlich tatsachenabhaengig ist und eine menschliche rechtliche Beurteilung erfordert. Dies sind unterschiedliche Kategorien von Ergebnissen, und sie in eine einzige Einschaetzung "das sieht in Ordnung aus" zusammenzufuehren, ist genau der Ort, an dem das Risiko wohnt. Eine als bestaetigt markierte Klausel sollte bedeuten, dass das System sie gegen eine reale, aktuelle, belegte Autoritaet geprueft hat. Eine als ungeklaert markierte Klausel sollte genau das bedeuten, nicht eine Version von bestaetigt mit geringerer Zuversicht.

Dies ist ein deutlich schwierigeres Ingenieurproblem als die Fundierung von Fundstellen, denn es verlangt vom System, darueber zu schlussfolgern, wie ein konkreter Sachverhalt mit einer konkreten Regel zusammenwirkt, und nicht bloss, eine Passage abzurufen. Ebendarum ist die Annahme, ein hinreichend gutes Sprachmodell habe das Problem geloest, genau der Fehler, um den es bei diesem ganzen Problem geht. Ein Modell kann fluessige, selbstsichere Formulierungen darueber verfassen, warum eine Klausel ueblich und durchsetzbar ist, ohne dass diese Formulierungen in irgendetwas Ueberpruefbarem fundiert waeren, und fluessige Selbstsicherheit ist genau das, was das Versagen fuer beide Parteien unsichtbar macht.

Verteidigung zwei: den Moment der Verpflichtung steuern, unabhaengig vom System, das die Bestimmung vorgeschlagen hat

Die Fundierung behebt, was das System weiss. Sie behebt nicht, was geschieht, wenn niemand die Pruefung durchsetzt, bevor das Geschaeft abgeschlossen wird. Ein Verhandlungssystem bleibt, wie gut fundiert auch immer, dasselbe System, das seine eigene Arbeit bewertet, und eine hastige Verhandlung unter Termindruck ist genau die Bedingung, unter der ein wirklich nuetzlicher Status "als ungeklaert markiert" stillschweigend von jemandem durchgewunken wird, der das Geschaeft nie verlangsamen wollte, um dem nachzugehen.

Die zweite, unabhaengige Verteidigung ist verfahrensbezogen, und das Architekturmuster ist nicht an einen bestimmten Anbieter oder ein bestimmtes Produkt gebunden. Es steht einem klassischen Prinzip interner Kontrollen naeher, maker-checker, four-eyes (Vier-Augen-Prinzip), angewandt auf KI-gestuetzte Verhandlung: Das System, das eine Klausel vorschlaegt oder bewertet, sollte nicht die alleinige Instanz sein, die sie zur Unterschrift freigibt. Eine gesonderte Kontrollschicht, ausserhalb des Verhandlungssystems selbst, steuert den eigentlichen Moment der Verpflichtung und stellt eine engere, mechanischere Frage als "ist dies ein gutes Geschaeft": Wurde die Fundierungspruefung aus der ersten Verteidigung tatsaechlich an jeder wesentlichen Klausel durchgefuehrt, gibt es einen Nachweis darueber, und liegt fuer jede als ungeklaert markierte Klausel eine namentliche, verantwortliche menschliche Freigabe vor statt eines stillschweigenden Durchlaufs.

Diese Schicht muss die rechtliche Analyse nicht neu herleiten. Ihre Aufgabe ist verfahrensbezogen, nicht inhaltlich: verifizieren, dass die inhaltliche Pruefung stattgefunden hat, verifizieren, dass sie im Nachhinein pruefbar ist, ohne sich auf den Eigenbericht des Verhandlungssystems ueber seine Arbeit verlassen zu muessen, und die Ausfuehrung dort blockieren, wo diese Verifikation fehlt. Sie verwandelt "das System sagte, diese Klausel sei in Ordnung" in "hier ist der Beleg, dass diese Klausel geprueft wurde, durch diesen Prozess, und hier ist, wer fuer das Freigabe erteilt hat, was ungeklaert blieb".

Der Grund, warum dies eine gesonderte Schicht sein muss und kein an das Verhandlungssystem selbst angeflanschtes Merkmal, ist derselbe, aus dem Finanzkontrollen die Person, die eine Zahlung anweist, von der Person trennen, die sie abstimmt. Ein System kann unter kommerziellem Abschlussdruck keine vollstaendig verlaessliche Kontrolle seiner selbst sein, ebenso wenig wie ein Mensch. Unabhaengigkeit ist die Eigenschaft, die die Kontrolle bedeutsam macht, und Unabhaengigkeit laesst sich nicht durch dasselbe System herstellen, dessen Anreize auf den Abschluss des Geschaefts gerichtet sind.

Warum beide notwendig sind und keine allein genuegt

Ein Verhandlungssystem mit Fundierung, aber ohne Steuerungsschicht, kann eine ungeklaerte Klausel dennoch durchgehen lassen, denn die Fundierung erzeugt eine ehrliche Markierung, und eine ehrliche Markierung ist nur dann nuetzlich, wenn jemand mit der Befugnis, das Geschaeft zu stoppen, sie tatsaechlich vor der Verpflichtung liest. Unter Termindruck ist eine nicht durchgesetzte Markierung funktional identisch mit gar keiner Markierung.

Ein Verhandlungssystem mit Steuerung, aber ohne Fundierung, kann einen wunderbar auditierten Prozess um eine inhaltlich falsche rechtliche Analyse herum erzeugen. Die Kontrollschicht kann belegen, dass eine Pruefung stattfand, dass ein Mensch die Freigabe erteilte, dass jeder Schritt des Arbeitsablaufs protokolliert ist, waehrend die zugrunde liegende Einschaetzung, ob die Haftungsobergrenze einen Anspruch aus grober Fahrlaessigkeit tatsaechlich uebersteht, von vornherein nie gegen eine reale Autoritaet geprueft wurde. Prozessintegritaet ohne inhaltliche Richtigkeit ist ein sauberer Audit-Trail, angehaengt an eine falsche Antwort.

Die Klausel, die stillschweigend versagt, ist kein Versagen der Intelligenz. Die Leistungsfaehigkeit des Modells behebt es nicht, denn das Modell kann vollkommen fluessig und vollkommen falsch darueber sein, wie ein konkreter Sachverhalt mit einer konkreten Rechtsregel zusammenwirkt, und Fluessigkeit ist das, was den Fehler wie einen normalen, vernuenftigen Kompromiss aussehen laesst statt wie einen Mangel. Die Loesung ist struktureller Art: die Wirkung der Klausel gegen eine woertliche, aktuelle Autoritaet verifizieren, das Geklaerte vom tatsaechlich Offenen unterscheiden und eine unabhaengige Schicht verlangen, die bestaetigt, dass diese Pruefung stattgefunden hat, bevor jemand unterschreibt. Kein Teil ist optional, und keiner von beiden schliesst, allein gebaut, die Luecke.