Quand la clause est l'hallucination : ancrer les termes du contrat et gouverner le moment de l'engagement

Un systeme d'IA qui negocie ou redige pour le compte d'autrui peut produire un resultat defavorable a son propre mandant sans manipuler personne. Il n'a besoin ni d'exploiter un biais cognitif ni de deformer un fait aupres de la partie adverse. Il lui suffit de proposer ou d'accepter un terme dont l'effet juridique reel differe de ce que les deux parties croient qu'il est : un plafond d'indemnisation qui ne survit pas a une exclusion pour faute lourde, un montant de dommages-interets liquides qu'un tribunal ecarterait comme clause penale abusive et sans force executoire, une clause de non-concurrence dont la portee excede ce que la loi applicable admettra. Aucune des parties n'a besoin d'etre trompee pour que cela se produise. Toutes deux peuvent lire la clause, convenir qu'elle parait raisonnable, et signer un texte qui ne fait pas ce que l'une comme l'autre pensent qu'il fait.

Cette defaillance est pire qu'une citation purement hallucinee, car elle ne presente aucun defaut visible. Une decision inventee occupe au moins la page en avancant une affirmation que quelqu'un peut aller verifier. Une clause qui echoue silencieusement au regard de la loi applicable se lit exactement comme une clause qui fonctionne. Elle a survecu a la negociation. Elle a donne un compromis acceptable pour les deux camps. Tout indique que la negociation a reussi, jusqu'au moment ou la clause est invoquee et ou elle ne fait pas ce que chacun avait suppose.

L'empecher exige deux defenses, et elles ne se substituent pas l'une a l'autre. La premiere verifie le contenu : cette clause precise, sous cette loi applicable precise et cette configuration de faits, produit-elle effectivement l'effet qu'elle semble produire. La seconde verifie le processus : independamment de ce que le systeme de negociation lui-meme affirme, existe-t-il une preuve que cette verification a bien eu lieu avant l'acceptation de la clause. Un systeme qui ne dispose que de la premiere peut encore laisser passer une mauvaise clause si personne n'impose le controle. Un systeme qui ne dispose que de la seconde peut prouver rigoureusement qu'un processus a ete suivi alors que l'analyse juridique sous-jacente au sein de ce processus etait tout simplement erronee. Les deux defaillances produisent le meme resultat : un document signe qui ne fait pas ce qu'il etait cense faire, assorti d'une piste d'audit qui parait irreprochable.

Pourquoi il s'agit d'un probleme d'ancrage plus ardu que la recherche juridique

Ancrer une affirmation analytique est un probleme de resolution. Le systeme enonce une proposition sur le droit, et l'ancrage verifie si une source verbatim et a jour l'etaye reellement. Le controle vise une cible relativement fixe : ce passage, cette disposition, dit-il ce qui est affirme.

Ancrer une clause negociee est un probleme different, plus ardu, car le systeme ne formule pas une affirmation sur le droit. Il propose ou accepte un libelle dont l'effet juridique depend de la maniere dont le droit le traiterait, ce qui exige davantage qu'une simple recuperation d'information. Considerons trois categories doctrinales qui reviennent dans la plupart des systemes juridiques, de forme differente dans chacun, mais presentes sous une forme ou une autre presque partout.

La doctrine de la clause penale et des dommages-interets liquides. De nombreuses juridictions n'appliqueront pas une clause de dommages-interets liquides qui fonctionne comme une penalite plutot que comme une estimation anticipee et sincere du prejudice. Un montant que les deux parties ont negocie de bonne foi peut etre prive de force executoire par le juge s'il echoue a ce test, et ce test est tributaire des faits : quel prejudice etait previsible au moment de la conclusion du contrat, et non au moment de la rupture.

Les limites imperatives a l'exclusion et a la limitation de responsabilite. La plupart des systemes juridiques refusent de laisser les parties amenager par contrat la responsabilite pour certaines categories, couramment la faute lourde, la faute dolosive, le deces ou le dommage corporel, quel que soit le libelle de la clause de plafond de responsabilite. Un plafond qui se lit comme absolu dans le document peut se reveler silencieusement partiel a l'application, et les categories exclues, ainsi que leurs modalites, varient selon la juridiction.

Les exigences de forme et de portee pour les clauses restrictives. Les clauses de non-concurrence, de non-sollicitation et autres clauses restrictives ne sont frequemment executoires que dans des limites precises de duree, de perimetre geographique et de portee, limites qui different fortement d'une juridiction a l'autre et qu'une clause redigee selon la tolerance d'une juridiction peut echouer silencieusement a respecter dans une autre.

Aucun de ces cas n'est marginal. Ils constituent le terrain d'exploitation ordinaire de la negociation contractuelle, et dans chacun d'eux, le texte de la clause ne s'interprete pas de lui-meme. Son effet reel depend d'un corpus de droit au regard duquel le systeme de negociation doit operer un controle, et non d'une simple definition qu'il aurait a recuperer.

Premiere defense : ancrer l'effet de la clause, et non son seul libelle

Le correctif etend a une cible differente la meme discipline deja requise pour la citation juridique : non pas "cette citation existe-t-elle et dit-elle ce qui est affirme", mais "cette clause proposee, sous la loi applicable precise et les faits precis, produit-elle l'effet que les deux parties supposent".

Concretement, cela signifie que toute clause substantielle qu'un systeme de negociation propose ou accepte devrait etre accompagnee d'un dossier de verification a trois composantes, chacune ancree dans le texte source verbatim plutot que dans un resume paraphrase de "la maniere dont cela fonctionne habituellement".

La doctrine applicable. Quelle regle imperative ou suppletive de la loi applicable pese sur ce type de clause, citee a la disposition ou au courant jurisprudentiel effectifs, et non a une description generale du domaine du droit.

La dependance factuelle precise. Lorsque la force executoire de la clause repose sur des faits encore inconnus, la portee d'une clause restrictive au regard des fonctions reelles d'un salarie, la survie d'un plafond de responsabilite face a un type de rupture precis, le systeme devrait le dire explicitement plutot que de trancher l'ambiguite en silence dans le sens qui fait paraitre la clause irreprochable.

Un statut explicite, et non une note melangee. Le point de savoir si la force executoire de la clause est etablie et verifiable au regard d'une autorite claire et a jour, ou si elle est veritablement tributaire des faits et requiert un jugement juridique humain. Ce sont des categories de resultat differentes, et les fondre en une seule appreciation du type "cela parait correct" est precisement la ou reside le risque. Une clause signalee comme confirmee devrait signifier que le systeme l'a controlee au regard d'une autorite reelle, a jour et citee. Une clause signalee comme non resolue devrait signifier exactement cela, et non une version a moindre confiance de confirmee.

C'est un probleme d'ingenierie sensiblement plus ardu que l'ancrage d'une citation, car il exige que le systeme raisonne sur la maniere dont une configuration de faits precise interagit avec une regle precise, et non qu'il recupere seulement un passage. C'est aussi pourquoi le considerer comme resolu par un modele de langage suffisamment bon est exactement l'erreur dont traite tout ce probleme. Un modele peut rediger un propos fluide et assure sur le caractere standard et executoire d'une clause sans que ce propos soit ancre dans quoi que ce soit de verifiable, et l'assurance fluide est precisement ce qui rend la defaillance invisible aux deux parties.

Deuxieme defense : gouverner le moment de l'engagement, independamment du systeme qui a propose le terme

L'ancrage corrige ce que le systeme sait. Il ne corrige pas ce qui advient si personne n'impose le controle avant la conclusion de l'accord. Un systeme de negociation, aussi bien ancre soit-il, reste le meme systeme evaluant son propre travail, et une negociation precipitee sous la pression d'une echeance est exactement la condition dans laquelle un statut veritablement utile de "signale comme non resolu" se voit silencieusement laisse passer par quelqu'un qui n'a jamais voulu ralentir l'accord pour aller le tirer au clair.

La seconde defense, independante, est procedurale, et le schema d'architecture n'est propre a aucun fournisseur ni produit particulier. Il se rapproche d'un principe classique de controle interne, maker-checker, four-eyes, le principe du double regard, applique a la negociation assistee par IA : le systeme qui propose ou evalue une clause ne devrait pas etre la seule autorite qui la valide pour signature. Une couche de controle distincte, externe au systeme de negociation lui-meme, verrouille le moment reel de l'engagement et pose une question plus etroite et plus mecanique que "est-ce un bon accord" : le controle d'ancrage de la premiere defense a-t-il reellement ete effectue sur chaque clause substantielle, en existe-t-il une trace, et pour chaque clause signalee comme non resolue, y a-t-il une validation humaine nominative et responsable plutot qu'un passage silencieux.

Cette couche n'a pas besoin de refaire l'analyse juridique. Sa tache est procedurale, non substantielle : verifier que le controle de fond a eu lieu, verifier qu'il est auditable a posteriori sans avoir a se fier au propre compte rendu du systeme de negociation sur son travail, et bloquer l'execution la ou cette verification fait defaut. Elle convertit "le systeme a dit que cette clause etait correcte" en "voici la preuve que cette clause a ete controlee, par ce processus, et voici qui a valide ce qui restait non resolu".

La raison pour laquelle cela doit constituer une couche distincte, et non une fonctionnalite greffee sur le systeme de negociation lui-meme, est la meme que celle pour laquelle les controles financiers separent la personne qui autorise un paiement de celle qui le rapproche. Un systeme ne peut etre un controle pleinement fiable sur lui-meme sous la pression commerciale de conclure, pas plus qu'une personne ne le peut. L'independance est la propriete qui donne un sens au controle, et l'independance ne peut etre fabriquee par le systeme meme dont les incitations tendent a faire aboutir l'accord.

Pourquoi les deux sont necessaires et aucune ne suffit a elle seule

Un systeme de negociation dote de l'ancrage mais depourvu de couche de gouvernance peut encore laisser passer une clause non resolue, car l'ancrage produit un signalement honnete, et un signalement honnete n'est utile que si une personne ayant le pouvoir d'arreter l'accord le lit effectivement avant l'engagement. Sous la pression d'une echeance, un signalement non impose est fonctionnellement identique a une absence de signalement.

Un systeme de negociation dote de la gouvernance mais depourvu d'ancrage peut produire un processus magnifiquement audite autour d'une analyse juridique substantiellement erronee. La couche de controle peut prouver qu'une revue a eu lieu, qu'un humain a valide, que chaque etape du flux de travail est journalisee, alors que l'appreciation sous-jacente du point de savoir si le plafond de responsabilite survit effectivement a une action pour faute lourde n'a jamais ete controlee au regard d'une autorite reelle. L'integrite du processus sans l'exactitude du contenu, c'est une piste d'audit irreprochable attachee a une mauvaise reponse.

La clause qui echoue silencieusement n'est pas une defaillance d'intelligence. La capacite du modele n'y remedie pas, car le modele peut etre parfaitement fluide et parfaitement dans l'erreur sur la maniere dont une configuration de faits precise interagit avec une regle de droit precise, et c'est la fluidite qui fait passer l'erreur pour un compromis normal et raisonnable au lieu d'un defaut. Le correctif est structurel : verifier l'effet de la clause au regard d'une autorite verbatim et a jour, distinguer ce qui est etabli de ce qui est veritablement ouvert, et exiger d'une couche independante qu'elle confirme que ce controle a eu lieu avant toute signature. Aucune des deux pieces n'est facultative, et aucune, construite seule, ne comble l'ecart.