Douze questions à poser à un éditeur d'IA juridique, et les réponses qui doivent vous inquiéter

La plupart des guides sur le choix d'une IA juridique sont écrits par ceux qui la vendent, ce qui explique qu'ils énumèrent des fonctionnalités plutôt que des questions. Une fonctionnalité est facile à annoncer et difficile à vérifier. Une question dont la réponse est mauvaise n'est ni l'un ni l'autre.

Voici la liste que nous utiliserions, et ce n'est pas une liste confortable pour nous non plus. À plusieurs de ces questions, nous n'aurions pas su répondre correctement il y a un an, et l'une d'elles décrit un défaut que nous avons trouvé dans notre propre système et qu'il a fallu démonter. Elles sont classées selon les dégâts que cause une mauvaise réponse.

Demandez ce que dit la sortie quand rien n'a été vérifié

La première question est celle que presque personne ne pose : lorsque votre système ne peut pas vérifier quelque chose, que dit exactement le résultat ? Une étape de vérification qui annonce une réussite ou un échec dispose d'un seul bit, alors qu'au moins quatre états se tiennent derrière : vérifié et conforme, vérifié et défaillant, rien à vérifier, et vérification impossible. Si les deux derniers se confondent avec le premier, un résultat conforme et un résultat muet deviennent indiscernables pour celui qui les lit, et aucune précaution en aval ne rattrape la différence. Une bonne réponse nomme un troisième état explicite. Une mauvaise réponse est une démonstration où tout passe.

Demandez ensuite si un résultat exceptionnellement propre déclenche quelque chose. Un document qui comporte moins d'éléments à vérifier que sa catégorie n'en contient d'ordinaire est un signal en soi. Si le système y voit une garantie plutôt qu'une raison de se demander pourquoi, les défaillances les plus discrètes seront précisément celles qu'il ne fera jamais remonter.

Et demandez sur quoi le contrôle a réellement porté. Un résultat n'est interprétable qu'accompagné d'un énoncé honnête de l'ensemble de travail : combien d'éléments entraient dans le périmètre, et lesquels. Un fournisseur qui communique le résultat sans la population communique la moitié d'une mesure en la présentant comme une mesure entière.

Demandez d'où vient la vérité de référence

Demandez qui a produit les éléments sur lesquels la vérification s'appuie. Si la partie qui a produit l'affirmation a aussi produit le matériau qui sert à la contrôler, vous avez un contrôle de cohérence déguisé en contrôle d'authenticité. Il sera cohérent de l'intérieur, chaque pièce s'accordant avec toutes les autres, et il n'aura jamais eu à s'accorder avec quoi que ce soit d'extérieur à lui-même. C'est le défaut que nous avons trouvé dans notre propre piste d'audit, et il a fallu que deux collègues posent à voix haute la version inconfortable de la question, puis la testent sur le système réel plutôt que d'en débattre.

Demandez ce qu'il advient d'une disposition qui a été abrogée. Dans un système codifié, la défaillance type n'est pas une citation inventée. C'est un article réel, cité correctement, qui a cessé d'être en vigueur et que l'on continue d'invoquer comme droit positif. Si le fournisseur traite l'abrogation comme un enregistrement manquant ou une erreur plutôt que comme un verdict à part entière, le système vérifie si un texte existe, pas s'il régit.Sources : pourquoi une loi abrogée n'est pas un fait périmé

Demandez ce que signifie réellement l'horodatage d'une source. Dans la plupart des systèmes de recherche documentaire, il enregistre le moment où quelqu'un a touché l'enregistrement pour la dernière fois, non si son contenu est encore vrai. Ce sont deux questions différentes, aux réponses différentes, et l'écart entre les deux est l'endroit où logent les sorties fausses et assurées.

Demandez des précisions sur les juridictions où vous travaillez vraiment

Demandez la différence entre une juridiction indexée, une juridiction dont le corpus a seulement été collecté, et une juridiction sur laquelle le modèle ne peut raisonner qu'à partir de connaissances générales. Les trois peuvent paraître identiques en démonstration. Seule la première vous donne une recherche documentaire sur des sources réelles. Un fournisseur qui refuse de tracer cette ligne est un fournisseur dont le chiffre de couverture porte un poids qu'il ne peut pas soutenir.

Demandez ce que fait le système face à une juridiction qu'il n'a pas modélisée. Il y a deux réponses possibles et une seule est sûre. Il peut refuser, ou il peut produire quelque chose en appliquant les règles d'une juridiction voisine. Dès qu'un délai est en jeu, la seconde est la pire issue : une date plausible est suivie d'effet, le dépôt est hors délai, et il ne reste plus rien à corriger. Demandez à voir le refus.

Demandez si la logique de vérification a été conçue pour la langue dans laquelle elle va s'exécuter, ou traduite vers cette langue. Les façons dont une affirmation juridique dérape subtilement, une négation inversée, un quantificateur affaibli, une exception supprimée, sont des schémas propres à chaque langue. Un système testé de manière adverse dans une langue n'offre aucune garantie de détecter la défaillance équivalente dans une autre, et le mode de défaillance est le silence, pas l'erreur.Sources : la vérification ne se traduit pas

Demandez ce qui se passe quand le système se trompe

Demandez depuis quelle position professionnelle l'analyse est rédigée. Le même contrat et le même droit produisent des constats différents selon que la question est de savoir si un acte authentique peut être reçu, si une inscription est publiable, ou à quelle date déposer. Un défaut sans importance pour un plaideur peut être le constat déterminant pour un conservateur. Si la sortie n'indique pas la position professionnelle depuis laquelle elle a été rédigée, elle en a discrètement choisi une à votre place.

Demandez ce que coûte un défaut unique à l'échelle d'un portefeuille. Un professionnel fatigué produit des erreurs qui se dispersent ; un modèle porteur d'un défaut produit la même erreur chaque fois que le schéma se répète, dans tous les dossiers, en même temps. Il ne s'agit pas de dire lequel des deux est le plus exact en moyenne. Il s'agit de ceci : l'erreur non corrélée se compense sur un grand nombre de décisions, tandis que l'erreur corrélée s'accumule, et aucune moyenne rassurante n'aide le dossier sur lequel elle est tombée.Sources : l'asymétrie de la confiance

Enfin, demandez à quoi ressemble la trace pour quelqu'un qui n'était pas présent. Non pas s'il existe un journal, tout produit des journaux. Demandez si la trace montre ce qui a été vérifié, ce qui ne l'a pas été, sur quoi le contrôle a porté et qui en répond, sous une forme qu'un régulateur ou une partie adverse pourrait évaluer sans avoir à croire le fournisseur sur parole. C'est la différence entre un système auditable et un système qui possède une piste d'audit.

Comment lire les réponses

Aucune de ces questions n'appelle une seule réponse correcte, et tout fournisseur qui répond aux douze sans hésiter est soit exceptionnel, soit les a déjà entendues et s'y est préparé. Ce qui compte, c'est la forme de la réponse. Le précis l'emporte sur le fluide. Une limite nommée l'emporte sur une assurance. Une proposition de vous montrer le cas d'échec l'emporte sur une démonstration où tout fonctionne.

La raison de les poser avant de signer plutôt qu'après est simple : la plupart de ces défauts sont invisibles de l'extérieur précisément au moment où ils font des dégâts. Un système qui ne signale que les problèmes qu'il a trouvés n'a, par construction, rien à dire sur ceux qu'il n'a jamais cherchés.