Doce preguntas para un proveedor de IA jurídica, y las respuestas que deberían preocuparte

La mayoría de las guías para elegir IA jurídica las escribe quien la vende, y por eso enumeran funcionalidades en lugar de preguntas. Las funcionalidades son fáciles de responder y difíciles de comprobar. Una pregunta con una respuesta equivocada no es ni lo uno ni lo otro.

Lo que sigue es la lista que usaríamos nosotros, y tampoco es una lista cómoda para nosotros. Varias de estas preguntas no las habríamos sabido responder bien hace un año, y una de ellas describe un defecto que encontramos en nuestro propio sistema y que tuvimos que desmontar. Están ordenadas por el daño que causa una mala respuesta.

Pregunta qué dice el resultado cuando no se ha comprobado nada

La primera pregunta es la que casi nadie hace: cuando el sistema no puede verificar algo, ¿qué dice exactamente el resultado? Un paso de verificación que informa de pasa o falla dispone de un solo bit y tiene al menos cuatro estados detrás: comprobado y limpio, comprobado y defectuoso, nada que comprobar y no se ha podido comprobar. Si los dos últimos se funden con el primero, un resultado limpio y un resultado silencioso son indistinguibles para quien los lee, y ningún cuidado posterior recupera esa diferencia. Una buena respuesta nombra un tercer estado explícito. Una mala respuesta es una demostración en la que todo pasa.

Pregunta después si un resultado inusualmente limpio activa algo. Un documento con menos elementos que comprobar de los que suele contener esa clase de documento es, por sí mismo, una señal. Si el sistema lo interpreta como tranquilizador en lugar de como un motivo para preguntar por qué, los fallos más silenciosos serán justo los que nunca saque a la luz.

Y pregunta sobre qué se ejecutó realmente la comprobación. Un resultado solo es interpretable junto a una declaración honesta del conjunto de trabajo: cuántos elementos entraron en el alcance y cuáles eran. Un proveedor que informa del resultado pero no de la población está informando de media medición y presentándola como una medición completa.

Pregunta de dónde sale la verdad de referencia

Pregunta quién produjo la evidencia contra la que se ejecuta la verificación. Si la misma parte que produjo la afirmación produjo también el material con el que se contrasta, lo que tienes es una comprobación de coherencia disfrazada de comprobación de autenticidad. Será internamente coherente, con cada parte de acuerdo con todas las demás, y nunca se le habrá pedido que concuerde con nada externo a sí misma. Este es el defecto que encontramos en nuestro propio rastro de auditoría, y para verlo hicieron falta dos compañeros que formularan en voz alta la versión incómoda de la pregunta y después la contrastaran con el sistema real en lugar de discutirla.

Pregunta qué ocurre con una disposición derogada. En un sistema codificado, el fallo paradigmático no es una cita inventada. Es un artículo real, citado correctamente, que dejó de estar en vigor y se sigue citando como derecho vigente. Si el proveedor trata la derogación como un registro que falta o como un error, y no como un veredicto por derecho propio, el sistema está comprobando si el texto existe, no si rige.Fuentes: por qué una ley derogada no es un dato desactualizado

Pregunta qué significa realmente la marca temporal de una fuente. En la mayoría de los sistemas de recuperación registra cuándo se tocó por última vez el registro, no si lo que dice sigue siendo cierto. Son preguntas distintas con respuestas distintas, y en el hueco entre ambas vive el resultado equivocado que se presenta con total seguridad.

Pregunta por las jurisdicciones en las que realmente trabajas

Pregunta por la diferencia entre una jurisdicción indexada, otra cuyo corpus solo se ha recopilado y otra sobre la que el modelo únicamente puede razonar a partir de conocimiento general. Las tres pueden parecer idénticas en una demostración. Solo la primera te da recuperación contra fuentes reales. Un proveedor que no traza esa línea es un proveedor cuya cifra de cobertura promete más de lo que puede sostener.

Pregunta qué hace el sistema con una jurisdicción que no ha modelado. Hay dos respuestas posibles y solo una es segura. Puede negarse, o puede producir algo aplicando las reglas de una jurisdicción vecina. En todo lo que lleva un plazo asociado, la segunda es la peor salida: se actúa sobre una fecha plausible, la presentación llega tarde y ya no queda nada que arreglar. Pide ver la negativa.

Pregunta si la lógica de verificación se construyó para el idioma en el que va a ejecutarse o se tradujo a él. Las formas en que una afirmación jurídica se tuerce de manera sutil, una negación invertida, un cuantificador debilitado, una excepción omitida, son patrones propios de cada idioma. Un sistema probado de forma adversarial en un idioma no ofrece ninguna garantía de detectar el fallo equivalente en otro, y el modo de fallo es el silencio, no un error.Fuentes: la verificación no viaja con la traducción

Pregunta qué ocurre cuando se equivoca

Pregunta desde qué rol o posición profesional está escrito el análisis. El mismo contrato y la misma ley producen conclusiones distintas según si la pregunta es si cabe autorizar una escritura, si un asiento es inscribible o cuándo hay que presentar. Un defecto irrelevante para un litigante puede ser la conclusión para un registrador. Si el resultado no declara la posición desde la que se ha escrito, ya ha elegido una por ti en silencio.

Pregunta cuánto cuesta un único defecto en el conjunto de una cartera. Un profesional cansado produce errores dispersos; un modelo con un defecto produce el mismo error cada vez que el patrón se repite, en todos los asuntos y a la vez. Esto no es una afirmación sobre quién acierta más de media. Es que el error descorrelacionado se compensa a lo largo de muchas decisiones mientras que el error correlacionado se acumula, y ningún consuelo agregado ayuda al expediente en el que ha caído.Fuentes: la asimetría de la confianza

Por último, pregunta qué aspecto tiene el registro para alguien que no estuvo allí. No si hay un log: todo registra. Pregunta si el registro muestra qué se comprobó, qué no, sobre qué se ejecutó la comprobación y quién responde, en una forma que un regulador o una parte contraria pudiera evaluar sin tener que creer al proveedor en nada de ello. Esa es la diferencia entre un sistema auditable y un sistema que tiene un rastro de auditoría.

Cómo leer las respuestas

Ninguna de estas preguntas tiene una única respuesta correcta, y todo proveedor que responda a las doce sin dudar o es excepcional o ya las había oído y venía preparado. Lo que importa es la forma de la respuesta. Lo concreto gana a lo fluido. Una limitación nombrada gana a una tranquilización. Un ofrecimiento de enseñarte el caso de fallo gana a una demostración en la que todo funciona.

La razón para hacerlas antes de firmar y no después es que la mayoría de estos defectos son invisibles desde fuera justo cuando están haciendo daño. Un sistema que solo informa de los problemas que ha encontrado no tiene, por construcción, nada que decir sobre los problemas que nunca buscó.