Aseguramiento sin acreditador: construir infraestructura de verificacion antes de que nadie pueda comprobar tu trabajo

El 7 de julio de 2026, la Comision Europea publico su Action Plan on Cybersecurity and Artificial Intelligence (COM(2026) 577 final). Enterrado en la Seccion 2.2 hay un compromiso de crear una capacidad europea de evaluacion para modelos de IA de frontera: un organismo externo que evaluara que pueden hacer los modelos, si las mitigaciones de seguridad de los proveedores se sostienen realmente, y que respaldara el cumplimiento del AI Act y del GPAI Code of Practice. Se establecera mediante una convocatoria especifica, con la capacidad prevista para entrar en funcionamiento en 2027. El Action Plan promete que esta capacidad garantizara "a credible and rigorous external evaluation process".Fuentes: COM(2026) 577 final (EUR-Lex)

A esa frase va asociada la nota al pie 20. En ella se afirma que esta capacidad no sera un organismo de evaluacion de la conformidad, y que unicamente respaldara el cumplimiento a traves de sus evaluaciones, sin certificarlo directamente.

Leida en sentido estricto, la nota al pie es una clausula de delimitacion del alcance. Leida como patron, describe algo mucho mas comun que un solo documento de politica de la UE: una institucion a la que se le pide que produzca aseguramiento antes de que exista el aparato que haria ese aseguramiento comprobable de forma independiente. La propia infraestructura de acreditacion de la UE no tiene nada preparado para evaluar las capacidades de los modelos de frontera. La norma de sistemas de gestion pertinente, ISO/IEC 42006, certifica organismos que auditan procesos de gobernanza de la IA. No dice nada sobre organismos que prueben lo que un modelo realmente puede hacer. La ciencia de la evaluacion de los modelos de frontera tiene apenas unos pocos anos. Forzarla a atravesar un ciclo de acreditacion disenado para metodologias maduras y estables la congelaria antes de que haya tenido la ocasion de madurar.

Asi que la decision de arrancar sin acreditacion es defendible. Lo que no es defendible, y lo que el documento de la UE no resuelve, es que ocurre a medida que los resultados producidos por esta capacidad informal se emplean para decisiones cada vez mas trascendentes, mientras la propia capacidad sigue siendo exactamente tan informal como el dia en que arranco. Cada informe que aterriza en la mesa de un regulador con esta evaluacion adjunta vuelve la evaluacion mas estructural. Nada en la estructura informal se ajusta en respuesta. Una institucion puede ser perfectamente legitima en el arranque y estructuralmente irresponsable cinco anos despues, sin una sola decision por el camino que parezca erronea de forma aislada.

Este no es un problema especifico de un unico instrumento de politica de la UE. Es la condicion de casi toda funcion nueva de verificacion o evaluacion en un campo que avanza deprisa, incluida la que nosotros estamos construyendo.

La forma general del problema

Despoja el detalle especifico de la UE y el patron es este: un nuevo tipo de afirmacion necesita comprobacion (se comporta realmente de forma segura este modelo de frontera, refleja realmente esta cita legal el derecho vigente, se sostiene realmente este registro de cumplimiento generado por IA), y todavia no existe ningun acreditador externo con una metodologia lo bastante madura para certificar a quien lo compruebe. Se presentan dos opciones, y ambas son erroneas de una manera especifica e instructiva.

La primera opcion erronea es esperar. Negarse a publicar una evaluacion, una verificacion, una calificacion, hasta que exista un acreditador que bendiga la metodologia. Esto suena responsable y en realidad es una dejacion, porque el acreditador que todavia no existe no puede llegar a existir sin un cuerpo de practica de evaluacion que estudiar, criticar y con el tiempo normalizar. Los regimenes de acreditacion se construyen observando a evaluadores reales tomar decisiones de criterio reales, incluidas las malas, a lo largo de anos. Negarse a evaluar nada hasta que ese proceso ya haya ocurrido en otra parte solo significa que la practica de evaluacion informal de otro se convierte en el estandar de facto mientras la tuya sigue siendo teorica.

La segunda opcion erronea, y la mas comun, es evaluar de todos modos y dejar que el resultado parezca exactamente tan autoritativo como si detras hubiera un acreditador. Un informe con una puntuacion, una metodologia con nombre, un apto o no apto limpio, se lee igual para quien toma una decision aguas abajo tanto si procede de un regimen de acreditacion curtido en mil batallas como de un equipo que invento su rubrica hace seis meses. Nada en la forma visual y retorica de un informe de evaluacion senala cuanto peso epistemico puede realmente soportar. Este es el modo de fallo que importa, porque es invisible desde fuera y comodo desde dentro. Nadie tiene que mentir. El evaluador puede ser completamente sincero y aun asi producir algo en lo que se confia mucho mas alla de lo que su propio proceso puede sostener, simplemente porque el informe no distingue entre lo que se sometio realmente a estres y lo que fue una conjetura razonable bajo restricciones reales.

La tercera opcion honesta, de la que trata este articulo, es evaluar ahora, rechazar la apariencia de una autoridad que no se tiene, y construir las disciplinas concretas que permiten que el propio proceso pueda ser auditado por cualquiera, en cualquier momento, sin esperar a que un acreditador lo haga por ellos.

Por que la cifra unica de confianza es donde la confianza deja de estar justificada

El mecanismo por el cual la evaluacion informal pasa calladamente a ser objeto de una confianza excesiva discurre casi siempre por la misma decision de diseno: colapsar en un unico resultado dos estados epistemicos estructuralmente distintos.

El estado uno es una afirmacion que ha sido comprobada contra algo externo y verificable: una cita resuelta a una fuente real que dice lo que se afirma que dice y que sigue en vigor, un comportamiento de un modelo reproducido en condiciones controladas contra una prueba documentada, un registro de cumplimiento cotejado contra un registro de verdad de referencia (ground truth). El estado dos es una decision de criterio tomada bajo incertidumbre genuina: una interpretacion sobre la que expertos razonables discreparian, un caso en el que la metodologia subyacente todavia no se ha validado contra suficientes ejemplos como para conocer su tasa de error, un caso limite que el evaluador senalo internamente pero resolvio con una conjetura razonada en lugar de con una respuesta consolidada.

Ambos estados son partes legitimas de hacer trabajo de evaluacion real bajo restricciones de tiempo y de recursos. El fallo esta en publicarlos de forma identica. Una puntuacion unica, un unico apto o no apto, un unico porcentaje de confianza, borra la distincion que un lector aguas abajo necesitaria para calibrar cuanto peso otorgar al resultado. Y como el trabajo del estado dos a menudo se ve y se lee exactamente igual que el trabajo del estado uno, una vez que se expresa en el mismo formato, la disciplina necesaria para mantenerlo honesto desaparece en el momento exacto en que mas se necesita: bajo la presion de parecer resolutivo, de cerrar una revision, de dar a un cliente o a un regulador una respuesta limpia en lugar de una matizada.

Este no es un modo de fallo hipotetico. Es el comportamiento por defecto de la mayoria de las funciones de evaluacion y calificacion bajo presion comercial o politica, porque un informe que dice "confirmed" y "genuinely unresolved, here is why" en dos secciones visiblemente distintas se lee como menos autoritativo que uno que reporta una unica cifra pulcra, aun cuando el primero es el mas honesto y, con el tiempo, el mas fiable de los dos.

Las disciplinas que sustituyen al acreditador que todavia no tienes

Si la acreditacion no esta disponible, la alternativa no es menos rigor. Es rigor que hace sobre uno mismo el trabajo del acreditador, hecho lo bastante visible como para que cualquiera desde fuera pueda realizar la comprobacion que el acreditador habria realizado, sin necesitar el respaldo institucional del acreditador para hacerlo.

Separar lo confirmado de lo no resuelto como un resultado estructural, no como una nota al pie. Todo resultado de evaluacion deberia llevar un estado explicito y de primer nivel junto a su contenido: esto se comprobo contra una verdad de referencia externa y verificable y paso; esto fue una decision de criterio bajo ambiguedad genuina y se resolvio de esta manera por estas razones declaradas; esto es una laguna conocida en la que la metodologia todavia no tiene cobertura. No son gradaciones de la misma puntuacion. Son tipos de afirmacion distintos, y colapsarlos en una unica cifra es precisamente la decision de diseno que permite que la evaluacion informal desborde calladamente lo que realmente puede sostener. Un lector que puede filtrar un informe hasta dejar solo las afirmaciones confirmadas tiene un documento genuinamente distinto y mas defendible que uno que tiene que confiar en el agregado.

Publicar la metodologia como un artefacto versionado, no como una descripcion puntual. La verdadera funcion de un acreditador tiene menos que ver con bendecir una evaluacion concreta que con rastrear como cambian los estandares de un evaluador con el tiempo y detectar la deriva. En ausencia de un acreditador, ese rastreo tiene que ser autoimpuesto y publico: todo cambio material en la forma de realizar las evaluaciones recibe un numero de version, una entrada en el registro de cambios y una fecha, de modo que cualquiera que audite un resultado de hace dieciocho meses pueda ver exactamente que metodologia lo produjo y como se ha revisado esa metodologia desde entonces. Los documentos de metodologia estaticos y sin fecha dejan que los estandares de un evaluador se erosionen calladamente bajo presion comercial sin que nadie pueda demostrar que ocurrio.

Mantener la afirmacion lo bastante estrecha como para ser falsable. Cuanto mas amplia es una afirmacion, menos puede comprobarla nadie. "This AI system is trustworthy" no puede ser verificada ni refutada por un tercero externo; es una afirmacion halo disfrazada de evaluacion. "La cita de este resultado concreto se resuelve a esta fuente concreta, que estaba en vigor a esta fecha, verificada contra esta version concreta del registro subyacente" puede ser comprobada por cualquiera con acceso al registro, con independencia de cualquier confianza en el respaldo institucional del evaluador. Toda capacidad de evaluacion que opere sin acreditacion deberia ir estrechando sus afirmaciones hasta que cada una sea comprobable de forma independiente por una parte que no tenga motivo alguno para confiar en el evaluador. La amplitud de la afirmacion es donde se esconde la autoridad sin rendicion de cuentas.

Adoptar la autocomprobacion adversarial como practica permanente, no como una auditoria puntual. Dado que no hay ningun acreditador externo disponible que intente romper tu metodologia, ese papel tiene que cubrirse internamente, y cubrirse con personas cuyo incentivo sea encontrar el fallo, no defender el proceso. Esto significa buscar deliberadamente los casos con mas probabilidad de dejar en evidencia a la evaluacion, publicar la tasa de fallo junto a la tasa de acierto, y tratar un caso que desmienta como un resultado mas valioso que uno que confirma. Una capacidad de evaluacion que solo reporta sus exitos no esta haciendo sobre si misma el trabajo del acreditador; esta haciendo marketing.

Nombrar, por anticipado y en publico, la condicion que pone fin al periodo informal. La leccion mas nitida de la propia nota al pie 20 de la UE es que la informalidad que se deja sin fecha se vuelve permanente por defecto, no por decision. El correctivo es declarar explicitamente, antes de que la presion externa fuerce la cuestion, que tendria que ser cierto, que volumen de casos validados, que nivel de madurez metodologica, que replicacion independiente, para que esta capacidad de evaluacion persiga activamente la acreditacion formal o la validacion externa en lugar de seguir operando de manera informal por defecto. Fijar esa condicion publicamente es lo que impide que una capacidad informal se convierta en una permanente y sin rendicion de cuentas simplemente porque nadie con la autoridad para formalizarla tuvo nunca que responder por no haberlo hecho.

Lo que esto no resuelve

Nada de lo anterior sustituye a una acreditacion real una vez que esta llega a estar disponible. El rigor autoadministrado tiene un limite irreducible: el evaluador sigue corrigiendo sus propios deberes, e incluso un evaluador escrupulosamente honesto no puede reemplazar del todo la funcion que cumple una parte independiente, precisamente porque la independencia es la unica propiedad que la autoadministracion no puede producir. Las disciplinas anteriores son un puente, no un destino. Tratarlas como suficientes para siempre es exactamente el fallo del que advierte Patrick Sullivan, VP of Strategy and Innovation en A-LIGN y miembro de ISO/IEC JTC1/SC42, en su lectura de la nota al pie 20 de COM(2026) 577 final, aplicado un nivel mas abajo: un evaluador que construye un rigor interno excelente y luego deja de presionar por la acreditacion externa una vez que la version interna le parece adecuada ha recreado la misma trampa informal pero estructural que arriesga el documento de la UE, solo que con mejor ingenieria interna.

La prueba de si una disciplina puente es honesta es si esta trabajando activamente para volverse obsoleta: si esta rastreando, publicamente, las condiciones bajo las cuales entregaria su funcion a un acreditador real y daria un paso atras. Una capacidad de evaluacion que ha dejado calladamente de desear que llegue ese dia ha dejado de ser un puente y se ha convertido exactamente en la institucion informal pero estructural contra la que advierte Sullivan, solo que con mejor documentacion.