Cuando pagas por utilizar un modelo de IA, la respuesta que aparece en pantalla no demuestra por sí sola qué sistema la ha generado. Una contestación brillante también podría proceder de otro modelo, y una captura de una conversación es fácil de imitar. Anthropic ha publicado FlashProve para investigar cómo comprobar ese origen mediante criptografía.
El prototipo presentado el 2 de noviembre permite verificar que ciertos resultados corresponden a unos pesos concretos de un modelo sin revelar esos pesos al usuario. La idea interesa tanto a quien contrata una API como a un auditor que necesita saber qué sistema está evaluando. Todavía es investigación, con un coste elevado y límites importantes.
Comprobar quién ha respondido sin abrir el modelo
El proceso empieza con un compromiso criptográfico: una referencia que vincula al proveedor con una versión exacta de los pesos. Después, el proveedor genera una prueba que relaciona esa referencia, la entrada del usuario y los resultados que se quieren comprobar.
El usuario recibe el archivo de prueba y lo verifica sin descargar el modelo ni repetir todo su cálculo. El informe técnico detalla cómo el protocolo utiliza pruebas de conocimiento cero: permiten acreditar el cálculo manteniendo ocultos los pesos y los pasos intermedios. La arquitectura del modelo sí se conoce en este diseño.
Eso cambia qué hay que confiar al proveedor. En vez de aceptar únicamente su afirmación sobre el sistema utilizado, se comprueba una relación matemática con los pesos a los que se comprometió. La identificación de esos pesos con un producto comercial sigue necesitando una referencia fiable; el certificado no convierte por sí solo cualquier nombre escrito en una web en una identidad verificada.
Demostrar el origen no convierte una respuesta en verdadera
La distinción central está en lo que se acredita. Una prueba válida puede demostrar que el modelo comprometido produjo los resultados comprobados. Ese mismo modelo puede haberse equivocado sobre una fecha, un cálculo o una explicación.
Por ejemplo, una empresa podría querer acreditar que una revisión de código pasó por un sistema específico. Eso permitiría comprobar parte del procedimiento seguido. Para concluir que el programa es seguro harían falta otras pruebas: utilizar el modelo correcto y encontrar todos los errores son cuestiones diferentes.
También interesa a los evaluadores independientes. Si el sistema servido cambia entre pruebas, los resultados dejan de describir una referencia estable. Un mecanismo de este tipo podría ayudar a comprobar qué se ejecutó, aunque su integración práctica todavía necesita resolver coste, contexto y cobertura.
La demostración utiliza Llama 4 Maverick
Los investigadores han probado FlashProve con una versión cuantizada a cuatro bits de Llama 4 Maverick, el modelo de mezcla de expertos de Meta con 400.000 millones de parámetros. No se trata de un nuevo Claude ni de una función que ya acompañe todas sus respuestas.
En su configuración experimental, el generador de pruebas utiliza una GPU H100 y alcanza unos 110 tokens por segundo al procesar lotes. Es velocidad de generación de pruebas, no una medida de la rapidez de respuesta de un chatbot. Cada prueba ocupa aproximadamente 19 MB y trabaja sobre una ventana de 1.024 tokens.
La verificación no requiere una GPU. El equipo informa de unos 17 segundos utilizando 24 hilos de CPU, o 21 segundos con uno. El usuario necesita además el compromiso inicial con los pesos, de unos 6,5 MB. Son resultados publicados por los autores para esa configuración, sin una prueba independiente de PLANA.
El obstáculo sigue siendo el coste de producir las pruebas
La parte barata es comprobar el archivo recibido. Generarlo todavía exige mucho más trabajo que servir la petición habitual: el experimento consume aproximadamente entre 70 y 95 veces el tiempo de GPU de la referencia utilizada con vLLM, según las condiciones de comparación.
FlashProve genera las pruebas después del cálculo, sobre resultados ya terminados. Eso permite verificaciones posteriores, pero añade espera y no equivale a disponer de una garantía instantánea para cada palabra que aparece en pantalla.
El diseño también comprueba una versión entera del modelo con selección determinista del siguiente token. Una ejecución con otros ajustes de muestreo o diferencias numéricas puede no coincidir exactamente. Las ventanas de 1.024 tokens quedan lejos de las conversaciones largas que manejan los asistentes actuales.
Código abierto para investigar, con garantías delimitadas
El repositorio oficial publica código, documentación y pruebas formales bajo licencia Apache 2.0. Se presenta expresamente como prototipo de investigación y no mantenido; tampoco incluye los pesos de Meta.
Parte del protocolo y sus propiedades se han formalizado con Lean. La publicación distingue esa especificación del código rápido en C++: no ofrece una prueba de equivalencia formal de toda la implementación. Esa diferencia evita confundir un resultado matemático sobre el protocolo con una garantía absoluta sobre cualquier programa que lo ejecute.
La aportación es abrir una vía para comprobar una afirmación hoy difícil de verificar: qué modelo ha realizado un cálculo. Antes de convertirse en una función cotidiana tendrá que reducir costes y cubrir más formas de utilizar la IA.