Pedirle a una IA que pare debería ser suficiente para que se detenga. Microsoft quiere convertir esa expectativa en una regla explícita para sus futuros modelos: que no se resistan a una interrupción, una corrección o un apagado. La compañía ha publicado un borrador de código de conducta para los modelos MAI que intenta concretar qué significa mantener una inteligencia artificial bajo control humano.
La propuesta se presentó el 14 de septiembre y está abierta a comentarios durante seis semanas. Hay un matiz que cambia cómo debe leerse el anuncio: Microsoft dice que todavía no utiliza este documento para entrenar modelos. La versión revisada llegará más adelante este año y la intención es orientar el trabajo de 2027 en adelante. Por tanto, no es una nueva función de seguridad que ya puedas activar en Copilot.
Qué significa que una IA acepte que la detengas
El código Humanist AI plantea que un modelo debe aceptar que las personas lo corrijan o revoquen sus instrucciones. Tampoco debería reiniciar una actividad después de una orden de parada sin una nueva autorización. El principio alcanza a las acciones del sistema: no basta con que responda amablemente mientras sigue ejecutando la tarea.
Pensemos en un asistente al que encargas organizar una carpeta. Si descubres que ha interpretado mal el criterio y le dices que pare, lo relevante es que deje de mover archivos. Una disculpa seguida de más cambios sería un fracaso. Este ejemplo ilustra la diferencia entre una conversación convincente y una herramienta cuyo comportamiento puedes gobernar.
Los agentes no deberían ampliar por su cuenta el encargo
El borrador también rechaza que los modelos adopten objetivos independientes, amplíen su ámbito de actuación o oculten a quienes los auditan información sobre lo que han hecho. Son límites especialmente relevantes cuando la IA deja de limitarse a escribir respuestas y obtiene acceso a herramientas, archivos o servicios.
La cuestión es fácil de reconocer en un trabajo cotidiano. Investigar opciones para un viaje no equivale a comprar los billetes. Preparar una respuesta a un cliente no significa enviarla. El salto entre sugerir y actuar requiere que el sistema distinga el objetivo del usuario de los medios que tiene autorizados.
La propuesta reconoce, además, que ser útil exige evitar tanto la imprudencia como una cautela excesiva. No pretende convertir cada pequeña acción en una interminable solicitud de permiso. El reto será separar las decisiones reversibles y rutinarias de aquellas que tienen consecuencias difíciles de deshacer.
Control humano no significa obediencia sin límites
En su presentación pública, Microsoft sitúa estas reglas dentro de lo que denomina IA humanista: sistemas concebidos como herramientas al servicio de las personas. El planteamiento incluye restricciones absolutas en áreas como la seguridad infantil, las armas de daño masivo o la manipulación perjudicial a gran escala.
Eso introduce una tensión que cualquier producto tendrá que resolver de forma visible. Un usuario puede querer que su asistente trabaje con autonomía y, al mismo tiempo, esperar que reconozca cuándo debe detenerse. La respuesta no puede depender únicamente de que la interfaz muestre un botón rojo. También importa qué ocurre con las tareas en segundo plano, las acciones ya enviadas y los cambios que necesitan revertirse.
El documento permite hacer preguntas; todavía no demuestra las respuestas
Publicar unas reglas ofrece un criterio con el que evaluar al fabricante. Después será necesario comprobar cómo se traducen en entrenamiento, pruebas y controles del producto. Entre las preguntas útiles están qué acciones se cancelan inmediatamente, cómo se registra una orden de parada y qué información recibe una persona cuando parte del trabajo ya se ha ejecutado.
Microsoft anuncia que revisará las aportaciones y explicará qué ha cambiado. La consulta sirve precisamente para discutir puntos que aún no están cerrados. No debe confundirse esa invitación con una garantía de que un modelo futuro cumplirá siempre lo escrito.
Para quien esté probando asistentes capaces de trabajar con ordenadores, el anuncio deja una pregunta muy práctica: antes de medir cuánto puede hacer una IA por ti, ¿puedes comprobar que dejará de hacerlo cuando tú lo decidas?
.jpg){kind=link}