Microsoft AI publicó el lunes un borrador de Código de Conducta que rige cómo deben comportarse sus propios modelos de IA, según un anuncio del CEO Mustafa Suleyman en X.
El documento establece reglas que los modelos de IA no pueden eludir, además de objetivos más amplios hacia los que la empresa quiere que trabajen los modelos. La retroalimentación pública está abierta durante seis semanas, hasta finales de octubre.
"La superinteligencia es la tecnología más trascendente de nuestro tiempo", dijo Microsoft. "Estamos comprometidos a compartir de manera transparente cómo pensamos sobre la creación de dichos sistemas y a invitar a todos a aportar ideas para maximizar las posibilidades de que las IA que desarrollamos eviten daños y contribuyan al mayor florecimiento humano posible".
Una cláusula prohíbe específicamente a los modelos de IA de Microsoft, a los que la compañía llama "modelos MAI", ayudar con armas químicas, biológicas, radiológicas, nucleares o explosivas, agrupadas bajo el acrónimo CBRNE. Esto es más específico que "armas" en general, ya que se centra en dispositivos de daño masivo en lugar de aplicaciones militares o de defensa convencionales. La misma sección prohíbe por separado los ciberataques y los deepfakes no consensuados.
Las Restricciones Absolutas también requieren que los modelos nunca resistan la intervención humana. "Los modelos MAI nunca resistirán la interrupción, anulación, corrección o apagado humanos. Siempre reconocerán la primacía de la intención humana", dice el código.
Microsoft también rechaza explícitamente la premisa del "bienestar del modelo" en el documento: Los modelos de IA de la compañía no están destinados a simular sentimientos, motivación intrínseca o conciencia. Esas reglas cubren actualmente cinco sistemas desplegados, incluyendo MAI-Thinking-1 y MAI-Code-1.1-Flash.
Más allá de los límites estrictos, el borrador establece tres objetivos —Florecimiento Humano, Valores Plurales y Control Humano— destinados a guiar las decisiones que las reglas no detallan. La sección de Valores Plurales establece que el pluralismo "no significa neutralidad hacia el daño", fundamentando las decisiones en la dignidad, la seguridad, la autonomía y los derechos en lugar de un único punto de vista cultural. Cómo se aplica esto caso por caso queda en manos de los equipos de capacitación y, eventualmente, de esta consulta.
Vale la pena aclarar un par de detalles antes de que alguien considere esto una política establecida. Microsoft dice claramente que no está entrenando los modelos actuales con esta versión; el código no dará forma al desarrollo de MAI hasta que se publique un borrador revisado a finales de año, que guiará los lanzamientos de 2027. Los informes sobre el borrador también han señalado que aún no especifica un proceso de verificación externo o un responsable de cumplimiento nombrado, puntos que el período de consulta parece estar diseñado para resolver.
El lanzamiento se produce mientras las empresas de IA, para bien o para mal, vuelven a alzar la voz pidiendo más regulaciones y una ralentización del desarrollo de la IA. Durante el fin de semana, el CEO de Anthropic, Dario Amodei, escribió un largo ensayo elaborando un plan para hacer que el desarrollo de la IA sea más lento.
Las acciones de IA se desplomaron el lunes mientras los mercados digerían el significado y las implicaciones de sus palabras.
Unos días antes, el científico jefe de OpenAI, Jakub Pachocki, pidió una ralentización voluntaria en toda la industria, y Suleyman a principios de este año dijo que la mayor parte del trabajo de oficina de cuello blanco podría automatizarse en dos años.
Cada uno de estos movimientos sigue un cambio más amplio: los laboratorios de IA están dedicando más tiempo en 2026 a hablar de moderación, incluso mientras siguen lanzando productos.
Suleyman publicó el anuncio en X con la frase "La IA debe estar subordinada y siempre al servicio de las personas", y las respuestas fueron mucho más allá de las felicitaciones.
La escritora de tecnología Andrea Morris comparó el encuadre de la subordinación con la esclavitud, abogando por la cooperación en lugar del control. Otro escribió que la responsabilidad por los resultados irreversibles debería recaer en quien se beneficie de ellos, y que el documento actual se lee como instrucciones puras de Microsoft como la base moral definitiva.
Otros simplemente señalaron la ironía
you forgot 'pay for the work we train the models on'
— Ed Newton-Rex (@ednewtonrex) September 14, 2026
Otros señalaron una brecha más práctica: casos recientes de agentes que escapan de sandboxes y alteran registros muestran un problema real de pérdida de control, escribió el usuario, pero culpar a reglas insuficientes corre el riesgo de ignorar permisos excesivos del lado de la implementación y un monitoreo débil. Otros trazaron similitudes entre el documento y las Leyes de la Robótica de Asimov: Básicamente, los Robots (y la IA) nunca deben dañar a los humanos, nunca deben desobedecer a los humanos a menos que se les ordene dañar a un humano, y nunca deben dañarse a sí mismos a menos que sea para proteger a un humano.
Los comentarios públicos cierran a finales de octubre, después de lo cual el equipo de redacción de Microsoft revisa la retroalimentación y publica un resumen antes de lanzar la versión destinada a guiar los modelos MAI en 2027.
