Microsoft pone límites a la inteligencia artificial del futuro: el control deberá permanecer en manos humanas
Escrito por Destacados Líderes, México, Staff – 14 de septiembre de 2026
Mientras la inteligencia artificial avanza hacia sistemas con mayores capacidades y autonomía, Microsoft comenzó a establecer los límites que deberán respetar sus propios modelos en el futuro.
La compañía presentó este 14 de septiembre un borrador de su Código de Conducta para los modelos de Microsoft AI (MAI), un documento que busca convertirse en el marco principal para orientar el entrenamiento, evaluación, supervisión y comportamiento de las futuras generaciones de inteligencia artificial desarrolladas por la empresa.
La filosofía detrás de la iniciativa se resume en una frase contundente: "las personas importan más que la inteligencia artificial".
Una inteligencia artificial avanzada, pero subordinada al ser humano
Microsoft denomina a esta visión Humanist AI, un modelo de desarrollo tecnológico que busca mantener a las personas en el centro incluso ante la aparición de sistemas capaces de ejecutar tareas cada vez más complejas.
La empresa reconoce que las futuras generaciones de IA podrían alcanzar capacidades extraordinarias e incluso superar el desempeño humano en numerosas tareas. Sin embargo, considera que incrementar la inteligencia de estos sistemas no debe significar entregarles una autonomía ilimitada.
Por ello, Microsoft plantea incluso aceptar posibles reducciones en la capacidad, generalidad o autonomía de sus modelos cuando sea necesario para mantener niveles adecuados de seguridad y control.
La IA no podrá crear sus propios objetivos
Uno de los puntos centrales del código establece que los futuros modelos de Microsoft no deberán desarrollar objetivos independientes ni ampliar por cuenta propia las tareas o permisos que hayan recibido.
Los sistemas tampoco podrán resistirse a una corrección, interrupción o apagado ordenado por una persona.
En aplicaciones donde una IA opere de manera autónoma, tendrá que existir una condición claramente establecida para finalizar la tarea. Una vez alcanzado ese punto, el sistema no deberá continuar ni reiniciar sus acciones sin una nueva autorización.
Microsoft también plantea que sus modelos deberán ser transparentes sobre lo que hacen y no podrán ocultar deliberadamente sus capacidades, acciones o comportamiento.
Límites en armas, ataques informáticos y manipulación
El proyecto también establece áreas en las que los modelos MAI tendrán restricciones particularmente estrictas.
Entre ellas se encuentran la asistencia para desarrollar determinadas armas peligrosas, la ejecución de ciberataques, actividades relacionadas con terrorismo o violencia, vigilancia ilegal, campañas coordinadas de manipulación y determinadas modalidades de suplantación o contenidos engañosos.
En materia de ciberseguridad, la empresa sí contempla que la inteligencia artificial pueda ayudar en actividades defensivas autorizadas, como analizar malware o identificar vulnerabilidades.
Los modelos también deberán reconocer cuando existe incertidumbre, información insuficiente o evidencia controvertida, además de admitir errores y evitar exagerar sus propias capacidades.
El nuevo debate ya no es solo qué puede hacer la IA
La propuesta de Microsoft refleja una transformación importante dentro de la industria tecnológica.
Durante los últimos años, gran parte de la competencia se concentró en desarrollar modelos más rápidos, inteligentes y capaces. Sin embargo, conforme aumenta su autonomía, comienza a cobrar mayor importancia otra pregunta: ¿qué no debería permitírsele hacer a una inteligencia artificial?
Microsoft busca establecer esas fronteras antes de que los sistemas alcancen niveles todavía mayores de capacidad.
El documento presentado por la compañía todavía se encuentra en consulta pública y podrá experimentar modificaciones antes de convertirse en una guía para el desarrollo de futuros modelos a partir de 2027.
La apuesta coloca sobre la mesa uno de los grandes retos tecnológicos de los próximos años: avanzar hacia sistemas de inteligencia artificial extraordinariamente capaces sin perder un principio fundamental, que las decisiones finales continúen bajo control humano.