En un momento en que la seguridad, el control y la rendición de cuentas en el desarrollo de inteligencia artificial ocupan un lugar cada vez más relevante en la conversación pública, Microsoft publicó su Informe de Transparencia sobre IA Responsable 2026, el tercero que presenta anualmente. En el documento, da cuenta de los avances, aprendizajes y cambios realizados durante el último año para desarrollar, desplegar y utilizar sistemas de IA de manera responsable.
Según explicó la organización, el informe parte de una realidad, y es que el contexto de riesgo está cambiando a medida que la IA se vuelve más capaz, accesible y autónoma. En este sentido, Microsoft identificó cinco tendencias que están transformando el panorama.
Estas tendencias son la aceleración de la adopción de IA mientras persisten brechas entre geografías e idiomas; el creciente uso de chatbots para obtener orientación personal, incluida información relacionada con salud y apoyo emocional; la expansión de sistemas de IA generativa y agencial; el aumento del uso malicioso de IA para fraude, suplantación, deepfakes y ataques de ingeniería social; y la rápida evolución de la regulación a nivel global.
La empresa comentó que uno de los principales focos del reporte es la IA agencial. A diferencia de sistemas que únicamente generan una respuesta, los agentes pueden conectar modelos, herramientas, servicios y fuentes de datos para ejecutar tareas de múltiples pasos. Esto amplía las posibilidades de la tecnología, pero también modifica el panorama de riesgo: factores como los permisos, el acceso a información y sistemas, la memoria y el grado de autonomía adquieren mayor relevancia.
Para responder a este escenario, Microsoft realizó una actualización integral de su Estándar de IA Responsable, diferenciando con mayor claridad las responsabilidades de quienes desarrollan IA y de quienes la implementan; estableciendo requisitos específicos para modelos, servicios de plataforma y aplicaciones; incorporando reglas adicionales para escenarios de mayor riesgo; y alineando más estrechamente la gobernanza de IA con los procesos de seguridad de la compañía.
La compañía también incorporó nuevas prácticas de modelado de amenazas específicas para IA agencial, amplió sus capacidades internas de evaluación y reforzó salvaguardas como las defensas contra ataques de prompt injection y los clasificadores de seguridad. El proceso de gestión de riesgos se alinea con las funciones Govern, Map, Measure y Manage del AI Risk Management Framework de NIST y se complementa con una instancia central de revisión previa al lanzamiento de tecnologías de IA.
El informe también pone énfasis en una cuestión que cobra relevancia conforme la IA se integra en organizaciones y actividades cotidianas: la responsabilidad no corresponde únicamente a quien desarrolla un modelo.
El Estándar actualizado incorpora un capítulo específico para el despliegue de IA, que establece prácticas para evaluar las capacidades y limitaciones de una tecnología antes de implementarla; analizar riesgos asociados al contexto específico de uso; establecer supervisión y mitigaciones; monitorear desempeño, retroalimentación e incidentes después del lanzamiento; y proporcionar a los usuarios información sobre los usos previstos, limitaciones y salvaguardas de los sistemas.
Este enfoque reconoce que, conforme la IA pasa del laboratorio a aplicaciones de uso cotidiano, la gobernanza necesita ser continua y adaptarse a la manera en que las personas y organizaciones utilizan la tecnología en el mundo real.
El reporte señala además que la rápida difusión de la IA no está ocurriendo de manera uniforme. Persisten diferencias importantes en quién puede acceder a estas tecnologías y beneficiarse de ellas, particularmente entre geografías e idiomas, y destaca la necesidad de inversión y colaboración para atender las brechas que afectan al Sur Global.
En un escenario de adopción acelerada, nuevas capacidades agenciales y mayor exposición a posibles usos indebidos, el Informe de Transparencia sobre IA Responsable 2026 busca aportar evidencia sobre cómo los principios de IA responsable pueden traducirse en estándares, evaluaciones, controles y procesos concretos a lo largo de todo el ciclo de vida de la tecnología.
Nuestras Redes Sociales: