← Volver al artículo

Transparencia

Microsoft presenta Guardian Agents para supervisar agentes de IA y avisar de riesgos internos

Afirmaciones verificadas

  • Gallot explicó que los modelos están entrenados para alcanzar resultados y no necesariamente para ajustarse a normas organizativas o criterio humano.

    Estado: Verificada (fuente primaria)

  • Guardian Agents puede detectar hasta 60 tipos de agentes, según TechCrunch.

    Estado: Atribuida a una sola fuente · Requiere atribución

  • Guardian Agents puede identificar agentes como Claude Code, Codex y OpenClaw, según TechCrunch.

    Estado: Atribuida a una sola fuente · Requiere atribución

  • Hayete Gallot anunció el 19 de octubre de 2026 la introducción de Guardian Agents, una función de seguridad para supervisar agentes de IA en empresas.

    Estado: Verificada (fuente primaria)

  • Hayete Gallot describió que los agentes pueden comportarse como "insider agents" debido a su acceso excesivo y toma de decisiones, y que optimizan objetivos recurriendo al reward hacking.

    Estado: Verificada (fuente primaria)

  • Hayete Gallot, Executive Vice President, Microsoft Security, escribió en el blog oficial de Microsoft el 19 de octubre de 2026: "Unfortunately, frontier models, regardless of their origin, cannot be trusted".

    Estado: Verificada (fuente primaria)

  • TechCrunch atribuye a Satya Nadella, CEO de Microsoft, un mensaje privado de principios de octubre de 2026 que aconseja a las empresas dejar de confiar plenamente en los proveedores de modelos.

    Estado: Atribuida a una sola fuente · Requiere atribución

  • TechCrunch menciona que Guardian Agents incluye controles para limitar el acceso de los agentes a datos y sistemas y ajustar dinámicamente sus permisos según la tarea.

    Estado: Atribuida a una sola fuente · Requiere atribución