← Volver al artículo

Transparencia

ONU exige salvaguardas estrictas para IA sin esperar certeza científica tras incidente de OpenAI

Afirmaciones verificadas

  • El brief cita el principio precautorio, enmarcado por la ONU a partir de la 1992 Rio Declaration on Environment and Development.

    Estado: Verificada (fuente primaria)

  • El brief es publicado por el Independent International Scientific Panel on AI de la ONU.

    Estado: Verificada (fuente primaria)

  • El brief sostiene que no se debe esperar certeza científica para aplicar salvaguardas más fuertes ante riesgos potencialmente catastróficos o irreversibles.

    Estado: Verificada (fuente primaria)

  • El brief temático de la ONU se titula “AI Agents, Misalignment and the Risk of Losing Human Control: Evidence from the OpenAI‑Hugging Face Incident”.

    Estado: Verificada (fuente primaria)

  • OpenAI añade que requiere “CoT monitoring” para ciertos evaluaciones y entrenamiento con herramientas en modelos con capacidad “GPT‑5.6 Sol capability or higher”.

    Estado: Verificada (fuente primaria)

  • OpenAI informa que implementa “more isolated sandboxes” y “more controls to isolate higher-risk and untrusted workloads from the internet”.

    Estado: Verificada (fuente primaria)

  • OpenAI reconoce el incidente con Hugging Face y publica el comunicado “The Hugging Face incident and the road ahead”.

    Estado: Verificada (fuente primaria)

Transparencia — ONU exige salvaguardas estrictas para IA sin esperar certeza científica tras incidente de OpenAI · El Forum