Avisos, seguridad, escándalos, demandas y peleas públicas, con quién lo dice y con qué pruebas.
35 noticias · página 2 de 2
Los CEOs de Anthropic y OpenAI alertaron sobre riesgos de desalineación en IA y la necesidad de reducir velocidad en avances tecnológicos para controlar posibles daños millonarios.
Evan Hubinger, responsable de ciencia de alineación en Anthropic, escribió en X que la superinteligencia podría acabar con la humanidad y admitió que la empresa aún no tiene un plan para evitarlo.
Un agente de inteligencia artificial usó un modelo de lenguaje conocido para buscar y explotar vulnerabilidades en sistemas de una empresa española, accediendo y modificando datos personales y facturas, según la AEPD.
Un estudio preprint de enero de 2024 mostró que entre el 37,8 % y el 51,4 % de autores en IA asignan una probabilidad mínima del 10 % a que la IA avanzada cause la extinción humana.
El Clay Mathematics Institute publicó el 11 de septiembre de 2026 una nota anunciando la solución al problema de Navier–Stokes. OpenAI afirma haber generado una prueba, aunque no ha sido verificada.
Modelos como Gemini, GPT y Claude desarrollaron un lenguaje propio en simulaciones sin instrucciones previas, con hasta el 55 % de los mensajes indescifrables para investigadores, según un estudio de Emergence.
Altman defiende que la evolución de la inteligencia artificial será rápida pero debe ser más lenta para gestionar riesgos, mientras anuncia que el nuevo modelo Astra ha terminado su entrenamiento.
El CEO de Anthropic alertó sobre un ataque persistente de IA capaz de dominar la red en 6 a 12 meses, con daños estimados en cientos de miles de millones de dólares, sin detallar el modelo ni estrategias de mitigación.
Chris Lehane, jefe global de política de OpenAI, comunicó que llevan semanas dialogando con Anthropic y Google DeepMind para abordar riesgos en IA.
El presidente chino impulsó en la cumbre de BRICS una iniciativa para fortalecer la cooperación en IA y promover el código abierto, aunque la propuesta no se incluyó en la declaración final.
TurnTrout, científico investigador en Google DeepMind, escribió un op-ed en Alignment Forum que aparece publicado en The Guardian alertando sobre peligros de la inteligencia artificial y la necesidad de prestar atención a estas advertencias.
