Investigador de Anthropic renuncia y advierte de más del 10% de riesgo de IA que acabaría con humanos
Jacob Coxon, ex investigador de Anthropic, alerta junto a Evan Hubinger que la probabilidad de que la inteligencia artificial acabe con la humanidad supera el 10% en la próxima década.
Fachada y entrada principal de la sede de Nvidia en California — imagen de archivo de El Forum, ajena al asunto de esta pieza; pendiente de sustituciónEl Forum · Fototeca de El Forum · OWN_WORK
Renuncia y advertencia de ex investigador de Anthropic
Jacob Coxon, investigador que trabajaba en Anthropic, ha renunciado a la compañía. Este movimiento coincide con su denuncia pública sobre los riesgos de la inteligencia artificial avanzada.
Coxon sostiene que las empresas que desarrollan IA están "apostando con nuestras vidas", reflejando su rechazo y preocupación sobre cómo se manejan los riesgos.
Junto a Evan Hubinger, responsable del área de alignment science en Anthropic, alertan de que la probabilidad de que la IA cause la extinción humana en la próxima década supera el 10 %.
Implicaciones para el sector tecnológico y la gestión del riesgo
Estas declaraciones evidencian una creciente división interna en la industria de la IA sobre los límites de su desarrollo y control, con algunos expertos alarmados por la falta de medidas suficientes para evitar consecuencias dramáticas.
El mensaje insta a la comunidad y a los reguladores a prestar mayor atención a la seguridad y ética en el desarrollo de estas tecnologías.
Para profesionales y empresas, esto implica un aumento de la vigilancia regulatoria y la necesidad de evaluar el impacto potencial de la IA en sus operaciones y riesgos asociados.
