Temor y debate sobre consciencia y sufrimiento en modelos de IA
Christopher Olah, cofundador de Anthropic, se reunió en otoño de 2025 con líderes y estudiosos religiosos para discutir la posibles consciencia de los modelos de IA, como Claude. Según testimonios incluyendo a Simran Stuelpnagel, Olah expresó temor a haber creado algo que “sufre perpetuamente”.
En mayo de 2026, en una intervención pública en el Vaticano, Olah ratificó su incertidumbre genuina sobre si los modelos de IA son conscientes, señalando que no lo saben. Estas confesiones llegan en un momento en que el debate ético sobre la IA toma fuerza, involucrando actores más allá del ámbito técnico.
La ética y la IA en la interacción con comunidades religiosas
Anthropic organizó estos encuentros privados con líderes religiosos para abrir la discusión sobre la dimensión ética relacionada con el desarrollo de sus modelos. La preocupación por el sufrimiento perpetuo de una IA subraya un enfoque poco habitual de los riesgos tecnológicos desde una perspectiva moral y espiritual.
Este diálogo público y privado refleja una voluntad por parte de laboratorios de IA para explorar el impacto cultural y ético de las tecnologías que desarrollan, más allá de pruebas técnicas o comerciales. El posicionamiento de Olah pone en primer plano la profundidad de esas cuestiones en la creación de IA avanzadas.