Cada cierto tiempo dimite un empleado de las grandes empresas tecnológicas para denunciar los riesgos de la inteligencia artificial. Este miércoles ha sido el turno de Jacob Coxon, un joven ingeniero de Anthropic que ha presentado su renuncia al considerar que la carrera para mejorar estos sistemas supone un peligro existencial para la humanidad. «Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década», ha asegurado en un mensaje publicado en X.
Coxon, también extrabajador de OpenAI, ha lamentado que «ninguna de las dos compañías están actuando de manera responsable» al protagonizar —con el permiso de Google— la carrera por el desarrollo de una «superinteligencia» que pueda ser capaz de mejorar sus capacidades de forma autónoma, sin intervención exterior. «En OpenAI, muchos no han interiorizado a fondo lo que está en juego a escala de civilización. En Anthropic sí se entiende bien lo que está en juego, pero están atrapados en una carrera por llegar antes», ha asegurado. «Están jugando con nuestras vidas».
Las palabras del investigador exponen una creencia cada vez más compartida en Silicon Valley, meca de la industria tecnológica en Estados Unidos, que ve en la IA una amenaza a la supervivencia de la raza humana. Esa fe se está viendo alimentada por los crecientes problemas que la IA presenta en campos como la ciberseguridad. «Pronto serán sistemas sobrehumanos capaces de piratear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y hacerse con poder y recursos reales», cree Coxon.
Su ex jefe, Evan Hubinger, ha ampliado esa corriente de pensamiento con un mensaje en el que le da la razón. «¡De verdad creemos que la IA puede matar a todo el mundo! Yo personalmente creo que la probabilidad es superior al 10% en la próxima década», ha dicho en X. Hubinger es responsable de investigación en alineación, disciplina que estudia cómo hacer que los modelos hagan solo lo que los usuarios piden. Aun así, ha matizado que el riesgo de modelos actuales como ChatGPT, Claude o Gemini «es bajo».
La idea de que la IA matará a todos los humanos es una especulación sin base alguna
Visión catastrófica de la IA
Tanto OpenAI como Anthropic llegan años coqueteando con una narrativa catastrofista de la IA. Ya en 2015, Sam Altman calificó la «superinteligencia» como «probablemente la mayor amenaza para la supervivencia de la humanidad». Eso responde, parcialmente, a una estrategia para secuestrar la atención y captar más inversiones. Ambas se preparan para lanzar en los próximos meses las que podrían ser las mayores salidas a bolsa de la historia.
No obstante, muchos también están convencidos de que se alcanzará la IA general (AGI, por sus siglas en inglés), la borrosa teoría que imagina una IA tan o más lista que un ser humano. «Hay movimientos casi religiosos donde la gente cree que está construyendo algo parecido a un dios o un demonio de IA, y que va a ser el precursor de la próxima era de la civilización», ha explicado la periodista Karen Hao en una entrevista con EL PERIÓDICO. «La idea de que la IA matará a todos los humanos es una especulación sin base alguna», explicó Melanie Mitchell, catedrática de Complejidad en el Instituto Santa Fe, a este diario.
Sam Altman, cofundador y director ejecutivo de OpenAI, la start-up de IA responsable de ChatGPT. / Franck Robichon / EFE
La ideología que marca la IA
Tanto apocalípticos como utópicos alimentan así una mitología que responde más a una creencia que a una realidad empírica. La percepción de la IA como riesgo existencial bebe del Largoplacismo, una postura ética que aboga por anteponer los hipotéticos problemas de una sociedad futura a los actuales. En la práctica, eso supone priorizar las medidas que abordan una IA como Terminator a, por ejemplo, el cambio climático.
«Esa visión del mundo apela a los más ricos porque les proporciona una excusa moral perfecta para ignorar problemas como la pobreza y les recompensa por centrarse en un futuro lejano», valora Émile P. Torres, filósofo especializado en la extinción humana. Para la filósofa Carissa Véliz, profesora en la Universidad de Oxford, la ideología que más condiciona la frenética carrera por el dominio de la IA es «peligrosa», pues es muy efectiva dando un barniz de aceptabilidad o de moralidad a acciones que realmente son juegos de poder.
Esa visión del mundo apela a los más ricos porque les proporciona una excusa moral perfecta para ignorar problemas como la pobreza y les recompensa por centrarse en un futuro lejano
Casos similares
No es la primera vez que un investigador expone a los gigantes de la IA generativa. Durante el primer semestre de 2024, William Saunders, Daniel Kokotajlo y Jan Leike renunciaron a sus puestos tras considerar que la apuesta de OpenAI por construir máquinas más inteligentes que los humanos era «inherentemente peligrosa» y podía acabar «potencialmente con la extinción humana».
Sin embargo, el caso más irónico es el protagonizado por Dario Amodei, que a finales de 2020 saltó del barco de OpenAI junto con otros seis empleados presuntamente preocupados por la falta de medidas de seguridad de la creadora de ChatGPT. Menos de un mes después fundaron Anthropic, que se ha presentado al mundo como una compañía más «ética», si bien está repitiendo muchas de las actitudes de la firma dirigida por Altman que denunció.
Suscríbete para seguir leyendo
