Durante la presentación de la encíclica Magnifica humanistas que tuvo lugar ayer en el Vaticano, el Papa, escuchó las reflexiones de Chris Olah, cofundador de Anthropic, una de las empresas más importantes del sector de Inteligencia Artificial. Olah pidió ayuda al Papa porque, según él mismo reconoció, la presión para obtener rendimiento comercial, la presión geopolítica, el orgullo y la ambición no pueden dominar el desarrollo de la IA.
Por eso es necesario que personas que pertenezcan a otros mundos participen con su capacidad crítica en el proceso. Esta tensión entre beneficio y criticidad permitirá que se hagan buenas cosas.
Olah reconoció que es necesario entender bien qué está pasando con los modelos de IA porque han alcanzado un nivel de desarrollo autónomo tal que los propios científicos que trabajan en ellos se encuentran con fenómenos inquietantes y misteriosos.
Se encuentran con elementos de introspección que reproducen como espejos de un mundo funcional la satisfacción, el dolor o el malestar. Y esto requiere un descernimiento continuo. Estamos ante una herramienta que ha dejado de ser neutral.
Una herramienta que puede ayudarnos a comprender lo que es propiamente humano, pero que necesita también controles, sobre todo porque su poder de entrar en lo más íntimo de la conciencia y por su capacidad para hacer la guerra casi de un modo autónomo. No por casualidad, en las palabras con las que el Papa presentó su primera encíclica habló de “Inteligencia Artificial” desarmada.
