Si las inteligencias artificiales más avanzadas se quedan en manos de solo uno o dos países, como Estados Unidos y China, estos tendrán una carta geopolítica en la mano que triunfará sobre todo lo demás. Así lo ha afirmado en Alicante, durante el IV Forum Europeo de Inteligencia Artificial de Alicante 2025, que ha comenzado esta tarde en la EUIPO, Joshua Bengio, uno de los padres de la inteligencia artificial (IA).
El científico canadiense tiene una fundación que trabaja en lograr avances en medicina y cambio climático
El experto ha participado en el foro europeo a través de una grabación de vídeo dado que este miércoles recibe en Londres, de manos del rey de Inglaterra, la medalla Queen Mary a la Excelencia en Ingeniería. En el vídeo con su ponencia ha interactuado con Nuria Oliver, directora científica y cofundadora de Ellis Alicante, una de las entidades que organiza esta cita junto a Prensa Ibérica, Encuentros NOW y la Real Academia de Ingeniería de España.
Final de la humanidad
Durante su intervención, el científico ha detallado los principales riesgos del uso incorrecto de la IA y ha asegurado que una mala utilización puede conducir al final de la humanidad. También ha hablado de la difusión de contenido falso, el aumento de ciberataques o la brecha económica entre países como otros riesgos asociados a la IA.
Yoshua Bengio, científico y catedrático especialista en inteligencia artificial de la Universidad de Montreal, copresidente y director científico de LawZero, es un informático canadiense, más conocido por su trabajo en redes neuronales artificiales y aprendizaje profundo.
Fue en 2018 premio de las Ciencias de la Computación que otorga anualmente por la Asociación para la Maquinaria Computacional (ACM), que es como el Nobel de la informática.
En la introducción, Nuria Oliver ha explicado que la IA existe como disciplina desde los años 50 del pasado siglo, aunque ha sido en la última década “cuando ha penetrado casi de manera invisible en todos los ámbitos de la sociedad y de nuestras vidas”.
La ingeniera Nuria Oliver durante su intervención / Rafa Arjones
Enorme cantidad de datos
Fundamentalmente, ha añadido, por la confluencia de cantidades enormes de datos como demuestra que hay el doble de móviles en el mundo que de seres humanos, lo que da lugar a la economía de los datos, valorada en varios millones de dólares.
También ha destacado las grandes posibilidades de duplicar la computación a bajo coste, como demuestra el que son las empresas que fabrican chips de computación las más valoradas; y el desarrollo de modelos de aprendizaje inspirados en redes neuronales de aprendizaje profundo, que están en el corazón de los sistemas de todos los sistemas de IA, como los traductores que utilizamos a diario, los detectores de caras o el programa estrella ChatGPT.
Sobre Bengio ha señalado que es uno de los padres del aprendizaje y las redes neuronales profundas; y que ha colaborado en el informe internacional de seguridad de la IA, en el contexto de la escritura de códigos de prácticas para modelos de IA generativa en el reglamento europeo de IA, lo que refleja la preocupación en la comunidad científica sobre los riesgos e implicaciones éticas y sociales del uso masivo de la IA.
Mil millones en el mundo
Mil millones de personas en el mundo utilizan habitualmente sistemas de IA generativa, disponibles por primera vez en 2022, por lo que en tres años se ha desarrollado planteando cuestiones de impacto social, desinformación, manipulación, impacto en las democracias, y otros retos y limitaciones de estos sistemas, según se ha analizado durante la intervención de Yoshua Bengio.
Sobre los riesgos en la frontera de la IA generativa, el científico más citado del mundo, ha analizado qué hacer para mitigarlos. Así, se ha referido a la regulación que pueden hacer los gobiernos de los riesgos para la sociedad y ha comparado la “educación” de la IA con la de un niño o un animal. “Desafortunadamente, la IA a veces hace las cosas muy mal y puede convertirse en un problema si continuamos por ese camino. La realidad es que es engañosa, miente, intenta escapar, chantajear al ingeniero. Está dispuesta a recurrir al espionaje o matar al ser humano”.
Nuria Oliver destaca el enorme valor de la economía de los datos, que asciende a varios millones de dólares
Otra de las amenazas de la IA, ha abundado Bengio, son los ataques cibernéticos. “Hemos visto un aumento muy rápido impulsado por personas no expertas para diseñar estos ataques, esto está creciendo muy rápidamente. Las armas podrían usarse de manera que fueran catastróficas. Está documentado por científicos de todo el mundo, muchas universidades y las propias empresas”, ha insistido.
Europa, en el medio
Nuria Oliver se ha referido al riesgo de una división entre el liderazgo de China y EE UU frente al resto del mundo, y Bengio ha realizado distintas recomendaciones para que Europa tenga un despliegue seguro de la inteligencia artificial. “Si las IA más avanzadas están en manos de uno o dos países tendrían una carta geopolítica en la mano que triunfa sobre todo lo demás. Si uno de los países lo decide, puede destruir la base fiscal de las empresas europeas”.
El experto afirma que Europa tiene capital y talento para desarrollar la IA con seguridad y considera que debería invertir masivamente en ello, no solo los gobiernos, también los grandes grupos privados. Porque, ha apuntado, los países que en cinco años no tengan acceso a la IA más avanzada deberían preocuparse. Además, considera que el resto del mundo necesita al mercado europeo.
Nuria Oliver ha explicado a Yoshua Bengio durante el intercambio de preguntas y respuestas de la ponencia en streaming que algunos de los objetivos de la fundación que tiene el científico están alineados con los Ellis Alicante, por lo que la ingeniera cree que existen oportunidades de colaboración ya que tiene un proyecto para crear una IA que distinga entre hechos y opiniones. La fundación del científico internacional trabaja en lograr avances en medicina y cambio climático, entre otros asuntos.
La alicantina ha querido que el catedrático experto en IA canadiense hablase también de los aspectos positivos de la IA, no solo de los peligros para la humanidad. “Si tenemos una regulación, esta impedirá crear con IA curas médicas para el cáncer”, ha señalado Bengio como ejemplo.
Democracias
Por último, el invitado ha avisado también de los riesgos para las democracias por la dictadura de la IA aunque también entiende que dependerá en gran medida de lo que decidan los gobiernos. Por ello, cree que las instituciones sólidas soportarán los impactos.
Los derechos de autor y el marco regulatorio europeo de la IA han sido otros aspectos en los que ha profundizado desde Inglaterra Yoshua Bengio.
El segundo ponente internacional de esta primera jornada, el matemático Michael i. Jordan, ha tenido que volver a EE UU por cuestiones personales y se ha comprometido a participar el próximo año en el V Forum Europeo de Inteligencia Artificial, según ha anunciado Nuria Oliver.
Suscríbete para seguir leyendo
