La Unión Europea (UE) lleva años trabajando en una pionera regulación de la inteligencia artificial (IA). El proyecto, que pretende prohibir los usos más peligrosos de esta tecnología, se encuentra en la última fase del proceso legislativo. En los próximos días debería cerrarse un acuerdo final. Sin embargo, la tensa falta de acuerdo entre las partes amenaza con poner toda la ley en riesgo.
El 14 de junio, el Parlamento Europeo dio luz verde a la primera legislación integral sobre IA del mundo. Con una abrumadora mayoría de 499 votos a favor, la cámara acordó exigir la prohibición total de la vigilancia masiva con sistemas de identificación biométrica en tiempo real y establecer una serie de restricciones al uso de aplicaciones de IA generativa como el conocido ChatGPT.
No obstante, el texto aprobado entonces no es el definitivo. El redactado final de la ley debe consensuarse con la Comisión Europea y el Consejo Europeo —integrado por los líderes políticos de los 27 Estados miembros—, una negociación a tres bandas que podría descafeinar el proyecto hasta hacerlo descarrilar. Ese proceso, conocido como los trílogos, está evidenciando una visible falta de sintonía sobre cómo regular la IA.
Vigilancia biométrica
Uno de los puntos más controvertidos es el de los sistemas de reconocimiento facial. Aunque la Eurocámara pactó la prohibición de su uso en tiempo real, en los últimos días los eurodiputados han abandonado esa restricción total a cambio de otras concesiones. Así, según el portal Euractiv, se permitiría el uso de esta tecnología por parte de la policía y en casos concretos como la localización de un desaparecido o para prevenir un atentado terrorista.
Ese giro preocupa profundamente a las organizaciones de la sociedad civil. «No hay ningún nivel de vigilancia masiva que sea aceptable, pues va en contra de los derechos fundamentales«, explica a EL PERIÓDICO Ella Jakubowska, asesora política de la organización European Digital Rights (EDRi). La experta denuncia que el Parlamento haya hecho «concesiones enormes» sobre un acuerdo demócratico ya votado y advierte del «peligro» de que, de aprobarse así, la ley europea podría legitimizar la vigilancia biométrica alrededor del mundo.
La IA seguirá siendo utilizada para vigilar a las personas migrantes en las fronteras europeas, una aplicación que despierta recelos más fuera que dentro de las negociaciones. «Es triste que la prohibición de estos sistemas para experimentar con los más vulnerables no esté ni encima de la mesa», lamenta Jakubowska. «La falta de humanidad está integrada en la ley de la IA, es una oportunidad perdida».
Disputa con ChatGPT
Otro punto de disputa son los llamados modelos fundacionales, el corazón tecnológico de herramientas generativas como Bard, de Google, o ChatGPT y DALL-E, ambas creadas por OpenAI y financiadas por Microsoft. Hace unas semanas parecía haber consenso sobre la necesidad de fijar normas más estrictas para los sistemas más potentes, un enfoque basado en el potencial riesgo que perjudicaba especialmente a esos gigantes empresariales estadounidenses.
Sin embargo, el planteamiento disgusta a grandes países de la UE como Francia, Alemania o Italia, que se han opuesto a cualquier tipo de regulación de los modelos fundacionales. Los gobiernos de las tres naciones argumentan que esa normativa pondrá en peligro la innovación, pero su rechazo «autodestructivo» también responde a la «presión de la industria de la IA», según Daniel Laufer, analista político de la organización internacional Access Now.
El cambio de posición indignó tanto a los eurodiputados que abandonaron la reunión técnica del pasado jueves en señal de protesta. También indigna a la sociedad civil. Laufer pide a los Estados estar más abiertos a negociar para obligar a las compañías a ser transparentes. «Estamos hablando de derechos clave para nuestras democracias», advierte en declaraciones a EL PERIÓDICO.
Reloj en contra
La previsión inicial era que el acuerdo político sobre la ley de la IA se cerrase el próximo 6 de diciembre. Sin embargo, las discrepancias entre las partes podrían aplazarlo. España presiona para que se llegue a un pacto antes de que termine el año y su presidencia del Consejo. Si no es así será la próxima presidencia, gestionada por Bélgica, la que deberá atar los cabos sueltos antes de las elecciones europeas de junio. El tiempo juega en contra de un proyecto pionero que podría terminar siendo papel mojado.
