El 15 de febrero de 2021, un escándalo nacional forzó la dimisión del gobierno de los Países Bajos. Pocos meses antes, una investigación destapó que, a lo largo de una década, el algoritmo usado por la Agencia Tributaria neerlandesa para detectar casos de fraude en las ayudas sociales había acusado erróneamente a hasta 26.000 personas. Su injusta persecución se saldó con hasta 10.000 familias obligadas a devolver decenas de miles de euros, abocándolas al desempleo, a la quiebra o incluso al divorcio. Para más inri, en al menos 11.000 casos, esa falsa acusación de basó en el origen étnico de las víctimas. «No podemos permitir que las cosas vuelvan a ir tan terriblemente mal», dijo en su disculpa el entonces primer ministro Mark Rutte.
Esa «violación de los derechos fundamentales», como la describió la comisión parlamentaria que analizó el caso, planteó una cuestión tan fundamental como vigente: ¿amenaza la inteligencia artificial (IA) con acelerar y amplificar la desigualdad ya presente en nuestras sociedades? Esa fue la clave del debate celebrado en CaixaForum Macaya de Barcelona, el último de un ciclo centrado en la convivencia entre esta emergente tecnología y la democracia.
Automatización sesgada
A pesar del aviso para navegantes neerlandés, cada vez más países (también España) adoptan modelos algorítmicos que automatizan todo tipo de procesos, desde la concesión de ayudas públicas a evaluar la posibilidad de reincidencia de los presos. Las autoridades acuden a la IA con la intención de optimizar esas tareas. Sin embargo, las respuestas que genera no son puras e incuestionables, sino que están determinadas por los datos con los que ha sido entrenada, datos que reflejan los patrones de nuestra sociedad, también sus segos. «La IA no crece del suelo como una seta, no es una alteridad, sino que está ligada a nuestro sistema y a nuestra concepción del mundo», explica Núria Vallès, experta del Instituto de Investigación en IA del Consejo Superior de Investigaciones Científicas (CSIC).
La IA no crece del suelo como una seta, sino que está ligada a nuestro sistema y a nuestra concepción del mundo
Ese lazo inseparable entre la IA y una sociedad marcada por las divisiones es lo que intensifica el riesgo de discriminación. Por ejemplo, si la máquina concluye que estadísticamente las comunidades vulnerables tienen una mayor tasa de delincuencia será más proclive a acusarlas, también injustamente, sin tener en cuenta el contexto. Como documentó Virgina Eubanks, profesora asociada de Ciencia Política de la Universidad de Albany, en el libro La automatización de la desigualdad, la expansión de estos sistemas está acentuando la exclusión de los más pobres.
Además, esa lógica condena a sus víctimas, pues tomar decisiones vitales en base a patrones pasados niega a las personas la posibilidad de cambio y progreso, de libre albedrío. «Si solo se centra en lo que ya existe, la IA está apagando el futuro», remarca Ana Valdivia, investigadora y profesora en IA, Gobernanza y Política en el Oxford Internet Institute.
Desigualdad salarial
El impacto social de la IA no puede entenderse sin su integración en el mercado laboral. Desde su despliegue hace décadas en industrias que van de la moda a la automoción, esta tecnología se ha presentado como una oportunidad para mejorar la eficiencia y la productividad económica, dos elementos considerados esenciales para combatir la falta de igualdades. Esta promesa se repite ahora con la fiebre comercial de la IA generativa iniciada con el lanzamiento de ChatGPT en noviembre de 2022 y protagonizada por gigantes como Microsoft o Google.
No obstante, reputados académicos advierten de que no ha sido así. Según un estudio de Daron Acemoglu, economista del MIT, entre el 50% y el 70% del crecimiento de la desigualdad salarial en EEUU entre 1980 y 2016 se debió a la automatización, la robótica y los algoritmos que reemplazan tareas realizadas por humanos. En las últimas décadas se ha debatido mucho sobre si los salarios se han desvinculado de la productividad y si eso se debe a la tecnología o a la falta de una distribución justa.
Ricos más ricos, pobres más pobres
Otros apuntan a que la digitalización laboral contribuye a hacer que los ricos sean más ricos y los pobres, aún más pobres. En un artículo publicado en 2022, el economista Erik Brynjolfsson, director del Laboratorio de Economía Digital de Stanford, aseguró que el uso de la IA puede reducir los salarios de la mayoría de gente «incluso cuando amplifica el poder de mercado de unos pocos», básicamente de quienes la controlan. Vallès coincide en señalar que los más beneficiados por ese proceso «no querrán adoptar medidas» que aligeren la carga a los que más sufren, aquellos colectivos «más alejados de la capacidad de definir la agenda política-tecnológica».
El economista y premio Nobel Joseph Stiglitz también ha hecho hincapié en que la IA amenaza con debilitar el poder de la clase trabajadora. «Hemos creado un sistema en el que los trabajadores no tienen mucho poder de negociación. En ese tipo de mundo, la IA puede ser un aliado del empresario y debilitar aún más a los trabajadores, lo que podría aumentar aún más la desigualdad», ha advertido el experto en la disparidad de renta.
«La IA puede ser un aliado del empresario y debilitar el poder de negociación de los trabajadores, lo que podría aumentar aún más la desigualdad»
Es por eso que Valvidia llama a visibilizar a los obreros de la digitalización, empleos cruciales como los moderadores de ChatGPT que suelen externalizarse a países pobres.
¿Irá a más?
El boom de la IA generativa podría avivar aún más las disparidades sociales. Así lo ha indicado el Fondo Monetario Internacional (FMI), que señala que ese aumento de la polarización por ingresos y riqueza perjudicaría más a los trabajadores de más edad. Un reciente análisis de la consultora McKinsey & Company calcula que esta tecnología podría automatizar casi el 10% de los empleos en Estados Unidos y estima que los empleos peor remunerados serán los más afectados. En 2014, mucho antes de promover los productos que comercializa con OpenAI, su actual director ejecutivo, Sam Altman, aseguró en una publicación en su blog que «sin intervención, es probable que la tecnología conduzca a una disparidad insostenible».
Valdivia remarca que incluso antes de aplicarse, la IA evidencía una división social flagrante. «Estamos asistiendo al anuncio de inversiones millonarias en centros de datos que consumirán muchísima agua y energía mientras sigue habiendo gente si acceso a esos recursos básicos», lamenta. Es por ello que ambas expertas remarcan que las desigualdades estructurales de la sociedad no son culpa única ni se solucionarán solo con IA, sino que requieren de una verdadera acción política que tenga a todos en cuenta: «No hay solución simple para problemas tan complejos».
