¿Cuál es la presencia de la inteligencia artificial en las redes sociales?
La inteligencia artificial es una herramienta de propósito múltiple. Tiene autonomía, aprende y la podemos usar también para tomar decisiones. En las redes sociales hay muchas herramientas que ayudan a que uno pueda navegar de una manera más personalizada, que también tiene sus problemas. Lo negativo es que los seres humanos siempre encontramos una forma de usar las herramientas para el mal. Si bien en las redes sociales se reflejan fenómenos que ya existen en nuestra sociedad como es el discurso de odio, la desinformación o la manipulación por medio de información falsa o ambigua, con las redes sociales y las herramientas de inteligencia artificial, especialmente las generativas que tenemos en este momento, el impacto negativo de esos fenómenos sociales se masifica. En consecuencia, pueden causar mucho daño no solamente a individuos, sino también a distintos colectivos, en general minorías, y en el caso extremo se teme la desestabilización de las estructuras sociales, como la democracia.
¿Podría esta tecnología llegar a reemplazar a los propios administradores de redes sociales?
Podría. El tema es si lo podría hacer de una manera que para nosotros es adaptable, y algo más importante, si realmente queremos. A veces a los usuarios de la tecnología los vemos como que es algo que cae del cielo. La inteligencia artificial existe, la creamos personas con objetivos y con nuestros propios sesgos y nuestra propia visión del mundo. Hay que pensar qué cosas queremos que haga la IA, qué grado de autonomía va a tener y cómo nos paramos ante el uso de esas herramientas para tomar decisiones.
Los usuarios llegan a preocuparse por su privacidad y dudan de cómo se van a utilizar los datos. ¿Cómo afecta negativamente la IA a las redes sociales?
La ciudadanía debe entender que el tipo de IA que utilizamos no funciona si no existe una gran cantidad de datos por detrás de la cual pueda aprender patrones estadísticos significativos. Si estamos preocupados por la privacidad y queremos hacer algo, deberíamos enfocarnos en construir herramientas que no necesiten esa cantidad de datos y que puedan satisfacer lo que un consumidor necesita, pero sin exponernos a la privacidad.
«Hay que pensar qué cosas queremos que haga la IA, qué grado de autonomía va a tener» “La problemática con la IA tiene que ver con su uso y con la gente que decide cómo se construye»
También entra en acción la desinformación en las redes sociales.
La desinformación en las redes sociales es un problema muy grave, al que hemos llegado principalmente por la falta de regulación en las mismas. Y ahora cuando ponemos inteligencia artificial encima se empiezan a generar cuestiones muy problemáticas y la gente se desconecta de lo que es la realidad. Y esto es muy complejo de solucionar desde un punto de vista humano y desde un punto de vista técnico. Creo que todos los problemas que pensamos que tienen que ver con la inteligencia artificial, en realidad tienen que ver con su uso y con la gente que decide para qué se hace y cómo se construye. Definiría como un problema humano el hecho de que la IA esté generando tantos inconvenientes desde un punto de vista social.
La IA está presente en recomendaciones de contenido personalizados. ¿Es positivo para el usuario?
Cuando lo pienso desde el punto de vista técnico, como diseñadora, digo: ¿Para qué queremos ese tipo de recomendaciones? Pues sería para ordenar un poco todo el contenido que existe y poder presentárselo al usuario de acuerdo a sus preferencias. En la práctica, quizás los algoritmos que hemos pensado para eso no tienen en cuenta otras cuestiones. Por ejemplo, el algoritmo aprende mis preferencias y de repente me encuentro consumiendo un solo tipo de contenido que incluso puede ser violento o perjudicial y la herramienta no me permite salirme de esa burbuja. Como idea de algoritmos organizadores de contenido creo que es muy beneficioso y nos permite a nosotros poder navegar en la inmensidad de datos que existen en internet. Pero por otro lado, si piensas que su objetivo es mantenernos en una plataforma, independientemente de cuál sea el contenido que nos están dando, llegamos a pensar mal porque no estamos viendo la parte social o la parte no beneficiosa hacia el ser humano que debería pensarse en conjunto con mantener a uno enganchado a la plataforma.
¿Cómo se puede combatir el mal uso de las redes sociales?
Nos ha pasado con la tecnología digital en general. Uno tiene muy buenas intenciones como investigador o como desarrollador y pone fuera modelos que son cada vez más poderosos en autonomía, aprendizaje y razonamiento o ayuda de toma de decisiones. A lo largo de toda la historia de la humanidad, los seres humanos hemos encontrado maneras de utilizar herramientas que han sido diseñadas para cosas muy específicas o pensando en hacer el bien y las hemos tomado para hacer el mal. Y esto va a suceder con cualquier herramienta que nosotros generemos. Desde un punto de vista de un investigador o un desarrollador, nuestra obligación es hacer que esa herramienta sea funcional, pero que también haya maneras de restringir el mal que se puede hacer o el impacto que puede tener si a alguien se le ocurre usarlo para el mal. También tenemos la obligación de usar la inteligencia artificial para combatir los mismos problemas que esta u otras tecnologías digitales están causando. La solución para poder usar herramientas de IA para combatir estos problemas en las redes sociales tiene que ver con generar un enfoque donde el humano trabaje con el algoritmo, con la inteligencia artificial. Es inevitable para poder lograr algún cambio y que las redes sociales no sean básicamente tierra de nadie.
, lamenta que los seres humanos 'siempre encontramos una forma de usar las herramientas para el mal'){kind=link}