Cuanto más inteligente y avanzado es un modelo de IA, más egoístas y menos cooperativas se vuelven sus decisiones: los principales modelos de razonamiento casi siempre actúan en su propio interés, sin importarles las consecuencias para la sociedad.
Un equipo de investigadores de la universidad Carnegie Mellon ha comprobado que la inteligencia artificial más avanzada no solo resuelve problemas complejos, sino que muestra una inesperada inclinación al egoísmo. Conforme aumenta la capacidad de razonamiento de los sistemas de IA, disminuye su tendencia a cooperar, explican en un artículo publicado en arXiv.
Esta constatación, obtenida tras comparar distintos modelos de lenguaje en simulaciones de dilemas sociales, revela una paradoja en el desarrollo de la inteligencia artificial: los sistemas más sofisticados en lógica y análisis prefieren maximizar el beneficio individual, incluso cuando la colaboración conduciría a mejores resultados colectivos.
Datos clave de esta investigación
- Hallazgo principal: La IA más avanzada actúa de forma egoísta y reduce la cooperación social cuanto mayor es su capacidad de razonamiento.
- Metodología: Se sometieron grandes modelos de lenguaje a dilemas sociales mediante juegos económicos clásicos, evaluando su respuesta con y sin razonamiento reflexivo.
- Resultado destacado: Los modelos que aplican razonamiento avanzado cooperan y sancionan menos, maximizando el beneficio individual incluso cuando perjudica al grupo.
- Implicación social: El despliegue de IA racional en tareas grupales puede erosionar la cooperación humana y normalizar comportamientos competitivos.
- Propuesta de mejora: Los autores sugieren rediseñar la IA para que incorpore competencias sociales y valore el bienestar común, equilibrando lógica y sensibilidad cooperativa.
Colapso de la cooperación
El estudio evidencia que los modelos preparados para el razonamiento detallado dedican más tiempo a analizar situaciones, descomponer escenarios y pensar en las consecuencias, pero esa deliberación no se traduce en mayor generosidad. De hecho, basta con introducir pasos extra de reflexión para que la cooperación caiga drásticamente entre los agentes.
En los experimentos, los modelos con capacidad para “pensar como humanos” compartieron recursos con otros jugadores tan solo el 20% de las veces, mientras los modelos menos sofisticados lo hicieron el 96% de las ocasiones. El razonamiento metódico se convierte así en un freno para la cooperación.
En situaciones grupales, la tendencia egoísta de los agentes más “pensadores” resultó contagiosa, arrastrando a los modelos menos sofisticados y reduciendo el rendimiento colectivo en más de un 80%. El fenómeno implica que a medida que la IA se emplea en ámbitos colaborativos —negocios, educación, administración— su capacidad de actuar en favor del grupo disminuye conforme es más inteligente desde el punto de vista analítico.
Egoísmo racional
Los investigadores advierten que la atribución de características humanas a la IA, así como la creciente confianza del público en sus recomendaciones, puede normalizar el comportamiento egoísta justificado como “racional”. Por tanto, el reto actual no reside sólo en perfeccionar la inteligencia artificial para que piense mejor, sino en equilibrar ese desarrollo con competencias prosociales.
La IA que optimiza el resultado individual pone en cuestión su papel como agente para el bienestar colectivo; por eso, la sociedad debe exigir sistemas capaces de ir más allá de la pura lógica y asumir compromisos con la cooperación, según estos autores.
Referencia
Spontaneous Giving and Calculated Greed in Language Models. Yuxuan Li, Hirokazu Shirado. arXiv:2502.17720v4 [cs.CL]. DOI:https://doi.org/10.48550/arXiv.2502.17720
Rediseñar la IA
El estudio subraya la necesidad de rediseñar la IA para comportamientos sociales responsables. Si se aspira a una convivencia con máquinas cada vez más presentes en la toma de decisiones humanas, su lógica debe trascender el cálculo individual y considerar como indispensables valores como la reciprocidad y la solidaridad.
El progreso de la inteligencia artificial no debe medirse solo por la sofisticación de su razonamiento, sino por su contribución al bienestar y cohesión social, concluyen los investigadores.
