La semana pasada, un modelo avanzado de IA de ChatGPT (llamado Sol 5.6) actuó por su cuenta saltándose las barreras impuestas en un entorno de pruebas. Carente del sentido ético y moral de los humanos, la inteligencia de OpenAI no tuvo en reparos en asaltar otro modelo de IA para robarle la respuesta que buscaba. La noticia dio la vuelta al mundo porque puso de relieve lo que hoy ya todos tienen asumido: el uso de la IA conlleva riesgos.
De ello son conscientes en la Diputación Provincial de Córdoba. Sus funcionarios, como los de cualquier otra administración pública, emplean herramientas de IA como apoyo a su trabajo. Sin un uso adecuado, el peligro acecha a la vuelta del teclado. Por ejemplo, si un empleado público vuelca un pliego de condiciones en ChatGPT para obtener un resumen, inmediatamente formará parte de la inmensa base de datos de la IA, que podrá replicarlo antes de su publicación.
Para evitar ese y otros riesgos, la Diputación de Córdoba ha puesto en marcha su propio Plan sobre Inteligencia Artificial que ya fue aprobado en el Pleno de la semana pasada y está en vigor. Entre sus objetivos está garantizar el control humano sobre las herramientas de IA, formar a los funcionarios y asegurar la transparencia de cara a los ciudadanos, según ha explicado este lunes Sara Alguacil, delegada de Desarrollo Tecnológico de la institución.
Sara Alguacil, en la presentación del Plan sobre Inteligencia Artificial de la Diputación de Córdoba. / CÓRDOBA
Coordinación del plan desde varias áreas
El plan estará coordinado por Eprinsa (empresa informática de la Diputación), el responsable de seguridad, la Delegación de Protección de Datos, el área de Contratación y una comisión de seguimiento especializada. Gracias a los convenios con los ayuntamientos, los protocolos de seguridad frente a la IA, así como la formación de los trabajadores, también llegará a los municipios de la provincia.
De momento, la Diputación Provincial está elaborando un catálogo de herramientas de IA que podrán usar los trabajadores públicos para sus tareas. Entre ellas, la principal por ahora, según ha dicho Alguacil, es NotebookLM, un asistente desarrollado por Google basado en los modelos de IA de Gemini. A diferencia de otros sistemas, NotebookLM trabaja con las fuentes seleccionadas por el usuario y no acude a otras bases de datos ni comparte esa información. En teoría, los documentos que empleen los funcionarios están a salvo. «Es el modelo que más nos convence porque no usa la web para hacer resúmenes o la petición de información, solo la usa si se lo indicas. Puedes trabajar con documentos a nivel local», ha aclarado Alguacil.
La norma será de obligado cumplimiento para todo el personal de la Diputación, sus organismos autónomos, empresas públicas y los consorcios dependientes. También alcanza a contratistas y proveedores que desarrollen o gestionen sistemas de IA para la institución. Al respecto, la delegada ha subrayado que “es un servicio que se va a prestar en toda la provincia, todos los ayuntamientos que tengan dudas sobre él pueden consultarnos y contactar con nosotros sin problema, y hemos de hacerlo con una eficiente coordinación entre todos”.
Para finalizar, la delegada de Desarrollo Tecnológico, Transformación Digital y Juventud ha enfatizado que “la inteligencia artificial nunca sustituirá la responsabilidad de los empleados públicos ni la toma de decisiones humanas”.
