Las principales voces de la inteligencia artificial coinciden en una necesidad urgente. El desarrollo de esta tecnología debe moderarse. Esta postura conjunta surge tras la renuncia de un investigador alertado por las amenazas hacia la humanidad.
Existen varios obstáculos para este propósito. La competencia internacional, los intereses económicos y el rechazo gubernamental bloquean los esfuerzos coordinados. El éxito tecnológico necesita una redefinición. La industria aeronáutica sirve como un buen modelo. Los aviones comerciales no toleran accidentes. La inteligencia artificial tampoco debería permitir fallas masivas.
Las empresas pueden reducir el ritmo de sus modelos en cualquier instante. No obstante, la carrera por crear sistemas más potentes dificulta esta pausa. A esto se suma el interés de la Casa Blanca por mantener la ventaja sobre China. Las ofertas públicas iniciales en Wall Street también aceleran el proceso. Algunas salidas a bolsa experimentan retrasos por motivos de seguridad.
Las propuestas actuales dependen de la colaboración mutua y de la regulación. Un plan consiste en otorgar acceso total a evaluadores externos independientes. Estos equipos de monitoreo tendrían oficinas y credenciales en las empresas. Varias compañías pioneras ya adoptan o apoyan esta medida.
Un marco federal de seguridad es bienvenido. Las acciones preventivas avanzan sin esperar leyes o exenciones antimonopolio. La intervención gubernamental resulta clave. La coordinación entre países democráticos es un objetivo central, aunque cooperar con gobiernos autoritarios presenta dificultades severas.
Los acuerdos globales tienen distintos niveles de viabilidad. La prohibición de usos peligrosos, como la creación de armas biológicas, es la meta más realista. Un paso más complejo implica probar los modelos antes de su lanzamiento para evitar riesgos de ciberseguridad. Establecer un límite de velocidad para sistemas con capacidad de automejora es el reto supremo.
Bajar el ritmo de extremo a moderado mejora la seguridad sin perder ventaja estratégica. Los tratados de la Guerra Fría limitaron la destrucción y preservaron la disuasión. Una pausa completa o un tope absoluto al avance tecnológico es la propuesta más difícil de aplicar. El progreso rápido puede coexistir con intervenciones de seguridad rigurosas. Ninguna presión competitiva justifica la imprudencia.
La viabilidad de una desaceleración requiere una cooperación mundial inmensa. Esto resulta poco realista en el contexto actual. Los gobiernos tienen opciones alternativas. Ellos pueden exigir responsabilidades y limitar el acceso a recursos como electricidad y agua para los centros de datos.
La incorporación de evaluadores externos genera dudas sobre su independencia y sobre la creación de los estándares. Esta medida puede concentrar el poder en unas pocas empresas de un solo país. Las reglas de una tecnología tan importante deben trascender a los intereses comerciales de un grupo reducido con exenciones legales.
Las auditorías independientes actuales son aportes voluntarios. Las inversiones en métodos científicos para evaluar modelos son fundamentales. Sin pruebas válidas, la regulación carece de fuerza.
La administración gubernamental actual prefiere una supervisión ligera para fomentar la innovación y superar a los rivales asiáticos. Esta rivalidad internacional se asemeja a una carrera armamentista. Las carreras armamentistas anulan la colaboración y crean adversarios existenciales. A pesar de todo, hay esperanzas sobre un futuro más seguro. Los líderes rivales encuentran puntos en común y los legisladores impulsan diferentes formas de control. El tema capta la atención general, pero la implementación real es un misterio por resolver.
