Por Víctor Manuel Grimaldi Céspedes

Dos superpotencias rivales compiten por dominar una tecnología capaz de producir beneficios extraordinarios y, al mismo tiempo, daños incalculables. Ninguna quiere disminuir la velocidad por temor a concederle una ventaja decisiva a la otra.

La humanidad ya vivió una situación semejante.

Durante la Guerra Fría, Estados Unidos y la Unión Soviética acumularon armas nucleares cada vez más destructivas. La crisis de los misiles de Cuba, en octubre de 1962, colocó al mundo durante trece días al borde de una guerra atómica.

Washington y Moscú no dejaron de ser adversarios, pero comprendieron que necesitaban reglas para impedir que un error, una información equivocada o una decisión precipitada destruyeran a ambos. En 1963 establecieron una línea directa de comunicación. Después llegaron acuerdos sobre pruebas nucleares, limitación de arsenales, inspecciones y mecanismos de verificación.

Hoy Estados Unidos y China se aproximan a un dilema comparable con la Inteligencia Artificial.

El Gobierno estadounidense ha propuesto establecer un mecanismo bilateral de notificación para informar inmediatamente sobre incidentes de IA que puedan amenazar la seguridad nacional. El secretario del Tesoro, Scott Bessent, planteó la iniciativa durante sus conversaciones con el viceprimer ministro chino He Lifeng.

Sería una especie de “teléfono rojo” para la era de la IA: una comunicación permanente entre Washington y Beijing destinada a impedir que un sistema descontrolado, un ataque cibernético o una operación mal interpretada provoquen una crisis internacional.

La comparación con las armas nucleares tiene límites importantes.

Los arsenales atómicos están controlados principalmente por los Estados y dependen de materiales e instalaciones altamente especializados. La IA, en cambio, es desarrollada principalmente por empresas privadas y sus aplicaciones pueden llegar a millones de personas mediante teléfonos y computadoras.

La física nuclear era bien comprendida antes de que se establecieran los grandes tratados de control. La IA continúa siendo parcialmente una caja negra. Ni siquiera los laboratorios que construyen los modelos más avanzados pueden explicar siempre por qué producen determinadas respuestas o toman ciertas decisiones.

Precisamente por eso se necesitan reglas.

La preocupación ha aumentado ante la posibilidad de la automejora recursiva: sistemas capaces de participar en la creación de una versión superior de sí mismos, que posteriormente contribuiría a diseñar otra todavía más poderosa.

Anthropic informa que Claude interviene ya en aproximadamente el 26 por ciento de las tareas de investigación y desarrollo relacionadas con sus nuevos modelos. Esto no significa que Claude se esté reconstruyendo autónomamente. Continúa trabajando bajo supervisión humana. Pero demuestra que una parte creciente del esfuerzo necesario para construir la próxima generación de IA ya se realiza con ayuda de la generación anterior.

OpenAI ha anunciado un “investigador en prácticas” automatizado y aspira a desarrollar un investigador artificial más autónomo para marzo de 2028. Elon Musk sostiene que los seres humanos intervienen cada vez menos en la construcción de cada nueva versión de Grok y estima que el proceso podría automatizarse completamente entre finales de 2026 y 2027.

La posibilidad ofrece enormes esperanzas para la medicina, las matemáticas, la energía y otras ciencias. Un investigador artificial podría analizar en pocas horas problemas que exigirían años de trabajo humano.

Pero también aparece un peligro: una IA que participe en su propio perfeccionamiento podría avanzar más rápidamente que los mecanismos destinados a comprenderla, vigilarla y corregirla.

Por eso Dario Amodei, de Anthropic; Sam Altman, de OpenAI; Elon Musk y Demis Hassabis, de Google DeepMind, han reclamado una desaceleración y mayores medidas de seguridad.

Esa coincidencia provocó una demanda antimonopolio presentada en California por usuarios de ChatGPT, Claude, Grok y Gemini. Los demandantes acusan a las compañías de concertarse ilegalmente para reducir el ritmo de la innovación.

Una demanda contiene acusaciones, no hechos demostrados. Pero plantea una cuestión legítima: cada empresa puede decidir actuar con prudencia, pero las grandes compañías no deben convertirse en un gobierno privado de la tecnología ni utilizar la seguridad como pretexto para eliminar competidores.

El analista financiero español José Luis Cava introduce otra sospecha. Los grandes laboratorios podrían estar anticipándose a una crisis financiera.

La IA exige inversiones colosales en procesadores, electricidad y centros de datos, mientras los beneficios todavía no justifican plenamente los compromisos asumidos. Una desaceleración permitiría aplazar inversiones, revisar proyectos y posponer salidas a bolsa. Las regulaciones costosas también podrían proteger a los gigantes establecidos frente a compañías más pequeñas.

Las dos explicaciones pueden coexistir. Los empresarios podrían estar sinceramente preocupados por una pérdida de control y, simultáneamente, defender sus balances y posiciones dominantes.

Donald Trump rechaza las profecías apocalípticas. Su prioridad consiste en mantener la superioridad estadounidense sobre China. Beijing, por su parte, sospecha que las advertencias de Washington pretenden congelar la competencia mientras Estados Unidos conserva su ventaja.

Xi Jinping llevó esa disputa a los BRICS al proponer una Zona de Inteligencia Artificial de Código Abierto para el Sur Global. La iniciativa no fue aprobada en Nueva Delhi como una institución colectiva, pero quedó pendiente para 2027, cuando China presida el grupo.

A pesar de la rivalidad, existe espacio para la cooperación.

El principio de “confiar, pero verificar” podría aplicarse mediante la notificación obligatoria de incidentes, evaluadores independientes, límites verificables a determinadas capacidades y supervisión de los grandes centros de datos donde se entrenan los modelos más poderosos.

Esos centros son visibles, consumen cantidades inmensas de electricidad y dependen de procesadores avanzados fabricados por un reducido número de compañías. La concentración de la infraestructura permitiría registrar y vigilar la capacidad informática empleada.

Anthony Aguirre, del Future of Life Institute, sostiene que determinados sistemas técnicos podrían facilitar el seguimiento del uso de los chips e incluso su desactivación en circunstancias excepcionales. Pero ninguna solución tecnológica sustituirá la voluntad política.

La dificultad principal es que la humanidad todavía no ha contemplado su “Hiroshima de la IA”. Conocemos Hiroshima y Nagasaki. Sabemos lo que una bomba nuclear puede hacer. Los incidentes protagonizados por agentes artificiales han provocado alarma, pero todavía no han producido una catástrofe comparable.

Esperar una tragedia para comenzar a gobernar sería una irresponsabilidad histórica.

El papa León XIV insiste en que la responsabilidad de orientar la innovación debe permanecer en la inteligencia humana, con su conciencia, libertad y capacidad moral. La IA debe liberar, no esclavizar.

Estados Unidos y China no necesitan confiar plenamente el uno en el otro. Tampoco confiaban Washington y Moscú durante la Guerra Fría. Necesitan comprender que una Inteligencia Artificial fuera de control no distinguiría entre vencedores y vencidos.

El “teléfono rojo” sería apenas un primer paso. Pero después de la crisis de los misiles, una línea directa ayudó a impedir que la rivalidad nuclear terminara destruyendo el mundo.

Washington y Beijing deben aprender aquella lección antes de que sea demasiado tarde.