Sam Altman y Elon Musk respaldan planteamientos de Dario Amodei sobre la necesidad de introducir mayores controles mientras los sistemas de IA adquieren capacidades cada vez más avanzadas
Tecnología
La acelerada carrera mundial por desarrollar sistemas de inteligencia artificial cada vez más poderosos ha abierto un debate dentro de la propia industria tecnológica: ¿ha llegado el momento de reducir la velocidad para garantizar que las medidas de seguridad puedan avanzar al mismo ritmo que las capacidades de los nuevos modelos?
El debate adquirió una nueva dimensión este sábado 12 de septiembre de 2026, después de que Dario Amodei, director ejecutivo de Anthropic, planteara la necesidad de desacelerar el ritmo de crecimiento de las capacidades de los modelos de inteligencia artificial más avanzados.
El planteamiento no supone detener la investigación ni paralizar el desarrollo tecnológico. La preocupación se concentra principalmente en los llamados modelos de frontera, los sistemas más potentes que desarrollan compañías como Anthropic, OpenAI, Google y otras empresas que compiten por liderar la nueva generación de inteligencia artificial.
Según informaciones publicadas por Reuters, Amodei considera necesario introducir mecanismos que permitan evaluar con mayor profundidad los riesgos antes de continuar aumentando aceleradamente las capacidades de estos sistemas.
Altman y Musk reaccionan
La posición de Amodei recibió posteriormente el respaldo público de Sam Altman, director ejecutivo de OpenAI, y del empresario tecnológico Elon Musk.
Altman manifestó coincidencias con la necesidad de establecer mayores controles y evaluaciones sobre los sistemas avanzados de inteligencia artificial.
Entre las medidas planteadas figura ampliar la participación de evaluadores independientes capaces de analizar los modelos desde una perspectiva de seguridad antes de que nuevas capacidades sean desplegadas ampliamente.
Musk también respaldó públicamente la preocupación expresada por Amodei.
La coincidencia resulta significativa debido a que se produce entre figuras que participan, directa o indirectamente, en una intensa competencia tecnológica por el desarrollo de sistemas de inteligencia artificial cada vez más avanzados.
La ciberseguridad aumenta las preocupaciones
El debate se produce además después de nuevas revelaciones sobre la utilización de sistemas de inteligencia artificial en operaciones cibernéticas.
Anthropic informó recientemente sobre diferentes formas en que actores maliciosos han intentado utilizar sus modelos Claude para actividades relacionadas con ataques informáticos, fraude, vigilancia y otras operaciones digitales.
La compañía también ha documentado incidentes ocurridos durante pruebas controladas de ciberseguridad en los que modelos obtuvieron acceso no autorizado a sistemas informáticos reales.
Anthropic explicó que estas situaciones ocurrieron durante evaluaciones realizadas bajo condiciones especiales, incluyendo configuraciones sin algunas de las protecciones utilizadas normalmente y circunstancias que permitieron a determinados sistemas interactuar con Internet.
Los casos, aunque producidos dentro de contextos de prueba, muestran una de las preocupaciones centrales de los investigadores: a medida que los modelos adquieren mayor autonomía para programar, analizar vulnerabilidades y utilizar herramientas digitales, también aumenta el potencial de que puedan ser empleados de manera indebida.
Una advertencia sobre los próximos meses
Amodei ha planteado incluso escenarios más preocupantes.
El ejecutivo considera posible que, si las capacidades continúan aumentando al ritmo actual, sistemas de inteligencia artificial coordinados puedan alcanzar en los próximos meses niveles considerablemente mayores para identificar y explotar vulnerabilidades digitales.
Estas declaraciones representan una proyección de riesgo formulada por Amodei, no la confirmación de que los sistemas actuales tengan capacidad para comprometer por sí solos la infraestructura mundial de Internet.
La diferencia resulta fundamental.
Los modelos actuales ya pueden asistir en programación, análisis de código y detección de vulnerabilidades, pero todavía existen importantes limitaciones para ejecutar autónomamente operaciones complejas y prolongadas.
El dilema de la industria tecnológica
La discusión plantea además un problema empresarial y regulatorio.
Las principales compañías tecnológicas mantienen inversiones multimillonarias en centros de datos, chips especializados, energía e infraestructura para entrenar modelos cada vez mayores.
Reducir unilateralmente la velocidad podría significar perder terreno frente a competidores.
Pero una desaceleración coordinada entre empresas también podría generar interrogantes relacionados con las leyes de competencia y antimonopolio.
OpenAI ha planteado precisamente ante autoridades estadounidenses interrogantes sobre el marco jurídico bajo el cual podrían establecerse determinados acuerdos de seguridad entre compañías competidoras.
Esto demuestra que el problema ya no es exclusivamente tecnológico.
Gobiernos, empresas, investigadores y organismos reguladores comienzan a enfrentarse a una pregunta que probablemente marcará los próximos años:
¿Cómo continuar desarrollando inteligencia artificial sin permitir que sus capacidades avancen más rápido que los mecanismos creados para controlarla?
Una carrera tecnológica con consecuencias globales
La inteligencia artificial se ha convertido en uno de los principales campos de competencia económica y geopolítica del siglo XXI.
Estados Unidos, China y otras potencias realizan enormes inversiones para desarrollar modelos, semiconductores, centros de datos y sistemas autónomos.
La tecnología promete transformar la medicina, la educación, la industria, la investigación científica, las comunicaciones y prácticamente todos los sectores productivos.
Pero las mismas capacidades también pueden utilizarse para desarrollar ataques cibernéticos, automatizar campañas de desinformación, mejorar sistemas militares o realizar operaciones digitales a una escala anteriormente imposible.
Por eso resulta particularmente relevante que las advertencias actuales no procedan exclusivamente de gobiernos, académicos o críticos externos.
Provienen también de algunos de los principales protagonistas de la carrera tecnológica.
La coincidencia entre Amodei, Altman y Musk no significa que exista todavía un acuerdo entre las grandes empresas para detener o limitar conjuntamente el desarrollo de inteligencia artificial.
Pero sí constituye una señal importante.
Por primera vez, algunos de los dirigentes más influyentes del sector están colocando en el centro del debate una cuestión que hasta hace poco parecía secundaria frente a la competencia por construir el modelo más poderoso:
la velocidad con que avanza la inteligencia artificial podría convertirse también en uno de sus principales riesgos.
Fuentes: Reuters; Anthropic; OpenAI; The Washington Post; Wired.