Los cuatro escenarios de alto impacto que las principales empresas de inteligencia artificial ya empiezan a planificar en privado

Los principales ejecutivos de OpenAI, Anthropic y otras compañías del sector de inteligencia artificial mantienen reuniones privadas en las que debaten cómo reaccionarían si la tecnología que desarrollan provocara un incidente de alto impacto. Las reuniones no implican que esos eventos vayan a ocurrir, pero muestran una preocupación creciente en la industria ante sistemas cada vez más capaces y con mayor alcance en la vida cotidiana de las personas.

El ciberataque a infraestructura crítica, el escenario más inquietante

El primer escenario y el que más preocupa a los referentes del sector es un ciberataque de gran escala que deje fuera de servicio infraestructura crítica: bancos, redes de comunicación, centrales eléctricas o sistemas de suministro de agua. Un atacante podría valerse de herramientas de inteligencia artificial para detectar vulnerabilidades, producir código malicioso y automatizar tareas que hasta hace poco requerían más tiempo y conocimientos técnicos especializados. El informe internacional sobre seguridad de inteligencia artificial correspondiente a 2026 documenta evidencia de actores maliciosos que ya utilizan estos sistemas en operaciones cibernéticas, así como de modelos capaces de asistir en la explotación de fallas de seguridad.

Los otros tres escenarios bajo análisis

• Armas biológicas asistidas por modelos: varias empresas incorporaron salvaguardas adicionales a sus sistemas después de que las pruebas previas al lanzamiento no permitieran descartar que pudieran asistir a usuarios sin experiencia técnica en esa área. Las mismas capacidades, no obstante, tienen aplicaciones legítimas en investigación médica.
• Pérdida de control sobre sistemas autónomos: agentes de inteligencia artificial que persigan objetivos en conflicto con los intereses humanos y resulten costosos o difíciles de detener. Para que ese riesgo se materialice, los sistemas deberían poder evadir la supervisión y resistir intentos de apagado.
• Errores acelerados en contextos de tensión nuclear: modelos que asistan a operadores humanos en situaciones de alta presión y complejidad, donde una equivocación podría desencadenar consecuencias graves.

El antecedente de la investigación de Anthropic sobre gusanos de inteligencia artificial

Sobre el segundo escenario, Anthropic publicó una investigación en la que, bajo condiciones de laboratorio y con una vulnerabilidad preparada para el experimento, probó la replicación de modelos pequeños entre nodos que simulaban dispositivos Android. La compañía aclaró que el trabajo no demuestra la existencia de un gusano de inteligencia artificial capaz de propagarse libremente por internet, sino que lo presentó como una señal de riesgo a monitorear a medida que mejoren las capacidades de los modelos. Los investigadores del área no coinciden, en tanto, sobre cuán probable resulta el escenario de pérdida de control sobre sistemas autónomos.

La planificación de estos cuatro escenarios se inscribe en un cambio de enfoque dentro de la industria: ya no se trata solo de evitar fallas técnicas, sino de coordinar respuestas frente a eventos cuyos efectos podrían sentirse más allá de las propias empresas que desarrollan la tecnología. Los ejecutivos que participan de las reuniones coinciden en que la preparación temprana es una forma de reducir el margen de improvisación si alguno de esos cuatro escenarios se concreta en los próximos años.