El sector de la inteligencia artificial enfrenta una nueva polémica tras la aparición de versiones sobre un supuesto incidente de seguridad que involucra a modelos creados por Anthropic y a la Agencia de Seguridad Nacional de Estados Unidos (NSA).
Según lo informado por la revista The Economist, el senador estadounidense Mark Warner, quien es vicepresidente del Comité de Inteligencia del Senado, aseguró que el director de la NSA y del Comando Cibernético de Estados Unidos, el general Joshua Rudd, le comunicó que el modelo de inteligencia artificial Mythos había conseguido acceder a una gran parte de los sistemas clasificados de la agencia en cuestión de horas.
Este hecho habría sido revelado el 11 de junio, día en el cual Amazon detectó un mecanismo de evasión de restricciones, conocido como jailbreak, en los modelos de Anthropic.
La gravedad del incidente llevó al presidente Donald Trump a ordenar la restricción del acceso internacional a los modelos Mythos y Fable. Sin embargo, la respuesta de Anthropic fue más drástica, optando por desactivar los modelos por completo.
El episodio está rodeado de versiones contradictorias. Algunos reportes indican que la decisión de retirar los modelos se debió a que los sistemas clasificados de la NSA fueron vulnerados en pocas horas a través de estas herramientas de inteligencia artificial. Si esto se confirma, podría ser uno de los incidentes de seguridad más significativos relacionados con el desarrollo de modelos avanzados de IA, con potenciales repercusiones en toda la industria.
No obstante, otra versión sostiene que dentro de Anthropic se tiene una interpretación distinta de lo ocurrido. Según esta postura, el jailbreak detectado habría sido relativamente menor y la reacción del gobierno habría sido desproporcionada ante un problema que, afirman, también afecta a otros modelos de inteligencia artificial disponibles en el mercado.
Un aspecto notable de esta controversia es que la propia NSA ya utilizaba sistemas de Anthropic en algunas de sus operaciones de ciberseguridad. Además, reportes indican que ingenieros de la empresa trabajaban integrados dentro de la agencia para colaborar en el desarrollo y aplicación de estas herramientas.
Por este motivo, las versiones que circulan son especialmente sensibles: la misma tecnología que la NSA empleaba para fortalecer sus capacidades defensivas sería, según una interpretación, la que terminó poniendo a prueba sus propios sistemas.
Este caso reabre el debate sobre la seguridad de los modelos de inteligencia artificial, ya que a medida que estas herramientas adquieren mayor capacidad para analizar información, programar y automatizar tareas complejas, también surgen interrogantes sobre los riesgos asociados a su uso.
Por el momento, ni Anthropic ni las autoridades estadounidenses han brindado información detallada que permita verificar de manera independiente el alcance real del incidente.
Con información de Montevideo Portal
