Si Mythos cayera en las manos equivocadas podría explotar fácilmente infraestructuras críticas como redes y centrales eléctricas, y hospitales
Mythos, el nuevo modelo de IA de Anthropic es tan peligroso que provocaría una ola de ataques cibernéticos y terroristas catastróficos si se hiciera público, advirtieron ejecutivos de la empresa en una nota publicada por New York Post.
Anthropic señala en un análisis que si Mythos cayera en las manos equivocadas podría explotar fácilmente infraestructuras críticas como redes y centrales eléctricas, y hospitales.
Mythos ha demostrado ser tan capaz en tareas potencialmente peligrosas, como encontrar y explotar fallos de software, que Anthropic no tiene previsto por el momento lanzarlo al público general, aclaró Logan Graham, jefe del equipo Frontier Red Team de Anthropic, el cual evalúa los riesgos de los modelos de IA de la empresa.
El diario destacó que según la empresa de IA, el modelo ya ha "encontrado miles de vulnerabilidades de alta gravedad, incluidas algunas en todos los principales sistemas operativos y navegadores web".
En lugar de un lanzamiento masivo, Anthropic ha presentado el "Proyecto Glasswing", un plan para proporcionar a Mythos a un grupo selecto de unas 40 empresas, entre las que se incluyen Amazon, Google, Apple, Nvidia, CrowdStrike y JPMorgan.
Esas empresas tendrán acceso anticipado al modelo para usarlo en la detección y corrección de fallos de seguridad.
Para Roman Yampolskiy, investigador de seguridad de IA en la Universidad de Louisville, este lanzamiento exclusivo para empresas es probablemente la mejor manera que tiene Anthropic de "entregárselo a los expertos para que corrijan las vulnerabilidades, pero no a los hackers que van a encontrar más".
"Lo más probable, por supuesto, es que haya algún tipo de filtración, cualquier nivel de restricción es preferible al acceso completamente abierto; idealmente me encantaría que esto no se hubiera desarrollado... y no es que vayan a detenerse".
Un portavoz de Anthropic afirmó que la empresa se centró en organizaciones cuyo software representa la mayor parte de la superficie de ataque cibernético global.
La empresa añadió estar en conversaciones con funcionarios del Gobierno de EU sobre cómo Mythos puede potenciar las capacidades cibernéticas del país, tanto ofensivas como defensivas.
