antrópico Reuters vía BBC En las últimas semanas, el mundo de la inteligencia artificial ha estado alborotado tras las afirmaciones hechas por la empresa líder Anthropic sobre su nuevo modelo, Claude Mythos. La compañía afirma haber descubierto que la herramienta puede superar a los humanos en algunas tareas de piratería informática y ciberseguridad, lo que ha llevado a reguladores, parlamentarios e instituciones financieras a discutir los peligros que podría representar para los servicios digitales. A varios gigantes tecnológicos se les ha concedido acceso a los Mitos a través de una iniciativa llamada Proyecto Glasswing, diseñada para reforzar la resiliencia contra los propios Mitos. Anthropic anunció esta semana que ampliará el acceso a Mythos a otras 150 instituciones en diversos sectores, como energía, agua, salud, comunicaciones y equipos. Los nuevos socios deberán cumplir requisitos de seguridad antes de poder acceder a la plantilla. Algunos analistas son aún más escépticos sobre las capacidades de Mythos y dicen que a Anthropic le interesa sugerir que tiene una herramienta con habilidades nunca antes vistas. El tema también causó temor en el sistema financiero e incluso fue discutido en una reunión del FMI en Washington en la que participaron autoridades internacionales. En la práctica, como suele ocurrir con la IA, la tarea de distinguir entre hechos y exageraciones es complicada. ¿Qué es Claude Mythos? El Mythos es uno de los últimos modelos de Anthropic, desarrollado como parte de su sistema de inteligencia artificial más amplio llamado Claude. Abarca el asistente de IA de la compañía y la familia de modelos, rivalizando con ChatGPT de OpenAI y Gemini de Google. Anthropic lo presentó a principios de abril como "Mythos Preview". Los investigadores que prueban cómo los modelos de IA manejan solicitudes o tareas específicas, conocidos como "equipos rojos", dijeron en un informe que Mythos era "increíblemente capaz en tareas de seguridad informática". Descubrieron que la herramienta podía localizar errores inactivos ocultos en códigos de décadas de antigüedad y explotarlos con facilidad. En lugar de ponerlo a disposición de los usuarios de Claude, Anthropic otorgó acceso a 12 empresas de tecnología a través del Proyecto Glasswing, que describió como "un esfuerzo para proteger los sistemas de software críticos". Entre ellos se incluyen el gigante de la computación en la nube Amazon Web Services, los fabricantes de dispositivos Apple, Microsoft y Google, y los fabricantes de chips Nvidia y Broadcom. Crowdstrike, cuya actualización de software defectuosa provocó una importante interrupción mundial en julio de 2024, también se encuentra entre los socios del proyecto, y Anthropic dice que ha otorgado a Mythos acceso a más de 40 organizaciones responsables de software crítico. En un vídeo publicado junto con el lanzamiento del Proyecto Glasswing, el jefe de Anthropic, Dario Amodei, dijo que la compañía se ofreció a trabajar con funcionarios del gobierno de EE. UU. para "ayudar a defenderse contra el riesgo de estos modelos". ¿Por qué hay preocupaciones? Anthropic afirma que durante las pruebas descubrió que el modelo es altamente hábil en ciberseguridad y tareas de piratería, superando a los humanos. "Mythos Preview ya ha encontrado miles de vulnerabilidades de alta gravedad, incluidas algunas en todos los principales sistemas operativos y navegadores web", dijo Anthropic el 7 de abril. "Dada la velocidad del progreso de la IA, no pasará mucho tiempo antes de que tales capacidades se generalicen, potencialmente más allá de los actores comprometidos con su uso seguro". La compañía dijo que podía localizar -con poca supervisión- fallas críticas que requieren acción inmediata en sistemas antiguos, incluida una vulnerabilidad que había estado presente en un sistema durante 27 años, y sugerir formas de explotarlas. Desde entonces, algunos ministros de finanzas, banqueros centrales y ejecutivos del sector financiero han expresado serias preocupaciones, temiendo que el modelo pueda comprometer la seguridad de los sistemas financieros. El Ministro de Finanzas canadiense, François-Philippe Champagne, dijo a la BBC que Mythos fue discutido en una reunión del Fondo Monetario Internacional (FMI) en Washington en abril. "Ciertamente es lo suficientemente grave como para merecer la atención de todos los ministros de Finanzas", afirmó. El gobernador del Banco de Inglaterra, Andrew Bailey, dijo a la BBC: "Ahora tenemos que analizar con mucho cuidado lo que este reciente desarrollo de la IA podría significar para el riesgo de cibercrimen". La Unión Europea dijo que también está en conversaciones con Anthropic sobre sus preocupaciones relacionadas con Mythos. En mayo, el bloque europeo recibió acceso a la herramienta. ¿Qué dicen los ciberexpertos? Ciaran Martin, exjefe del Centro Nacional de Seguridad Cibernética del Reino Unido, le dijo a la BBC a principios de esta semana que la afirmación de que Mythos podría descubrir vulnerabilidades críticas mucho más rápido que otros modelos de IA "realmente sacudió a la gente". "El segundo problema es que incluso con vulnerabilidades existentes que conocemos pero que las organizaciones pueden no haber parchado o no estar bien defendidas, él es simplemente un muy buen hacker", dijo. Muchos analistas independientes y expertos en ciberseguridad aún no han podido probar Mythos por sí mismos y algunos siguen siendo escépticos sobre su desempeño. El Instituto de Seguridad de IA del Reino Unido concluyó recientemente que, aunque es un modelo muy potente, su mayor amenaza sería contra sistemas vulnerables y mal protegidos. "No podemos decir con certeza si Mythos Preview sería capaz de atacar sistemas bien protegidos", dijeron sus investigadores. Para ellos, donde existen buenas prácticas de ciberseguridad, este modelo, en teoría, estaría contenido. La italiana Valentina Palmiotti, más conocida como Chompie, participa en torneos internacionales de piratería ética, en los que los competidores ganan dinero encontrando vulnerabilidades en los sistemas de seguridad antes de que puedan ser explotadas por ciberdelincuentes. Le dijo a la BBC que sus días de competencia pueden estar contados debido al auge de herramientas de inteligencia artificial como Claude Mythos. ¿Deberíamos preocuparnos? Los temores relacionados con la IA no son nada nuevo. Constantemente surgen nuevos modelos y herramientas, que a menudo van acompañados de promesas de revolucionar nuestras vidas, para bien o para mal. Aprovechar esta mezcla de miedo y entusiasmo por la IA y su impacto futuro también se ha convertido en un sello distintivo de la industria y sus estrategias de marketing en los últimos años. En el caso de Mythos, todavía no sabemos lo suficiente para entender si estas esperanzas o temores están justificados o son más bien un reflejo del entusiasmo que rodea al sector. En cualquier caso, según el Centro Nacional de Seguridad Cibernética, el organismo británico de ciberseguridad, lo más importante que podemos hacer ahora es no entrar en pánico y centrarnos en la necesidad de arreglar la ciberseguridad básica. Después de todo, la mayoría de los piratas informáticos no necesitan herramientas de superinteligencia artificial para violar los sistemas; ataques mucho más simples suelen ser suficientes. "Para algunos esto es un acontecimiento apocalíptico, para otros parece demasiado descabellado", dijo Martin a la BBC. Pero dijo que, ya sea esta herramienta o otras posteriores desarrolladas por Anthropic o sus competidores, más allá de los riesgos existe la oportunidad de construir un mundo en línea más seguro. "A mediano plazo, existe la oportunidad de utilizar estas herramientas para corregir muchas de las vulnerabilidades subyacentes de Internet", afirmó. A finales de abril, Anthropic anunció que estaba investigando un informe de que un pequeño grupo de personas obtuvo acceso a Claude Mythos. "Estamos investigando un informe de acceso no autorizado a Claude Mythos Preview a través de uno de nuestros entornos de proveedores externos", dijo la compañía en un comunicado. La declaración fue en respuesta a un informe de Bloomberg, que reveló que los usuarios de un foro privado podían acceder al modelo sin los permisos necesarios. Utilizamos inteligencia artificial para traducir este informe, escrito originalmente en inglés. El texto fue revisado por un periodista de la BBC antes de su publicación. Obtenga más información aquí sobre cómo la BBC utiliza la inteligencia artificial (enlace al texto en inglés). La empresa de inteligencia artificial que se enfrentó al Pentágono en EE. UU. y por qué afecta al mundo entero Cómo Elon Musk puede convertirse en billonario con la oferta de acciones de SpaceX en bolsa El mensaje del Papa León 14 sobre la inteligencia artificial en su primera 'tarjeta de presentación' al cumplir un año de pontificado