¿Qué hay detrás del bloqueo estadounidense de la IA de Claude?
⚡ Resumen rápido
Departamento de Guerra Antrópico y de EE. Reuters/Dado Ruvic/Ilustración Anthropic anunció el viernes (12) que había restringido el acceso a dos de sus modelos avanzados de inteligencia artificial (IA).
Departamento de Guerra Antrópico y de EE. UU.
Reuters/Dado Ruvic/Ilustración
Anthropic anunció el viernes (12) que había restringido el acceso a dos de sus modelos avanzados de inteligencia artificial (IA). La empresa, creadora de la familia de modelos lingüísticos Claude, recibió una orden del gobierno de Estados Unidos, que cita preocupaciones de seguridad nacional.
En un comunicado, la compañía dijo que había recibido una directiva para bloquear los modelos Claude Fable 5, lanzados el martes pasado, y Claude Mythos 5 para todos los ciudadanos extranjeros, "dentro o fuera de Estados Unidos, incluidos los empleados extranjeros de la propia compañía".
El acceso está bloqueado temporalmente para todos los clientes para garantizar el cumplimiento del pedido.
El repentino bloqueo marca una escalada significativa en el conflicto entre Anthropic y la Casa Blanca bajo el presidente Donald Trump. Las negociaciones fracasaron a principios de este año sobre el uso de la tecnología de la empresa por parte del ejército y los servicios de inteligencia de Estados Unidos.
La restricción podría perjudicar los planes de Anthropic de realizar una oferta pública inicial de acciones, posiblemente en el segundo semestre de este año, con una valoración cercana al billón de dólares. Está proliferando la preocupación entre los inversores sobre los riesgos regulatorios y la capacidad de la empresa para mantener su ventaja tecnológica.
Lea también:
Anthropic suspende modelos de IA después de que Estados Unidos restringiera el acceso extranjero
Anthropic u OpenIA: ¿quién ganará la disputa del billón de dólares?
Riesgo de ciberataques sofisticados
Las versiones bloqueadas son las más recientes del modelo Claude. Fable 5 está ampliamente disponible para el público, mientras que Mythos 5 está restringido en gran medida a organizaciones previamente autorizadas.
Fable 5 es una versión restringida de Mythos 5, que Anthropic ha mantenido fuera del alcance del público debido a la preocupación de que tenga "capacidades sin precedentes" para identificar vulnerabilidades de software, algunas de las cuales han permanecido desconocidas durante décadas, o fallas de código que los piratas informáticos podrían explotar.
Hasta ahora, esta capacidad ha sido utilizada por las autoridades estadounidenses y empresas seleccionadas para reparar las violaciones de seguridad. Sin embargo, desde el principio ha habido temores de que este tipo de IA pudiera convertirse en un arma cibernética peligrosa en las manos equivocadas.
Los expertos dicen que los modelos Mythos podrían acelerar significativamente los ataques sofisticados, especialmente en sectores como la banca, que dependen de sistemas tecnológicos complejos, interconectados y a menudo con décadas de antigüedad.
Las propias pruebas de Anthropic detectaron una pequeña cantidad de fallas conocidas, clasificadas como "vulnerabilidades menores", según Anthropic.
La empresa refutó, sin embargo, que la retirada de sus productos de la circulación esté justificada y añadió que, si se aplicara ampliamente, la norma "impediría esencialmente el lanzamiento de nuevos modelos por parte de todos los desarrolladores de IA de vanguardia".
Conflicto creciente
La relación entre Anthropic y el gobierno de EE. UU. se deterioró este año después de que la compañía se negara a permitir el uso de sus modelos de inteligencia artificial para vigilancia nacional y sistemas de armas totalmente autónomos.
Claude es el modelo de IA de vanguardia más utilizado por el Pentágono y el único modelo de su tipo que actualmente opera en los sistemas del Departamento de Defensa que manejan información clasificada.
En respuesta, el Pentágono añadió a Anthropic a una lista de empresas consideradas un riesgo para las cadenas de suministro, que se espera que entre en vigor a finales de este año y podría limitar drásticamente sus contratos federales.
Más tarde, a principios de este mes, Trump firmaría una orden ejecutiva que exige la evaluación previa, durante hasta un mes, de los sistemas de inteligencia artificial más avanzados para detectar riesgos de seguridad nacional antes de su publicación. Hasta entonces, los controles de exportación de Estados Unidos se han centrado principalmente en chips y hardware de IA, en lugar de restringir el acceso extranjero a los modelos mismos.
El Pentágono habla de "seguridad nacional"
La directora de información del Pentágono, Kirsten Davies, dijo en una publicación de la cadena X que el Departamento de Defensa apoya la priorización de la seguridad nacional. "Algunas cosas son simplemente más importantes que los ciclos de ingresos, el clickbait y las valoraciones previas a la IPO. Estados Unidos primero. Siempre", publicó.
Anthropic presentó de forma confidencial una oferta pública inicial el mes pasado en Estados Unidos, adelantándose a su rival OpenAI en la carrera por acceder a los mercados públicos.
Hace unos días, el director ejecutivo de Anthropic, Dario Amodei, se pronunció a favor de que el gobierno bloquee el software de IA potencialmente peligroso. La empresa subraya, sin embargo, que esto debe realizarse basándose en procedimientos transparentes, criterios claros y hechos técnicos, algo que, según ella, no ocurre por el momento.
El New York Times calificó la orden de esta semana de "inusualmente amplia", señalando que podría impedir que los empleados de Anthropic en países aliados, como Canadá o el Reino Unido, utilicen los modelos.
Varios miembros clave de Anthropic, incluido el cofundador Chris Olah, el investigador Andrej Karpathy y la filósofa Amanda Askell, nacieron fuera de los Estados Unidos. No está claro si son ciudadanos estadounidenses ni si correrían el riesgo de perder el acceso a los modelos de IA.
← Volver