Anthropique Reuters via la BBC Ces dernières semaines, le monde de l'intelligence artificielle est en émoi suite aux affirmations du leader Anthropic concernant son nouveau modèle, Claude Mythos. L’entreprise affirme avoir découvert que l’outil peut surpasser les humains dans certaines tâches de piratage et de cybersécurité – ce qui a conduit les régulateurs, les parlementaires et les institutions financières à discuter des dangers qu’il pourrait présenter pour les services numériques. Plusieurs géants de la technologie ont obtenu l'accès au Mythe grâce à une initiative appelée Projet Glasswing, conçue pour renforcer la résilience contre le Mythe lui-même. Anthropic a annoncé cette semaine qu'elle étendrait l'accès à Mythos à 150 autres institutions dans divers secteurs, tels que l'énergie, l'eau, la santé, les communications et l'équipement. Les nouveaux partenaires devront répondre aux exigences de sécurité avant de pouvoir accéder au modèle. Certains analystes sont encore plus sceptiques quant aux capacités de Mythos et affirment qu'il est dans l'intérêt d'Anthropic de suggérer qu'il dispose d'un outil doté de capacités jamais vues auparavant. La question a également suscité la peur au sein du système financier et a même été discutée lors d’une réunion du FMI à Washington impliquant les autorités internationales. Dans la pratique, comme c’est souvent le cas avec l’IA, la tâche consistant à faire la distinction entre les faits et les exagérations est compliquée. Qu’est-ce que Claude Mythe ? Le Mythos est l'un des derniers modèles d'Anthropic, développé dans le cadre de son système d'IA plus large appelé Claude. Il englobe l'assistant IA et la famille de modèles de l'entreprise, rivalisant avec ChatGPT d'OpenAI et Gemini de Google. Il a été présenté en avant-première par Anthropic début avril sous le titre « Mythos Preview ». Les chercheurs qui testent la manière dont les modèles d'IA gèrent des requêtes ou des tâches spécifiques, appelés « équipes rouges », ont déclaré dans un rapport que Mythos était « incroyablement capable de réaliser des tâches de sécurité informatique ». Ils ont découvert que l’outil pouvait localiser les bogues dormants cachés dans un code vieux de plusieurs décennies et les exploiter facilement. Plutôt que de le rendre largement accessible aux utilisateurs de Claude, Anthropic a accordé l'accès à 12 entreprises technologiques via le projet Glasswing, qu'elle a décrit comme « un effort pour protéger les systèmes logiciels critiques ». Il s'agit notamment du géant du cloud computing Amazon Web Services, des fabricants d'appareils Apple, Microsoft et Google, ainsi que des fabricants de puces Nvidia et Broadcom. Crowdstrike, dont la mise à jour logicielle défectueuse a provoqué une panne mondiale majeure en juillet 2024, fait également partie des partenaires du projet, et Anthropic affirme avoir accordé à Mythos l'accès à plus de 40 organisations responsables de logiciels critiques. Dans une vidéo publiée lors du lancement du projet Glasswing, le patron d'Anthropic, Dario Amodei, a déclaré que la société avait proposé de travailler avec des responsables du gouvernement américain afin de "aider à se défendre contre les risques liés à ces modèles". Pourquoi y a-t-il des inquiétudes ? Anthropic affirme qu'au cours des tests, il a découvert que le modèle est hautement qualifié dans les tâches de cybersécurité et de piratage, surpassant les humains. "Mythos Preview a déjà découvert des milliers de vulnérabilités de haute gravité, dont certaines dans tous les principaux systèmes d'exploitation et navigateurs Web", a déclaré Anthropic le 7 avril. "Compte tenu de la rapidité des progrès de l'IA, il ne faudra pas longtemps avant que de telles capacités se généralisent, potentiellement au-delà des acteurs engagés dans leur utilisation sûre." La société a déclaré qu'elle pouvait localiser – avec peu de surveillance – des failles critiques nécessitant une action immédiate dans les anciens systèmes, y compris une vulnérabilité présente dans un système depuis 27 ans, et suggérer des moyens de les exploiter. Depuis lors, certains ministres des Finances, banquiers centraux et dirigeants du secteur financier ont exprimé de sérieuses inquiétudes, craignant que ce modèle ne compromette la sécurité des systèmes financiers. Le ministre canadien des Finances, François-Philippe Champagne, a déclaré à la BBC que Mythe avait été discuté lors d'une réunion du Fonds monétaire international (FMI) à Washington en avril. "C'est certainement suffisamment grave pour mériter l'attention de tous les ministres des Finances", a-t-il déclaré. Le gouverneur de la Banque d'Angleterre, Andrew Bailey, a déclaré à la BBC : "Nous devons maintenant examiner très attentivement ce que ce récent développement de l'IA pourrait signifier pour le risque de cybercriminalité." L'Union européenne a déclaré qu'elle était également en discussion avec Anthropic au sujet de ses préoccupations liées à Mythos. En mai, le bloc européen a eu accès à l'outil. Que disent les cyber-experts ? Ciaran Martin, ancien directeur du National Cyber ​​​​Security Centre du Royaume-Uni, a déclaré à la BBC plus tôt cette semaine que l'affirmation selon laquelle Mythos pourrait découvrir des vulnérabilités critiques beaucoup plus rapidement que d'autres modèles d'IA "avait vraiment secoué les gens". "Le deuxième problème est que même avec les vulnérabilités existantes que nous connaissons mais que les organisations n'ont peut-être pas corrigées ou contre lesquelles elles ne sont pas bien défendues, il est tout simplement un très bon pirate informatique", a-t-il déclaré. De nombreux analystes indépendants et experts en cybersécurité n’ont pas encore pu tester Mythos par eux-mêmes, et certains restent sceptiques quant à ses performances. L’AI Security Institute du Royaume-Uni a récemment conclu que, bien qu’il s’agisse d’un modèle très puissant, sa plus grande menace concernerait les systèmes mal protégés et vulnérables. "Nous ne pouvons pas dire avec certitude si Mythos Preview sera capable d'attaquer des systèmes bien protégés", ont déclaré ses chercheurs. Pour eux, là où existent de bonnes pratiques de cybersécurité, ce modèle serait en théorie contenu. L'Italienne Valentina Palmiotti – mieux connue sous le nom de Chompie – participe à des tournois internationaux de piratage éthique, dans lesquels les concurrents gagnent de l'argent en trouvant des vulnérabilités dans les systèmes de sécurité avant qu'elles ne puissent être exploitées par des cybercriminels. Elle a déclaré à la BBC que ses jours de compétition pourraient être comptés en raison de la montée en puissance d'outils d'IA comme Claude Mythos. Faut-il s'inquiéter ? Les craintes liées à l’IA ne sont pas nouvelles. De nouveaux modèles et outils apparaissent constamment et sont souvent accompagnés de promesses de révolutionner nos vies – pour le meilleur ou pour le pire. Tirer parti de ce mélange de peur et d’enthousiasme à l’égard de l’IA et de son impact futur est également devenu une caractéristique de l’industrie et de ses stratégies marketing ces dernières années. Dans le cas de Mythos, nous n'en savons pas encore assez pour comprendre si ces espoirs ou craintes sont justifiés, ou plutôt le reflet de l'enthousiasme qui entoure le secteur. Dans les deux cas, selon le National Cyber ​​​​Security Centre, l’organisme britannique de cybersécurité, la chose la plus importante que nous puissions faire maintenant est de ne pas paniquer et de nous concentrer plutôt sur la nécessité d’améliorer la cybersécurité de base. Après tout, la plupart des pirates n’ont pas besoin d’outils de superintelligence artificielle pour pénétrer dans les systèmes : des attaques beaucoup plus simples suffisent généralement. "Pour certains, il s'agit d'un événement apocalyptique, pour d'autres cela semble trop tiré par les cheveux", a déclaré Martin à la BBC. Mais il a ajouté que, qu'il s'agisse de cet outil ou des outils ultérieurs développés par Anthropic ou ses concurrents, au-delà des risques, il existe une opportunité de construire un monde en ligne plus sûr. "À moyen terme, il existe une opportunité d'utiliser ces outils pour corriger de nombreuses vulnérabilités sous-jacentes d'Internet", a-t-il déclaré. Fin avril, Anthropic a annoncé qu'elle enquêtait sur un rapport selon lequel un petit groupe de personnes aurait eu accès à Claude Mythos. "Nous enquêtons sur un rapport faisant état d'un accès non autorisé à Claude Mythos Preview via l'un de nos environnements de fournisseurs tiers", a indiqué la société dans un communiqué. Cette déclaration faisait suite à un rapport de Bloomberg, qui révélait que les utilisateurs d'un forum privé pouvaient accéder au modèle sans les autorisations nécessaires. Nous utilisons l’intelligence artificielle pour traduire ce rapport, initialement rédigé en anglais. Le texte a été révisé par un journaliste de la BBC avant publication. Découvrez ici comment la BBC utilise l’intelligence artificielle (lien vers le texte anglais). La société d’IA qui a affronté le Pentagone aux États-Unis – et pourquoi cela affecte le monde entier Comment Elon Musk peut devenir milliardaire grâce à l'offre d'actions SpaceX en bourse Message du pape Léon 14 sur l'intelligence artificielle dans sa première « carte de visite » au terme d'un an de son pontificat