Anthropisch Reuters über BBC In den letzten Wochen geriet die Welt der künstlichen Intelligenz in Aufruhr, nachdem das führende Unternehmen Anthropic Behauptungen über sein neues Modell Claude Mythos aufgestellt hatte. Das Unternehmen behauptet, herausgefunden zu haben, dass das Tool bei einigen Hacking- und Cybersicherheitsaufgaben Menschen übertreffen kann – was Regulierungsbehörden, Parlamentarier und Finanzinstitute dazu veranlasst hat, über die Gefahren zu diskutieren, die es für digitale Dienste darstellen könnte. Mehreren Technologiegiganten wurde durch eine Initiative namens Project Glasswing Zugang zum Mythos gewährt, die darauf abzielt, die Widerstandsfähigkeit gegen den Mythos selbst zu stärken. Anthropic gab diese Woche bekannt, dass es den Zugang zu Mythos auf weitere 150 Institutionen in verschiedenen Sektoren wie Energie, Wasser, Gesundheit, Kommunikation und Ausrüstung ausweiten wird. Neue Partner müssen Sicherheitsanforderungen erfüllen, bevor sie Zugriff auf die Vorlage erhalten können. Einige Analysten stehen den Fähigkeiten von Mythos sogar noch skeptischer gegenüber und sagen, es liege im Interesse von Anthropic, darauf hinzuweisen, dass es über ein Tool mit noch nie dagewesenen Fähigkeiten verfügt. Das Thema sorgte auch im Finanzsystem für Angst und wurde sogar bei einem IWF-Treffen in Washington unter Beteiligung internationaler Behörden diskutiert. In der Praxis – wie es bei KI oft der Fall ist – ist die Aufgabe, zwischen Fakten und Übertreibungen zu unterscheiden, kompliziert. Was ist Claude Mythos? Der Mythos ist eines der neuesten Modelle von Anthropic, das als Teil seines umfassenderen KI-Systems namens Claude entwickelt wurde. Es umfasst den KI-Assistenten und die Modellfamilie des Unternehmens und konkurriert mit ChatGPT von OpenAI und Gemini von Google. Es wurde Anfang April von Anthropic als „Mythos Preview“ vorgestellt. Forscher, die testen, wie KI-Modelle mit bestimmten Anfragen oder Aufgaben umgehen, sogenannte „Red Teams“, sagten in einem Bericht, dass Mythos „unglaublich fähig bei Computersicherheitsaufgaben“ sei. Sie fanden heraus, dass das Tool in jahrzehntealtem Code versteckte Fehler finden und problemlos ausnutzen konnte. Anstatt es Claude-Benutzern allgemein zugänglich zu machen, gewährte Anthropic über Project Glasswing zwölf Technologieunternehmen Zugang, was es als „eine Anstrengung zum Schutz kritischer Softwaresysteme“ bezeichnete. Dazu gehören der Cloud-Computing-Riese Amazon Web Services, die Gerätehersteller Apple, Microsoft und Google sowie die Chiphersteller Nvidia und Broadcom. Crowdstrike, dessen fehlerhaftes Software-Update im Juli 2024 zu einem großen weltweiten Ausfall führte, gehört ebenfalls zu den Partnern des Projekts, und Anthropic hat nach eigenen Angaben mehr als 40 Organisationen, die für kritische Software verantwortlich sind, Mythos-Zugriff gewährt. In einem Video, das parallel zum Start von Project Glasswing veröffentlicht wurde, sagte Anthropic-Chef Dario Amodei, das Unternehmen habe angeboten, mit US-Regierungsbeamten zusammenzuarbeiten, um „bei der Abwehr der Risiken dieser Modelle zu helfen“. Warum gibt es Bedenken? Anthropic behauptet, bei Tests festgestellt zu haben, dass das Modell in Cybersicherheits- und Hacking-Aufgaben hochqualifiziert ist und den Menschen übertrifft. „Mythos Preview hat bereits Tausende von Sicherheitslücken mit hohem Schweregrad gefunden, darunter einige in allen wichtigen Betriebssystemen und Webbrowsern“, sagte Anthropic am 7. April. „Angesichts der Geschwindigkeit des KI-Fortschritts wird es nicht lange dauern, bis solche Fähigkeiten weit verbreitet sind, möglicherweise über die Akteure hinaus, die sich für ihre sichere Nutzung einsetzen.“ Das Unternehmen sagte, es könne – ohne großen Aufwand – kritische Schwachstellen in alten Systemen lokalisieren, die ein sofortiges Eingreifen erfordern, einschließlich einer Schwachstelle, die seit 27 Jahren in einem System vorhanden sei, und Wege zu deren Ausnutzung vorschlagen. Seitdem haben einige Finanzminister, Zentralbanker und Führungskräfte des Finanzsektors ernsthafte Bedenken geäußert und befürchtet, dass das Modell die Sicherheit der Finanzsysteme gefährden könnte. Der kanadische Finanzminister François-Philippe Champagne sagte der BBC, dass Mythos bei einem Treffen des Internationalen Währungsfonds (IWF) im April in Washington diskutiert wurde. „Es ist sicherlich ernst genug, um die Aufmerksamkeit aller Finanzminister zu verdienen“, sagte er. Andrew Bailey, Gouverneur der Bank of England, sagte gegenüber der BBC: „Wir müssen jetzt sehr genau prüfen, was diese jüngste Entwicklung in der KI für das Cyberkriminalitätsrisiko bedeuten könnte.“ Die Europäische Union sagte, sie befinde sich auch in Gesprächen mit Anthropic über ihre Bedenken im Zusammenhang mit Mythos. Im Mai erhielt der europäische Block Zugriff auf das Tool. Was sagen Cyber-Experten? Ciaran Martin, ehemaliger Leiter des britischen National Cyber ​​​​Security Centre, sagte der BBC Anfang dieser Woche, dass die Behauptung, Mythos könne kritische Schwachstellen viel schneller entdecken als andere KI-Modelle, „die Menschen wirklich erschüttert“ habe. „Das zweite Problem besteht darin, dass er einfach ein sehr guter Hacker ist, selbst wenn es Schwachstellen gibt, von denen wir wissen, die Unternehmen aber möglicherweise nicht gepatcht haben oder gegen die sie sich nicht gut verteidigen können“, sagte er. Viele unabhängige Analysten und Cybersicherheitsexperten konnten Mythos noch nicht selbst testen und einige bleiben hinsichtlich seiner Leistung skeptisch. Das britische AI ​​Security Institute kam kürzlich zu dem Schluss, dass es sich zwar um ein sehr leistungsfähiges Modell handelt, seine größte Bedrohung jedoch von schlecht geschützten und anfälligen Systemen ausgeht. „Wir können nicht mit Sicherheit sagen, ob Mythos Preview in der Lage wäre, gut geschützte Systeme anzugreifen“, sagten die Forscher. Für sie wäre dieses Modell theoretisch begrenzt, wenn es gute Cybersicherheitspraktiken gibt. Die Italienerin Valentina Palmiotti – besser bekannt als Chompie – nimmt an internationalen Ethical-Hacking-Turnieren teil, bei denen Konkurrenten Geld verdienen, indem sie Schwachstellen in Sicherheitssystemen finden, bevor diese von Cyberkriminellen ausgenutzt werden können. Sie sagte der BBC, dass ihre Wettkampftage aufgrund des Aufkommens von KI-Tools wie Claude Mythos möglicherweise gezählt seien. Sollten wir uns Sorgen machen? KI-bezogene Ängste sind nichts Neues. Ständig entstehen neue Modelle und Werkzeuge, die oft mit dem Versprechen einhergehen, unser Leben zu revolutionieren – im Guten wie im Schlechten. Die Nutzung dieser Mischung aus Angst und Aufregung vor KI und ihren zukünftigen Auswirkungen ist in den letzten Jahren auch zu einem Markenzeichen der Branche und ihrer Marketingstrategien geworden. Im Fall von Mythos wissen wir immer noch nicht genug, um zu verstehen, ob diese Hoffnungen oder Befürchtungen berechtigt sind oder ob sie eher die Begeisterung widerspiegeln, die die Branche umgibt. In jedem Fall ist es laut dem National Cyber ​​​​Security Centre, der britischen Cybersicherheitsbehörde, das Wichtigste, was wir jetzt tun können, nicht in Panik zu geraten und uns stattdessen auf die Notwendigkeit zu konzentrieren, die grundlegende Cybersicherheit zu verbessern. Schließlich benötigen die meisten Hacker keine künstlichen Superintelligenz-Tools, um in Systeme einzudringen – in der Regel reichen viel einfachere Angriffe aus. „Für manche ist das ein apokalyptisches Ereignis, für andere scheint es zu weit hergeholt“, sagte Martin der BBC. Aber er sagte, dass es neben den Risiken auch die Möglichkeit gebe, eine sicherere Online-Welt aufzubauen, unabhängig davon, ob es sich um dieses Tool oder um nachfolgende Tools handelt, die von Anthropic oder Konkurrenten entwickelt wurden. „Mittelfristig besteht die Möglichkeit, mit diesen Tools viele der zugrunde liegenden Schwachstellen des Internets zu schließen“, sagte er. Ende April gab Anthropic bekannt, dass es einen Bericht untersucht, wonach sich eine kleine Gruppe von Menschen Zugang zu Claude Mythos verschafft hat. „Wir untersuchen einen Bericht über unbefugten Zugriff auf Claude Mythos Preview über eine unserer Drittanbieterumgebungen“, sagte das Unternehmen in einer Erklärung. Die Erklärung erfolgte als Reaktion auf einen Bloomberg-Bericht, der enthüllte, dass Benutzer in einem privaten Forum ohne die erforderlichen Berechtigungen auf das Modell zugreifen konnten. Wir nutzen künstliche Intelligenz, um diesen ursprünglich auf Englisch verfassten Bericht zu übersetzen. Der Text wurde vor der Veröffentlichung von einem BBC-Journalisten überprüft. Erfahren Sie hier mehr darüber, wie die BBC künstliche Intelligenz nutzt (Link zum englischen Text). Das KI-Unternehmen, das es mit dem Pentagon in den USA aufnahm – und warum es Auswirkungen auf die ganze Welt hat Wie Elon Musk mit SpaceX-Aktienangebot an der Börse zum Billionär werden kann Die Botschaft von Papst Leo 14 über künstliche Intelligenz in seiner ersten „Visitenkarte“ nach Abschluss eines Jahres seines Pontifikats