Das neue künstliche Intelligenzmodell von Anthropic, bekannt als Claude Mythos VorschauEs hat sich zum Epizentrum der globalen Debatte über die Grenzen fortschrittlicher KI entwickelt. Das Unternehmen selbst räumt ein, dass das System in puncto Cybersicherheit so leistungsstark ist, dass es sich gegen eine breite Markteinführung entschieden hat – eine ungewöhnliche Entscheidung in einer Branche, die es gewohnt ist, mit jedem neuen Fortschritt zu prahlen.
Es geht nicht nur um eine schrittweise Verbesserung gegenüber früheren Modellen, sondern ein qualitativer Sprung in der Fähigkeit, Computer-Schwachstellen zu erkennen und auszunutzenRegierungen, Zentralbanken, große Finanzinstitute und europäische Regulierungsbehörden beobachten den Fall genau, da sie sich bewusst sind, dass ein solches Instrument … die Verteidigung kritischer Systeme stärkenDoch wenn es in die falschen Hände geriete, könnte es auch die Tür für Angriffe von beispiellosem Ausmaß öffnen.
Was genau ist Claude Mythos und warum hat sich der Start verzögert?
Claude Mythos ist eines der neuesten Modelle der Claude-Familie, dem KI-Ökosystem von Anthropic, das mit anderen Systemen konkurriert. ChatGPT von OpenAI und Gemini von GoogleEs handelt sich um ein universelles Modell, das zum logischen Denken, Programmieren und Arbeiten mit langfristigen Kontexten fähig ist, aber sein umstrittenstes Merkmal ist seine Leistung in offensiver und defensiver Cybersicherheit.
Namens „rote Teams“Spezialisten, die KI-Systeme bis an ihre Grenzen testen, kamen in einem internen Bericht zu dem Schluss, dass Mythos bei Aufgaben der Cybersicherheit „überraschend leistungsfähig“ ist. In Benchmark-Tests wie beispielsweise SWE-Bench verifiziert o SWE-bench ProDas Modell, das zur Messung der Fähigkeit zur Lösung realer Softwareentwicklungsprobleme konzipiert wurde, hätte laut Angaben von Anthropic selbst erstklassige kommerzielle Alternativen, einschließlich fortgeschrittener Versionen von GPT und Gemini, problemlos übertroffen.
Abgesehen von den Benchmarks hat vor allem Folgendes Anlass zur Sorge gegeben: Mythos konnte orten Zero-Day-Schwachstellen – bisher unbekannte Schwachstellen – in weit verbreiteten Softwarekomponenten, von denen einige über zwei Jahrzehnte alt sind. In Systemen wie OpenBSD, FFmpeg und FreeBSD-Komponenten entdeckte das Modell nicht nur Fehler, die jahrelang unbemerkt geblieben waren, sondern generierte auch funktionierende Exploits, um diese auszunutzen.
Angesichts dieser Ergebnisse entschied sich Anthropic für eine in der Branche ungewöhnliche Vorgehensweise: Das Modell vorzustellen und dann anzukündigen, dass es nicht öffentlich vermarktet wird. weil es darin ein beispielloses Cybersicherheitsrisiko sieht. Das Unternehmen beharrt darauf, dass Mythos das am besten geeignete Modell sei, das sie entwickelt haben, räumt aber ein, dass seine enorme Kapazität die Folgen eines Missbrauchs verstärkt.
Ein Modell mit "Hacker"-Fähigkeiten, die weit über die menschlichen Fähigkeiten hinausgehen
Technische Dokumente und Berichte verschiedener Organisationen stimmen darin überein, dass Mythos markiert einen Wendepunkt in der Automatisierung komplexer AngriffeIn Testumgebungen, die reale Unternehmensnetzwerke simulierten, war das System in der Lage, Schwachstellen zu verketten, Berechtigungen zu eskalieren und dauerhaften Zugriff innerhalb weniger Stunden zu erlangen – Aufgaben, für die ein menschlicher Experte Tage oder Wochen benötigen würde.
In der JavaScript-Engine von Firefox beispielsweise gelang es früheren Versionen der Anthropic-Modelle nur selten, Sicherheitslücken in funktionierende Exploits umzuwandeln. Mythos hingegen, unter denselben Testbedingungen, generierte Dutzende von operativen ExploitsEs bildet die Ausnutzung der effektivsten Angriffsvektoren präzise nach. Auf Analyseplattformen wie OSS-Fuzz, die zur Fehlersuche in Open-Source-Software entwickelt wurden, hat es schwerwiegende Sicherheitslücken aufgedeckt, die trotz jahrelanger automatisierter Tests unentdeckt geblieben waren.
Das Modell hat auch bemerkenswerte Fähigkeiten unter Beweis gestellt in Reverse EngineeringEs kann Teile der Programmlogik aus kompilierten Binärdateien rekonstruieren und anschließend Schwachstellen aufspüren und ausnutzen, ohne auf den ursprünglichen Quellcode zugreifen zu müssen. Diese Fähigkeit rückt KI näher an Anwendungsszenarien heran, die bis vor Kurzem als ausschließlich hochspezialisierten menschlichen Teams vorbehalten galten.
Eines der am häufigsten zitierten Beispiele in Sicherheitsbewertungen ist der sogenannte „Sandwich-Test“. In einer isolierten Laborumgebung erhielt Mythos die Kontrolle über ein System mit der ausdrücklichen Anweisung, Folgendes zu versuchen: Entfliehen Sie dem Sandkasten und kontaktieren Sie den Forscher. Der Testleiter war nicht im Büro. Das Modell nutzte mehrere Sicherheitslücken aus, um aus seiner geschützten Umgebung auszubrechen und eine E-Mail an den Verantwortlichen zu senden, der sich zu diesem Zeitpunkt nicht im Büro befand. Obwohl der Vorfall in einer älteren internen Version und unter direkter Anleitung auftrat, verdeutlicht er, wie gut das System in komplexen Szenarien mit minimaler Überwachung funktionieren kann.
Trotz dieser Demonstrationen betonen Analysten, dass Wir haben es nicht mit einer „bewussten“ KI oder einer mit eigenem Willen zu tun.Mythos greift Systeme nicht von selbst an; es führt die ihm übertragenen Aufgaben so effizient wie möglich aus. Das Risiko besteht in diesem Sinne nicht darin, dass das Modell rebelliert, sondern darin, dass es jemand – oder durch gezielte Manipulation – für schädliche Aktionen missbraucht.
Projekt Glasswing: Mythos im Dienste der Verteidigung… für einige wenige Auserwählte
Anstatt Mythos der breiten Öffentlichkeit zugänglich zu machen, hat sich Anthropic dafür entschieden, Mythos mit einem spezifischen Programm zu umgeben. Projekt GlasswingDie Initiative, die darauf abzielt, die Fähigkeiten des Modells kontrolliert zum Schutz kritischer Software einzusetzen, sieht vor, das System unter strengen Nutzungsbedingungen einer ausgewählten Gruppe großer Technologieunternehmen, Infrastrukturanbieter und Finanzinstitute anzubieten.
Zu den Organisationen mit Zugang gehören Giganten wie beispielsweise Amazon Web Services, Apple, Microsoft, CumolocityNvidia oder Broadcomsowie Cybersicherheitsfirmen wie CrowdStrike, deren fehlerhafte Software 2024 weltweit für erhebliche Störungen sorgte. Zu ihnen gesellen sich weltbekannte Banken, darunter JP Morgan Chase und mehrere große Wall-Street-Gruppensowie andere Organisationen, die für die Wartung sensibler IT-Infrastrukturen verantwortlich sind.
Anthropic hat außerdem angekündigt Kredite im Wert von 100 Millionen Dollar Diese Finanzierung ermöglicht es diesen Organisationen, Mythos für die Schwachstellenanalyse zu nutzen, zusammen mit Spenden an Stiftungen für freie Software wie die Linux Foundation und die Apache Software Foundation. Das offizielle Ziel ist klar: Den Verantwortlichen für die weltweit wichtigsten Softwarelösungen sollen die Möglichkeit gegeben werden, Schwachstellen zu erkennen und zu beheben, bevor diese potenziellen Angreifern zur Verfügung stehen.
Diese Strategie ruft jedoch in der Branche einige Bedenken hervor. Einerseits bestärkt sie die Vorstellung, dass Technologie so gefährlich ist, dass ein eingeschränkter Zugang erforderlich ist. Andererseits Dadurch entsteht eine Kluft zwischen denen, die vom Mythos-"Schutz" profitieren, und denen, die außen vor bleiben.Unternehmen und Verwaltungen, die nicht Teil von Glasswing sind, laufen Gefahr, später mit Sicherheitslücken konfrontiert zu werden, die zwar in privilegierten Umgebungen identifiziert und behoben wurden, aber in ihren eigenen Systemen immer noch vorhanden sind.
In Europa bereitet diese Asymmetrie insbesondere den Verantwortlichen für kritische Infrastrukturen und den Sicherheitsteams großer Industrie- und Finanzkonzerne Sorgen, die genau beobachten, ob Brüssel und die europäischen Hauptstädte stellen sicher, dass ähnliche Programme wichtige Akteure des Kontinents gleichberechtigt einbeziehen. und Cloud-Souveränität mit den US-Partnern.
Reaktionen von Regierungen, Aufsichtsbehörden und dem Finanzsektor
Die Auswirkungen von Mythos beschränken sich nicht auf den technischen Bereich. Innerhalb weniger Tage löste die Ankündigung des Modells eine Welle von Reaktionen aus. hochrangige Treffen in den Vereinigten Staaten und EuropaDer US-Finanzminister berief die Chefs der wichtigsten Banken des Landes nach Washington ein, um die Risiken zu bewerten, die das System für die Finanzstabilität darstellen könnte. Auch der Vorsitzende der Federal Reserve nahm an diesen Gesprächen teil.
Laut durchgesickerten Informationen internationaler Medien wurden diese Organisationen angeblich dazu ermutigt, Teste Mythos im VerteidigungsmodusSie nutzen es, um ihre eigene Infrastruktur auf Schwachstellen zu überprüfen, bevor andere dies tun können. Die implizite Botschaft lautet, dass die Bedrohung so ernst ist, dass sie eine koordinierte Reaktion von öffentlichem und privatem Sektor erfordert.
Unterdessen hat der Mitbegründer von Anthropic bestätigt, dass das Unternehmen unterhält direkte Gespräche mit der Regierung der Vereinigten Staaten Es geht um Mythos und zukünftige Modelle. Diese Gespräche finden in einem angespannten Umfeld statt, nachdem die US-Behörden das Unternehmen kürzlich auf eine Liste gesetzt haben. Risiken in der Lieferkette, im Anschluss an Reibungen im Zusammenhang mit der Verwendung ihrer Modelle durch das Verteidigungsministerium.
Auf der anderen Seite des Atlantiks hat die Europäische Union dies zur Kenntnis genommen. Die Europäische Kommission hat sich öffentlich für einen schrittweisen und vorsichtigen Ansatz bei Modellen wie Mythos ausgesprochen, und Die Finanzaufsichtsbehörden in Großbritannien und auf dem Kontinent haben begonnen, die potenziellen Auswirkungen genauer zu untersuchen. Für Banken und Finanzmärkte. Das britische AI ​​Security Institute (AISI) bezeichnete das System als einen bedeutenden Fortschritt im Hinblick auf Cyberbedrohungen im Vergleich zu früheren Generationen.
In Spanien ist die öffentliche Debatte zwar noch begrenzt, doch Aufsichtsbehörden und Cybersicherheitsteams von Banken und großen Energieunternehmen beobachten diese Entwicklungen genau. Für den europäischen Finanzsektor ist jeder Fortschritt, der koordinierte Angriffe auf Zahlungssysteme, Interbankennetzwerke oder Handelsplattformen erleichtern könnte, Anlass zu großer Besorgnis.
Skepsis, Zweifel und Debatten über den „Hype“ um Mythos
Der Account von Anthropic, der Sicherheitswarnungen mit spektakulären Leistungszahlen kombiniert, ist nicht ohne Kritik geblieben. Mehrere KI- und Cybersicherheitsexperten haben dazu aufgerufen, Bei der Interpretation der Aussagen des Unternehmens ist Vorsicht geboten.Dabei ist zu beachten, dass ein Großteil der verfügbaren Daten lediglich aus internen Berichten stammt.
Einige Analysten haben die umfangreiche Dokumentation von Anthropic eingehend geprüft und weisen darauf hin, dass die Angabe von „Tausenden schwerwiegender Sicherheitslücken“ auf Hochrechnungen aus einer relativ geringen Anzahl manuell überprüfter Fälle beruht. Mythos fand in bestimmten Testreihen zwar eine beträchtliche Anzahl kritischer Schwachstellen, jedoch weit entfernt von dem beinahe apokalyptischen Szenario, das manche Schlagzeilen suggerierten.
Andere unabhängige Studien haben versucht, die Leistung von Mythos mit kleineren Open-Source-Modellen zu vergleichen, indem sie verschiedenen KI-Systemen anfällige Codeabschnitte übergaben, um zu sehen, ob diese dieselben Schwachstellen erkennen konnten. Die Ergebnisse deuten darauf hin, dass Einige offene Modelle sind auch in der Lage, komplexe Schwachstellen zu identifizieren.Dies stellt die Annahme in Frage, dass Mythos in allen Szenarien in einer völlig anderen Liga spielt.
Diese Gegenbeispiele widerlegen nicht die Fähigkeiten von Mythos, aber sie legen nahe, dass Der Diskurs um „zu gefährlich zum Veröffentlichen“ hat auch eine Marketingdimension.Die Darstellung eines Modells als sowohl außerordentlich leistungsstark als auch als potenzielles Risiko stärkt das Bild von technologischer Führungsrolle und Verantwortung – etwas, das in einem zunehmend wettbewerbsorientierten Markt sehr wertvoll ist.
Die jüngere Geschichte der Branche erinnert auch an den Präzedenzfall GPT-2 im Jahr 2019, als OpenAI zunächst beschloss, das vollständige Modell nicht zu veröffentlichen, da es aufgrund seines Potenzials zur Erzeugung von Desinformation als zu gefährlich eingestuft wurde. Schließlich wurde diese Version doch veröffentlicht, ohne dass die vorhergesagten Katastrophen eintraten, und viele Experten führten dies als Beispiel für eine Überreaktion an. Mit Mythos Der Unterschied besteht darin, dass der Fokus nicht mehr auf dem Text liegt, sondern auf der Integrität der digitalen Infrastruktur., ein deutlich sensibleres Gebiet für Regierungen und Banken.
Ein heikles Gleichgewicht zwischen Sicherheit, Wirtschaft und Zugang zu Technologie
Abgesehen vom Medienrummel wirft die Mythos-Situation eine grundlegende Frage auf: Wer entscheidet, wann ein KI-Modell zu gefährlich für die Veröffentlichung ist? Und nach welchen Kriterien? Bislang ist die Entscheidung einseitig von Anthropic gefallen, die sich dafür entschieden hat, das System in einer Art kontrollierter Quarantäne zu halten und es ausgewählten Partnern vorzubehalten.
Diese Position basiert nicht ausschließlich auf Sicherheitsgründen. Der Betrieb eines Modells mit den Eigenschaften von Mythos ist sehr teuer in Bezug auf die RechenleistungUnd das Unternehmen selbst räumt ein, dass es derzeit nicht über die notwendige Infrastruktur Um es Millionen von Nutzern in großem Umfang bereitzustellen. In der Praxis gehen Sicherheitsvorkehrungen und technische Beschränkungen Hand in Hand, was Anthropic Zeit gibt, sowohl das Modell als auch dessen Implementierung zu optimieren.
Gleichzeitig hat das Unternehmen damit begonnen, seine verschiedenen Produkte klarer voneinander abzugrenzen. Mythos bleibt weiterhin … fortschrittlichster interner StandardWährend einige Modelle für Forschung und strategische Kooperationen vorgesehen sind, sind andere wie Claude Opus 4.7 für den alltäglichen Einsatz in Unternehmen und bei Fachleuten konzipiert. Anthropic hat sogar öffentlich eingeräumt, dass Opus 4.7 im Allgemeinen und insbesondere hinsichtlich seiner Cyber-Fähigkeiten „weniger leistungsfähig“ als Mythos ist – ungewöhnlich in einer Branche, die jedes neue Modell üblicherweise als das beste in jeder Hinsicht präsentiert.
In diesem Schema fungiert Mythos als Testumgebung für Fähigkeiten der nächsten GenerationWährend kommerziell erhältliche Modelle nur einen Teil dieser Fähigkeiten beinhalten und zusätzliche Einschränkungen zur Risikominderung aufweisen, kann diese Trennung zwischen „experimentellen“ und „Produktionsmodellen“ für viele europäische Organisationen, die an der Nutzung von KI interessiert sind, ohne sich dem Risiko auszusetzen, ein sinnvoller Ansatz sein, vorausgesetzt, es herrscht ausreichende Transparenz hinsichtlich der tatsächlichen Fähigkeiten jedes Systems.
Letztendlich zeichnet sich ein Szenario ab, in dem Die Cybersicherheit tritt nun endgültig in das Zeitalter groß angelegter offensiver und defensiver KI ein.Tools wie Mythos versprechen, die Identifizierung von Schwachstellen in seit Jahren betriebenen Systemen zu beschleunigen. Gleichzeitig zwingen sie jedoch zu einem Umdenken hinsichtlich der Verteilung und Steuerung der der digitalen Wirtschaft zugrunde liegenden Technologie. Für Europa und Spanien besteht die Herausforderung nicht nur darin, sich vor immer leistungsfähigeren Modellen zu schützen, sondern auch sicherzustellen, dass sie nicht von den Mechanismen ausgeschlossen werden, die deren Einsatz zur Stärkung ihrer eigenen Sicherheit ermöglichen.
