News

Anthropic: Neue Schutzmaßnahmen senken Modell-Kopien um bis zu 99 Prozent

Anthropic meldet deutlich weniger abgegriffene Claude-Daten, doch Tests zeigen Risiken bei der automatischen Umleitung auf Opus 4.8.

Anthropic: Neue Schutzmaßnahmen senken Modell-Kopien um bis zu 99 Prozent

Das KI-Unternehmen Anthropic hat neue Abwehrmaßnahmen gegen das unbefugte Kopieren seiner KI-Modelle eingeführt und leitet Nutzer bei bestimmten Anfragen automatisch auf das Vorgängermodell Opus 4.8 um, um potenzielle Sicherheitsrisiken zu verringern.

Nach Angaben der Nachrichtenagentur Reuters konnte Anthropic die durch sogenannte Distillations-Angriffe extrahierte Datenmenge aus Claude um rund 90 bis 99 Prozent senken. Die Zahl der abgegriffenen Denkprozess-Einheiten liege nun um das Zehn- bis Hundertfache unter den vorherigen Werten, wobei sich diese Schätzung auf Messungen auf der unternehmenseigenen Plattform bezieht.

Die neuen Schutzmechanismen schränken den Zugriff auf Claudes logische Ableitungsprozesse gezielt ein und erschweren die Nutzung von Proxy-Server-Netzwerken. Nach Angaben von Anthropic liegt die Falschalarmquote des zweistufigen Klassifikators, der Eingaben an Sonnet 5.5, Opus 5 und 5.5 sowie Fable 5 und 5.1 überwacht, bei unter 0,1 Prozent; eine unabhängige Prüfung dieses Werts liegt nicht vor.

Im Zuge der Maßnahmen wurden Zehntausende Benutzerkonten gesperrt. Als Beispiel für Versuche, Fähigkeiten von Claude beim Training des Modells GLM-5.3 zu imitieren, nannte Anthropic das chinesische Start-up Z.ai, auch bekannt als Zhipu, vor dem Hintergrund der technologischen Rivalität zwischen den USA und China.

Dass der Schutz dieser Daten für Anbieter von hoher Bedeutung ist, belegen Benchmark-Ergebnisse: Im Programmier-Benchmark SWE-bench Verified erreichte ein Modell, das auf vollständigen Denkspuren von Claude Opus 4.8 trainiert wurde, 80,4 Prozent. Ein Modell, das lediglich mit Kurzfassungen trainiert worden war, kam dagegen auf 71,8 Prozent.

Für Softwareentwickler bringen die Neuerungen technische Restriktionen mit sich. Bei neuen API-Konten führt der Versuch, vor dem erneuten Senden eines Reasoning-Blocks bei Fable 5.1 und Opus 5.5 den Kontext zu verändern, zum Fehler 400. Blöcke von Sonnet 5.5 werden bei nicht verknüpften Konten gelöscht.

Zudem verlangt Anthropic seit dem 24.09.2026 unter bestimmten Bedingungen Gebühren für Anfragen, die noch vor der Generierung einer Antwort blockiert werden. Im Wiederholungsfall drohen Drosselungen oder Kontosperrungen.

Ein zentraler Bestandteil der Abwehrarchitektur sorgt unterdessen für Diskussionen: Bei sicherheitsrelevanten Anfragen greift eine automatische Rückfallebene. Das am 22.09.2026 gestartete Modell Claude Opus 5.5 wird bei Erkennung von Cybersicherheitsthemen ohne vorliegende Verifizierung automatisch auf Opus 4.8 umgeleitet, wobei dieser Wechsel für den gesamten weiteren Chatverlauf bestehen bleibt.

Opus 5.5 war zuvor in allen 50 durchgeführten Cyber-Tests ohne Verifizierung blockiert worden. Dieser Fallback lässt sich über die Einstellungen in den Bereichen Fähigkeiten oder Modellkonfiguration deaktivieren. Das zugehörige Cyber Verification Program hatte Anthropic am 06.10. auf drei Stufen ausgeweitet.

Eigene Systemkarten von Anthropic weisen darauf hin, dass die Mehrheit erfolgreicher Prompt-Injection-Angriffe über dieses Ausweichmodell erfolgte. In Untersuchungen mit dem Testwerkzeug Shade des Sicherheitsunternehmens Gray Swan über 40 Programmierszenarien mit je 200 Versuchen wurden 25 Prozent der Anfragen nach einer Cyber-Blockade umgeleitet; davon wurden 12,01 Prozent kompromittiert.

Sonnet 5.5 selbst verzeichnete dagegen lediglich vier Kompromittierungen bei 5.901 Anfragen, was einer Quote von 0,07 Prozent entspricht. Haiku 5.5 ohne Rückfalloption erwies sich zudem als schwerer manipulierbar als Sonnet 5.5, Opus 5.5 und Fable 5.1. Ein externer Testlauf mit dem UK AI Security Institute verzeichnete einen kompromittierten Fall bei 777 Durchläufen mit dem Ausweichmodell.

Am Dienstag (13.10.2026) veröffentlichte Anthropic zudem Fable, eine öffentlich zugängliche und eingeschränkte Variante des Cybersicherheitsmodells Mythos.

Sobald dessen Filter ansprechen, pausiert das Modell, kennzeichnet die Anfrage als Cyber- oder Biologiethema und wechselt ebenfalls auf Opus 4.8. Diese Filter logik stößt in der Fachwelt auf Kritik: Die Forscherin Valentina Palmiotti von IBM X-Force bemängelte, dass Fable jeden Bezug zu Sicherheitsthemen abweise, selbst das einfache Lesen eines Fachartikels.

Der Sicherheitsexperte Matt Suiche von Tolmo erklärte, dass ein einfacher Schlagwortabgleich eingesetzt werde, der auch reguläre Anfragen zur Codeüberprüfung blockiere.

War dieser Artikel hilfreich?

Die Inhalte auf AktienCheck.de dienen ausschließlich der Information und stellen keine individuelle Anlageberatung oder Aufforderung zum Kauf oder Verkauf von Wertpapieren dar. Wertpapiergeschäfte sind mit Risiken bis hin zum vollständigen Verlust des eingesetzten Kapitals verbunden.