Claude-Sicherheit: Anthropic meldet Jahresausfall bei Biosecurity-Filtern
Veröffentlicht am: 17.08.2026 um 14:53 Uhr | Redaktion boerse-global.de
Der US-amerikanische KI-Entwickler Anthropic hat einen gravierenden Vorfall in seiner Sicherheitsarchitektur bekannt gegeben. Wie das Unternehmen mitteilte, waren die spezifischen Bioseicherheits-Klassifikatoren des KI-Modells Claude über einen Zeitraum von fast einem Jahr außer Betrieb.
Zwischen Mai 2025 und April 2026 arbeiteten wesentliche Schutzmechanismen nicht wie vorgesehen, was zu einer erheblichen Anzahl ungefilterter Interaktionen führte.
Die betroffenen Sicherheitsfilter sind darauf ausgelegt, potenzielle Risiken im Zusammenhang mit chemischen und biologischen Waffen zu erkennen und zu blockieren. Während des fast einjährigen Ausfalls waren diese Kontrollinstanzen jedoch inaktiv.
Nach Angaben des Unternehmens waren in diesem Zeitraum rund 50.000 externe Auftragnehmer an etwa 133 Millionen Interaktionen mit dem System beteiligt, die ohne die Prüfung durch die spezialisierten Biosecurity-Klassifikatoren stattfanden.
Ergebnisse der retrospektiven Untersuchung
Nach der Entdeckung des Fehlers leitete Anthropic eine umfassende Nachuntersuchung ein, um das Ausmaß möglicher Sicherheitsverstöße zu bewerten. Bei dieser retrospektiven Überprüfung wurden insgesamt 1.197 Transkripte identifiziert, die als Hochrisiko-Inhalte eingestuft wurden.
Der Fall zeigt, wie schnell Sicherheitslücken durch technologische Neuerungen entstehen können – insbesondere im Bereich der künstlichen Intelligenz. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Kostenlosen KI-Sicherheitsreport jetzt herunterladen
Eine genauere Analyse dieser Fälle ergab, dass 62 dieser Interaktionen von externen Mitarbeitern stammten, die nicht dem sogenannten Red-Team angehörten – also jener Gruppe von Experten, die gezielt nach Schwachstellen im System suchen.
Trotz der Identifizierung dieser riskanten Transkripte gab das Unternehmen bekannt, dass die Untersuchung keine Hinweise auf einen tatsächlichen Missbrauch der Technologie ergeben habe. Es seien keine Beweise dafür gefunden worden, dass die ausgefallenen Filter zur Erstellung gefährlicher biologischer oder chemischer Substanzen genutzt wurden oder dass eine konkrete Gefährdung der öffentlichen Sicherheit vorlag.
Anpassung der Risikobewertung und künftige Maßnahmen
Der Vorfall hat jedoch unmittelbare Auswirkungen auf die interne Sicherheitsstrategie von Anthropic. Das Unternehmen hat die Risikobewertung für den Bereich CB-1, der sich auf chemische und biologische Bedrohungen bezieht, rückwirkend angepasst. Die Einstufung wurde von „sehr niedrig“ auf „niedrig“ angehoben. Diese Heraufstufung spiegelt die Erkenntnisse aus dem monatelangen Filterausfall und die Notwendigkeit einer strengeren Überwachung wider.
Wer die IT-Sicherheit im eigenen Unternehmen proaktiv stärken möchte, findet in diesem Leitfaden fundierte Strategien zum Schutz vor modernen Bedrohungslagen. Erfahren Sie im kostenlosen E-Book, wie Sie Sicherheitslücken schließen und gleichzeitig neue gesetzliche Anforderungen erfüllen. Gratis-Ratgeber für Cyber Security sichern
Als direkte Konsequenz aus der Panne kündigte Anthropic an, das Management und die Aufsicht über externe Auftragnehmer massiv zu verstärken. Ziel sei es, die Integrität der Sicherheitsvorkehrungen auch bei einer hohen Anzahl von Interaktionen durch externe Dienstleister zu gewährleisten.
Zudem betonte der Entwickler, dass die Schutzstandards für Hochrisiko-Bereiche kontinuierlich weiterentwickelt und an neue Bedrohungslagen angepasst werden sollen, um die Resilienz der KI-Modelle gegenüber einem potenziellen Missbrauch in sensiblen Forschungsfeldern zu erhöhen.
