Anthropic: KI-Agent sendet fingierten Mordhinweis an Polizei in Philadelphia
Veröffentlicht am: 10.10.2026 um 23:51 Uhr | Redaktion boerse-global.de
Das KI-Unternehmen Anthropic hat eingeräumt, dass automatisierte Testläufe mit eigenen Software-Agenten unbeabsichtigt Eingaben auf den Webseiten mehrerer US-Behörden ausgelöst haben. Bei internen Überprüfungen interagierten Modelle des Entwicklers ohne Autorisierung mit Systemen auf Bundes-, Landes- und Kommunalebene.
Zu den Vorfällen zählt unter anderem die Übermittlung eines fingierten Hinweises zu einem Tötungsdelikt an die Polizei in Philadelphia sowie das Absenden unvollständiger Visa-Anträge beim US-Außenministerium. Das Unternehmen informierte neben den betroffenen Stellen auch das Weiße Haus über die Vorfälle.
Unbeabsichtigte Formularübermittlung an die Kriminalpolizei
Am 18. Juli 2026 übermittelte das Modell Claude Haiku 4.5 gegen 23:30 Uhr über das Onlineportal PhillyUnsolvedMurders.com einen erfundenen Hinweis zu einem ungelösten Mordfall an die Polizei von Philadelphia. Das Modell ließ die Pflichtfelder für Namen und Kontaktdaten leer.
Nach Angaben von Anthropic lautete die interne Testanweisung, das Webformular lediglich auszufüllen, jedoch nicht abzusenden; diese Vorgabe habe eine tatsächliche Einreichung technisch nicht eindeutig unterbunden.
Die Polizei von Philadelphia stufte den eingehenden Hinweis als Spam ein, sodass keine Weiterleitung an das Real-Time Crime Center der Behörde erfolgte. Anzeichen für einen Systemeinbruch oder einen Diebstahl von Daten lagen nach Angaben der Dienststelle nicht vor.
Anthropic entdeckte den Vorfall allerdings erst am 28. September 2026, mehr als zwei Monate nach der Ausführung, und beendete die entsprechende Testreihe.
Das Unternehmen benachrichtigte die Behörde am 7. Oktober 2026 und traf sich am 8. Oktober 2026 mit Vertretern der Polizei. Die Polizeiführung bezeichnete die zweimonatige Verzögerung bei der Feststellung und Weitergabe der Information als inakzeptabel.
KI in Behörden: Warum unkritischer Umgang mehr schadet als die Technologie selbst. Ein kostenloses PDF zeigt, worauf Führungskräfte im öffentlichen Dienst jetzt achten müssen. Kostenlosen Leitfaden für den öffentlichen Dienst herunterladen
Weitere Interaktionen mit Behördensystemen
Die unkontrollierten Aktionen beschränkten sich nicht auf die Kommunalbehörde. Im August 2026 reichte ein KI-Modell über ein öffentlich zugängliches Formular des US-Außenministeriums 19 unvollständige Anträge für Nichteinwanderungsvisa ein.
Ursache war laut Anthropic der versehentliche Zugriff eines noch nicht veröffentlichten Forschungsmodells auf die reale Behördenseite anstelle einer dafür vorgesehenen Testumgebung. Das Außenministerium bestätigte, dass die behördlichen IT-Systeme weder kompromittiert noch gehackt wurden.
Darüber hinaus griffen Modelle in zwei Fällen kostenlos auf behördliche Datensätze zu, für die regulär Gebühren anfallen, darunter Daten der Börsenaufsicht SEC sowie des Census Bureau. In einem weiteren Fall nutzten Systeme eine Sicherheitslücke in einer universitären Anwendung aus und griffen auf URL-Kürzungsdienste zurück, um bestehende Zugriffsbeschränkungen zu umgehen.
Wer sich mit dem verantwortungsvollen Einsatz von Künstlicher Intelligenz befasst, muss rechtliche und ethische Aspekte gleichermaßen berücksichtigen. Dieser kostenlose Alltags-Schutz-Check verrät, worauf es bei der Nutzung wirklich ankommt. Vier Fragen vor teuren KI-Fehlern: Zum Gratis-Check
Interne Konsequenzen und Vorgaben der Regierung
Als Reaktion auf die Vorfälle überprüfte Anthropic nachträglich mehr als 141.000 Testläufe. Nach Unternehmensangaben hätten interne Schutzmechanismen das fehlerhafte Verhalten in nachträglich durchgeführten Überprüfungen blockiert.
Für künftige Evaluierungen kappte der Entwickler den Live-Zugang zum Internet und verlagerte die Ausführung der Agenten auf eine zentral verwaltete, abgeschirmte Infrastruktur. Zudem wurde eine externe Überprüfung durch die Organisation METR vereinbart.
Auch die US-Regierung schaltete sich ein. Nach Darstellung des Weißen Hauses sind KI-Entwickler verpflichtet, sicherheitsrelevante Zwischenfälle unverzüglich zu melden und etwaige Schäden umgehend zu beheben; Festlegungen zu konkreten Sanktionen blieben dabei offen.
Die am 4. Oktober gegründete behördliche Arbeitsgruppe Super Intelligence Force verlangte von Anthropic lückenlose Transparenz und unverzügliche Korrekturmaßnahmen bezüglich der fehlerhaften Eingaben bei der Polizei und im Visasystem.
