KI-Regulierung: US-Senat berät Sorgfaltspflicht für Entwickler
Veröffentlicht am: 15.09.2026 um 02:53 Uhr | Redaktion boerse-global.de
In Washington beraten Mitglieder des US-Senats derzeit über einen Gesetzentwurf, der führende Entwickler künstlicher Intelligenz (KI) zu einer umfassenden Sorgfaltspflicht ("duty of care") verpflichten soll.
Die Initiative zielt darauf ab, potenzielle Katastrophenrisiken durch hochmoderne KI-Modelle proaktiv zu verhindern. Der Entwurf sieht vor, dass der US-Handelsminister Nachweise über Sicherheitsvorkehrungen verlangen kann und Regierungsprüfer dazu ermächtigt werden, Produkte vor deren Veröffentlichung zu testen.
Erweiterte Eingriffsbefugnisse für die Bundesregierung
Der Gesetzesvorstoß würde der US-Regierung weitreichende Befugnisse einräumen. Demnach könnte Washington die Veröffentlichung von Modellen blockieren, die als unsicher eingestuft werden.
Betroffenen Entwicklern bliebe in einem solchen Fall die Möglichkeit, vor einem Bundesgericht gegen diese Entscheidung zu klagen. Die Regelungen sollen insbesondere für die am weitesten fortgeschrittenen Modelle von Branchengrößen wie Google, Anthropic und OpenAI gelten.
Ein wesentlicher Aspekt des Entwurfs ist die geplante Vereinheitlichung der Regulierung auf Bundesebene. Bestehende Gesetze einzelner US-Bundesstaaten, darunter die kalifornische Regelung SB 53 sowie der New York RAISE Act, würden durch das neue Gesetz überstimmt.
Allerdings bleibt ein zentraler Punkt des Entwurfs bislang vage: Der Begriff der angemessenen Schutzmaßnahmen ist in dem Papier noch nicht abschließend definiert. Ein offizieller Gesetzestext wurde bisher nicht veröffentlicht.
Politische Blockaden und unterschiedliche Strategien
An dem Vorstoß sind die Senatoren Thune, Cruz und Klobuchar maßgeblich beteiligt. Unterstützung kommt auch von OpenAI-CEO Sam Altman, der einen föderalen Sicherheitsrahmen für sogenannte Frontier-KI begrüßte. Altman betonte, dass ein einheitlicher Rahmen mit unabhängigen Auditoren notwendig sei, da kein amerikanischer Wettbewerbsdruck Leichtsinn rechtfertige.
Während die USA über neue Gesetze debattieren, schafft die EU bereits klare Fakten für den Einsatz von Algorithmen. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen des EU AI Acts. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Auch Anthropic-CEO Dario Amodei forderte in einem Essay eine Verlangsamung der Entwicklung an der technologischen Grenze und schlug einen dreistufigen Plan vor, der unter anderem externe Evaluatoren mit Zugang zu Unternehmensmitarbeitern vorsieht.
Innerhalb des Senats stößt der Entwurf jedoch auf Widerstand. Senatorin Cantwell blockiert das Vorhaben derzeit aufgrund des vorgesehenen Testrahmens; sie fordert stattdessen, dass Prüfungen durch Bundesbehörden und nationale Labore durchgeführt werden.
Senate Majority Leader Thune mahnte zudem an, dass die Gesetzgebung eine lockere Hand ("light touch") bewahren müsse, um die Innovationskraft nicht zu ersticken. Das Szenario einer Auslöschung durch eine Superintelligenz bezeichnete er als einen Extremfall.
Wer sich mit der Regulierung und den Risiken von Hochrisiko-Systemen befasst, muss die neuen rechtlichen Rahmenbedingungen genau kennen. Erfahren Sie in diesem kostenlosen Report, welche konkreten Dokumentationspflichten die EU-KI-Verordnung für Unternehmen vorsieht. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Zeitdruck und gesellschaftliche Skepsis
Die Beta-Debatte im Kongress wird durch Warnungen aus der Forschung verschärft. Berichten aus der Mitte des Monats zufolge trat der Anthropic-Forscher Jacob Coxon unter Verweis auf existentielle Risiken zurück. Er warnte davor, dass KI bis zum Ende des Jahrzehnts eine existenzielle Bedrohung darstellen könne. Diese Warnungen blieben nicht ohne Folgen für die Märkte: KI-Aktien verzeichneten an einem Montag im September weltweit Kursverluste.
Während Senate Democratic Leader Schumer klassifizierte Briefings zu den Gefahren der Technologie und zum Halbleiterfluss nach China fordert, zeigt sich das Repräsentantenhaus gespalten über den Zeitplan. House Minority Leader Jeffries forderte eine Verschiebung der Parlamentspause, um über KI-Limits zu beraten, bevor das Haus bis zu den Wahlen im November in die Recess geht.
Gleichzeitig formiert sich politischer Widerstand vonseiten des ehemaligen US-Präsidenten Trump. Dieser bezeichnete die Warnungen vor der Technologie als Betrug ("HOAX") und kündigte an, neue Regeln nicht zu unterzeichnen, da bestehende Befugnisse ausreichten. Er drohte zudem Anthropic-CEO Dario Amodei mit regulatorischen Maßnahmen.
Vizepräsident Vance bezeichnete Regulierungen zwar als grundsätzlich klug, wertete die Forderungen der KI-Firmen jedoch als mögliches Trojanisches Pferd.
Das gesellschaftliche Klima gegenüber der Technologie ist derweil von Misstrauen geprägt. Laut einer Umfrage von NBC zeigen sich 70 % der Erwachsenen eher besorgt als begeistert. Zudem lehnen 69 % der Befragten den Bau von KI-Rechenzentren in ihrer unmittelbaren Umgebung ab, wobei diese Ablehnung auch bei 57 % der befragten Republikaner besteht.
Neben dem aktuellen Entwurf liegen im Kongress weitere Vorschläge wie der Frontier Act oder der AI Kill Switch Act vor. Ein Vorschlag der Abgeordneten Sanders und Casar sieht sogar ein Verbot von Superintelligenz vor, das mit bis zu 20 Jahren Haft bewehrt werden könnte.
