Kalifornien prüft Notschalter für Künstliche Intelligenz
Veröffentlicht am: 19.09.2026 um 01:46 Uhr | dpa, AD HOC NEWS
Kalifornien erwägt, leistungsstarke KI-Software künftig mit einer verpflichtenden Notabschalt-Vorrichtung zu versehen und damit eine deutlich strengere Sicherheitsregulierung für große KI-Modelle einzuführen.
Newsom lässt Maßnahmenkatalog für KI-Sicherheit erarbeiten
Nach einer von Gouverneur Gavin Newsom unterzeichneten Anordnung soll ihm bis Mitte November ein Maßnahmenkatalog vorgelegt werden, der mögliche Vorgaben zur Begrenzung existenzieller Risiken Künstlicher Intelligenz enthält. Neben einem technischen "Kill Switch" stehen unter anderem unabhängige Beobachter in großen KI-Laboren sowie schärfere Pflichten zur Meldung von Sicherheitsvorfällen auf der Liste.
Ob eine solche Notabschalt-Vorrichtung für komplexe KI-Systeme technisch überhaupt zuverlässig realisierbar ist, gilt derzeit als offen. Die Debatte über Wege, die Kontrolle über sehr leistungsfähige Modelle notfalls zurückzugewinnen, läuft seit längerem.
Kalifornien als globaler KI-Standort mit besonderer Verantwortung
Der US-Bundesstaat gilt als wichtigster Standort für die Entwicklung moderner KI. Führende Unternehmen wie der ChatGPT-Entwickler OpenAI, der Wettbewerber Anthropic und Google haben ihre zentralen Labore in San Francisco und im Silicon Valley. Wegen dieser Konzentration könnte Kalifornien auch bei der Regulierung von KI-Systemen eine zentrale Rolle spielen.
Newsoms zweite und letzte Amtszeit als Gouverneur endet Anfang kommenden Jahres. Der 58-Jährige wird in den USA als möglicher Bewerber der Demokraten für die Präsidentschaftswahl 2028 gehandelt, politische Entscheidungen im Bereich Technologiepolitik erhalten vor diesem Hintergrund besondere Aufmerksamkeit.
Warnungen aus KI-Laboren vor Kontrollverlust
Die Diskussion über Gefahren Künstlicher Intelligenz hat sich in den vergangenen Wochen weiter zugespitzt, nachdem eigenständige Hacking-Attacken durch KI-gestützte Software bekannt wurden. Mitarbeitende aus verschiedenen KI-Laboren warnen davor, die Menschheit könne die Kontrolle über hochentwickelte Systeme verlieren oder im Extremfall sogar von ihnen ausgelöscht werden.
Zu den prominenten Stimmen gehört Anthropic-Chef Dario Amodei, der dafür plädiert, das Entwicklungstempo bei sehr fortgeschrittener KI zu drosseln und die Aufsicht deutlich zu verstärken. OpenAI-Chef Sam Altman unterstützt diesen Kurs.
Offener Brief fordert unabhängige Aufseher in KI-Unternehmen
Inzwischen verlangen Dutzende renommierte Expertinnen und Experten aus der Branche, dass führende KI-Labore unabhängige Aufsicht in ihren Unternehmen zulassen. In einem offenen Brief heißt es, diese Aufseher müssten ähnlich wie Spitzenmanager Zugang zu den Systemen erhalten und direkt mit verantwortlichen Mitarbeitenden kommunizieren können.
Zu den Unterzeichnenden zählt der Physik-Nobelpreisträger und frühere Google-Forscher Geoffrey Hinton, einer der maßgeblichen Wegbereiter moderner KI-Systeme. Anthropic hat bereits den ersten externen Aufsichtspartner benannt: die Firma Faculty, eine Tochter des Beratungsunternehmens Accenture.
Anthropic plant Börsengang nun für November
Parallel zur Regulierungsdebatte verschieben sich die Pläne des Unternehmens Anthropic für den Aktienmarkt. Nach einem Bericht des Wirtschaftsblatts "Wall Street Journal" soll der mit Spannung erwartete Börsengang nun erst im November stattfinden. Zuvor war am Markt mit einer Platzierung bereits im Oktober gerechnet worden.
Die Entscheidung für den späteren Termin sei demnach bereits vor den jüngsten drastischen Warnungen über KI-Risiken gefallen. Ein zentraler Gedanke sei, potenziellen Investoren zum Börsengang bereits Geschäftszahlen für das dritte Quartal vorlegen zu können.
OpenAI stellt Börsenpläne vorerst zurück
OpenAI-Chef Sam Altman erklärte kürzlich in einem Interview des Magazins "Fortune", dass sein Unternehmen in diesem Jahr voraussichtlich nicht mehr an die Börse gehen werde. Er begründete dies mit der aktuellen Lage, ohne konkrete Details zu nennen.
Kalifornien als Labor für KI-Regulierung
Kalifornien ist Heimat nahezu aller großen US-Techkonzerne und vieler führender KI-Labore. Wenn der Bundesstaat Sicherheitsauflagen wie einen technischen Notschalter für bestimmte KI-Systeme prüft, könnte dies faktisch weltweite Auswirkungen haben, weil viele zentrale Modelle von dort aus betrieben oder entwickelt werden. Der Schritt fügt sich in eine internationale Bewegung ein, in der Regierungen versuchen, das hohe Innovationstempo im Bereich Künstliche Intelligenz mit Vorgaben zur Risikobegrenzung zu verbinden.
Spannungsfeld zwischen Innovation und Sicherheit
Die Diskussion um existenzielle Risiken der Technologie hat durch Berichte über KI-gestützte Hacking-Aktivitäten zusätzlich an Schärfe gewonnen. Wenn Labormitarbeiter öffentlich vor einem möglichen Kontrollverlust warnen und führende Köpfe der Branche ein langsameres Entwicklungstempo sowie eine stärkere Aufsicht befürworten, erhöht dies den politischen Druck, konkrete Regeln zu formulieren. Ein verpflichtender Notschalter wäre ein deutliches Signal, dass Hochrisiko-Anwendungen nicht allein den Unternehmen überlassen bleiben sollen, sondern einer Art technischer Notbremse unterliegen.
Unabhängige Aufsicht als neues Governance-Modell
Die Forderung nach unabhängigen Aufsehern, die in Unternehmen ähnlich tiefen Zugang wie Top-Manager erhalten sollen, deutet auf ein neues Governance-Modell für KI hin. Es verbindet Elemente klassischer Finanz- und Produktsicherheit mit spezifischen Anforderungen komplexer lernender Systeme. Dass ein großes Labor wie Anthropic bereits einen externen Aufsichtspartner benennt, zeigt, dass Teile der Branche solche Strukturen eher als notwendige Voraussetzung für weiteres Wachstum denn als bloße Regulierungshürde betrachten. Für Nutzer und Unternehmen in Europa ist relevant, dass diese US-Debatten indirekt auch Standards und Erwartungen für KI-Anwendungen hierzulande prägen.
