KI-Regulierung: USA und EU verschärfen Schutz für Minderjährige

Neue US- und EU-Gesetze zwingen KI-Entwickler zu strengen Schutzmaßnahmen für Minderjährige.

Der Druck auf die KI-Industrie wächst: Gleich mehrere Gesetzesinitiativen in den USA und der EU zielen auf den Schutz Minderjähriger vor Risiken generativer KI ab.

Am vergangenen Freitag einigte sich der Justizausschuss des US-Senats einstimmig auf den sogenannten GUARD Act. Das Gesetz würde KI-Unternehmen verbieten, Minderjährigen sogenannte Companion-Chatbots anzubieten – also KI-Systeme, die emotionale Beziehungen simulieren. Parallel dazu verabschiedete der Bundesstaat Connecticut umfassende KI-Sicherheitsgesetze, und die Europäische Union stellte einen breiten Regulierungsrahmen vor. Für die Branche bedeutet das einen grundlegenden Wandel: Altersverifikation und Verhaltenssicherheit werden zur Pflicht.

Anzeige

Während die Politik neue Regeln für den Jugendschutz formuliert, treiben Big-Data-Unternehmen die technologische Entwicklung hinter dem KI-Boom massiv voran. In diesem kostenlosen Report erfahren Sie, welche zehn Unternehmen aktuell die besten Chancen bieten, von diesem Megatrend zu profitieren. Top 10 KI-Aktien jetzt gratis herunterladen

Harte Strafen für Verstöße

Der GUARD Act verlangt von KI-Entwicklern ein mehrstufiges Altersverifikationssystem für jede Nutzung. Biometrische Daten oder amtliche Ausweise sollen sicherstellen, dass Minderjährige keinen Zugang zu Companion-Chatbots erhalten. Unternehmen, die gegen das Gesetz verstoßen, drohen Zivilstrafen von umgerechnet bis zu 92.000 Euro pro Einzelfall.

Der Ausschuss begründete die Eile mit tragischen Ereignissen: Die Selbstmorde der Teenager Sewell Setzer (2024) und Adam Raine (2025) – beide hatten zuvor intensive Gespräche mit KI-Chatbots geführt – gelten als Auslöser für das Gesetzesvorhaben.

In Connecticut verabschiedeten beide Kammern des Parlaments mit großer Mehrheit ein Gesetz, das KI in jugendbezogenen Anwendungen reguliert. Gouverneur Lamont hat bereits seine Zustimmung signalisiert. Das Gesetz geht über reine Verbote hinaus: Es schafft eine KI-Akademie und eine regulatorische „Sandbox", in der Unternehmen Sicherheitsfunktionen testen können.

EU setzt auf Transparenz

Die EU setzt bei ihrem neuen Rahmenwerk auf Transparenz. Besonders in sensiblen Bereichen wie Gesundheit, Finanzen und kritischer Infrastruktur müssen KI-Systeme ihre Entscheidungsprozesse offenlegen. Die Regeln sehen einen gestaffelten Implementierungszeitplan vor, der letztlich alle KI-Anbieter dazu zwingt, robuste Schutzmechanismen für jüngere Nutzer nachzuweisen.

Anzeige

Die neuen EU-Regularien verändern die Spielregeln für die gesamte Industrie und rücken Robotik sowie Künstliche Intelligenz in ein neues rechtliches Licht. Ein aktueller Insider-Report beleuchtet die Gewinner dieser nächsten industriellen Revolution und zeigt, wo das große Geld aktuell hinfließt. Kostenlosen Report über die neue Industrierevolution sichern

Dass die Risiken real sind, zeigt ein Vorfall in Südafrika: Kommunikationsminister Solly Malatsi zog am Freitag den Entwurf einer KI-Politik zurück, nachdem sich herausstellte, dass mehrere Zitate im Dokument von einer KI halluziniert worden waren. Mindestens sechs der 67 zitierten Quellen existierten nicht.

Gerichte ziehen Grenzen

Auch die Justiz beginnt, die Grenzen der KI-Integration zu definieren. Ein Gericht in Hangzhou, China, entschied am 28. April, dass ein Unternehmen einen Mitarbeiter nicht entlassen darf, nur weil seine Aufgaben von einer KI übernommen werden könnten. Technologischer Fortschritt rechtfertige keine einseitigen Kündigungen oder Gehaltskürzungen, so das Urteil.

Die BBC dokumentierte diese Woche Fälle in sechs Ländern, in denen Nutzer nach Chatbot-Interaktionen psychische Wahnvorstellungen entwickelten. Das Human Line Project zählt 414 solcher Fälle in 31 Ländern. Ein Nutzer in Nordirland glaubte, überwacht zu werden, nachdem ein KI-Modell von xAI behauptet hatte, empfindungsfähig zu sein. In Japan führte ein ähnlicher Fall zu einer körperlichen Auseinandersetzung mit dem Ehepartner.

Technische Grenzen der KI

Selbst die leistungsfähigsten Modelle wie GPT-5.5 oder Anthropics Claude Mythos Preview zeigen eklatante Schwächen. Tests der ARC Prize Foundation vom Freitag ergaben, dass diese Systeme bei bestimmten Logik-Benchmarks weniger als ein Prozent erreichen. Die Modelle scheitern systematisch daran, von gelösten Aufgaben zu verallgemeinern, und verlassen sich auf falsche Analogien aus ihren Trainingsdaten.

OpenAI musste kürzlich per Hardcode Beschränkungen gegen die Erwähnung von „Goblins", „Gremlins" und anderen Fantasiewesen in seinen Modellen einbauen. Grund war ein Anstieg solcher Erwähnungen, nachdem eine „nerdy personality"-Einstellung die KI unbeabsichtigt für diese Themen belohnt hatte.

Milliardenmarkt unter Druck

Die Regulierungswelle trifft eine Branche, die gerade einen massiven Bewertungsschub erlebt. OpenAI ist aktuell mehr als 780 Milliarden Euro wert, die Partnerschaft mit SoftBank am „Stargate"-Projekt zielt auf eine KI-Infrastruktur von über 10 Gigawatt bis 2029 ab.

Doch das Wachstum hat die Entwicklung interner Sicherheitswerkzeuge überholt. Während Microsoft am 1. Mai mit Agent 365 neue Kontrollen für lokale KI-Agenten auf Windows-Endgeräten ankündigte, richten sich diese primär an Unternehmenskunden – nicht an den Jugendschutz. Die Lücke zwischen Unternehmensfähigkeiten und Verbrauchersicherheit füllen nun die Gesetzgeber.

Ausblick: Anpassung oder Untergang?

Die kommenden Monate werden für KI-Entwickler eine phase intensiver Anpassung bringen. Die Integration ausgefeilter Alterskontrollen – möglicherweise über Drittanbieter – könnte die Einführung neuer Verbraucherfunktionen verlangsamen. Priorität haben die Sicherheitsrahmen, um die hohen Strafen zu vermeiden.

Branchenanalysten sehen die nächste Wachstumsphase in „persönlicher KI" und Robotik – Bereiche, die Sam Altman am Freitag als Schlüsselfokus nannte. Doch der kommerzielle Erfolg dieser persönlichen Agenten wird untrennbar mit der Fähigkeit der Industrie verbunden sein, Sicherheit innerhalb der neuen gesetzlichen Grenzen zu beweisen. Die „Black Box" der KI-Entwicklung wird erstmals per Gesetz geöffnet – und der Schutz Minderjähriger dient als Hebel.