KI-Regulierung: Spanien verhängt Bußgelder bis 35 Millionen Euro

Weltweit verschärfen Staaten die Regeln für Künstliche Intelligenz, von Deepfake-Verboten bis zu Transparenzpflichten für Tech-Konzerne.

Ein regelrechter Dammbruch zeichnet sich ab: Innerhalb weniger Tage haben Regierungen, internationale Institutionen und die katholische Kirche Maßnahmen ergriffen, um die Risiken Künstlicher Intelligenz einzudämmen. Von Spanien über die USA bis zum Vatikan – der Schutz Minderjähriger und die Eindämmung der Macht großer Tech-Konzerne stehen im Zentrum einer beispiellosen Regulierungswelle.

Anzeige

Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun? Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf. Umsetzungsleitfaden zum EU AI Act jetzt kostenlos sichern

Spanien verschärft Gangart gegen KI-Missbrauch

Der spanische Ministerrat hat am heutigen Dienstag das Gesetz zur guten Nutzung und Governance Künstlicher Intelligenz verabschiedet. Es verbietet die Erstellung und Verbreitung von sexuellen Deepfakes sowie KI-generierter Kinderpornografie. Unternehmen, die gegen die neuen Regeln verstoßen, müssen mit empfindlichen Strafen rechnen: Bußgelder von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes sind möglich.

Nicht-sexuelle Deepfakes bleiben in Spanien zwar legal, müssen aber ab dem 2. August 2026 klar gekennzeichnet werden. Die Aufsicht teilen sich zwei Behörden: Die spanische Datenschutzbehörde AEPD kümmert sich um biometrische Fragen, während die neue Agentur für KI-Überwachung Aesia die übrigen Regulierungsbereiche übernimmt.

EU-AI-Gesetz nimmt konkrete Formen an

Die spanischen Maßnahmen fügen sich nahtlos in die europäischen Bemühungen zur Umsetzung des EU-AI-Gesetzes ein. Die EU-Kommission hat im Mai 2026 Entwürfe für Leitlinien zur Einstufung von Hochrisiko-KI-Systemen vorgelegt. Kernaussage: Der beabsichtigte Verwendungszweck eines Systems ist der entscheidende Faktor für die Risikobewertung. Ein einfacher Haftungsausschluss reicht nicht aus, um eine Hochrisiko-Einstufung zu umgehen.

Die Leitlinien betreffen KI-Anwendungen in kritischen Bereichen wie Medizinprodukten, biometrischer Identifizierung und kritischer Infrastruktur. Die Übergangsfristen sind ambitioniert: Eigenständige Hochrisiko-Systeme müssen bis zum 2. Dezember 2027 konform sein, eingebettete Systeme bis zum 2. August 2028.

Ein zentrales Element des EU-AI-Gesetzes sind KI-Inventare. Unternehmen müssen detailliert erfassen, wer für jedes KI-Tool verantwortlich ist, welchen Zweck es erfüllt und wo menschliche Kontrollpunkte liegen. Das Ziel: Schluss mit „herrenloser KI“ – jede Software muss einen klar benannten Verantwortlichen haben.

Der Vatikan mischt sich ein: Papst warnt vor Kontrollverlust

Am Montag veröffentlichte Papst Leo XIV. seine Enzyklika „Magnifica Humanitas“ – das erste päpstliche Lehrschreiben, das sich ausschließlich den Gefahren Künstlicher Intelligenz widmet. Auf 42.300 Wörtern fordert der Papst eine Verlangsamung der KI-Einführung und verbindliche rechtliche Rahmenbedingungen.

Seine schärfste Kritik gilt autonomen Waffensystemen: Die Technologie sei an einem Punkt angelangt, der kaum noch menschlicher Kontrolle zugänglich sei. Es sei moralisch unzulässig, Maschinen Entscheidungen über Menschenleben zu überlassen. Auch den ökologischen Fußabdruck der KI-Branche nimmt der Papst ins Visier – der immense Wasser- und Energieverbrauch großer Rechenmodelle sei nicht länger zu ignorieren.

Bei der Vorstellung im Vatikan war mit Chris Olah, Mitgründer des KI-Sicherheitsunternehmens Anthropic, auch ein Branchenvertreter beteiligt. Olah stellte die Frage nach der Verantwortung der Industrie gegenüber den Ärmsten der Welt. Der Papst pflichtete bei: Verantwortung müsse auf jeder Entwicklungsstufe klar definiert sein.

USA und Brasilien: Schutz für Minderjährige und mehr Plattformverantwortung

In den USA hat Iowa als einer der jüngsten Bundesstaaten KI-gestützte Chatdienste reguliert. Das Gesetz (Senate File 2417) tritt am 1. Juli 2027 in Kraft und verbietet KI-Systemen, sexuelle Gespräche mit Minderjährigen zu führen oder suchtähnliche Manipulationstechniken einzusetzen. Auch die Manipulation von Menschen in Krisensituationen, etwa mit Suizidgedanken, ist untersagt. Kritiker bemängeln jedoch das Fehlen von Altersverifikationspflichten.

Auf Bundesebene macht der „AI for Mainstreet Act“ Fortschritte. Das Gesetz von Senator Todd Young und Maria Cantwell will kleine Unternehmen durch das Netz der Small Business Development Centers fit für KI machen. Das Repräsentantenhaus hat die Vorlage bereits mit überwältigender Mehrheit von 395 zu 14 Stimmen verabschiedet.

Brasilien geht einen anderen Weg: Präsident Lula da Silva unterzeichnete am 20. Mai zwei Dekrete, die Plattformen für kriminelle Inhalte haftbar machen – und zwar ohne vorherige gerichtliche Anordnung. Terrorismus, Gewalt gegen Frauen und sexuelle Ausbeutung stehen im Fokus. Die neuen Regeln treten Ende Juli in Kraft.

Tech-Giganten reagieren mit Transparenz-Initiativen

Auch die Branche selbst bewegt sich. Google und OpenAI haben am heutigen Dienstag Maßnahmen zur Herkunftsprüfung digitaler Inhalte vorgestellt. Google integriert Verifikationstools in seine Funktionen „Über dieses Bild“ und „Circle to Search“. OpenAI konzentriert sich auf technische Standards für die Herkunft von Inhalten.

In Singapur hat Ministerin Jasmin Lau am Montag ein „Trusted AI Centre of Excellence“ eröffnet. In Zusammenarbeit mit KPMG Singapur soll es transparente und rechenschaftspflichtige KI-Systeme fördern – durch Umschulung von Arbeitskräften und Entwicklung von Echtzeit-Audit-Tools.

Anzeige

Angesichts der neuen globalen Regulierungsinitiativen und strengen Haftungsregeln müssen Unternehmen jetzt ihre Compliance-Strategien anpassen. Dieser kostenlose Praxis-Guide bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen des EU AI Acts. Jetzt kostenlosen KI-Umsetzungsleitfaden herunterladen

Die Lage vor Ort: Polizei warnt vor KI-Kriminalität

Die Dringlichkeit der neuen Gesetze wird durch aktuelle Polizeiberichte unterstrichen. Detective John Richardson von der Polizei in Portland berichtete am Montag von einem Anstieg KI-gestützter Straftaten. Besonders perfide: Täter nutzen Social-Media-Fotos, um synthetisches Material sexuellen Kindesmissbrauchs zu erstellen. Richardsons ernüchternde Bilanz: Die Polizei kann nur einen Bruchteil der eingehenden Cyber-Hinweise bearbeiten.

In Großbritannien geht die Debatte noch weiter. Der frühere Gesundheitsminister Wes Streeting forderte am Dienstag ein Social-Media-Verbot für unter 16-Jährige – vergleichbar mit der Regulierung von Tabakprodukten. Die britische Regierung hatte zuvor eine Konsultation zu Maßnahmen wie App-Ausgangssperren und Suchtbegrenzungen durchgeführt, die über 70.000 Rückmeldungen erhielt.

Ausblick: Zwei Wege in die KI-Zukunft

Die weltweite Regulierungslandschaft zeichnet ein geteiltes Bild ab. Ein Weg setzt auf strikte Verbote und finanzielle Sanktionen – wie Spanien und Brasilien. Der andere setzt auf Governance, Auditing und Transparenz – wie der EU-AI Act und die Initiativen in Singapur.

Der spanische Deepfake-Kennzeichnungspflicht im August 2026 wird zum ersten großen Test: Lässt sich digitale Inhalte effektiv überwachen? Und wie reagieren die Tech-Konzerne?

Die Einbindung moralischer Autoritäten wie des Vatikans zeigt: Die Diskussion um KI geht längst über technische und wirtschaftliche Fragen hinaus. Es geht um fundamentale Menschenrechte, Sicherheit und die Frage, wie viel Kontrolle wir Maschinen über unser Leben zugestehen wollen.