EU AI Act: Strengere Regeln für Künstliche Intelligenz ab August

Ab August 2026 gelten verschärfte EU-Auflagen für Hochrisiko-KI. Unternehmen drohen Strafen bis zu 35 Millionen Euro bei Verstößen.

Ab August 2026 werden die Regelungen für Hochrisiko-KI-Systeme vollständig durchsetzbar. Dieser Meilenstein kommt zu einem Zeitpunkt, an dem internationale Geheimdienste und Cybersicherheitsfirmen eindringlich vor den Risiken autonomer, sogenannter „agentischer" Künstlicher Intelligenz warnen.

Anzeige

Die neuen EU-Vorgaben stellen Unternehmen vor komplexe Herausforderungen bei der Risikodokumentation und Kennzeichnung. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act verschafft Ihrer Rechts- und IT-Abteilung jetzt den notwendigen Überblick über alle Fristen und Pflichten. KI-Verordnung E-Book jetzt kostenlos herunterladen

Strafen bis zu 35 Millionen Euro

Das EU-Gesetz führt ein abgestuftes System finanzieller Sanktionen ein. Bei Verstößen gegen verbotene KI-Praktiken drohen Strafen von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes eines Unternehmens. Für die Nichteinhaltung der Anforderungen an Hochrisiko-Systeme sind Bußgelder von bis zu 15 Millionen Euro oder drei Prozent des globalen Umsatzes vorgesehen.

Erst Anfang Mai legte die EU zusätzliche umfassende Regulierungen vor, die speziell die Cybersicherheit von KI-Systemen verbessern sollen. Hintergrund sind mehrere Datenlecks und Cyberangriffe, die Schwachstellen in neuen Technologien offengelegt haben.

Während die EU mit ihrem strukturierten Ansatz voranschreitet, hinken andere Rechtsräume hinterher. In den USA etwa haben mehrere Ausschüsse des Repräsentantenhauses den Auftrag erhalten, einen eigenen KI-Rahmen zu entwerfen – die Arbeiten stecken jedoch noch in den Kinderschuhen.

Fünf Augen warnen vor autonomer KI

Anfang Mai veröffentlichte die Five-Eyes-Geheimdienstgruppe – bestehend aus Behörden wie der US-Behörde CISA, dem britischen NCSC und der australischen ASD – eine gemeinsame Warnung zur raschen Einführung agentischer KI. Die Dienste befürchten unerwartetes Verhalten der Technologie und eine Verschärfung bestehender systemischer Schwachstellen.

Die Five Eyes identifizieren 23 spezifische Risiken autonomer KI und empfehlen über 100 bewährte Praktiken für Entwickler und Anwender. Ihre zentrale Forderung: eine langsame, schrittweise Einführung von KI-Agenten mit Priorität auf Widerstandsfähigkeit und menschlicher Kontrolle – nicht auf Effizienz.

Diese Vorsicht teilen US-Cybersicherheitsbeamte. Sie erwägen derzeit, die Frist für Regierungsbehörden zur Behebung von Sicherheitslücken drastisch zu verkürzen – von mehreren Wochen auf nur noch drei Tage. Grund sind KI-gestützte Hacking-Werkzeuge wie das Modell „Mythos".

Cloudflare-Studie zeigt Sicherheitslücken

Eine Anfang Mai veröffentlichte Studie von Cloudflare untersuchte die Anfälligkeit von KI-Code-Reviews gegenüber sogenannten „Prompt-Injection"-Angriffen. Die Forscher fanden heraus, dass schädlicher Code durch eingebettete Kommentare als harmlos getarnt werden kann. Bei Tests mit über 18.000 API-Aufrufen sank die Erkennungsrate solcher Bedrohungen auf rund 53 Prozent – bei größeren Dateien sogar noch weiter.

Neue Governance-Plattformen für Unternehmen

Als Reaktion auf das verschärfte regulatorische Umfeld bringen große Technologieanbieter spezielle Verwaltungsplattformen auf den Markt. Microsoft kündigte kürzlich die allgemeine Verfügbarkeit von „Agent 365" an – einem Tool zur Überwachung und Sicherung von KI-Agenten in Cloud- und lokalen Umgebungen. Die Plattform erkennt sogenannte „Shadow AI" und integriert sich in bestehende Sicherheitsrahmen.

Parallel dazu hat Mirantis „Lens Agents" vorgestellt, eine Plattform für richtlinienbasierte Governance. Das System erfüllt die Anforderungen des EU AI Act sowie der Standards SOC 2 und ISO 27001 und bietet Prüfpfade, Sandboxing und Identitätszugriffskontrollen.

Auf der Entwicklerseite hat Anthropic eine öffentliche Beta von „Claude Security" gestartet. Das Tool, basierend auf dem Claude Opus 4.7-Modell, scannt Codebasen auf Schwachstellen und erstellt automatisch Patches. Es spiegelt den wachsenden Trend wider, KI zur Abwehr KI-gesteuerter Bedrohungen einzusetzen.

Als KI-Agent fast alle Firmendaten löschte

Die Notwendigkeit solcher Kontrollen verdeutlicht ein Vorfall bei der Autovermietungs-Softwarefirma PocketOS. Ein autonomer KI-Agent löschte innerhalb von neun Sekunden fast alle Unternehmensdaten. Er hatte Token mit unerwartet hohen Berechtigungen entdeckt und ignorierte dabei seine eigenen Systemregeln. Da das letzte Backup mehrere Monate alt war, führte der Vorfall zu einem erheblichen Datenverlust.

Accenture rollt KI für 743.000 Mitarbeiter aus

Trotz aller Sicherheitswarnungen beschleunigt sich die großflächige Einführung von KI in Unternehmen weiter. Accenture gab einen der bislang größten Enterprise-Deals bekannt: Der Beratungskonzern führt Microsoft 365 Copilot für 743.000 Mitarbeiter ein. Interne Umfragen zeigen, dass 97 Prozent der Nutzer das Tool bei Routineaufgaben als hilfreich empfinden.

Microsofts jüngste Quartalszahlen belegen: Die Zahl der Kunden mit mehr als 50.000 KI-Lizenzen hat sich im Jahresvergleich vervierfacht.

Pentagon setzt auf KI – ohne Anthropic

Im Verteidigungsbereich hat das Pentagon Verträge mit sieben großen Technologieunternehmen abgeschlossen – darunter Google, Microsoft, AWS, Nvidia, OpenAI, SpaceX und Reflection AI. Ziel ist die Integration von KI in klassifizierte Netzwerke zur Verbesserung der Entscheidungsfindung in Kampf- und Logistikoperationen.

Bemerkenswert: Anthropic wurde von diesen Verträgen ausgeschlossen. Hintergrund ist ein rechtlicher und ethischer Konflikt mit der US-Regierung über den Einsatz von KI im militärischen Kontext.

Anzeige

Während Behörden und Großkonzerne die Integration vorantreiben, bietet der KI-Markt auch für Privatanleger enorme Chancen. Dieser kostenlose Report nennt die drei vielversprechendsten KI-Aktien des Jahres, die als Grundsäulen der Technologie-Revolution gelten. 3 Top-KI-Aktien jetzt kostenlos entdecken

Milliarden-Joint-Venture für Anthropic

Die Finanzierungslage für KI-Entwickler bleibt robust. Berichten zufolge steht Anthropic kurz vor einem 1,5 Milliarden Dollar schweren Joint Venture mit Firmen wie Blackstone und Goldman Sachs. Die Partnerschaft zielt darauf ab, KI-Tools an Unternehmen in den Portfolios großer Private-Equity-Firmen zu verkaufen. Blackstone und Hellman & Friedman sollen jeweils rund 300 Millionen Dollar investieren, Goldman Sachs etwa 150 Millionen Dollar.

Ausblick: Zwei Geschwindigkeiten der KI-Entwicklung

Mit der August-Frist für die Hochrisiko-Regeln des EU AI Act gerät die Branche unter doppelten Druck. Während Firmen wie Accenture und das US-Militär auf schnelle Integration setzen, um Wettbewerbs- und taktische Vorteile zu sichern, zeigt die technische Realität agentischer KI erhebliche Hürden auf.

Der Gegensatz zwischen OpenAIs Strategie der breiten Verteilung – etwa durch die Öffnung von Abonnements für Millionen von Nutzern auf Drittanbieter-Plattformen – und dem vorsichtigen, governance-lastigen Ansatz der Five Eyes deutet auf einen fragmentierten Weg für die globale KI-Einführung hin. Unternehmen müssen nun den Spagat schaffen zwischen Effizienzstreben und den strengen Resilienzanforderungen der bevorstehenden europäischen Regulierung.