Wasserzeichen-Pflicht ab Dezember: EU verschärft KI-Regulierung

Gerichte weltweit ahnden KI-Fehler in Klageschriften. Der EU AI Act setzt Unternehmen strenge Fristen für die Umsetzung neuer Regeln.

Die Rechtswelt erlebt einen radikalen Wandel: Künstliche Intelligenz ist vom Experiment zum festen Bestandteil juristischer Arbeit geworden. Doch die Euphorie weicht zunehmend der Ernüchterung – Gerichte weltweit gehen gegen fehlerhafte KI-Einsendungen vor, und die EU verschärft die Regulierung.

Der Markt für KI-Juristools konsolidiert sich

Anwaltskanzleien setzen KI inzwischen mehrstufig ein: von der Recherche über die Argumentation bis zur Visualisierung komplexer Sachverhalte. Spezialisierte „Deep Research"-Tools übernehmen die Faktenfindung und Vorsortierung rechtlicher Bewertungen. Doch eines betonen Praktiker immer wieder: Die Verantwortung für jede eingereichte Klageschrift bleibt beim Menschen.

Anzeige

Die rechtssichere Einführung neuer Technologien und die Einhaltung gesetzlicher Standards stellen Unternehmen vor immer komplexere Aufgaben. Dieser kostenlose PDF-Ratgeber führt Sie in 5 konkreten Schritten durch die rechtssichere Umsetzung aktueller Anforderungen und hilft Ihnen, alle Pflichten einfach abzhaken. In 5 Schritten zur rechtssicheren Umsetzung – jetzt gratis Leitfaden sichern

Der Wettbewerb um die besten KI-Lösungen verschärft sich. Anbieter wie Harvey, Legora und Libra konkurrieren mit Basismodellen von OpenAI und Anthropic. Harvey AI startete kürzlich ein „Early-Access"-Programm für EU-Kunden und integriert dabei Modelle des französischen Anbieters Mistral. Das Ziel: über 1.500 Kunden in 60 Ländern mit spezialisierten Sprachmodellen zu versorgen.

Die Nutzung steigt rasant – von 59 Prozent der Angestellten im Jahr 2025 auf 75 Prozent im laufenden Jahr. Doch die Unternehmenspolitik hinkt hinterher: Rund ein Drittel aller Organisationen hat noch immer keine formellen KI-Richtlinien. Etwa 15 Prozent der Mitarbeiter finanzieren ihre KI-Tools sogar selbst, um produktiv zu bleiben.

Die Halluzinationskrise erreicht die Gerichte

Das größte Problem: KI „halluziniert" – sie erfindet plausible, aber völlig falsche Gerichtsurteile und Gesetzeszitate. Was lange als theoretisches Risiko galt, ist zur realen Belastung für die Justiz geworden.

Der High Court in London rügte jüngst die Großkanzlei Pinsent Masons scharf für einen „leichtertigen Umgang" mit KI. Die Kanzlei hatte in einem Verfahren erfundene Insolvenzregelungen eingereicht. Der zuständige Richter sprach von „Unsinn", der ungeprüft geblieben sei. Die Kanzlei meldete sich selbst bei der Anwaltsaufsicht, machte einen „übereifrigen" Junior-Anwalt verantwortlich – und verlor die Mandanten an die Konkurrenz.

Kein Einzelfall: Weltweit dokumentieren Datenbanken rund 1.500 Gerichtsverfahren mit KI-Halluzinationen. Das Berliner Kammergericht rügte ebenfalls Anwälte wegen erfundener KI-Zitate. In Kalifornien zählten Gerichtsbeamte seit August 2024 rund 90 KI-bedingte Fehler in staatlichen Gerichten.

Besonders dramatisch: Die sogenannte „Pro-Se-Flut". Immer mehr Kläger vertreten sich selbst – mithilfe von KI. Eine Studie von MIT und USC vom 26. Mai zeigt: Der Anteil selbst vertretener Klagen an US-Bundesgerichten stieg auf fast 17 Prozent im Haushaltsjahr 2025. 18 Prozent aller Klagen enthielten KI-generierten Text. In Vermont explodierten die Fälle von 45 auf 1.100 pro Jahr. Richter sprechen von einer existenziellen Bedrohung für den Gerichtsbetrieb.

Wer haftet für KI-Fehler?

Die Gerichte klären die Haftungsfrage. Das Oberlandesgericht Hamm entschied am 12. Mai: Eine Arztpraxis haftet für falsche Berufsbezeichnungen, die ihr Chatbot ausgab. Ein Chatbot sei funktionaler Teil des Geschäftsbetriebs – der Betreiber hafte für „Falschaussagen" als Wettbewerbsverstoß.

In den USA prüfen Zivilverfahren, ob KI-Entwickler für „KI-beeinflusste" Schäden haften. Eine Klage gegen OpenAI wirft dem Unternehmen vor, KI-Modelle auf Zustimmung des Nutzers zu optimieren – statt auf Fakten. In der EU gilt bereits die Produkthaftungsrichtlinie 2024/2853, die KI-Chatbots als Produkte einstuft. Die Grenze zwischen Entwicklerpflicht und Nutzerverantwortung bleibt jedoch umstritten.

EU verschärft Regulierung – neue Fristen für Unternehmen

Die EU finalisiert den „Digital Omnibus on AI". Nach einer Einigung zwischen Rat und Parlament Anfang Mai gelten neue Fristen für den AI Act:

• Hochrisiko-KI in regulierten Produkten muss bis 2. August 2028 konform sein
• Eigenständige Hochrisiko-Systeme müssen bis 2. Dezember 2027 die neuen Standards erfüllen
• Ab 2. Dezember 2026 gelten sofortige Verbote für „Nudifier"-Apps und KI zur Kinderpornografie
• Pflicht zur Wasserzeichen-Kennzeichnung von KI-Inhalten tritt ebenfalls am 2. Dezember 2026 in Kraft

Anzeige

Angesichts der neuen EU-KI-Verordnung und der verschärften Haftungsregeln müssen Unternehmen jetzt schnell reagieren, um rechtliche Risiken zu minimieren. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Fristen, Risikoklassen und Dokumentationspflichten des EU AI Acts. Kostenloses E-Book zur EU-KI-Verordnung herunterladen

Datenschutz als Stolperstein

Die Integration autonomer KI-Agenten scheitert oft am Datenschutz. Artikel 32 der DSGVO stößt an seine Grenzen. Aktuelle Studien zeigen: 63 Prozent der Organisationen können Zweckbindungsregeln für KI-Agenten nicht durchsetzen. Experten fordern aktualisierte technische und organisatorische Maßnahmen – mit Nutzerauthentifizierung, attributbasierten Zugriffsregeln und manipulationssicheren Prüfpfaden.

KI als Lösung für überlastete Gerichte?

Trotz aller Risiken testen einige Gerichte KI als Ausweg aus dem Bearbeitungsstau. In Kalifornien erproben die Bezirksgerichte Los Angeles und Riverside seit Februar 2026 den KI-Assistenten „Learned Hand". Das Tool nutzt Modelle von Anthropic, OpenAI und Google und soll bei Beweisanträgen und Strafmilderungsanträgen helfen. Befürworter sehen eine Chance, die überlasteten Gerichte zu entlasten. Kritiker – darunter Staatsanwälte und Richter – bemängeln fehlende Offenlegungspflichten, wenn KI in der Entscheidungsfindung eingesetzt wird.

Ausblick: Die Ära der „überenthusiastischen" KI geht zu Ende

Die Rechtsbranche durchlebt eine Phase erzwungener Reife. „KI-Zwillinge" – digitale Avatare für Führungskräfte – versprechen zwar Zeitersparnis von bis zu 50 Prozent, werfen aber komplexe Fragen nach dem „Eigentum" an der digitalen Persona bei Jobwechseln auf.

In den kommenden Monaten verschiebt sich der Fokus von der Einführung zur strengen Prüfung von KI-Ergebnissen. Der Personalmangel in der Justiz – allein in Nordrhein-Westfalen fehlen 200 Staatsanwälte – treibt den Automatisierungsdruck weiter an. Doch die jüngsten Rügen und die drohenden Fristen des EU AI Act zeigen: Die Ära des „überenthusiastischen" KI-Einsatzes weicht einem vorsichtigen, haftungsbewussten Ansatz. Menschliche Kontrolle ist nicht nur empfohlen – sie wird rechtlich zur Pflicht.