KI-Hersteller haften für Falschaussagen

Deutsche Zivilgerichte stellen Betreiber von KI-Systemen für automatisch generierte Falschaussagen rechtlich verantwortlich. Das Argument technischer Halluzinationen gilt nicht mehr.

Deutsche Gerichte stellen Betreiber von Künstlicher Intelligenz zunehmend für automatisch generierte Falschinformationen und Verleumdungen rechtlich zur Rechenschaft. Nach dem Scheitern einer EU-Richtlinie setzen nationale Zivilgerichte klare Maßstäbe.

Gerichte weisen „Halluzinationen“ als Ausrede zurück

Die Verteidigung von Tech-Unternehmen bröckelt. Richter in Hamburg und Frankfurt haben in Grundsatzentscheidungen klargestellt: Wer KI-Systeme so konfiguriert, dass sie Ergebnisse ohne menschliche Prüfung veröffentlichen, macht sich deren Inhalte zu eigen. Das Argument, es handele sich bei falschen Aussagen nur um technische „Halluzinationen“, lässt die Justiz nicht mehr gelten.

Anzeige

Angesichts der strengen Rechtsprechung zu KI-Halluzinationen müssen Unternehmen ihre Compliance-Strategien dringend anpassen, um teure Bußgelder zu vermeiden. Dieser kostenlose Leitfaden zeigt Ihnen, wie Sie die Anforderungen der neuen EU-KI-Verordnung rechtssicher umsetzen. EU-KI-Verordnung kompakt: Jetzt kostenlosen Umsetzungsleitfaden sichern

Betroffene können erfolgreich Unterlassungsklagen gegen die Plattformbetreiber selbst erheben – unabhängig davon, ob ein Mensch oder eine Maschine die diffamierenden Inhalte erstellt hat. Diese Rechtsprechung markiert einen Paradigmenwechsel für den deutschen Digitalmarkt.

Social-Media-Chatbots und Suchmaschinen im Fokus

Den Anfang machte das Landgericht Hamburg in einem Verfahren der Kampagnenorganisation Campact gegen die Plattform X. Das Gericht urteilte, dass der Betreiber für unwahre Tatsachenbehauptungen seines KI-Chatbots „Grok“ haftet, sobald diese dauerhaft öffentlich zugänglich sind.

Kurz darauf nahm das Landgericht Frankfurt die KI-gestützten „AI Overviews“ von Google ins Visier. Die Richter sahen in den hervorgehobenen KI-Antworten über den Suchergebnissen eine eigenständige, wertende Inhaltsbereitstellung. Damit rücke der Betreiber in die Rolle eines Verlegers, der für die Aussagen verantwortlich ist. Zwar wurde die konkrete einstweilige Verfügung in diesem Fall abgelehnt, die grundsätzliche Haftungsfähigkeit aber bestätigt.

Lücke nach Scheitern der EU-Richtlinie

Die klare Haltung der deutschen Gerichte gewinnt vor einem besonderen Hintergrund an Bedeutung: Die Europäische Kommission zog ihren Entwurf für eine KI-Haftungsrichtlinie Ende 2025 offiziell zurück. Eine Einigung unter den Mitgliedstaaten war nicht in Sicht.

Diese regulatorische Lücke füllen nun nationale Gesetze. In Deutschland gewinnen damit altbewährte Rechtsfiguren wie die Störerhaftung und der Schutz des allgemeinen Persönlichkeitsrechts neue Relevanz für KI-Fälle. Sie gelten insbesondere für Schäden, die nicht von der überarbeiteten EU-Produkthaftungsrichtlinie abgedeckt sind – etwa reine Vermögens- oder Reputationsschäden.

Konsequenzen für die Tech-Branche

Für Unternehmen bedeutet dies ein erhöhtes rechtliches Risiko. Der Verweis auf algorithmische Unvorhersehbarkeit schützt nicht mehr vor Unterlassungsansprüchen, Auskunftsverlangen oder Schadensersatzforderungen.

Rechtsexperten verweisen auf eine konsistente Linie der Gerichte. Bereits 2024 entschied das Landgericht Kiel, dass Portale für KI-generierte falsche Wirtschaftsdaten haften. Die Kernfrage ist stets, wie ein durchschnittlicher Nutzer die KI-Antwort wahrnimmt. Wird das Tool als faktenbasiert vermarktet, ist die Haftungsschwelle bei Falschinformationen schnell überschritten.

Anzeige

Neben haftungsrechtlichen Risiken durch Falschinformationen verschärfen auch neue EU-Gesetze die Anforderungen an die Cyber-Security in Unternehmen. Erfahren Sie in diesem Experten-Report, wie Sie Ihre IT-Infrastruktur und KI-Systeme effektiv vor Bedrohungen schützen. Kostenlosen Cyber-Security-Report für Unternehmen herunterladen

Ausblick: Strengere Compliance nötig

Die Branche muss ihre Strategien anpassen. Pauschale Hinweise auf mögliche Ungenauigkeiten der KI bieten keinen ausreichenden Rechtsschutz mehr. Nötig werden robustere technische Filtermechanismen, um die Verbreitung falscher Tatsachenbehauptungen zu verhindern.

Ab August 2026 kommen weitere Pflichten aus dem europäischen KI-Gesetz (AI Act) hinzu. Dann müssen Betreiber KI-generierte Inhalte, die als authentisch wahrgenommen werden könnten, klar kennzeichnen.

Bis höhere Instanzen die regionalen Urteile bestätigen oder präzisieren, müssen Tech-Unternehmen von ihrer vollen rechtlichen Verantwortung für jedes Wort ausgehen, das ihre KI-Systeme an die deutsche Öffentlichkeit richtet. Die Ära der unbeschwerten KI-Experimente auf Kosten Dritter geht zu Ende.