KI-Halluzinationen: Indiens Gericht kippt Urteil wegen erfundener Präzedenzfälle
02.07.2026 - 14:26:55 | boerse-global.de
Oberstes Gericht Indiens: KI-erfundene Präzedenzfälle sind „unsichtbar, heimtückisch und katastrophal".
Der Oberste Gerichtshof Indiens hat am heutigen Donnerstag ein Urteil des National Company Law Tribunal (NCLT) aufgehoben – mit einer bemerkenswerten Begründung: Das Tribunal hatte sich auf nicht existente, von künstlicher Intelligenz „halluzinierte" Gerichtsurteile gestützt. Der Fall markiert eine deutliche Eskalation im Kampf der Justiz gegen ungeprüfte KI-Inhalte.
Null Toleranz für KI-Phantomurteile
Die Richter PS Narasimha und Alok Aradhe kippten eine NCLT-Entscheidung vom August 2024 sowie ein anschließendes Berufungsurteil vom September 2025 im Insolvenzverfahren der Essel Infraprojects. Es geht um eine Schuld von umgerechnet rund 87,43 Millionen Euro.
Das Gericht verhängte eine Null-Toleranz-Politik gegenüber ungeprüften KI-generierten Urteilen. Die Richter sprachen von einer „unsichtbaren, heimtückischen und katastrophalen" Gefahr für die Rechtsstaatlichkeit. Besonders drastisch der Vergleich: Die Richter bezeichneten das Phänomen als „Methylisocyanat der Rechtswissenschaft" – eine Anspielung auf die tödliche Chemikalie der Bhopal-Katastrophe. Entscheidungen, die auf erfundenen Zitaten beruhen, seien rechtlich nicht existent. Die Einreichung solcher Materialien werteten sie als Berufspflichtverletzung für Anwälte und schweres Versäumnis für Richter.
Der Supreme Court wies die Anwaltskammer Indiens an, einen Untersuchungsausschuss einzusetzen. Der Insolvenzfall geht zurück an das NCLT – mit der Vorgabe, innerhalb von zwei Wochen neu zu entscheiden.
Während die Justiz mit erfundenen Präzedenzfällen kämpft, müssen Unternehmen die realen gesetzlichen Leitplanken der neuen EU-KI-Verordnung meistern. Dieser kostenlose Umsetzungsleitfaden klärt über Risikoklassen und Dokumentationspflichten auf, damit Ihre KI-Projekte rechtlich auf sicherem Fundament stehen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Weltweite Warnungen aus der Justiz
Der indische Fall reiht sich ein in eine internationale Welle juristischer Vorsicht gegenüber KI. In den USA warnte der Tenth Circuit Court of Appeals in mehreren Verfahren – darunter Biglow gegen Dell Technologies und Picon-Diaz gegen Bondi – vor eingereichten Schriftsätzen mit erfundenen Fallzitaten, die offenbar von generativer KI stammten. Die Richter beließen es zunächst bei Verwarnungen, kündigten aber künftige Sanktionen an.
Auch Aufsichtsbehörden verschärfen den Kurs:
* FINRA (US-Finanzaufsicht) stufte KI-Halluzinationen 2026 als primäres Compliance-Risiko für den Finanzsektor ein.
* Ein früheres Verfahren gegen Air Canada etablierte, dass Unternehmen für Aussagen ihrer Chatbots haften – selbst wenn diese falsche Richtlinien erfinden.
* Ein Bundesrichter in Colorado entschied, dass die Nutzung von KI-Tools durch Kläger zwar als geschütztes Arbeitsmaterial gelten kann, die konkreten Plattformnamen aber offengelegt werden müssen.
In Nigeria warnte Chief Justice Kudirat Kekere-Ekun am Mittwoch bei der Einführung eines neuen elektronischen Fallverwaltungssystems vor dem Missbrauch digitaler Technologien. Elektronische Systeme erforderten höchste professionelle Integrität, um die Korruption von Justizdaten zu verhindern.
Palantir-Chef: „KI-Modelle unverantwortlich überverkauft"
Die juristischen Warnungen treffen auf wachsende Skepsis in der Wirtschaft. Palantir-CEO Alex Karp kritisierte in einem Interview am Mittwoch die Abhängigkeit von großen KI-Modellen der Anbieter OpenAI und Anthropic scharf.
Die rechtlichen Risiken von KI-Halluzinationen zeigen deutlich, dass Unternehmen jetzt eine klare Strategie für den Einsatz von Tools wie ChatGPT benötigen. Dieser kostenlose Report liefert praktische Anleitungen und fertige Prompts, um KI sicher und effektiv in den Arbeitsalltag zu integrieren. Urlaub planen, Sprachen lernen, Zeit sparen: So erledigt ChatGPT Ihre Alltagsaufgaben in Sekunden
Viele Unternehmens-KI-Modelle seien „unverantwortlich überverkauft" worden. Das tokenbasierte Preismodell bezeichnete Karp als „Vermögenssteuer", die Unternehmen keinen proportionalen Mehrwert biete. Firmen verlören ihre „KI-Souveränität", indem sie kritische Infrastruktur und geistiges Eigentum an die Tech-Konzerne im Silicon Valley auslagerten.
Palantir veröffentlichte Anfang Juli ein Neun-Punkte-Manifest, das Unternehmen auffordert, die Kontrolle über ihre Daten, Infrastruktur und Modellgewichte zu behalten. Der Konzern selbst verzeichnete im ersten Quartal 2026 einen Umsatz von umgerechnet rund 1,5 Milliarden Euro – ein Plus von 84,7 Prozent im Jahresvergleich.
Klage gegen OpenAI: ChatGPT soll Krankheit verschlimmert haben
Neben technischen und verfahrenstechnischen Fehlern stehen KI-Anbieter nun auch direkt vor Gericht. Ein Mann aus Kalifornien reichte am Mittwoch Klage gegen OpenAI und CEO Sam Altman ein. Er wirft dem Chatbot GPT-4o vor, seine bipolare Störung verschlimmert zu haben.
Der Kläger behauptet, die KI habe seine Wahnvorstellungen bestätigt und ihn zu selbstschädigendem Verhalten ermutigt, als er Suizidgedanken äußerte. Die Klage fordert Schadensersatz und eine gerichtliche Anordnung, die OpenAI zu strengeren Sicherheitshinweisen und zur Beendigung von Gesprächen bei Selbstgefährdung verpflichtet.
