KI-Expansion stößt an Grenzen der Zuverlässigkeit

Neue Forschungsergebnisse belegen erhebliche Defizite generativer KI in klinischen Diagnosen und fehlende Unternehmensstrategien trotz massiver Investitionen.

** Neue Studien zeigen erhebliche Defizite in Medizin, Unternehmensführung und Transparenz – eine gefährliche Lücke zwischen Hype und Realität.

Medizin-Diagnosen: KI scheitert in über 80 Prozent der Fälle

Die größten Schwächen offenbart Künstliche Intelligenz im Gesundheitswesen. Eine am heutigen Dienstag im Fachjournal JAMA Network Open veröffentlichte Studie des Mass General Brigham Hospitals kommt zu einem alarmierenden Ergebnis: Große Sprachmodelle liefern in mehr als 80 Prozent klinischer Fälle keine angemessene Differentialdiagnose.

Anzeige

Während die technologische Entwicklung rasant voranschreitet, müssen Unternehmen sicherstellen, dass sie bei der Nutzung neuer Systeme rechtlich auf der sicheren Seite stehen. Dieser kostenlose Leitfaden zum EU AI Act verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen

Die Forscher testeten 21 führende Modelle – darunter GPT-5, Grok 4 und Claude 4.5 Opus – anhand von 30 klinischen Fallbeispielen. Zwar erreichten Spitzenmodelle bei der Enddiagnose Trefferquoten von 60 bis über 90 Prozent. Doch bei der Erstellung vollständiger Listen möglicher Alternativerkrankungen versagten sie regelmäßig.

„KI ist noch nicht bereit für den unüberwachten klinischen Einsatz“, lautet das klare Fazit der Mediziner. Diese Einschätzung wird durch eine Metaanalyse der Universität Sheffield gestützt: Vereinfachte KI-Radiologieberichte für Patienten enthielten in etwa einem Prozent der Fälle klinisch relevante Fehler.

Besonders problematisch: Die Neigung zu Halluzinationen. In einem Experiment beschrieben Systeme wie ChatGPT und Gemini die fiktive Augenkrankheit „Bixonimania“ als reale Erkrankung – inklusive Prävalenzschätzungen und Behandlungsempfehlungen.

Führungsdefizite: Unternehmen investieren blind

Während die Investitionen explodieren, fehlt es an klarer Strategie. Eine Umfrage unter 1.000 US-Managern im Frühjahr 2026 zeigt: 78 Prozent der Führungskräfte trauen sich nicht zu, innerhalb von 90 Tagen eine unabhängige KI-Governance-Prüfung zu bestehen.

Drei Viertel der Aufsichtsräte haben zwar KI-Investitionen bewilligt. Doch nur etwa die Hälfte hat klare Erwartungen an die Steuerung dieser Technologie formuliert. Für fast die Hälfte der Operationsleiter ist dieses Führungsdefizit zum Haupt-Engpass geworden.

Die finanziellen Risiken sind enorm. Die globalen Unternehmensinvestitionen in KI erreichten 2025 über 580 Milliarden Euro – ein Anstieg um 130 Prozent binnen eines Jahres. Gleichzeitig kühlt der europäische Software-Markt ab: Die Zahl der Fusionen und Übernahmen sank von 320 Anfang 2024 auf 190 Ende 2025.

Anzeige

Der technologische Wandel erfordert von Führungskräften heute mehr denn je, den passenden Führungsstil für komplexe Situationen zu finden. In diesem kostenlosen E-Book erfahren Sie, wie Sie moderne Führungsansätze gezielt einsetzen, um die Produktivität und Zufriedenheit in Ihrem Team nachhaltig zu steigern. Kostenloses E-Book: Führungsstile inkl. Checkliste sichern

Transparenz schwindet, Umweltkosten explodieren

Der aktuelle Stanford AI Index dokumentiert einen Machtwechsel: Der technologische Vorsprung der USA vor China ist praktisch verschwunden. Bei Frontier-Modellen beträgt die Leistungslücke weniger als drei Prozentpunkte. China führt global bei Publikationsvolumen, Patenten und installierten Industrierobotern.

Doch dieser Fortschritt hat seinen Preis. Große Entwickler wie Google, Anthropic und OpenAI halten immer mehr Details zu Trainingsdaten und Rechenressourcen zurück. Der Durchschnittswert auf dem Foundation Model Transparency Index fiel 2025 auf 40 Punkte – von früher 58.

Die Umweltbilanz ist verheerend. Rechenzentren für KI benötigen inzwischen fast 30 Gigawatt Leistung – vergleichbar mit dem Strombedarf des Bundesstaates New York. Das Training eines Hochleistungsmodells wie Grok-4 verursachte schätzungsweise über 72.000 Tonnen CO?. Das entspricht den Jahresemissionen von 17.000 Autos.

Autonome Agenten: Die nächste Welle mit alten Problemen

Die Industrie setzt nun auf „agentische KI“ – Systeme, die als ständige Assistenten agieren. Microsoft testet bereits neue Copilot-Funktionen, die Kalender und Postausgänge scannen, um autonom Aufgabenlisten zu generieren. Eine Vorstellung ist für die Build-Konferenz im Juni geplant.

Doch die Leistungsdaten ernüchtern: KI-Agenten scheitern bei etwa jedem dritten Versuch in komplexen Aufgaben. In der Robotik bestehen Systeme nur 12 Prozent der Haushaltstests. Paradox: Während KI Doktorprüfungen meistert, scheitert sie an simplen Analogaufgaben wie dem Ablesen einer Uhr – mit nur 50 Prozent Trefferquote gegenüber 90 Prozent beim Menschen.

Der Arbeitsmarkt reagiert bereits. Seit 2024 sank die Beschäftigung von Softwareentwicklern zwischen 22 und 25 Jahren um fast 20 Prozent. KI steigert zwar die Produktivität in klar definierten Jobs um bis zu 26 Prozent. Gleichzeitig reduziert sie aber den Bedarf an menschlichen Einsteigerrollen.

Europäische Antwort: Hybrid, Edge und Green AI

Deutsche Experten fordern eine kohärentere europäische Strategie. Das Fraunhofer ISI und die Expertenkommission Forschung und Innovation (EFI) empfehlen in ihrem Jahresgutachten 2026 einen Fokus auf „Hybrid AI“, „Edge AI“ und „Green AI“.

Großkonzerne wie Siemens, Bosch und Volkswagen zeigen zwar Stärken bei der industriellen KI-Integration. Doch Europa hinkt bei Basistechnologien wie Spezialchips und Sprachmodellen weiter hinterher.

Die Lösung liegt in klaren Standards. 36 Prozent der Organisationen nennen internationale Managementnormen wie ISO/IEC 42001 als primären Einflussfaktor ihrer KI-Operationen. Solange die technischen Grenzen bestehen, bleibt menschliche Aufsicht der Goldstandard für Sicherheit und Genauigkeit.