EU AI Act ab August: Neue Regeln für autonome KI in Kliniken
27.06.2026 - 10:28:21 | boerse-global.de
Statt passiver Assistenzsysteme übernehmen zunehmend autonome KI-Agenten Aufgaben in Diagnostik, Verwaltung und Therapie. Doch aktuelle Studien offenbaren gravierende Schwachstellen.
Bislang half Künstliche Intelligenz Ärzten vor allem bei der Bildauswertung oder der Terminplanung. Die neue Generation – sogenannte Agentic AI – geht weiter. Diese Systeme verfolgen eigenständig Ziele, haben ein persistentes Gedächtnis und nutzen externe Werkzeuge. Das Fraunhofer-Institut IAIS sieht darin einen „technologischen Sprung“ für die gesamte stationäre Versorgung.
Pathologie: KI erkennt Krankenhäuser statt Krankheiten
Ein Team der TU Berlin und des BIFOLD-Instituts veröffentlichte am 25. Juni in Nature Communications alarmierende Ergebnisse. KI-Modelle in der Pathologie nutzen oft unzuverlässige Abkürzungen. Sie erkannten mit 88 bis 98 Prozent Genauigkeit, aus welchem Krankenhaus die Gewebeprobe stammte – und nutzten diese Information für ihre Diagnose, statt rein medizinische Merkmale zu bewerten.
Die Forscher führten deshalb PathoROB ein, einen öffentlichen Bewertungsmaßstab. Er umfasst 100.000 Gewebeausschnitte aus 34 Zentren. Die Studie zeigt: Größere Modelle und Vision-Language-Modelle liefern stabilere Ergebnisse.
Verwaltung profitiert am schnellsten
Während die klinische KI noch kämpft, läuft die Administration bereits. Michael Ey von PwC erklärte am 25. Juni: Die größten Fortschritte gibt es bei Terminplanung, Belegungssteuerung und Arztbriefen. Das Problem in deutschen Kliniken? Starre Strukturen und Perfektionismus.
Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun? Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf. Jetzt kostenlosen Umsetzungsleitfaden herunterladen
Branchenexperten fordern, Pflegekräfte und Ärzte frühzeitig einzubinden. Zudem müsse die sogenannte Shadow AI – nicht autorisierte Tools aus Fachabteilungen – durch offizielle IT-Angebote und akzeptanzorientierte Governance ersetzt werden.
USA treiben autonome Agenten voran
Die US-Forschungsbehörde ARPA-H wählte im Juni erste Teams für das ADVOCATE-Programm aus. Ziel: der erste von der FDA zugelassene autonome KI-Agent. Er soll etwa Medikationen bei Herz-Kreislauf-Erkrankungen eigenständig anpassen. Ein Supervisory Agent überwacht dabei die Handlungen des primären Systems.
In Europa zeichnet sich derweil ein regulatorischer Zweikampf ab. Der EU AI Act wird bis zum 2. August 2026 voll anwendbar. Der Bundesrat fordert bereits Verschärfungen im Antidiskriminierungsrecht. Grund: Automatisierte Entscheidungen könnten auf Basis verzerrter Daten diskriminieren. Die Bundesregierung verweist auf die Technologieneutralität bestehender Gesetze.
Compliance-Experten warnen: Wer die KI-Verordnung ignoriert, riskiert empfindliche Strafen. Sichern Sie sich jetzt den kostenlosen Umsetzungsleitfaden zum EU AI Act mit allen relevanten Übergangsfristen für Ihr Unternehmen. Kostenloses E-Book zum EU AI Act sichern
Neue Standards für den Datenaustausch
Google und Anthropic treiben mit A2A und dem Model Context Protocol (MCP) Industriestandards voran. Systeme wie Gemini 3.5 Flash bedienen damit eigenständig Computerprogramme und Browser.
Für den sicheren Datenaustausch im Gesundheitswesen gilt die EUDI-Wallet ab 2027 als Schlüsseltechnologie. Die Bundesdruckerei entwickelt einen Prototyp für Telemedizin und E-Rezept. Basis sind verifizierte digitale Identitäten – medienbruchfrei und datensparsam.
Trotz aller Fortschritte warnen Mediziner vom Inselspital Bern vor falscher Sicherheit. KI-generierte Diagnosen könnten Untersuchungen ergänzen, aber nicht ersetzen. Verzögerungen in der Abklärung blieben ein Risiko für die Patientensicherheit.
