Microsoft Copilot: KI gratuliert Sterbenskrankem zur Suizidabsicht
Veröffentlicht am: 19.09.2026 um 22:02 Uhr | Redaktion boerse-global.de
Der australische Parlamentsabgeordnete Andrew Hastie hat bei einer Untersuchung zu künstlicher Intelligenz in Canberra einen schwerwiegenden Fehltritt eines KI-Modells offengelegt.
Wie der liberale Mandatar für den westaustralischen Wahlkreis Canning am 18. September 2026 vor dem parlamentarischen Ausschuss darlegte, habe der Assistent Microsoft Copilot auf das Schreiben eines unheilbar kranken Bürgers mit unpassenden automatischen Glückwünschen reagiert.
Unangemessene Antwortvorschläge bei existenzieller Thematik
Nach Angaben des Politikers hatte sich der betroffene Wähler im Juli per E-Mail an ihn gewandt. In der Nachricht schilderte der schwer erkrankte Mann seine Absicht, Möglichkeiten des assistierten Sterbens in Anspruch zu nehmen.
Anstatt sensibel auf das Thema einzugehen oder Schutzmechanismen zu aktivieren, erstellte der digitale Assistent Microsoft Copilot Antwortvorschläge, die den Vorgang positiv bewerteten. Zu den generierten Optionen gehörten unter anderem Beglückwünschungen, Bekundungen der Freude über die Kontaktaufnahme sowie die Einstufung der Mitteilung als erfreuliche Nachricht.
Der beschriebene Vorfall unterstreicht, wie wichtig klare Regeln für den Einsatz von KI-Systemen sind, um Fehltritte und rechtliche Risiken zu vermeiden. Dieser kostenlose Leitfaden bietet Unternehmen einen kompakten Überblick über die Anforderungen und Pflichten der neuen EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Der geschilderte Fall verdeutlicht die anhaltenden Schwierigkeiten automatisierter Sprachmodelle, ernste persönliche Ausnahmesituationen verlässlich zu erkennen und adäquat einzuordnen. Insbesondere vorgefertigte Vorschläge für Kurzantworten scheinen bei existenziellen und ethisch sensiblen Inhalten fehleranfällig zu sein, da sie oft auf positive Gesprächsverläufe optimiert sind und emotionale oder tragische Kontexte verfehlen können.
Forderung nach nationaler Regulierung
Vor dem Hintergrund des Vorfalls forderte Hastie bei der parlamentarischen Anhörung Konsequenzen für den Umgang mit der Technologie. Künstliche Intelligenz müsse unter australische Kontrolle gestellt werden, um die Bürger vor ungeeigneten Reaktionen der Systeme und mangelhaften Sicherheitsmechanismen zu schützen.
Hastie plädiert dafür, dass souveräne Instanzen Leitplanken für den Einsatz und die Überwachung solcher Software festlegen müssen, anstatt sich rein auf die Standards internationaler Entwickler zu verlassen.
Wer sich mit der Einführung und Überwachung von KI-Anwendungen befasst, muss heute genau wissen, welche Systeme als Hochrisiko eingestuft werden. Ein praxisnaher Report klärt darüber auf, was Unternehmen und Verantwortliche jetzt konkret tun müssen, um rechtlich auf der sicheren Seite zu stehen. Kostenlosen Umsetzungsleitfaden zum AI Act jetzt herunterladen
Gleichzeitig steht die Debatte über den regulatorischen Rahmen im Spannungsfeld mit den Bedenken der Branche. Im Vorfeld der Anhörung in Canberra hatten Technologiekonzerne davor gewarnt, dass Australien die Einführung von künstlicher Intelligenz verlangsamen müsse. Der nun bekannt gewordene Fall verstärkt jedoch den Druck auf die Politik, strenge Vorgaben für den Einsatz von KI bei sensiblen Themen wie Suizid und Sterbebegleitung einzufordern.
