Papst Leo XIV.: Enzyklika warnt vor unkontrollierter KI-Entwicklung

Papst Leo XIV. warnt in neuer Enzyklika vor unkontrollierter KI und verlangt globale Standards für eine menschenzentrierte Technologieentwicklung.

eine Debatte über die ethische Regulierung Künstlicher Intelligenz angestoßen. Das am Pfingstmontag vorgestellte Dokument warnt vor den sozialen und sicherheitspolitischen Risiken einer ungesteuerten technologischen Entwicklung. Der Vatikan plädiert für globale Standards, um eine Entmenschlichung durch automatisierte Systeme zu verhindern.

Anzeige

Die ethischen Forderungen des Vatikans spiegeln sich bereits in gesetzlichen Rahmenbedingungen wider – der EU AI Act setzt nun verbindliche Standards für Unternehmen. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle neuen Anforderungen, Pflichten und Fristen. EU AI Act in 5 Schritten verstehen

Warnung vor Machtkonzentration und Desinformation

Das Kirchenoberhaupt kritisiert die aktuelle Dynamik im Tech-Sektor scharf. Leo XIV. warnt vor einer zunehmenden Machtkonzentration bei einer Handvoll globaler Konzerne. KI könne zwar ein wertvolles Hilfsmittel sein, berge aber erhebliche Gefahren – darunter die Verschärfung von Konflikten durch Desinformation und die Möglichkeit endloser Kriege.

Besondere Aufmerksamkeit widmet das Dokument dem militärischen Einsatz von KI. Der Papst fordert eine Entwaffnung der Technologie und lehnt ab, dass Maschinen eigenständig über Leben und Tod entscheiden. Die traditionelle Lehre vom gerechten Krieg erklärt er damit für weitgehend überholt. Zudem weist der Vatikan auf den ökologischen Fußabdruck hin und fordert nachhaltige Lösungen angesichts des hohen Energie- und Wasserverbrauchs komplexer KI-Modelle.

Ethische KI als europäisches Standortmerkmal

In Deutschland stoßen die Forderungen auf Zustimmung in Politik und Wirtschaft. Bundesdigitalminister Karsten Wildberger spricht sich dafür aus, eine ethisch fundierte KI in Deutschland und Europa voranzutreiben. Dies sei eine grundlegende Voraussetzung für die Wahrung demokratischer Selbstbestimmung.

Unterstützung kommt auch vom Branchenverband Bitkom. Präsident Ralf Wintergerst betont, dass die Technologie dem Gemeinwohl und dem Menschen dienen müsse. Zugleich mahnt er eine pragmatische Umsetzung in Europa an. Kritik an einer rein regulatorischen Sichtweise äußert hingegen der Sozialethiker Elmar Nass: Ethik müsse bereits zu Beginn des Entwicklungsprozesses integriert werden, statt lediglich im Nachgang als Schranke zu fungieren.

Anzeige

Während die Politik über Ethik debattiert, müssen Unternehmen bereits konkrete Risikoklassen und Dokumentationspflichten der neuen KI-Verordnung erfüllen. Erfahren Sie in diesem praxisnahen Report, welche Systeme als Hochrisiko gelten und wie Sie rechtlich auf der sicheren Seite bleiben. Kostenlosen Leitfaden zur KI-Verordnung herunterladen

Technologische Folgen für Arbeitsmarkt und Umwelt

Bei der Präsentation der Enzyklika im Vatikan war mit Christopher Olah ein Mitgründer des KI-Unternehmens Anthropic anwesend. Olah begrüßt den Ruf nach externen Kontrollen. Moralische Stimmen, die unabhängig von wirtschaftlichen Anreizen agieren, seien notwendig für die Branche. Er warnt zudem vor massenhaften Arbeitsplatzverlusten durch KI-Systeme.

Anthropic selbst nimmt eine Sonderrolle ein: Das Unternehmen weigert sich, seine Modelle für Waffensysteme des US-Verteidigungsministeriums bereitzustellen. Diese Haltung führte unter der Trump-Regierung dazu, dass das Unternehmen als Lieferkettenrisiko eingestuft wurde. Paolo Carozza vom Aufsichtsgremium des Meta-Konzerns bezeichnet das päpstliche Schreiben als wegweisend für die künftige Gestaltung der digitalen Transformation.

Kulturelle Einordnung und gesellschaftlicher Zuspruch

Das Dokument greift auf ein breites Spektrum an Quellen zurück. Neben den Traditionen früherer Enzykliken wie „Rerum Novarum“ von Leo XIII. oder „Laudato si“ von Franziskus zitiert der Papst Denker wie Hannah Arendt, Viktor Frankl und Platon. Auch literarische Bezüge zu J.R.R. Tolkien nutzt er, um die Grenzen menschlicher Gestaltungsmacht aufzuzeigen.

Vertreter christlicher Organisationen schließen sich der Mahnung an. Heiner Wilmer für die Deutsche Bischofskonferenz und Heinrich Bedford-Strohm für den Weltkirchenrat begrüßen das Dokument. Die Präsidentin der Caritas, Eva Maria Welskop-Deffaa, bezeichnet den Appell als unüberhörbar. Der Kölner Kardinal Woelki hebt hervor, dass die Enzyklika die KI-Debatte mit der Bitte um Vergebung für historische Versäumnisse der Kirche verknüpft – etwa bei Sklaverei und Kolonialismus.