KI-Firmen sollen sich selbst beaufsichtigen

(Neu: Experteneinschätzung im 9. bis 11.

Absatz)

WASHINGTON/SAN FRANCISCO (dpa-AFX) - US-Präsident Donald Trump will trotz Warnungen vor existenziellen Risiken Künstlicher Intelligenz die Aufsicht über die Technologie ihren Entwicklern selbst überlassen. Die Unternehmen würden sich selber kontrollieren, sagte Trump nach einem Treffen mit Chefs von KI-Unternehmen in Washington.

Er sieht ausreichenden Schutz durch wirtschaftliche Interessen der US-Firmen. "Ihre Unternehmen stehen auf dem Spiel, wenn etwas schiefgeht", sagte der Präsident. "Sie werden das nicht zulassen." Die Unternehmen würden "sich gegenseitig kontrollieren".

Zuletzt hatten eigenständige Hacking-Attacken durch KI-Modelle die Sorgen um Gefahren Künstlicher Intelligenz hochkochen lassen. Einige Branchenvertreter selbst warnten, man könne nicht ganz ausschließen, dass KI in der Zukunft die Menschheit auslösche.

"Sehr reale Risiken"

Der Chef der KI-Firma Anthropic, Dario Amodei, hatte sich dafür ausgesprochen, die Entwicklung der leistungsfähigsten KI-Modelle abzubremsen, um sicherzugehen, dass man nicht die Kontrolle über die Technologie verliert. Trump hatte bereits zuvor eine verstärkte staatliche Regulierung der Technologie abgelehnt. Es sei wichtig, dass die USA den Vorsprung zu China nicht einbüßten, betont er.

Amodei sagte nach dem Treffen mit Trump, KI habe großes Potenzial - "aber auch sehr reale Risiken". Maßnahmen, um diesen Risiken entgegenzuwirken, seien "noch in der Diskussion".

Freiwillige Selbstverpflichtung

Jetzt wurde bei dem Treffen in einer Selbstverpflichtung eine Reihe von Grundsätzen vereinbart, zu denen "robuste interne Kontrollen" gehören, wie aus dem von Trump veröffentlichten Dokument hervorgeht. Dies solle unter anderem Biowaffen- und Chemiewaffen-Risiken ausräumen - und auch dafür sorgen, dass es keine Hacking-Attacken gebe.

Darüber hinaus erklärten sich die Unternehmen bereit, externe Beobachter zuzulassen. Das entspricht einer Idee, die Amodei vor einigen Wochen vorstellte, und die unter anderem von seinem Konkurrenten Sam Altman beim ChatGPT-Entwickler OpenAI sowie Tech-Milliardär Elon Musk unterstützt wurde. Die Verwaltungsräte der KI-Firmen - die in etwa den deutschen Aufsichtsräten entsprechen - sollen zudem gesonderte unabhängige Gremien einrichten, die interne und externe Berichte prüfen.

"Mit der Zeit könnte es Sinn ergeben, diese Schritte in Gesetzen oder Regeln festzuhalten", hieß es in dem Dokument auch. Das Papier wurde unter anderem von Amodei, Musk, Facebook-Gründer Mark Zuckerberg, Google US02079K1079-Chef Sundar Pichai sowie dem Chef des KI-Chip-Spezialisten Nvidia US67066G1040, Jensen Huang, unterzeichnet.

Experte: Trump lässt der KI Spielraum

"Trump hat ein unmittelbares Risiko für KI-Investments entschärft", schrieb Marktexperte Stephen Innes und verwies darauf, dass der Präsident mit seinen Äußerungen am Dienstag der KI Spielraum lasse. Nach den Beratungen mit den Branchenvertretern habe der Präsident eine Präferenz für freiwillige Selbstverpflichtungen, Selbstregulierung und einen kleinen Aufsichtsausschuss statt eines umfangreichen staatlichen Regelwerks signalisiert.

"Für Investoren war die Botschaft ziemlich eindeutig: Washington hat nicht vor, einen Regulierungslaster quer auf die KI-Autobahn zu stellen, gerade während die Branche kräftig aufs Gaspedal tritt", so Innes.

Allerdings ist er selbst kritisch: Die Ironie dabei sei, dass sich die Sicherheitslage gerade dann verschlechtere, wenn die Regulierung gelockert werde. "Zudem erweisen sich leistungsfähigere Modelle als schwieriger zu überwachen, was die Selbstregulierung zu einer weitaus größeren Herausforderung macht, als es zunächst den Anschein hat."

OpenAI setzt auf KI-Agenten

Für OpenAI unterzeichnete das Papier Altmans rechte Hand, der Top-Manager Greg Brockman. Der Firmenchef konnte nicht zu dem recht kurzfristig angesetzten Treffen nach Washington kommen, weil er auf der jährlichen Entwicklerkonferenz von OpenAI in San Francisco auftrat. Er stellte dort unter dem Namen "Dots" (Punkte) sogenannte KI-Agenten vor, die eigenständig Aufgaben im Auftrag der Nutzer erfüllen können. Ein Dot könne am Computer praktisch alles machen, "was man sich einfallen lassen kann". Nach dem Start in den USA sollen Dots "bald" auch in Europa verfügbar sein, hieß es.

Zunächst bekommt man nur einen Dot pro Nutzer - aber mit der Zeit solle eine Vielzahl solcher Agenten für die Nutzer im Einsatz sein. Kommuniziert mit der Software wird über einen Chat. Für einzelne Wissensbereiche in Unternehmen - etwa Buchhaltung, Marketing oder Rechtsfragen - soll es spezialisierte Dots geben. Zunächst sind Dot-Assistenten nur hinter Abo-Schranken nutzbar, was ihre Verbreitung zunächst vor allem auf den Berufsalltag beschränken dürfte. "Aber sie sollten davon ausgehen, dass wir eines Tages etwas im Massenmarkt für Milliarden Menschen machen."

Meta US30303M1027 will mit KI für Verbraucher punkten

Meta hatte erst vor wenigen Wochen einen ähnlich funktionierenden KI-Assistenten mit dem Namen Muse zunächst in den USA gestartet, der auf Verbraucher ausgerichtet ist. Die Muse-App erklomm danach die Spitzenposition im US-App-Store von Apple US0378331005, und Meta wurde an der Wall Street nach Milliarden-Investitionen in KI-Infrastruktur wieder als ein aussichtsreicher Anwärter im Wettbewerb um eine führende Rolle bei Künstlicher Intelligenz gesehen. ChatGPT hatte den Hype um Künstliche Intelligenz erst ausgelöst, bei dem neuesten KI-Assistenten für Verbraucher kam Meta dem Vorreiter aber zuvor. Altman sagte indes, Dots sei "allem, was heute auf dem Markt verfügbar ist, weit voraus".

Im Prinzip könnten auch Verbraucher Dots schon jetzt für Alltagsdinge benutzen, sagte OpenAI-Manager Alexander Embiricos der Deutschen Presse-Agentur. Aber damit würden sie nicht die wirklichen Vorteile der Software nutzen, schränkte er ein. Dots sei eher für ambitionierte Aufgaben optimiert, um mehr zu machen, als man sich selbst zugetraut hat.