KI-Chefs fordern DNA-Screening-Regeln: Biowaffen-Risiken eindämmen

Führende KI-Unternehmen drängen auf einheitliche Sicherheitskontrollen für synthetische DNA-Bestellungen, um Bioterror-Risiken zu minimieren.

Die Chefs der führenden KI-Labore verlangen von US-Behörden einheitliche Sicherheitskontrollen für künstliche Erbgut-Bestellungen. Ihr Ziel: Biowaffen-Risiken eindämmen.

In einem gemeinsamen Appell an den US-Kongress warnen die Spitzenmanager von OpenAI, Anthropic, Google DeepMind und Microsoft AI vor den Gefahren einer unkontrollierten Vermischung von Künstlicher Intelligenz und synthetischer Biologie. Die Technologie senke die Hürden für die Entwicklung biologischer Waffen drastisch, heißt es in dem Schreiben.

Einheitliche Regeln statt Flickenteppich

Anzeige: Wer die Sicherheitslücken im DNA-Screening für sein Unternehmen bewerten will, findet in diesem kostenlosen Report die wichtigsten Standards und Compliance-Schritte – bevor der Gesetzgeber verbindliche Regeln erlässt. Jetzt kostenlosen Report anfordern

Der Brief, initiiert von den Denkfabriken Institute for Progress und Foundation for American Innovation, trägt die Unterschriften von Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind) und Mustafa Suleyman (Microsoft AI). Die Riege der KI-Schwergewichte fordert eine gesetzliche Verpflichtung für alle DNA-Synthese-Anbieter, Bestellungen systematisch auf bekannte Krankheitserreger und Toxine zu prüfen.

Die derzeitige Praxis? Ein Flickenteppich. Die Screening-Methoden unterscheiden sich von Anbieter zu Anbieter erheblich – eine Sicherheitslücke, die nur durch bundesweite Vorgaben geschlossen werden könne, so die Unterzeichner.

KI als Brandbeschleuniger

Die Konzernchefs sehen in KI-Modellen einen potenziellen Katalysator für biologische Gefahren. Die Systeme könnten genutzt werden, um unregulierte Lieferanten aufzuspüren oder Erbgut-Sequenzen so zu verändern, dass sie von aktuellen Prüfprogrammen nicht erkannt werden.

Zwar verfügen OpenAI und Anthropic über interne Sicherheitsrahmen – etwa das „Preparedness Framework" oder die „Responsible Scaling Policy". Doch die Unterzeichner betonen: Freiwillige Maßnahmen der Industrie reichen nicht aus, um die systemischen Risiken des globalen Marktes für synthetische DNA in den Griff zu bekommen.

Besorgniserregende Studien und historische Warnsignale

Die Dringlichkeit untermauert die Allianz mit konkreten Beispielen. Bereits 2024 wiesen Microsoft-Forscher nach, dass KI-gestützte Proteindesign-Werkzeuge gefährliche Gensequenzen erzeugen konnten, die die damalige Screening-Software unbemerkt passierten.

Noch alarmierender: Ein kanadisches Forscherteam rekonstruierte 2017 das Pferdepocken-Virus – mit rund 100.000 Euro teuren DNA-Bestellungen aus dem Versandhandel. Die heutige KI-Generation, so die Befürchtung, könnte solche Experimente für weit gefährlichere Erreger vereinfachen, indem sie Spezialwissen zugänglich macht, das bisher nur Virologen vorbehalten war.

Gesetzgeber zieht nach

Anzeige: KI-gestützte Proteindesign-Werkzeuge können gefährliche Gensequenzen erzeugen, die aktuelle Screening-Software unbemerkt passieren – das zeigten Microsoft-Forscher bereits 2024. Unser Leitfaden hilft Ihnen, solche Risiken in Ihrem Labor zu identifizieren und zu schließen. KI-Risikobewertung jetzt sichern

Der Vorstoß der Industrie fällt mit politischen Initiativen zusammen. Im US-Senat liegt ein parteiübergreifender Gesetzesentwurf vor, der das Screening synthetischer Nukleinsäuren und der zugehörigen Produktionsanlagen vorschreibt.

Die Forderung nach neuen Regeln folgt zudem auf eine KI-Verordnung der Trump-Administration. Sam Altman begrüßt die Anordnung, pocht aber auf spezifische gesetzliche Vorgaben für die DNA-Überwachung als zentralen Baustein nationaler Biosecurity.

Gleichzeitig macht Altman deutlich: Die Regierung solle nicht die KI-Modelle selbst genehmigen müssen. Stattdessen schlägt er vor, das Handelsministerium mit mehr Mitteln für strenge Sicherheitstests an KI-Systemen auszustatten.