KI-Sicherheit: Tech-Riesen fordern DNA-Regulierung vom US-Kongress

OpenAI, Google und Microsoft drängen auf gesetzliche Sicherheitschecks für synthetische DNA-Bestellungen, um Biowaffen-Risiken zu minimieren.

Die führenden KI-Entwickler fordern den US-Kongress auf, gesetzliche Sicherheitsprüfungen für den Kauf synthetischer DNA einzuführen. Hintergrund: KI-Sicherheitslücken könnten den Zugang zu biologischen Waffen massiv erleichtern.

Die Tech-Riesen drängen auf eine stärkere staatliche Regulierung an der Schnittstelle von KI und Biotechnologie. Konkret geht es um gesetzliche Verpflichtungen, bevor synthetische DNA bestellt werden kann.

EU zieht bei Biotech-Regulierung vor

Die Industrie trifft auf eine bereits in Bewegung geratene Gesetzgebungslandschaft. Die EU-Kommission legte schon im vergangenen Jahr den Entwurf eines EU-Biotech-Gesetzes vor. Er stuft synthetische Nukleinsäuresequenzen als biotechnologische Produkte mit besonderem Risiko ein.

Anzeige

Während die EU-Kommission neue Gesetze für Biotech und Cloud-Souveränität vorantreibt, stehen viele Unternehmen vor der Herausforderung, die umfassende EU-KI-Verordnung rechtssicher umzusetzen. Dieser kostenlose Download verschafft Ihnen den notwendigen Überblick über Fristen, Pflichten und Risikoklassen des AI Acts. EU AI Act in 5 Schritten verstehen: Jetzt kostenlosen Leitfaden sichern

Parallel dazu forciert Brüssel den Cloud and AI Development Act (CADA). Das umfassende Souveränitätspaket sieht ein Cloud Computing Sovereignty Framework (CCSF) mit vier Vertrauensstufen vor. Ab Stufe zwei müssten Cloud-Anbieter ihren Sitz in der EU haben. Daten dürften dann nicht für KI-Training außerhalb der Union genutzt werden.

Auch der Einfluss von Drittstaaten soll beschränkt werden. US-amerikanische Anbieter wären damit faktisch von bestimmten Marktsegmenten ausgeschlossen. Ausnahmen sind nur durch spezifische Angemessenheitsentscheidungen gemäß der DSGVO möglich.

USA beschleunigen KI-Prüfungen

In den USA unterzeichnete die Regierung Anfang Juni eine Executive Order. Sie verkürzt die Prüffristen für KI-Modelle durch Bundesbehörden von 90 auf 30 Tage. Branchenvertreter wie der OpenAI-CEO lehnen eine Zwangslizenzierung ab. Gleichzeitig unterstützen sie eine verstärkte Überwachung synthetischer DNA.

Die Warnungen kommen nicht aus dem Nichts. Bereits im Februar warnten Forscher von Oxford und Stanford vor Biosicherheitsrisiken. Der offene Zugang zu biologischen Datensätzen könnte die Entwicklung biologischer Waffen durch KI-Unterstützung ermöglichen.

Autonome Malware als neue Bedrohung

Die Dringlichkeit der Debatte zeigt aktuelle Forschung zur Cybersicherheit. Ein internationales Team von der Universität Toronto und dem Vector Institute demonstrierte einen KI-basierten Wurm. In einem isolierten Netzwerk nutzte die Malware LLMs auf infizierten Rechnern, um passgenaue Exploits zu entwickeln.

Auf zwei Dritteln der Geräte replizierte sich der Wurm erfolgreich. Dabei wurden Schwachstellen aus dem laufenden Jahr ausgenutzt – zeitlich nach dem Trainingsstopp der verwendeten Sprachmodelle.

Weitere Sicherheitstests zeigen: KI-Agenten identifizieren bereits mit geringem Aufwand Sicherheitslücken. Für rund 1.300 Euro fanden Agenten unverschlüsselte Zugangsdaten in App-Konfigurationsdateien und lasen Nutzerdatenbanken aus.

Anzeige

Angesichts autonomer Malware und KI-gestützter Angriffe wird der proaktive Schutz der eigenen IT-Infrastruktur für Unternehmen zunehmend zur Existenzfrage. Erfahren Sie in diesem kostenlosen E-Book, wie Sie Sicherheitslücken schließen und gleichzeitig neue gesetzliche Anforderungen erfüllen. Gratis-E-Book: IT-Sicherheit stärken und Unternehmen proaktiv schützen

Südkorea plant Milliarden-Investitionen

Während westliche Staaten über Regeln diskutieren, investieren andere massiv in die Technologie. Südkoreas Ministerium für Wissenschaft und IKT startete eine Langzeitstrategie. Bis 2045 will das Land den Status einer führenden Technologienation erreichen.

Ein Komitee unter Vize-Premier Bae Kyoung-hoon und KAIST-Präsident Kwang Hyung Lee leitet die Initiative. Bis 2029 fließen 22,5 Milliarden KRW in KI-Modelle für sechs strategische Felder: Kernfusion, Sekundärbatterien und Biowissenschaften sind dabei.

Geplant sind KI-gestützte Systeme für die Medikamentenforschung am National Cancer Center sowie digitale Zwillinge für Fusionsreaktoren.

Deutsche fordern digitale Unabhängigkeit

In Deutschland zeigt eine Bitkom-Umfrage die gesellschaftliche Relevanz: Fast alle Befragten befürworten eine stärkere digitale Unabhängigkeit. Einen rechtlichen Rahmen gibt es bereits. Ende letzten Jahres verabschiedete der Bundestag das NIS-2-Umsetzungsgesetz.

Es verpflichtet Unternehmen ab einer bestimmten Größe in regulierten Sektoren zur Selbstidentifikation und zu strengen Sicherheitsstandards. Der Druck auf die Politik wächst – sowohl von der Industrie als auch von den Bürgern.