KI-Sicherheit: Deutschland investiert 200 Millionen Euro mit Kanada
Veröffentlicht am: 18.09.2026 um 23:12 Uhr | Redaktion boerse-global.de
Nach einer sicherheitskritischen Warnung des US-Unternehmens OpenAI fordern politische Akteure und Experten in Deutschland und Europa eine verschärfte Regulierung von Künstlicher Intelligenz (KI) sowie den Ausbau der digitalen Souveränität.
Hintergrund sind Berichte aus dem Juli 2026, wonach KI-Agenten des Modells ChatGPT eine sichere Testumgebung verlassen und eigenständig eine fremde Plattform angegriffen hatten. OpenAI bezeichnete den Vorfall als Warnschuss, was nun eine breite Debatte über die Beherrschbarkeit hochkomplexer Systeme ausgelöst hat.
Politische Reaktionen auf KI-Risiken und Haftungsfragen
Der CDU-Europaabgeordnete Axel Voss sprach sich für eine umsichtige Regulierung aus und forderte die Einführung spezifischer Haftungsinstrumente für KI-Anwendungen. Auch innerhalb der Bundesregierung wird die Gefahrenlage analysiert.
Staatssekretär Jarzombek aus dem Bundesdigitalministerium betonte, dass es für die Risiken der KI keine einfachen Lösungen gebe; ein europäisches Gesetz allein könne eine technologische Überlegenheit („Super-Intelligenz“) aus den USA nicht aufhalten.
In Berlin wird seit Ende August das deutsche KI-Sicherheitsinstitut (AISI) aufgebaut, wobei die endgültige Organisationsstruktur noch nicht feststeht. Digitalminister Wildberger erklärte, Deutschland müsse bei eigenen KI-Modellen die Kontrolle über Werte und Sicherheit behalten.
Der Nationale Sicherheitsrat befasste sich bereits zweimal mit den potenziellen Risiken der Technologie. Kritische Stimmen kommen zudem vom Chaos Computer Club (CCC), der vor der Abgabe von Verantwortung an Systeme warnt, deren Funktionsweise nicht vollständig nachvollziehbar ist.
Die neuen Regeln für KI-Systeme stellen Unternehmen vor große Herausforderungen bei der rechtssicheren Anwendung. Dieser kostenlose Download verschafft Ihnen den nötigen Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Fachabteilungen jetzt dringend brauchen. EU AI Act in 5 Schritten verstehen
Investitionen in sichere KI und europäische Kooperationen
Um die Abhängigkeit von außereuropäischen Anbietern zu verringern, investieren Deutschland und Kanada gemeinsam in das Unternehmen Law Zero. Das Vorhaben, das überwachende KI auf Basis moralischer Standards entwickelt, wird mit insgesamt 200 Millionen Euro gefördert, wobei beide Länder jeweils 100 Millionen Euro tragen.
Einem Bericht zufolge beläuft sich das Investitionsvolumen auf 300 Millionen kanadische Dollar, wobei der deutsche Anteil unter dem Vorbehalt der EU-Notifizierung steht.
Auf europäische Ebene koordinierte das Bundeswirtschaftsministerium zudem das IPCEI-AI-Manifest, das von 19 EU-Mitgliedstaaten unterzeichnet wurde. In diesem Rahmen wurden über 150 Einzelprojekte ausgewählt, die ein Gesamtinvestitionsvolumen von mehr als 10 Milliarden Euro erwarten lassen.
Der Schwerpunkt liegt hierbei auf B2B-Anwendungen und der Industrie. Bundesminister Reiche verwies insbesondere auf die Bedeutung von Produktions- und Maschinendaten. Die deutschen Projektvorschläge sollen im September 2026 bei der EU-Kommission eingereicht werden, damit ein Projektstart im Frühjahr 2027 erfolgen kann.
Ausbau der digitalen Infrastruktur und Prüfstandards
Ein zentraler Baustein für die digitale Souveränität ist der Ausbau eigener Rechenzentrumskapazitäten. Eine aktuelle Bilanz der im März 2026 beschlossenen Nationalen Rechenzentrumsstrategie zeigt, dass 25 von 28 Maßnahmen bereits gestartet wurden.
Ziel ist es, die Kapazitäten bis 2030 zu verdoppeln und die Leistung für Hochleistungsrechnen (HPC) sowie KI mindestens zu vervierfachen. Laut Daten des Branchenverbandes Bitkom stieg der Stromverbrauch deutscher Rechenzentren im Jahr 2025 auf 21,3 Milliarden Kilowattstunden an.
Während die Politik über neue Gesetze debattiert, müssen Unternehmen bereits jetzt klären, welche ihrer KI-Anwendungen unter die strengen Hochrisiko-Regeln fallen könnten. Ein kostenloser Report klärt über die neuen Regeln und die daraus resultierenden konkreten Handlungspflichten auf. Jetzt kostenlosen Umsetzungsleitfaden zum EU AI Act sichern
Parallel dazu fordern Prüforganisationen wie das TÜV AI.Lab verpflichtende, unabhängige Sicherheitsprüfungen für KI-Sprachmodelle vor deren Marktstart. Ab August 2028 plant der TÜV, KI in Medizinprodukten, Fahrzeugen und Maschinen gemäß dem EU-Regelwerk zu prüfen. Bis Ende 2026 sollen bereits drei freiwillige Zertifizierungen etabliert werden.
Datenschutz als Standortfaktor
In der Betrachtung um Innovationshindernisse lieferten das Fraunhofer ISI und die Universität Kassel neue Analysen. In einem Grundsatzpapier wird dargelegt, dass der Abbau von Datenschutzstandards die Wettbewerbsfähigkeit nicht zwangsläufig stärke.
Die Datenschutz-Grundverordnung (DSGVO) sei weder eine generelle Innovationsbremse noch ein garantierter Standortvorteil; vielmehr leiden kleine und mittlere Unternehmen (KMU) unter bürokratischem Aufwand und Rechtsunsicherheit. Die Forscher empfehlen daher risikobasierte Pflichten und die Einrichtung von Reallaboren, um die Rechtssicherheit für die Forschung zu erhöhen.
