OpenAI und Microsoft finanzieren globales KI-Sicherheitsprojekt
20.02.2026 - 18:30:12 | boerse-global.de
Eine neue internationale Allianz erhält Millionen für die Erforschung sicherer Künstlicher Intelligenz. Die Initiative soll verhindern, dass hochautonome Systeme sich verselbstständigen.
London – Die Gefahren durch fortschrittliche Künstlicher Intelligenz werden konkreter – und die Gegenmaßnahmen nehmen Fahrt auf. Auf dem AI Impact Summit in Indien gab die britische Regierung bekannt, dass OpenAI und Microsoft das britische AI Security Institute (AISI) mit neuer Finanzspritze unterstützen. Über 27 Millionen Euro fließen in das sogenannte Alignment Project, das die Kontrolle über KI-Systeme sicherstellen soll.
Worum geht es beim „Alignment Project“?
Kern der Initiative ist die KI-Alignment-Forschung. Sie befasst sich mit der entscheidenden Frage: Wie stellt man sicher, dass immer mächtigere und autonomere KI-Systeme im Sinne des Menschen handeln und keine schädlichen oder unvorhersehbaren Verhaltensweisen entwickeln? Die neuen Gelder, darunter rund 5,6 Millionen Euro von OpenAI, sollen etwa 60 Forschungsprojekte in acht Ländern finanzieren.
„Während die großen KI-Labore einzigartigen Zugang zu leistungsstarken Modellen haben, braucht es auch unabhängige Teams, die verschiedene Ansätze testen“, erklärte OpenAI. Die Förderung kombiniert direkte Zuschüsse mit Zugang zu Rechenleistung und Mentoring durch AISI-Wissenschaftler. Ein zweiter Förderrundenstart ist für diesen Sommer geplant.
Neue Studien zeigen alarmierende Sicherheitslücken
Die Dringlichkeit der Initiative unterstreichen mehrere alarmierende Berichte dieser Woche. Eine Studie der Universität Cambridge vom 20. Februar offenbart eine „bedenkliche Transparenzlücke“ im Ökosystem der KI-Agenten. Von 30 untersuchten Top-Agenten veröffentlichen nur vier Entwickler formelle Sicherheitsdokumente. 25 geben keine internen Sicherheitstestergebnisse preis – eine Crux für die Risikobewertung.
Parallel steigen die KI-gestützten Bedrohungen rapide an. Ciscos „State of AI Security 2026“-Report bestätigt, dass KI-Schwachstellen und -Angriffe längst theoretische Forschung verlassen haben. Palo Alto Networks warnt, KI wirke als „Kraftmultiplikator“ für Angreifer, der die Geschwindigkeit und das Ausmaß von Cyberangriffen dramatisch erhöht. In fast 90 % der untersuchten Vorfälle spielten Identitätsschwächen eine Rolle.
Angesichts der rasanten Zunahme KI‑gestützter Cyberangriffe kann proaktiver Schutz den Unterschied machen. Ein kostenloses E‑Book fasst praxisnahe Maßnahmen zusammen, erklärt, wie Sie Identitäts- und Zugriffssicherheit stärken und welche neuen Regelwerke (inklusive KI‑Regulierung) für Unternehmen wichtig sind. Der Report „Cyber Security Awareness Trends“ liefert Checklisten, Prioritäten und sofort umsetzbare Schritte, um Ihr IT‑Sicherheitsniveau zu erhöhen. Jetzt den kostenlosen Cyber‑Security‑Guide herunterladen
Regierungen reagieren mit neuen Standards
Die wachsende Bedrohungslage führt zu koordiniertem Regierungshandeln. Das US-Finanzministerium schloss am 18. Februar eine öffentlich-private Initiative ab, um die Cybersicherheit im Finanzsektor zu stärken. Es veröffentlicht eine Reihe praktischer Leitfäden zum Umgang mit KI-spezifischen Cyberrisiken.
Auch das US-NIST startete eine „AI Agent Standards Initiative“, um sichere autonome KI zu gewährleisten. Die EU-Kommission kündigte auf dem Gipfel in Indien eigene Initiativen zur Stärkung europäischer KI-Kompetenzen an, darunter ein Expertengremium für Grenzbereichs-KI.
Ein Wettlauf zwischen Fähigkeit und Kontrolle
Die Konvergenz aus staatlichem Handeln und privaten Investitionen signalisiert einen globalen Konsens: Der rasanten Entwicklung der KI-Fähigkeiten muss eine ebenso dringliche Fokussierung auf Sicherheit folgen. Der erste International AI Safety Report dokumentierte bereits eskalierende Bedenken. Moderne KI-Modelle erreichen demnach Expertenniveau in Wissen, das für die Entwicklung biologischer Waffen relevant ist.
Die kommenden Monate werden zeigen, ob die kooperative Forschung und proaktive Regulierung mit dem exponentiellen Wachstum der KI-Technologie Schritt halten können. Die Arbeit des Alignment Project wird entscheidend sein, um die Entwicklung der Künstlichen Intelligenz an menschliche Werte und die globale Sicherheit zu binden.
Die Kurse spielen verrückt – oder folgen sie nur Mustern, die du noch nicht kennst?
Emotionale Kurzschlussreaktionen auf unruhige Märkte kosten dich bares Geld. Vertraue bei deiner Geldanlage stattdessen auf kühle Analysen und harte Fakten. Seit 2005 navigiert 'trading-notes' Anleger mit präzisen Handlungsempfehlungen sicher durch jede Marktphase. Hol dir dreimal pro Woche unaufgeregte Experten-Strategien in dein Postfach. 100% kostenlos.
Jetzt abonnieren .
