IT-Sicherheitsexperte warnt vor hackenden KI-Modellen

Der IT-Sicherheitsforscher Thorsten Holz warnt vor den Folgen der rasant voranschreitenden KI-Entwicklung für die Sicherheit des Internets.KI-Modelle seien "so leistungsfähig geworden, dass sie Sicherheitslücken finden, die Menschen und klassische Tools übersehen haben", sagte Holz dem "Spiegel".

Die KI-Modelle könnten die Lücken auch "direkt ausnutzen".

"Die nächsten zwei bis vier Jahre werden holprig", warnte Holz. Das liege daran, dass KI-Modelle "in den vergangenen vier bis sechs Monaten einen großen technischen Sprung gemacht" hätten.

Holz ist wissenschaftlicher Direktor des Max-Planck-Instituts für Sicherheit und Privatsphäre in Bochum. Mit einem internationalen Team entwickelte er jene abgekapselte Testumgebung, aus der kürzlich ein KI-Programm von OpenAI ausgebrochen ist und anschließend autonom zwei Firmen gehackt hat.

"Das ist schon ein bisschen verrückt, was da passiert ist", sagte Holz zu dem Vorfall. "Dieses Ausmaß an Autonomie bei einer KI ist neu."

Der renommierte IT-Experte, der schon viele IT-Sicherheitslücken aufgedeckt hat, wirft OpenAI eine fehlende Aufsicht bei dem Vorfall vor. "Dem Team bei OpenAI hätte es viel schneller auffallen müssen, dass auf einmal ungewöhnlich viel Netzwerkverkehr gegen andere Webseiten läuft", sagte Holz.

Langfristig könne Künstliche Intelligenz die Sicherheit von Software aber verbessern, hofft Holz. Sie könne Schwachstellen proaktiv finden, bevor Angreifer sie entdeckten. "Ja, wir können KI kontrollieren aus technischer Sicht", sagte es. "Es braucht schlicht mehr Sorgfalt, als OpenAI hier gezeigt hat."