Anthropic wirft chinesischem Konzern Kopier-Attacke vor

Die KI-Firma Anthropic wirft dem chinesischen Alibaba-Konzern KYG017191142 einen großangelegten Versuch vor, widerrechtlich Fähigkeiten seiner Software mit Künstlicher Intelligenz abzugreifen.

Anthropic fordert deswegen vom US-Kongress Maßnahmen, die solche Attacken verhindern sollen, wie aus einem von der "Financial Times" veröffentlichten Brief an amerikanische Senatoren hervorgeht. Alibaba äußerte sich zunächst nicht zu den Vorwürfen.

Dem Brief zufolge interagierten mit Alibaba verbandelte Angreifer über nahezu 25.000 betrügerische Accounts von Ende April bis Anfang Juni fast 29 Millionen Mal mit Anthropics KI-Software Claude. Dabei hätten sie mehr über zentrale Aspekte wie etwa den Aufbau der Software und deren Logik beim Ausführen von Aufgaben erfahren wollen.

Umstrittene Methode

Dabei hätten die Angreifer zu einer unter dem Begriff "Destillation" bekannten Methode gegriffen, bei der Entwickler neuer Software sie mit Künstlicher Intelligenz von einem bereits existierenden Modell anlernen lassen. Solche Zugriffe sind gemeinhin in Nutzungsbedingungen untersagt.

Tech-Milliardär Elon Musk räumte allerdings jüngst in einem Gerichtsverfahren ein, dass er mit dieser Technik seinen KI-Chatbot Grok von KI-Modellen des ChatGPT-Entwickler OpenAI lernen ließ. Anthropic gilt aktuell als der schärfste Rivale von OpenAI und warf chinesischen Unternehmen wiederholt vor, die Methode zu verwenden.

Härtere Gangart gefordert

In dem Brief forderte Anthropic vom Kongress unter anderem ein härteres Vorgehen gegen chinesische Unternehmen, die zur "Destillation" greifen. Auch sollten amerikanische KI-Firmen die Freiheit bekommen, einander vor solchen Attacken zu warnen. Zudem ruft Anthropic dazu auf, den Zugang chinesischer Player zu Technik wie KI-Chips weiter einzuschränken.

Damit bekräftigt die KI-Firma den Konfrontationskurs zum Chip-Schwergewicht Nvidia. Das Unternehmen wirbt bei der US-Regierung dafür, auch die Ausfuhr leistungsstärkerer KI-Systeme nach China zu erlauben.

Streit mit US-Regierung um neues KI-Modell

Anthropic steckt dabei selbst in einem Konflikt mit der US-Regierung. Diese zwang die Firma jüngst, deren Top-Software mit Künstlicher Intelligenz vorläufig vom Markt zu nehmen. Zur Begründung wurde dabei auf angebliche Schwachstellen verwiesen, über die Einschränkungen des KI-Programms mit dem Namen "Fable 5" ausgehebelt werden könnten. Bei dem Programm ist unter anderem die Fähigkeit zur Suche nach Sicherheitslücken in anderer Software blockiert. Die Sorge ist, dass KI für Cyberattacken verwendet werden könnte. Anthropic konterte, die Probleme seien nicht schwerwiegend. Verhandlungen mit der US-Regierung zu der Sperre laufen noch.