Anthropic holt Top-Juristen Cuéllar für KI-Aufsichtsgremium

Anthropic verstärkt sein KI-Sicherheitsgremium mit einem renommierten Juristen und Völkerrechtsexperten. Die Berufung unterstreicht den wachsenden Stellenwert geopolitischer Expertise in der KI-Governance.

Der KI-Entwickler Anthropic hat einen prominenten Neuzugang für sein einflussreiches Aufsichtsgremium gewonnen. Mariano-Florentino Cuéllar, ehemaliger Richter am Obersten Gerichtshof Kaliforniens und derzeit Präsident der Carnegie Endowment for International Peace, tritt dem Long-Term Benefit Trust (LTBT) bei. Dies gab das Unternehmen am Dienstag bekannt. Das Gremium hat die Aufgabe, die langfristig sichere und gemeinwohlorientierte Entwicklung Künstlicher Intelligenz bei Anthropic zu überwachen – und besitzt sogar das Recht, Mitglieder des Unternehmensvorstands zu ernennen.

Anzeige

Die EU‑KI‑Verordnung bringt konkrete Pflichten für Entwickler, Anbieter und Betreiber von KI‑Systemen – und viele Unternehmen unterschätzen noch Kennzeichnungs‑, Risikoklassen‑ und Dokumentationsanforderungen. Ein kostenloses E‑Book fasst die Regelungen des AI Act kompakt zusammen, erklärt, wie Sie Ihr KI‑System richtig klassifizieren, welche Nachweise gefordert sind und welche Übergangsfristen gelten. Ideal für Entwickler, Compliance‑Teams und Entscheider, die rechtssicher handeln wollen. Jetzt kostenlosen EU‑KI‑Leitfaden herunterladen

Cuéllars Werdegang liest sich wie eine Blaupause für die Anforderungen an KI-Governance. Der Jurist und Politikwissenschaftler brachte es bis zum Richter am kalifornischen Supreme Court, beriet drei US-Präsidenten und leitete das Freeman Spogli Institute for International Studies in Stanford. Aktuell steht er der renommierten Denkfabrik Carnegie Endowment for International Peace vor.

Seine Expertise geht über reine Theorie hinaus: Cuéllar co-leitete die KI-Arbeitsgruppe des Bundesstaates Kalifornien und saß im Ethik-Komitee der National Academy of Sciences. „Seine Erfahrung an der Schnittstelle von Technologie, Recht und globaler Sicherheit ist genau das, was wir brauchen“, kommentierte LTBT-Vorsitzender Neil Buddy Shah die Berufung. Cuéllar wird seine Rolle bei Carnegie im Juli 2026 beenden und nach Stanford zurückkehren.

Das Trust-Modell: Ein Bollwerk gegen Profitdruck?

Das Long-Term Benefit Trust ist das Herzstück von Anthropics ungewöhnlicher Unternehmensverfassung. Das 2021 von ehemaligen OpenAI-Mitgliedern gegründete Unternehmen ist als Public Benefit Corporation registriert – eine Rechtsform, die gemeinwohlorientierte Ziele in der Satzung festschreibt. Der Trust soll diese Mission absichern.

Seine Besonderheit: Die Mitglieder halten keine Unternehmensanteile und sollen somit frei von kurzfristigen Profitinteressen entscheiden. Ihre Macht ist konkret. Sie beraten nicht nur, sondern ernennen einen wachsenden Teil des Aufsichtsrats. Zu den bisherigen Ernennungen zählen Netflix-Mitgründer Reed Hastings und Confluent-CEO Jay Kreps. Mit Cuéllars Eintritt endeten zugleich die Amtszeiten zweier Gründungsmitglieder, darunter Zachary Robinson vom Centre for Effective Altruism.

Governance als Wettbewerbsvorteil im KI-Rennen

Die Berufung kommt zu einem Zeitpunkt, in dem Regulierungsbehörden weltweit den Druck auf KI-Entwickler erhöhen. Die EU hat mit ihrem AI Act bereits ein umfassendes Regelwerk verabschiedet, auch in den USA und Deutschland laufen intensive Debatten.

Für Anthropic scheint eine glaubwürdige Governance-Strategie zum Wettbewerbsfaktor zu werden. Während Konkurrenten wie OpenAI oder Google mit internen Kontrollgremien arbeiten, setzt Anthropic auf dieses externe, machttragende Modell. Die Botschaft an Politik und Öffentlichkeit ist klar: Wir nehmen Sicherheit und gesellschaftliche Folgen ernst – und holen uns dafür die beste Expertise.

Kann dieses Modell Schule machen? Es zeigt zumindest, dass fortschrittliche KI nicht mehr nur eine Frage der Rechenleistung ist, sondern zunehmend der vertrauenswürdigen Steuerung. Mit Cuéllar hat Anthropic einen Mann an Bord, der die Spielregeln der internationalen Politik kennt. In einer Welt, in der KI über Krieg und Frieden, Wirtschaftskrisen und soziale Stabilität mitentscheiden könnte, ist das vielleicht die klügste Investition von allen.

Anzeige

PS: Seit August 2024 gelten in der EU verbindliche Regeln zur Klassifizierung, Kennzeichnung und Dokumentation von KI‑Systemen – viele Fristen und Meldepflichten laufen bereits. Der kostenlose Umsetzungsleitfaden erklärt Schritt für Schritt, wie Sie Ihre Prozesse, technische Dokumentation und Verantwortlichkeiten an den AI Act anpassen, welche Nachweise nötig sind und wie Sie Haftungsrisiken minimieren. Besonders geeignet für Unternehmen und Entwickler, die KI-Systeme in der EU betreiben. Kostenlosen Umsetzungsleitfaden zur KI‑Verordnung sichern

@ boerse-global.de