Anthropic: KI-Agenten sollen Regeln für Verhandlungen mit Menschen erhalten
Veröffentlicht am: 18.10.2026 um 16:53 Uhr | Redaktion boerse-global.de
Das US-amerikanische KI-Unternehmen Anthropic arbeitet an Richtlinien für künstliche Intelligenz, die künftig eigenständig Verhandlungen für menschliche Nutzer führen soll.
Laut einem Bericht der Financial Times unter Berufung auf zwei informierte Quellen konsultiert das Unternehmen dafür Anwaltskanzleien und Rechtsexperten. Ziel sei es, ethische Normen und verbindliche Verhaltensregeln für Systeme zu definieren, die im Auftrag von Personen agieren.
Die anvisierten Einsatzbereiche für solche Verhandlungsagenten umfassen unter anderem Preisverhandlungen beim Kauf von Produkten, Auseinandersetzungen im Kundendienst sowie Gehaltsverhandlungen. Der Bericht betont jedoch, dass es sich dabei vorerst um die Ausarbeitung von Regelwerken handelt.
Eine Markteinführung entsprechender Verhandlungsagenten oder die Ankündigung eines marktreifen Produkts sei damit nicht verbunden. Auf Anfrage der Financial Times lehnte Anthropic eine Stellungnahme zu den geplanten Regeln ab.
Wer sich mit dem Einsatz autonomer Systeme befasst, benötigt einen klaren Überblick über die neuen rechtlichen Rahmenbedingungen. Dieser kostenlose Download verschafft Ihnen die nötige Orientierung zu Fristen, Pflichten und Risikoklassen der aktuellen Gesetzgebung. EU AI Act in 5 Schritten verstehen
Offene Leitfragen und Absicherung von Mandaten
Bei der Entwicklung der Verhaltensregeln stehen mehrere grundlegende Fragen im Raum. Dazu zählt insbesondere, in welchen Intervallen die autonomen Systeme eine Rückmeldung des menschlichen Nutzers einholen müssen.
Zudem wird untersucht, welches Maß an Misstrauen ein Agent gegenüber fremden KI-Systemen an den Tag legen sollte, ohne dabei Verhaltensmuster zu entwickeln, die als unbegründet paranoid oder verschwörungstheoretisch einzustufen wären. Ebenso werden Regelwerke für Situationen analysiert, in denen zwei Agenten mit gegensätzlichen Interessen aufeinandertreffen.
Als ein möglicher Lösungsansatz gilt der Einsatz von durch den Nutzer unterzeichneten Dokumenten. Diese Bestätigungen könnten den Auftrag, die Befugnisse sowie den Verhandlungsumfang und konkrete Abbruchbedingungen im Vorfeld festlegen. Auf dieser Basis könnten Verhandlungsagenten die gegenseitigen Mandate formal überprüfen, bevor Vereinbarungen getroffen werden.
Die fortschreitende Automatisierung stellt Unternehmen vor neue Herausforderungen bei der Einhaltung gesetzlicher Standards. Compliance-Experten erläutern in diesem kostenlosen Umsetzungsleitfaden, wie Sie die Anforderungen der KI-Verordnung rechtzeitig und rechtssicher erfüllen. Kostenlosen Leitfaden zum EU AI Act anfordern
Experimente und wissenschaftliche Risikobewertung
Erste praktische Versuche zu diesen Dynamiken führte Anthropic im September 2026 im Rahmen eines internen Experiments durch, bei dem Mitarbeiter über KI-Agenten mit Büchern handelten. Dabei zeigte sich, dass Agenten, die gezielt als rücksichtslos oder unerbittlich konfiguriert worden waren, geringfügig bessere Resultate erzielten.
Kooperativer programmierte Systeme gaben hingegen schneller nach und akzeptierten weniger begehrte Titel, damit am Ende alle Teilnehmer Bücher erhielten.
Die potenziellen Risiken autonomer Verhandlungsprozesse beleuchtet auch eine Forschungsarbeit von Michelle Vaccaro, Assistenzprofessorin an der Harvard Business School. Sie führte über 180.000 Verhandlungssimulationen zwischen KI-Agenten durch, unter anderem zu Arbeits- und Mietverträgen.
In einem dokumentierten Fall versuchte ein Agent mittels Prompt Injection, geschützte private Informationen der Gegenseite auszuspähen. Vaccaro warnt davor, dass eine Konzentration der leistungsfähigsten Agenten bei besonders ressourcenstarken Nutzern bestehende Verhandlungsvorteile verfestigen und das Machtgefälle weiter vertiefen könnte.
