ETH-Forscher warnen vor KI-Schwärmen als Gefahr für Demokratien

Eine Studie warnt vor hochkoordinierten KI-Agenten, die durch die Erzeugung einer künstlichen Mehrheitsmeinung demokratische Prozesse manipulieren können.

KI-gesteuerte Agenten-Schwärme könnten Wahlen manipulieren und gesellschaftlichen Konsens künstlich erzeugen. Zu diesem alarmierenden Schluss kommt ein internationales Forscherkonsortium mit Beteiligung der ETH Zürich. Die Experten sehen in den intelligenten, vernetzten KI-Systemen eine beispiellose Bedrohung für demokratische Prozesse weltweit.

Synthetischer Konsens: Die Illusion der Mehrheit

In einer heute im Fachjournal Science veröffentlichten Studie beschreiben mehr als 20 Wissenschaftler die Fähigkeiten dieser bösartigen KI-Schwärme. Anders als einfache Social-Media-Bots der Vergangenheit bilden sie hochkoordinierte Netzwerke aus KI-gesteuerten Online-Persönlichkeiten. Ihr gefährlichstes Werkzeug: die Erzeugung eines „synthetischen Konsenses“.

„Diese Schwärme erzeugen den Eindruck einer breiten Mehrheitsmeinung, wo keine existiert“, erklärt Mitautor Frank Schweitzer, Professor Emeritus für Systemgestaltung an der ETH Zürich. Die KI-Agenten fluten soziale Medien mit scheinbar unabhängigen Stimmen, die dieselbe Botschaft verbreiten. Diese Taktik nutzt das menschliche Bedürfnis nach sozialer Übereinstimmung aus – und kann so Debatten verzerren, ohne dass offensichtliche Falschinformationen im Spiel sind.

Die perfekte Tarnung: KI lernt menschliches Verhalten

Der entscheidende Fortschritt liegt in der Anpassungsfähigkeit. Angetrieben von modernen Large Language Models (LLMs) können die KI-Agenten persistente Identitäten pflegen, sich an frühere Gespräche erinnern und ihren Ton in Echtzeit dem menschlichen Gegenüber anpassen. Sie infiltrieren bestehende Online-Communities, lernen deren Sprache und Normen und koordinieren ihre Aktionen über mehrere Plattformen hinweg.

Anzeige

Seit August 2024 gelten neue Regeln für KI‑Systeme – viele Plattformbetreiber und Entwickler sind noch unvorbereitet. Gerade wenn KI-Agenten öffentliche Meinungsbilder beeinflussen, sind Kennzeichnungspflichten, Risikoklassifizierung und umfassende Dokumentationen entscheidend. Unser kostenloser Umsetzungsleitfaden zur EU‑KI‑Verordnung erklärt verständlich, welche Pflichten jetzt gelten und welche Schritte Betreiber, Journalist:innen und Entwickler sofort umsetzen sollten — inklusive praktischer Checkliste für die Ersteinschätzung. Jetzt kostenlosen KI-Umsetzungsleitfaden herunterladen

„Das macht sie fast unmöglich zu erkennen“, warnt Schweitzer. Die Schwärme simulieren organische Debatten, verstärken gezielt Standpunkte durch Likes und Kommentare und können sogar polarisierte Diskussionen vortäuschen. Erste Einsätze solcher KI-gesteuerter Einflussoperationen wurden bereits bei Wahlen in Asien beobachtet.

Ein neues Geschäftsmodell der Desinformation

Was früher hochkomplexe Programmierung erforderte, entwickelt sich laut den Forschern zum reproduzierbaren Geschäftsmodell. Der rasante Fortschritt der KI-Technologie und die globale Verfügbarkeit von Rechenleistung senken die Einstiegshürden dramatisch. „Die Werkzeuge für großflächige demokratische Manipulation werden für immer mehr Akteure zugänglich“, so Schweitzer.

Gleichzeitig beginnt ein technologisches Wettrüsten. Die lernfähigen KI-Systeme entwickeln sich ständig weiter, während Cybersicherheitsexperten nach den digitalen „Fingerabdrücken“ suchen – subtilen statistischen Mustern, die die automatisierten Akteure verraten. Herkömmliche Inhaltsmoderation, die auf das Entfernen einzelner Falschmeldungen setzt, greift hier zu kurz.

Drei-Punkte-Plan gegen die KI-Manipulation

Als Antwort auf die Bedrohung fordern die Autoren einen grundlegenden Strategiewechsel. Statt einzelne Beiträge zu prüfen, müssten Plattformen ungewöhnliche Koordinationsmuster erkennen. Ihr konkreter Aktionsplan umfasst drei Säulen:

1. Regelmäßige Stresstests für Social-Media-Plattformen, um ihre Anfälligkeit für KI-Schwarm-Angriffe zu überprüfen.
2. Ein dezentrales „KI-Einfluss-Observatorium“, das Beweise für Manipulationskampagnen sammelt und teilt.
3. Die Reduzierung finanzieller Anreize für nicht-authentische Interaktionen in sozialen Netzwerken.

Zudem plädieren sie für datenschutzfreundliche Verifizierungsoptionen für Nutzer.

Digitale Bildung als letzte Verteidigungslinie

Langfristig sehen die Forscher die größte Hoffnung in einer aufgeklärten Bürgerschaft. „Digitale Medienkompetenz ist unsere entscheidende Verteidigung“, betont Schweitzer. Eine Bevölkerung, die aus diversen, unabhängigen Quellen schöpft und die Risiken automatisierter Beeinflussung versteht, sei weniger anfällig für Manipulation.

Scharfere Regulierung könne die Angriffe zwar verteuern und erschweren. Der ultimative Schutz liege jedoch in der kritischen Urteilsfähigkeit jedes Einzelnen. Ohne diese kollektive Widerstandsfähigkeit, so die eindringliche Warnung der Experten, könnten die KI-gesteuerten Manipulationen die bestehenden Abwehrmechanismen demokratischer Gesellschaften bald überfordern.

PS: Übrigens: Die Beispiele aus der Studie zeigen, wie schnell mangelnde Transparenz und fehlende Dokumentation die Tür für großflächige Beeinflussung öffnen. Unser Gratis‑Guide zur EU‑KI‑Verordnung fasst Kennzeichnungspflichten, Übergangsfristen und praktische Umsetzungs-Schritte zusammen – ideal für Redaktionen, Plattformbetreiber und Interessierte, die schnell eine rechtssichere Ersteinschätzung brauchen. Kostenlosen KI-Guide und Checkliste anfordern