Claude: Sensible Chats in Google-Suche indexiert – Datenschutz-Leck

Öffentliche Sharing-Links von Anthropics KI-Assistenten führten zur Indexierung sensibler Daten in Suchmaschinen. Das Unternehmen reagiert mit ersten Gegenmaßnahmen.

Sicherheitsbedenken überschatten derzeit die Nutzung des KI-Assistenten Claude von Anthropic. Berichten zufolge wurden öffentlich geteilte Konversationen sowie sogenannte „Artifacts“ in den Suchergebnissen von Google indexiert. Dies ermöglichte unbefugten Dritten den Zugriff auf hochsensible Informationen, ohne dass dafür ein klassischer Hackerangriff oder ein Account-Breach vorlag.

Wie aus aktuellen Branchenberichten hervorgeht, beruht die Exposition der Daten auf der Funktionsweise der öffentlichen Sharing-Links. Diese wurden offenbar ohne das notwendige „noindex“-Tag bereitgestellt, welches Suchmaschinen normalerweise anweist, bestimmte Webseiten nicht in ihren Index aufzunehmen. In der Folge erschienen private Chatverläufe direkt in den Suchresultaten.

Sensible Inhalte für die Öffentlichkeit zugänglich

Die Tragweite der Datenexposition ist erheblich. Unter den in der Google-Suche gefundenen Inhalten befanden sich unter anderem Gesundheitsakten, vertrauliche Firmendokumente und juristische Notizen. Besonders kritisch bewerten Beobachter den Fund von Daten, die den Schutz von Kindern betreffen. Da die Links öffentlich zugänglich waren, reichte eine einfache Suchanfrage aus, um auf diese privaten Dokumente und Dialoge zuzugreifen.

Anthropic nahm zu den Vorfällen bereits Stellung. Das Unternehmen betonte, dass lediglich Chats betroffen seien, die von den Nutzern bewusst über die Sharing-Funktion geteilt wurden. Es handele sich nicht um eine Kompromittierung der zugrundeliegenden Datenbanken oder Nutzerkonten. Inzwischen haben Suchmaschinenbetreiber damit begonnen, die entsprechenden Links aus ihren Ergebnislisten zu entfernen, um den Zugriff einzuschränken.

Anzeige

Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun? Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen

Handlungsempfehlungen für Nutzer und Unternehmen

Trotz der eingeleiteten Löschmaßnahmen bleibt das Risiko bestehen, dass bereits indexierte Inhalte über andere Wege auffindbar sind oder erneut geteilt werden. Experten raten privaten Anwendern daher dringend dazu, ihre Privatsphäre-Einstellungen bei Claude zu überprüfen. Bereits erstellte öffentliche Links zu sensiblen Inhalten sollten umgehend widerrufen werden.

Für Unternehmen ergibt sich aus dem Vorfall ein erhöhter Handlungsbedarf im Bereich der IT-Compliance. Es wird empfohlen, Mitarbeiter explizit darin zu unterweisen, die Nutzung öffentlicher Share-Links für geschäftskritische Daten zu vermeiden. Bestehende Richtlinien für den Umgang mit generativer KI sollten dahingehend angepasst werden, dass der Austausch interner Dokumente über solche Funktionen untersagt oder streng reglementiert wird.

Anzeige

Der rechtssichere Einsatz von KI-Tools erfordert mehr als nur technische Einstellungen, da Compliance-Verstöße empfindliche Strafen nach sich ziehen können. Dieser kostenlose Praxisleitfaden verschafft Ihnen den nötigen Überblick über Fristen und Pflichten der neuen EU-Verordnung. EU AI Act in 5 Schritten verstehen

Enterprise-Lösungen bieten nur bedingten Schutz

In der Diskussion um die Datensicherheit bei KI-Anwendungen wird häufig auf Enterprise-Tarife verwiesen. Diese bieten zwar grundsätzlich erweiterte Sicherheitsfunktionen und einen besseren Schutz der Privatsphäre, sind jedoch nicht immun gegen Fehlbedienungen. Fachleute weisen darauf hin, dass auch in professionellen Umgebungen Konfigurationsfehler dazu führen können, dass sensible Daten ungewollt exponiert werden. Das aktuelle Beispiel verdeutlicht, dass die technische Bereitstellung einer Sharing-Funktion stets eine sorgfältige Abwägung zwischen Kollaboration und Datenschutz erfordert.