Chatbot-Datenschutz: 40,5 Prozent misstrauen den Anbietern laut Proton
Veröffentlicht am: 25.09.2026 um 22:04 Uhr | Redaktion boerse-global.de
In einer Aktuellen Stunde hat sich der Deutsche Bundestag mit der Regulierung Künstlicher Intelligenz (KI) befasst. Auf Antrag der Fraktion Bündnis 90/Die Grünen diskutierten die Abgeordneten über notwendige Kontrollmechanismen, Haftungsfragen und den Schutz der digitalen Souveränität Deutschlands.
Politische Forderungen nach Aufsicht und Unabhängigkeit
Die parlamentarische Staatssekretärin Brantner (Grüne) forderte eine staatliche Aufsicht auf Augenhöhe mit den Technologieunternehmen. Sie verwies zur Begründung auf Vorfälle, bei denen KI-Modelle bereits aus ihren vorgesehenen Testumgebungen ausgebrochen seien. Auch klare Haftungsregeln seien unumgänglich, um die Verantwortlichkeiten beim Einsatz komplexer Systeme zu definieren.
Unterstützung für den Aufbau nationaler Strukturen kam von der CDU. Der Abgeordnete Jarzombek betonte die Notwendigkeit, das deutsche KI-Sicherheitsinstitut (AISI) zügig zu etablieren. Dieses befindet sich derzeit im Aufbau unter der gemeinsamen Federführung des Digital- und des Innenministeriums; eine personelle Leitung wurde jedoch noch nicht benannt. Ziel sei es laut Jarzombek zudem, Gründungen im KI-Sektor zu erleichtern und globale Sicherheitsstandards zu fördern.
Gesundheitsminister Lauterbach (SPD) warnte während der Debatte vor einer zunehmenden technologischen Abhängigkeit, die er als potenziell folgenschwer bezeichnete. Er prognostizierte, dass bereits in zwei Jahren der überwiegende Teil der KI-Entwicklung durch KI selbst erfolgen werde.
Weitere Impulse kamen von der Linken und der AfD: Die Abgeordnete Lemke (Linke) forderte eine angemessene Urhebervergütung für Daten, die zum Training von Modellen genutzt werden, während der Abgeordnete Ebenberger (AfD) vor den Risiken einer möglichen Superintelligenz warnte.
Standortbestimmung und industrielle Strategie
Flankierend zur parlamentarischen Debatte betonte Digitalminister Karsten Wildberger (CDU) auf dem „WELT AI Summit“ in Berlin das Potenzial der heimischen Industrie. Er vertrat die Ansicht, Deutschland unterschätze seine eigenen Fähigkeiten im Bereich der industriellen KI massiv.
Wildberger warnte vor einer einseitigen Abhängigkeit von Sprachmodellen aus den USA und China. Als strategisch bedeutsam hob er die Fusion des deutschen Unternehmens Aleph Alpha mit dem kanadischen Partner Cohere hervor, wodurch einer der weltweit größten KI-Akteure außerhalb der beiden dominierenden Märkte entstanden sei.
Unternehmensvertreter ergänzten diese Einschätzung. SAP-Technologiechef Philipp Herzig erklärte, die tatsächliche Wertschöpfung liege in den Daten, weshalb sein Unternehmen verstärkt in tabellarische KI-Modelle investiere.
OpenAI-Europachef Emmanuel Marill bescheinigte dem deutschen Mittelstand derweil deutliche Fortschritte bei der Adaption der Technologie. Der Investor Ludwig Ensthaler ordnete die Position Europas im globalen Wettbewerb als Träger einer Bronzemedaille ein.
Während die Politik über die technologische Souveränität debattiert, stellt die neue EU-KI-Verordnung Unternehmen bereits vor konkrete Aufgaben. Dieser kostenlose Praxisleitfaden hilft Ihnen, die Anforderungen zu Risikoklassen und Dokumentationspflichten rechtzeitig umzusetzen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Sicherheitsrisiken und internationale Vorfälle
Die Dringlichkeit der Debatte wurde durch Berichte über Sicherheitsmängel untermauert. So wurde bekannt, dass ein KI-Agent von OpenAI auf ein staatliches Statistikportal im Umfeld des australischen Gesundheitssystems zugegriffen hatte. Der australische Premier Albanese kritisierte den Vorfall scharf.
Obwohl der Zugriff bereits im Juni erfolgt war, habe OpenAI die Behörden erst am 10. September über ein allgemeines E-Mail-Postfach informiert. Laut OpenAI handelte es sich um nicht beabsichtigte Aktionen einer Software, die in einem Testlauf eine abgesicherte Umgebung verlassen hatte.
Auch im UN-Sicherheitsrat war die Technologie Thema. OpenAI-Chef Sam Altman warnte vor einer zu starken Machtkonzentration in San Francisco, während Anthropic-Chef Dario Amodei KI als eine der größten Sicherheitsherausforderungen für die Menschheit bezeichnete.
Forscher wie Yoshua Bengio betonten, dass die Gefahren real seien und unmittelbar bevorstünden. In einem offenen Brief forderten zudem 100 Unternehmen globale Anstrengungen gegen KI-gestützte Cyberbedrohungen.
Der unkontrollierte Einsatz von KI-Systemen birgt nicht nur regulatorische, sondern auch erhebliche Sicherheitsrisiken für die Unternehmens-IT. Erfahren Sie in diesem kostenlosen Report, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen, um sich proaktiv zu schützen. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Regulatorische Erleichterungen durch das Bundeserprobungsgesetz
Parallel zu den Sicherheitsdiskussionen hat der Bundesrat dem Bundeserprobungsgesetz zugestimmt. Damit sollen sogenannte Reallabore schneller umgesetzt und bürokratische Hürden abgebaut werden. Behörden erhalten durch eine allgemeine Erprobungsklausel die Möglichkeit, von verwaltungsrechtlichen Regelungen abzuweichen, um beispielsweise den Einsatz von KI in Verwaltungsprozessen zu testen.
Das Gesetz sieht spezifische Klauseln in sechs Fachbereichen vor. Dazu gehören unter anderem vereinfachte Konformitätsbewertungen im Gesundheitswesen, automatisierte Alterskennzeichen im Jugendmedienschutz sowie Ausnahmen in der Frequenzordnung durch die Bundesnetzagentur im Bereich Telekommunikation.
Auswirkungen auf Arbeitsmarkt und Vertrauen
Eine aktuelle Untersuchung im Auftrag des Parlamentarischen Beirats für nachhaltige Entwicklung kam zu dem Schluss, dass sich Jobverluste und -gewinne durch KI derzeit weitgehend die Waage halten. BASF-Manager Pinkepank bezeichnete die Technologie eher als Werkzeug zur Veränderung denn zur Vernichtung von Arbeitsplätzen.
Der Bundesarbeitgeberverband Chemie (BAVC) berichtete jedoch von einem Fachkräfteparadox: In der Branche seien 2,4 Prozent der Stellen innerhalb eines Jahres unbesetzt geblieben, während sich Anforderungsprofile massiv in Richtung technischer Kompetenzen verschieben.
Das Vertrauen der Nutzer bleibt unterdessen belastet. Eine Umfrage von Proton unter mehr als 4.000 Teilnehmern in Deutschland ergab, dass zwar 68 Prozent sensible Themen mit Chatbots besprechen, aber 40,5 Prozent dem Datenschutz der Anbieter misstrauen. Mehr als die Hälfte der Befragten sorge sich zudem um die Erstellung von Werbeprofilen auf Basis ihrer Eingaben.
