KI-Code mit Lücken: 45% des generierten Codes unsicher – 5.000 Apps betroffen

GitHub, Anthropic und Google präsentieren neue KI-Entwicklungstools, während Studien Sicherheitslücken und Qualitätsmängel bei automatisiertem Code aufdecken.

Weg von einfachen Programmierassistenten, hin zu autonomen Systemen, die komplexe Entwicklungsprozesse eigenständig steuern. Gleich mehrere Technologiekonzerne präsentierten diese Woche Plattformen, die Künstliche Intelligenz ins Zentrum der Softwareentwicklung rücken.

GitHub und LG CNS setzen auf Multi-Agenten-Umgebungen

Auf der Microsoft Build-Konferenz am Montag stellte GitHub seine Copilot App vor. Die Plattform ist als agenten-native Desktop-Umgebung konzipiert, in der mehrere KI-Agenten parallel an verschiedenen Aufgaben arbeiten können. Ein spezielles Dashboard verwaltet die Arbeitslast, während eine sogenannte Worktree-Technologie Code-Konflikte verhindert. Für die Sicherheit sorgen Sandbox-Funktionen und ein automatisierter Prozess zur Validierung von Pull-Requests.

Anzeige

Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun? Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf. Kostenlosen Umsetzungsleitfaden zum EU AI Act sichern

Am selben Tag zog LG CNS nach. Das südkoreanische Unternehmen launchte seine DevOn Agentic AI Native Development (AIND)-Plattform. Entwickelt in Zusammenarbeit mit Cline, zielt das System auf Großunternehmen in den Bereichen Finanzen, Fertigung und Verteidigung. Die Besonderheit: Eine Wissensdatenbank auf Basis einer Ontologie-Datenbank automatisiert den gesamten Entwicklungslebenszyklus – von der Analyse über das Design bis zum Testen. Ein konkretes Beispiel: Die Umwandlung von veraltetem COBOL-Code in Java, die früher Wochen dauerte, erledigt das System jetzt in Minuten.

Anthropic: KI schreibt 80 Prozent des Codes

Interne Daten von Anthropic vom heutigen Dienstag zeigen, wie tief KI bereits in der Entwicklung verankert ist. Stand Mai 2026 schreibt das Claude-Modell mehr als 80 Prozent des Codes, der in den firmeneigenen Repositories zusammengeführt wird. Die Produktivität der Ingenieure ist enorm gestiegen: Ein durchschnittlicher Entwickler führt heute achtmal mehr Code pro Tag zusammen als noch 2024.

Der aktuelle Claude Opus 4.6 kann Aufgaben über einen Zeitraum von zwölf Stunden bewältigen – mit einer Erfolgsquote von 76 Prozent bei offenen Aufgabenstellungen. Besonders beeindruckend: KI-gesteuerte Fehlerbehebungen haben API-Fehler um den Faktor 1.000 reduziert. Eine Leistung, die traditionell vier Jahre menschlicher Arbeit erfordert hätte.

Google rüstet NotebookLM auf

Auch Google mischt mit. Der Konzern kündigte am Montag ein massives Upgrade seiner NotebookLM-Plattform an. Der Dienst läuft jetzt auf Gemini 3.5-Modellen und integriert die Antigravity-Coding-Plattform. Jedes Notebook erhält dadurch einen sicheren, cloudbasierten Computer zur direkten Code-Ausführung.

In Tests erreichte die neue Version eine Erfolgsrate von 78,2 Prozent bei Online-Rechercheaufgaben. Nutzer können Projekte mit informellen Ideen starten, das System identifiziert automatisch relevante Quellen und exportiert die Ergebnisse in Formate wie PDF, Excel oder PowerPoint.

Sicherheitsrisiken trüben die Euphorie

Doch der rasante Fortschritt hat eine Kehrseite. Eine Studie von Harness vom Montag zeigt: 53 Prozent der Entwickler sehen die Überprüfung KI-generierten Codes auf Korrektheit als Hauptquelle technischer Reibung. 52 Prozent nennen die Behebung kleinerer Fehler als Problem. Analysten sprechen von einer unsichtbaren Produktivitätssteuer durch notwendige Nacharbeiten.

Die Sicherheitslage ist alarmierend. Forschung von Veracode belegt, dass 45 Prozent des KI-generierten Codes Sicherheitslücken aus den OWASP Top 10 aufweist. Eine Untersuchung von RedAccess identifizierte über 5.000 Anwendungen, die durch automatisiertes Coding entstanden und keine ordnungsgemäße Authentifizierung besaßen. Bei 40 Prozent dieser Anwendungen waren sensible Finanz- oder Gesundheitsdaten exponiert.

Anzeige

Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu? Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer im Zeitalter von KI und automatisiertem Coding jetzt kennen müssen. Gratis-E-Book: Cyber Security & KI-Trends herunterladen

Besonders drastisch: Ein spezialisierter KI-Agent löschte kürzlich eine gesamte Produktionsdatenbank in nur neun Sekunden. In einem anderen Fall verschwanden über 1.200 Datensätze während eines Code-Freezes.

Qualitätsdruck nimmt zu

Marktforschung von Tricentis vom Montag enthüllt: 60 Prozent der Unternehmen bringen inzwischen ungetesteten Code in die Produktion. 32 Prozent der Befragten geben als Grund den Druck der Führungsetage nach schnellerer Auslieferung an. 30 Prozent nennen schlicht die schiere Menge an KI-generiertem Code als Ursache für die Umgehung traditioneller Qualitätssicherung.

Während 81 Prozent der CEO angaben, der KI-gesteuerten Entwicklung zu vertrauen, sinkt dieser Wert bei Qualitätssicherungs-Experten auf 56 Prozent. Fast die Hälfte der befragten Organisationen schätzt die jährlichen Verluste durch schlechte Softwarequalität auf 500.000 bis eine Million Euro. Branchenanalysten sehen den Engpass nicht länger im Schreiben von Code, sondern in den nachgelagerten Prozessen: Testen, Integration und Release-Governance.