Sicherheitstests für KI-Code: Sprachmodelle bestehen laut Veracode seit 2023 im Mittel nur 56 Prozent – die Quote hat sich kaum bewegt

Was misst der Veracode-Report und was nicht?

Veracode verkauft selbst Werkzeuge zur statischen Codeanalyse, also Programme, die Quelltext ohne Ausführung nach bekannten Schwachstellenmustern durchsuchen. Mit einem solchen Werkzeug bewertet das Unternehmen auch den Code der Modelle. Den Aufbau beschreibt das Frühjahrs-Update vom 24. März 2026: Jedes Modell ergänzt in Java, JavaScript, C# oder Python eine Funktion anhand eines Kommentars, und diese Funktion lässt sich sicher oder unsicher umsetzen. Die Ausgabe vom Juli 2026 prüft elf neue Modelle an 80 Aufgaben. Getestet wurden laut Veracode-Pressemitteilung die reinen Modelle, nicht Agenten und nicht Produktivumgebungen mit zusätzlichen Prüfungen oder menschlicher Durchsicht. Der Benchmark beschreibt damit das Verhalten eines Modells ohne Sicherheitsvorgabe, nicht den Code, den Unternehmen tatsächlich ausliefern.

Warum wird der Code syntaktisch sauberer, aber nicht sicherer?

Syntaktisch korrekten Code erzeugen die Modelle laut Veracode inzwischen fast immer. Die Sicherheitsquote lag im Frühjahrs-Update 2026 dagegen bei rund 55 Prozent; zwei Jahre neuer Modellgenerationen haben sie laut Veracode kaum bewegt. Über alle Messrunden enthielt der erzeugte Code bei rund 44 Prozent der Aufgaben eine bekannte Schwachstelle. Als Gründe nennt Veracode unter anderem Trainingsdaten mit historisch unsicheren Mustern und ein Training, das funktionale Korrektheit belohnt. Sicherer und unsicherer Code liefern bei gewöhnlichen Eingaben oft dasselbe Ergebnis, der Unterschied fällt beim Funktionstest also nicht auf.

Bei welchen Schwachstellen scheitern die Modelle am häufigsten?

Nach Schwachstellenart aufgeschlüsselt zeigt der Veracode-Report 2026 eine große Spanne der mittleren Bestehensquoten:

• Kryptografische Algorithmen: 87 Prozent
• SQL-Injection (über Eingaben eingeschleuste Datenbankbefehle): 83 Prozent
• Cross-Site-Scripting, bei dem fremder Skriptcode in eine Webseite gelangt: 15 Prozent
• Log-Injection, bei der Eingaben Protokolldateien verfälschen: 12 Prozent

Die beiden schwachen Klassen hängen laut Veracode vom Datenfluss ab: Das Modell müsste verfolgen, wie eine Nutzereingabe über mehrere Zeilen oder Dateien bis zur Ausgabe wandert. Wiederkehrende Muster wie parametrisierte Datenbankabfragen gelingen dagegen häufig. Auch nach Programmiersprache streut das Ergebnis, laut Pressemitteilung von 63 Prozent bei Python bis 30 Prozent bei Java.

Hilft die Wahl eines besseren Sprachmodells?

Die Modellwahl verschiebt die Quote, schließt die Lücke laut Veracode aber nicht. GPT-5.5 (von OpenAI) führt die Rangliste 2026 mit 68 Prozent an, sechs der elf neuen Modelle liegen zwischen 50 und 53 Prozent. Auf Programmierung spezialisierte Modelle erreichen im Schnitt 51 Prozent, Allzweckmodelle 52 Prozent. Reasoning-Modelle, die vor der Antwort interne Zwischenschritte durchlaufen, kommen auf 56 Prozent gegenüber 51 Prozent ohne diese Schritte. Selbst das führende Modell scheitert damit an fast jeder dritten Aufgabe.

Was verlangen Sicherheitstests für KI-Code im Arbeitsablauf?

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat am 4. Oktober 2024 gemeinsame Empfehlungen mit der französischen Cybersicherheitsbehörde ANSSI (Agence nationale de la sécurité des systèmes d’information) veröffentlicht. Beide Behörden halten darin fest, dass KI-Programmierassistenten erfahrene Entwickler nicht ersetzen. Erzeugter Quelltext sollte nach dem Papier grundsätzlich von den Entwicklern geprüft werden. Veracode rät in seinem Blogbeitrag zum Report, Code schon beim Schreiben und vor der Auslieferung auf Sicherheit zu prüfen.

Code Guardian der Provimedia GmbH läuft innerhalb von Claude Code oder Codex und bindet statische Analyse für PHP (auch mit Laravel), JavaScript, TypeScript und Vue sowie Python ein. Ergebnisse lässt es von Prüfagenten gegenlesen, die das Urteil des Autors nicht kennen. Als Beleg zählt dort ein ausgeführter Befehl mit seiner Ausgabe oder ein Prüfer von außen, nicht das bloße Lesen des Codes; den Aufbau erklärt die Anleitung zu Riegeln, Skills und kalten Prüfagenten.

„Dass Sprachmodelle heute fast immer fehlerfrei kompilierenden Code schreiben, verleitet dazu, die Sicherheitsfrage für erledigt zu halten. Die Laborwerte sprechen dagegen. Entscheidend ist für uns deshalb nicht die Wahl des Modells, sondern eine Prüfung, die dem Code nicht einfach glaubt“, sagt Alexander Weipprecht, Geschäftsführer der Provimedia GmbH.