Wenn KI Features baut – wer bewacht die Risiken?

Wenn KI Features baut – wer bewacht die Risiken?

Der „Wizard of GRC“ für eine Zeit, in der dein Kaffee noch warm ist

Es ist ein schwindelerregender Moment: Du öffnest den Editor, gibst zwei, drei Sätze in ein Prompt-Feld – und noch bevor dein Kaffee kalt wird, steht das Gerüst eines kompletten Dienstes vor dir. Routen, Controller, Datenmodell, API-Doku, Unit-Tests, Dockerfile, CI-Workflow: alles da. Was gestern noch ein Sprint war, passt heute in eine Session. Fantastisch für die Geschwindigkeit, beängstigend für die Sichtbarkeit. Denn jede generierte Codezeile erzählt nicht nur eine Geschichte von Produktivität, sondern auch eine über Compliance, Abhängigkeiten und Third-Party-Risiken.

Die provokante Frage, die sich aus dieser neuen Realität ergibt: Wenn KI Software generiert – wer generiert die Sicherheit, die Nachweise und die Governance? Die intuitive Antwort vieler Teams lautet noch immer „wir später“. Doch „später“ gibt es im Zeitalter generativer Entwicklung kaum noch: Zwischen „scaffold now“ und „ship now“ liegen oft nur Minuten. Genau hier beginnt die Geschichte des Wizard of GRC – eines Denk- und Arbeitsmodells, das KI-erste Governance, Risk & Compliance (GRC) nicht als Nachsorge, sondern als gleichberechtigten, automatisierten Mitspieler versteht.

Im Folgenden zeichne ich eine Landkarte, die dich durch die großen Versprechen und die ebenso großen Fallstricke der KI-gestützten Entwicklung führt: vom „Wow“ der Velocity zum „Whoops“ der Sichtbarkeit, vom klassischen GRC-Projekt zur AI-first GRC-Automatisierung, von Drittparteienrisiken über Continuous Controls Monitoring bis hin zu DevEx-Fragen („Vibe Coding“) und einem Blick auf europäische Regulierungen wie NIS2, DORA, CRA und den AI Act. Viel Fließtext, wenig Buzzword-Bingo – aber mit genug Struktur, damit du die Fäden zusammenhalten kannst.

1. Der neue Takt der Software: Geschwindigkeit schlägt Rituale

Generative Modelle liefern heute in Minuten, was Teams früher in Tagen oder Wochen bauten. Vorgefertigte Gerüste, kopierbare Muster, Text-zu-Code – die Produktivitätskurve zeigt steil nach oben. Gleichzeitig kollabiert der Zwischenraum, in dem früher Governance stattfand: Architekturgremien, Dependency-Reviews, Threat-Modeling-Sessions, Lizenzprüfungen, Datenschutz-Folgeabschätzungen, sichere Defaults in CI/CD. Nicht, weil sie nutzlos geworden wären, sondern weil sie zeitlich verdrängt werden.

Das führt zu einem paradoxen Bild: Mehr Output, weniger Übersicht. Die technische Schuld (Tech Debt) erhält Geschwister: Compliance Debt (ungeschlossene Pflichten), Dependency Debt (unklare Bibliotheken, Lizenzen, Lieferketten), Evidence Debt (fehlende Nachweise für Audits). Wer weiter so arbeitet, verschiebt nur Risiken in die Zukunft – und zwar in eine Zukunft, in der die Release-Frequenz jeden Hotfix doppelt teuer macht.

2. Unsichtbare Geschichten im generierten Code

Jede Datei bringt heimliche Protagonisten mit: Abhängigkeiten aus Paketregistern, Transitivitäten, Lizenzen, Telemetrie-Defaults, Default-Config für Auth, Cloud-Permissions, Datenhaltung. Genau hier entstehen Risiken, die nicht nach „Hackerfilm“ aussehen, sondern nach Banaltäten mit großer Wirkung:

• Eine Bibliothek mit permissiver Lizenz … die transitiv eine Copyleft-Komponente zieht.
• Ein Logging-Default, der personenbezogene Daten im Klartext schreibt.
• Ein Open-Source-Paket mit einem „harmlosen“ Postinstall-Script.
• Eine Cloud-Rolle, die für das Demo großzügige Berechtigungen vergibt – und in Produktion „vergessen“ wird.
• Ein „.env.example“ im Repo, das Teams zur schlechten Geheimnisverwaltung erzieht.

Diese Details sind selten spektakulär, aber sie sind die Bruchstellen, an denen Audits scheitern, an denen der Third-Party-Risk explodiert und an denen „kleine“ Security-Incidents entstehen, die später zu großen werden.

3. Die einfache Einsicht: Wenn KI es erzeugt, muss KI es absichern

Die naheliegende, aber radikale Folgerung lautet: GRC muss dort entstehen, wo der Code entsteht. Wenn generative Modelle Features ersinnen, dann sollten KI-gestützte GRC-Systeme gleichzeitig die blinden Flecken polizieren: Abhängigkeiten identifizieren, Lizenzen deuten, Controls empfehlen, Nachweise sammeln, Konfigurationen verhärten, Datenflüsse dokumentieren. Nicht als Ticket in drei Wochen, sondern als Sofortmaßnahme – im Editor, im Pull Request, in der Pipeline.

Denke an eine neue Rolle in deinem Tooling: den Wizard of GRC. Kein allwissender Zauberer, sondern ein Agenten-Ensemble aus:

• einem Controls-Kern (Normen, Policies, Controls als Code),
• einem Kontext-Graphen (Assets, Services, Daten, Lieferkette),
• Guardrails für Code- und Prompt-Generation,
• Enforcement in IDE, Git, CI/CD und Laufzeit,
• und einer Evidenz-Fabrik, die Audit-fähige Nachweise kontinuierlich erzeugt.

So entsteht „GRC-by-Construction“ – nicht perfekt, aber von Beginn an messbar und wiederholbar.

4. Aus welchen Bausteinen besteht AI-first GRC?

4.1 Controls-Wissen als Code

Normen und Controls (ISO 27001, SOC 2, NIST 800-53, CIS, OWASP ASVS, DSGVO-Artikel, DORA-Kapitel, CRA-Pflichten, NIS2-Anforderungen) werden in maschinenlesbare Elemente übersetzt. Kein PDF, sondern Regeln: „Wenn web-exponierter Service, dann TLS 1.2+, HSTS, CSP, Secrets aus Vault; generiere Evidenz X, Y, Z.“ Dieser Katalog ist versioniert, testbar, differenzierbar nach Risiko und Anwendungsfall.

4.2 Kontext-Graph

Ein Graph verbindet Services, Repos, Pipelines, Abhängigkeiten, Datenklassen, Identitäten, Lieferanten. Daraus „versteht“ der Wizard, worauf eine Control anzuwenden ist und welche Evidenz wo entsteht.

4.3 Guardrails in der Erzeugung

Beim Prompten und Generieren wirken Guardrails: sichere Templates, Standard-Mittelware mit gehärteter Config, SBOM-Erzeugung by default, Logging-Voreinstellungen, Data-Class-Anmerkungen, sichere Rollen in IaC. Das Modell schlägt nur Pfade vor, die bereits gebannt sind.

4.4 Enforcement & PR-Intelligenz

Im Pull Request kommentiert der Wizard wie ein sehr schneller Reviewer: „Diese Library hat CVE-XYZ; Alternative hier“, „Lizenzrisiko: GPL-Transitivität“, „Ersatz für hardcodierte Secrets – siehe Diff“. In CI/CD blockiert er nach Risikoregeln oder liefert „Fix-mit-Diff“.

4.5 Evidenz-Fabrik

Automatisch generierte Nachweise: SBOMs, IaC-Scans, Konfig-Snapshots, Attestierungen (SLSA, Sigstore), Logs, Prüfberichte. Diese Evidenz wird kontrollspezifisch gemappt, versioniert und durchsuchbar gehalten („Time-to-Evidence“ in Sekunden, nicht in Wochen).

5. Third-Party Risk Management (TPRM) neu denken

Fragebögen (SIG, CAIQ) und Punkt-in-Zeit-Audits reichen nicht mehr, wenn Lieferketten monatlich wechseln und Dienste „vor dem Kaffee“ entstehen. Kontinuierliches TPRM heißt:

• Dokumenten-KI extrahiert Kontrollen aus SOC-Berichten, ISO-Zertifikaten, Datenschutz-Anhängen, ordnet sie deinem Control-Set zu und identifiziert Lücken.
• Angriffsflächen-Monitoring (OSINT, TLS-Health, Zertifikate, DNS) speist ein Live-Rating der Anbieter.
• Vertrags-KI markiert riskante Klauseln (Sub-Processor, Datenstandorte, Audit-Rechte).
• Usage-Telemetry prüft, ob ein Drittanbieter wirklich nur die vorgesehenen Daten sieht – Abweichungen triggern Maßnahmen.

So entsteht ein lebendes Lieferantenprofil, das dein Einkauf, dein Datenschutz und dein Engineering gemeinsam nutzen – und das dein Wizard wiederum in Code-Entscheidungen einfließen lässt („Diese Abhängigkeit zieht Dienst X; TPRM-Score aktuell gelb; Alternativen: …“).

6. Continuous Controls Monitoring (CCM) mit KI

CCM ist die Kunst, ständig zu messen, ob Kontrollen wirken. KI hilft, aus heterogenen Signalen sinnvolle Aussagen zu machen:

• Konfigurationen aus Cloud-Konten, K8s-Clustern, WAFs, IdP, Endpoint-Management.
• Laufzeit-Telemetrie: Auth-Fehler, Policy-Verletzungen, Secrets-Nutzung, Datenexfil-Muster.
• Entwicklungsartefakte: IaC-Deltas, SBOM-Änderungen, Reviewer-Muster.

Das Modell beantwortet Fragen in natürlicher Sprache („Zeig mir alle extern erreichbaren Endpunkte mit PII-Verarbeitung ohne mTLS“) und generiert konkrete Fix-Pläne. Der Punkt ist nicht die Magie, sondern die Zeitersparnis: Audits werden vom Ereignis- zum Kontinuumsproblem.

7. Guardrails für generative Entwicklung

„Vibe Coding“ – die Leichtigkeit des gemeinsamen Bauens mit KI – braucht Leitplanken:

• Secret-Hygiene: Kein hartkodiertes Geheimnis, nie. Detectoren in IDE und CI, Auto-Rewrite auf Vault-SDK, Revoker-Bots.
• SBOM-by-Default: Jede Build-Pipeline erzeugt eine signierte SBOM (CycloneDX/SPDX), verknüpft mit dem Artefakt.
• Lizenz-Aufklärung: Modelle warnen proaktiv, wenn Lizenzfamilien kollidieren; Alternativvorschläge inklusive.
• IaC-Härtung: Generative Templates sind „secure-first“ (Least Privilege, verschlüsselte Speicherdienste, Private Subnets, nicht-öffentliche Buckets).
• Prompt-Logging & Eval: Prompts, Antworten und Entscheidungen sind nachvollziehbar; riskante Muster werden geblockt (z. B. „zeige geheime Schlüssel“).
• SAST/DAST/IAST: Intelligente Priorisierung, Auto-Fix-Snippets, Kontext aus Architekturgraph.

So bleibt die Kreativität, aber die Katastrophenwahrscheinlichkeit sinkt.

8. Modell- und Daten-Governance (AIGC trifft AI Act)

Wo generative Modelle selbst Teil des Produkts sind, brauchst du LLMOps-Governance:

• Datenherkunft und Rechtekette (Urheberrecht, Lizenzen, personenbezogene Daten).
• Evaluation (Robustheit, Jailbreak-Resilienz, Bias, Toxicity).
• Red-Teamings und dokumentierte Mitigations.
• Human-in-the-Loop für Hochrisiko-Anwendungsfälle.
• Policy-Durchsetzung (z. B. keine PII in Prompts; automatische Pseudonymisierung).
• Transparenzpflichten: Nutzer wissen, wann sie mit KI sprechen; Audit-Spuren sind vorhanden.

Der Wizard of GRC bringt die passenden Controls und Evidenzen an die Stelle, an der das Modell lebt – nicht erst im Nachgang.

9. Ein Beispiel aus der Praxis: Payments in einer Stunde

Ein Team generiert eine Payment-API. Das Gerüst steht nach 15 Minuten. In der alten Welt wäre jetzt „Wir reviewen später“ angesagt. In der neuen Welt arbeitet der Wizard im Hintergrund:

• Dependencies: Zwei Libs veraltet, eine mit CVE; Auto-PR mit Fix.
• Lizenzen: Transitiv GPL-Risiko – Vorschlag für alternative Lib.
• PII-Tagging: Felder für Karten-Tokens werden als sensible Daten markiert; Logging wird automatisch „redacted“.
• Cloud-Rollen: Over-Privileged-Policy wird auf Least Privilege reduziert; Diff und Tests beiliegend.
• SBOM & Signaturen: Build erzeugt signierte SBOM; Artefakt mit Sigstore attestiert.
• TPRM-Hint: Externer Fraud-Service im Code erwähnt – Profil gelb; Alternativen gelistet; wenn dennoch gewählt, startet ein Mini-Onboarding samt Standard-Klauseln.
• Privacy by Design: Data Retention 90 Tage vorgeschlagen; DPIA-Boilerplate generiert, Lücken markiert.
• Evidenz: Audit-Paket entsteht automatisch (Kontrollen, Nachweise, Prüfer-Hinweise).

Das Team shippt nicht nur Code, sondern Compliance-Artefakte. Geschwindigkeit bleibt, Sichtbarkeit entsteht.

10. Menschen, Kultur, „Vibe Coding“

Die beste Automatisierung scheitert an schlechter Ergonomie. Der Wizard darf nicht als Bremse erscheinen, sondern als Pair-Reviewer, der hilft: keine kryptischen Fehlermeldungen, sondern konkrete Handlungsvorschläge. Keine pauschalen Blockaden, sondern Risikobasierung (rot/gelb/grün, mit Escape Hatch und Nachdokumentation).

Gute Teams erklären ihren Developer*innen die „Why“ hinter den Regeln, nicht nur das „Nein“. Sie messen Developer Experience: Wie oft blockiert GRC? Wie schnell ist „Time-to-Green“? Welche Auto-Fixes sparen die meiste Zeit? Und sie trainieren das Mindset: KI ist nicht Senior Engineer – KI ist ein sehr schneller Praktikant, der beständig beaufsichtigt werden muss.

11. Metriken, die zählen

Traditionelle KPIs (Vuln-Count, MTTR) bleiben, neue kommen hinzu:

• Time-to-Evidence: Wie schnell kann ich einen Control-Nachweis liefern?
• Control-Coverage: Anteil der relevanten Kontrollen mit Live-Signal.
• Residual-Risk-Trend: Entwickelt sich unser Rest-Risiko pro Service?
• TPRM-Stabilität: Anteil der aktiven Anbieter mit aktuellem „grün“.
• Auto-Fix-Quote: Wie viele Findings werden ohne Mensch gefixt?
• DevEx-Impact: Blocker pro PR, Zeitverlust/-gewinn.

Solche Zahlen zeigen, ob der Wizard Zauberei ist – oder nur ein weiterer Prozess.

12. Starten ohne zu stolpern

• Klein beginnen: Ein Service, eine Pipeline, ein Control-Set.
• Buy & Build mischen: Es gibt gute Bausteine (CCM-Plattformen, SBOM-Tools, Secrets-Scanner); die Orchestrierung bleibt individuell.
• Snake-Oil meiden: „KI prüft alles automatisch“ ist ein rotes Tuch. Verlange Evidenz, Benchmarks, offene Schnittstellen.
• Rechtsrahmen mitdenken: NIS2/NIST, DORA, CRA, DSGVO, AI Act – der Wizard sollte Artikel- und Kontrollebene sprechen.
• Menschen mitnehmen: Security, Legal, Datenschutz, Einkauf – alle sind Stakeholder.

Der wichtigste Schritt ist der erste echte: ein PR, in dem der Wizard wertvollen Kommentar liefert. Ab da wächst Vertrauen.

13. Europa ruft: NIS2, DORA, CRA, AI Act

Der regulatorische Druck steigt – und er passt zu AI-first GRC wie Deckel auf Topf:

• NIS2 fordert Risikomanagement, Supply-Chain-Kontrollen, Incident-Handling.
• DORA verlangt Resilienztests und kontinuierliches IKT-Risikomanagement im Finanzsektor.
• CRA (Cyber Resilience Act) will sichere Softwareprodukte und Nachweispflichten über den Lebenszyklus.
• AI Act bringt Governance für hochrisikoreiche KI-Systeme.

Ein Wizard, der Controls als Code, Evidenzen „by default“ und TPRM-Live-Profile liefert, macht aus Compliance kein Projekt, sondern Betrieb.

14. Ethik, Privatsphäre, Vertrauen

KI kann verstärken, was da ist – auch Fehler. Ein Wizard of GRC muss daher selbst Governance-fähig sein: datensparsam, nachvollziehbar, auditierbar, mit klaren Lösch- und Aufbewahrungsregeln. Er darf dich nie zwingen, mehr zu sammeln, als du brauchst. Und er muss erklärbar bleiben: „Warum blockierst du?“ – „Weil Control A auf Kontext B zutrifft und Evidenz C fehlt.“ Punkt.

15. Der Blick nach vorn: Der Compliance-Zwilling

In der nächsten Stufe hat jeder geschäftskritische Service einen „Compliance-Twin“: ein digitales Abbild seiner Risiken, Kontrollen, Evidenzen, Lieferketten und Datenflüsse. Änderungen am Service aktualisieren den Zwilling automatisch; der Zwilling informiert proaktiv: „Deine neue Queue enthält PII – hier sind die zusätzlichen Kontrollen, die ich schon vorbereitet habe.“

So wird GRC vom Gatekeeper zum Orchestrator. Nicht Zauberei, sondern konsequente Automatisierung an den richtigen Stellen.

Schluss: Geschwindigkeit behalten, Sichtbarkeit gewinnen

Generative Entwicklung bleibt. Sie macht uns schneller, kreativer, mutiger. Sie macht uns aber auch verwundbarer – wenn wir Governance als Nachtrag verstehen. Die Alternative ist kein Verzicht auf KI, sondern KI-erste GRC: Lass die Modelle Features träumen – und lass GRC-Automation die blinden Flecken polizieren.

Der Wizard of GRC ist keine Person und kein monolithisches Tool. Er ist eine Haltung und eine Architektur: Controls als Code, Kontext als Graph, Guardrails im Flow, Evidenz im Takt, TPRM als Strom statt als Steckbrief. Damit wird aus dem Schrecken der Unsichtbarkeit die Souveränität der Sichtbarkeit – während dein Kaffee tatsächlich noch warm ist.