
AI Act
Ein fokussierter Einstieg in die Risikoklassifizierung und die zentralen Pflichten des AI Act. Er schafft Orientierung für erste Governance-Entscheidungen und die strukturierte Einordnung eigener KI-Anwendungsfälle.
Von Dr. Markus Groß
GEDANKEN & FACHLICHE EINORDNUNG
Blog
Impulse zu Governance, Informationssicherheit und KI.
Zwischen Code und Konsequenz: Warum der EU-AI-Act kein Bremsklotz, sondern das Geländer ist, an dem Sie schneller vorankommen
Kurz gesagt: Der EU-AI-Act macht aus Ideen Produkte – und aus Produkten Verantwortung. Er zwingt niemanden zur Perfektion, sondern zu nachweislich vernünftigem Handeln. Genau das ist die Abkürzung zu robusteren Releases, weniger Rückrufen und mehr Vertrauen.
In Europa ist etwas Bemerkenswertes passiert: Künstliche Intelligenz ist von der Bühne der Demos, Prototypen und „Wow“-Momente heruntergestiegen und hat den nüchternen Maschinenraum der Verantwortung betreten. Der EU-AI-Act sorgt bei manchen für Schweißperlen und bei anderen für Schulterzucken. Beide Reaktionen greifen zu kurz. Wer nur Regulierung sieht, übersieht den eigentlichen Kern: Der AI-Act ist die Bauordnung für KI-Produkte. Niemand verbietet Ihnen, kreativ zu bauen; definiert werden nur tragende Wände, Fluchtwege und nicht brennbare Materialien. Architekten hassen Bauordnungen nicht – sie nutzen sie, um ambitionierte Entwürfe in reale, sichere Gebäude zu verwandeln. Genauso funktioniert guter KI-Produktbau unter dem AI-Act.
Der Rechtsrahmen ist überraschend intuitiv, wenn man ihn aus der Nähe betrachtet. Im Zentrum steht nicht die Technik, sondern die Auswirkung auf Menschen. Europa bewertet KI nach Risiko:
Dazu kommt die Realität moderner Ökosysteme: Basismodelle und General-Purpose-KI bilden Plattformen, auf denen tausend Anwendungen entstehen. Auch diese Schicht bekommt Pflichten (u. a. Red-Teaming, Sicherheitsberichte, Transparenz zur Datenherkunft). Integratoren, die solche Modelle einbauen, teilen Verantwortung. Ein API-Key schützt rechtlich nicht vor Haftung.
Vom Start-up, das ein LLM fine-tuned, bis zum Fachbereich, der einen Chatbot einführt – wer KI in Verkehr bringt oder einsetzt, spielt mit. Interne Teams rutschen schnell in die Rolle des „Anbieters“, etwa wenn ein Fachbereich ein eigenständiges Modell produktiv stellt. Wichtigste Sofortmaßnahme: Rollen klären (Anbieter, Integrator, Betreiber). Diese saubere Zuordnung ist der Drehpunkt für alles Weitere.
Direkt nach dem Verbotskatalog beginnt der produktive Teil: Es geht nicht mehr darum, was Sie nicht dürfen, sondern wie Sie das Erlaubte verantwortlich tun. Das verändert Roadmaps weniger durch Bremsen, sondern durch bessere Definitionen von „fertig“.
Worum geht es? In welchem Kontext? Welche Folgen hat ein Fehler? Diese Einstufung ist der Auftakt jeder KI-Initiative. Teams, die ihre Risikoklasse sauber herleiten, treffen bessere Architektur- und Datenentscheidungen – bevor Umkehr teuer wird.
Gefordert sind angemessene Daten: nachvollziehbare Herkunft, rechtlich geklärte Nutzung, Repräsentativität für den Zweck, Fairness-Checks. Praktisch heißt das: Datenkarten, saubere Trennung von Train/Val/Test, dokumentierte Annahmen, Drift-Monitoring. Reproduzierbare ML-Pipelines nehmen hier viel Arbeit ab.
Keine epischen PDFs. Gemeint ist Nachvollziehbarkeit: Zweck, Architektur, Trainingsdaten, Grenzen, Risiken, Maßnahmen. Wer Modelle und Daten versioniert und Eval-Berichte automatisch ablegt (Model/Data Cards), erzeugt die Dokumentation nebenbei.
Aufsicht, die nicht verstanden wird, ist keine. Gute Oversight macht Unsicherheit sichtbar, gibt Orientierung und erlaubt echten Override, wo Grundrechte oder Sicherheit berührt sind. Der Act schreibt keine UI vor – verlangt aber kompetente, wirksame menschliche Kontrolle.
Nicht nur Happy-Path: Data-Shift, Stress, adversarielle Eingaben, Prompt-Injektionen, Härtung von Schnittstellen, Rate-Limits, Logging, Alarmierung. Ergebnis: weniger mysteriöse Produktionsbugs, schnellere MTTR, planbarere Sprints.
Für Hochrisiko-Systeme: Konformitätsbewertung (teils extern), CE-Kennzeichnung, Eintrag in EU-Datenbank. Wer die obigen Bausteine ernst nimmt, erlebt diese Phase selten als Höllenfeuer – Nachweise sind bereits vorhanden.
KI-Interaktion und KI-Inhalte müssen erkennbar sein. Transparenz ist mehr als ein Banner: Erwartungen justieren, sicheren Umgang erklären – ohne Angsttheater. Gute Sprache senkt Fehlbedienung und Supportaufwand, erhöht Vertrauen.
Im Feld beobachten, Signale interpretieren, korrigieren, relevante Vorfälle melden. Das ist im Kern gutes Produktmanagement – nur jetzt verbindlich. Wer es als Radar versteht, erkennt früh Abweichungen und gewinnt Tempo.
„Fertig“ heißt künftig: nachvollziehbare Pipeline, vorhandene Oversight, bestandene Sicherheitsprüfungen, Nutzerinformation, Monitoring im Betrieb. Das ist mehr Vorder- statt Nacharbeit.
Der AI-Act steht neben DSGVO (personenbezogene Daten), sektorspezifischem Produktsicherheitsrecht, NIS2 (Sicherheit wesentlicher Dienste) und dem Cyber Resilience Act (Produkte mit digitalen Elementen). Handhabbar wird das durch gemeinsame Bausteine: Datenherkunft, reproduzierbare Evals, Sicherheits-Backbone, Vorfallswege, klare Verantwortliche.
Hochrisiko. Daten-Governance, Fairness-Checks, verständliche Oberflächen für Sachbearbeiter, echte Eingriffsmöglichkeiten, CE-Pfad. Evals vor Launch, Drift-Signale im Betrieb. Ergebnis: weniger Eskalationen, mehr Klarheit.
Nicht „schnell verdrahten“. Erst klären: Welche Vorschläge? Welche Risiken? Wie verhindern wir Datenabfluss? Lösung: Zwischenschicht mit Kontext-Begrenzung, PII-Filter, Safety-Policies, Rate-Limits. UI mit Feedback, Telemetrie für Missverständnisse, Verträge mit Update- und Security-Pflichten. Ergebnis: Bot ist nicht nur drin, sondern betreibbar.
Der AI-Act kommt gestaffelt: zunächst Verbote und Kennzeichnung, danach Pflichten für Hochrisiko-Systeme und Basismodelle mit systemischem Risiko. Die Monate bis dahin sind keine Warteschleife, sondern eine Einladung, wenige Stellschrauben zu drehen, die viel bewirken:
Der AI-Act verlangt keine Magie. Er verlangt, dass Arbeit erklärbar, überprüfbar, wiederholbar wird – vom Datensatz über das Modell bis in den Betrieb. Das klingt nach Aufwand, ist aber genau der Aufwand, der sich bezahlt macht: Produkte werden vorhersehbarer, Teams ruhiger, Führung belastbarer. Kunden und Partner vertrauen Ihnen nicht trotz, sondern wegen Ihrer KI.
Innovation mit einer nachvollziehbaren Freigabe verbinden. Beschreiben Sie für einen KI-Einsatz Zweck, Daten, betroffene Personen und menschliche Prüfung. Eine frühe gemeinsame Bewertung ermöglicht gezielte Anpassungen, bevor unklare Annahmen Teil eines produktiven Ablaufs werden.
Ein fokussierter Einstieg in die Risikoklassifizierung und die zentralen Pflichten des AI Act. Er schafft Orientierung für erste Governance-Entscheidungen und die strukturierte Einordnung eigener KI-Anwendungsfälle.
Von Dr. Markus Groß
Merksatz zum Mitnehmen: Der AI-Act ist kein Korsett, sondern ein Geländer. Man kann sich daran festhalten, wenn es rutschig wird; man kann sich davon abstoßen, um schneller voranzukommen. Ignoriert man es, fällt man später – und es tut mehr weh. Nutzt man es, kommt man oben an.
„Zwischen Code und Konsequenz: Warum der EU-AI-Act kein Bremsklotz, sondern das Geländer ist, an dem Sie schneller vorankommen“ setzt einen klaren historischen Ausgangspunkt. Die Ergänzung trennt diesen Anlass anhand von Nutzungsbedarf von den Fragen, die für Entscheidungen, Betrieb und Kontrolle weiterhin relevant sind.
Der konkrete Nutzen von „Zwischen Code und Konsequenz“ zeigt sich erst, wenn eine offene Annahme überprüft wird: Es ist zu klären, welche offene Annahme in kleinem Rahmen geprüft werden soll. Beim Schwerpunkt „Zwischen Code und Konsequenz“ geht es um Einführung, Akzeptanz und praktische Steuerung von Consumerisation und BYOD sowie um den Bezug zu „Umgehungslösung“; zu entscheiden ist, ob verhindert, geduldet oder innerhalb klarer Leitplanken aktiv ermöglicht werden soll. Dabei bleibt folgende Grenze maßgeblich: Akzeptanz allein beweist keine sichere oder wirtschaftliche Umsetzung (hier bezogen auf „Nutzungsregel“); Ablehnung beseitigt den Bedarf ebenfalls nicht. Statt einer neuen Parallelstruktur genügt zunächst: Erfolg, Abbruch, Beobachtungszeitraum und Übertragungskriterium vorab bestimmen; die Umsetzung wird dabei an „Akzeptanz“ gespiegelt. Überprüfbar wird der Schritt durch folgendes Ergebnis: ein Pilotprotokoll mit Ergebnis und bewusster Folgeentscheidung; bezogen auf „Schatten-IT“ ist die konkrete Ausprägung separat zu entscheiden. Relevant bleibt dabei: Nutzungsgrad, Ausnahmen, Umgehungslösungen, Supportaufwand und erreichte Arbeitsergebnisse; im Fokus steht dabei „Schatten-IT“; der konkrete Bezug bleibt „Zwischen Code und Konsequenz: Warum der EU-AI-Act kein Bremsklotz, sondern das Geländer ist, an dem Sie schneller vorankommen“. Aus den vorhandenen Kommentaren lässt sich besonders der Punkt „klare Zuständigkeiten und Entscheidungsrechte“ aufnehmen; für den Aspekt „Nutzungsregel“ wird daraus ein eigener Prüfschritt. Aus der Perspektive „Umgehungslösung“ entsteht daraus eine konkrete Rückfrage an die Umsetzung; für den Aspekt „Nutzungsregel“ wird daraus ein eigener Prüfschritt.
Eine nüchterne Fortführung trennt bei „Umgehungslösung“ den damaligen Anlass von der bleibenden Organisationsfrage: Es ist zu klären, ob die Maßnahme das beabsichtigte Risiko oder Ergebnis tatsächlich verändert. Beteiligt sind hier vor allem Geschäftsleitung, Fachbereiche, IT, Informationssicherheit, Personal und Nutzende; ihre Perspektiven treffen beim Aspekt „Akzeptanz“ unmittelbar aufeinander; für „Schatten-IT“ ist das Ergebnis gesondert festzuhalten; der konkrete Bezug bleibt „Zwischen Code und Konsequenz: Warum der EU-AI-Act kein Bremsklotz, sondern das Geländer ist, an dem Sie schneller vorankommen“. Ein realistischer Belastungstest betrachtet den Fall, dass die offizielle Regel vom tatsächlichen Arbeitsverhalten abweicht und Schattenlösungen zum Normalfall werden – betrachtet im Kontext „Skalierung“. Im Regelbetrieb wird folgender Punkt verankert: Design, Ausführung und Wirkung getrennt beurteilen; im vorliegenden Abschnitt wird dies an „Supportgrenze“ konkretisiert. Der vorgesehene Nachweis lautet: eine Wirkungsprüfung mit Gegenbeispiel und Folgemaßnahme; für den Aspekt „Skalierung“ wird daraus ein eigener Prüfschritt. Als Messperspektive dient: der Zusammenhang zwischen „Umgehungslösung“ und „Akzeptanz“. Im Managementdialog muss beim Aspekt „Umgehungslösung“ erkennbar bleiben, welche Unsicherheit akzeptiert und welche aktiv reduziert wird.
Als Abschluss für Zwischen Code und Konsequenz genügen drei verbindliche Antworten zu Umgehungslösung: Wer entscheidet über Nutzungsbedarf, woran wird Wirkung bei Betriebsmodell erkannt und welcher Auslöser führt zur erneuten Prüfung? Sind diese Punkte geklärt, wird aus dem historischen Impuls zu Akzeptanz eine belastbare Arbeitsgrundlage; die Umsetzung wird dabei an „Zwischen Code und Konsequenz“ gespiegelt.
| Hinweis: Teile dieses Beitrags könnten unter Einsatz von KI-gestützten Tools erstellt oder überarbeitet worden sein. Weitere Informationen finden Sie im Impressum/Disclaimer. | Marken- und Bildrechte: Dargestellte Logos und genannten Marken liegen ausschließlich bei den jeweiligen Rechteinhabern. Nutzung erfolgt ausschließlich zu illustrativen Zwecken. |
Deine Bewertung hilft bei der Einordnung der Inhalte.
Interessant für dein Netzwerk? Teile den Beitrag direkt.
When you subscribe to the blog, we will send you an e-mail when there are new updates on the site so you wouldn't miss them.

Comments 54
Ich sehe den größten Nutzen in verantwortbare KI-Nutzung. Das sollte sich mit wenigen verständlichen Signalen und konkreten Beispielen prüfen lassen.
Wie sollte man mit KI-Werkzeugen umgehen, die außerhalb der vorgesehenen Beschaffung eingesetzt werden? Ich würde das am konkreten Anwendungsfall dieses Artikels festmachen.
Ich würde zunächst nach dem Bedarf und den betroffenen Daten fragen. Ein reines Verbot ohne nutzbare Alternative könnte die Nutzung nur schwerer sichtbar machen.
Hier würde ich widersprechen: Ein zusätzlicher Prozess kann auch neue Reibung schaffen. Welche vorhandene Aufgabe könnte man damit zusammenführen? Diese Unterscheidung finde ich beim Thema dieses Beitrags besonders wichtig.