Die Europäische Union hat mit dem Artificial Intelligence Act (kurz: AI-Act oder KI-Verordnung) Geschichte geschrieben. Das EU-Parlament hat erstmals einen umfassenden rechtlichen Rahmen für künstliche Intelligenz geschaffen. Ein Regelwerk, das weltweit Maßstäbe setzt.

Die Verordnung reagiert auf das rasante Wachstum und die zunehmende Integration von KI in wirtschaftliche und gesellschaftliche Prozesse. Die EU möchte sicherstellen, dass KI-Technologien das Leben der Menschen verbessern, Innovation ermöglichen und keine Risiken für Benutzer und Gesellschaft schaffen. Insbesondere schließt die KI-Verordnung Anwendungen aus, die mit europäischen Werten unvereinbar sind, und sorgt für kontrollierte Bedingungen beim Einsatz von hochriskanten KI-Systemen.

Für Unternehmen, die KI entwickeln oder einsetzen, bedeutet diese Verordnung eine grundlegende Veränderung der Compliance-Landschaft. Dabei lohnt sich eine begriffliche Unterscheidung: Ein KI-Modell ist die technische Grundkomponente. Trainiert auf Daten, entwickelt von Anbietern wie OpenAI, Google oder Meta und für sich allein noch keine einsatzfertige Lösung. Ein KI-System hingegen ist die anwendungsbereite Lösung, die ein oder mehrere solcher Modelle einbettet und durch Infrastruktur, Schnittstellen sowie Kontroll- und Überwachungsprozesse zu einer konkreten Anwendung macht, etwa für juristische Recherchen oder die Erstellung von Stellenanzeigen. Der EU AI Act reguliert primär KI-Systeme, also den Einsatz in der Praxis, nicht das Modell als solches. Dieser Leitartikel erklärt, was der EU AI Act konkret regelt, wen er betrifft und welche Handlungsschritte Unternehmen jetzt einleiten müssen.

Was regelt der Europäische AI-Act? Grundprinzipien und Schutzziele

Der EU AI Act ist eine Verordnung zur Regelung von künstlicher Intelligenz, die mit dem Ziel eingeführt wurde, „eine auf den Menschen ausgerichtete KI in Europa zu fördern und dabei ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und die Grundrechte der Bürger sicherzustellen". Dabei geht es nicht um ein Verbot von KI per se, sondern um eine differenzierte Regulierung je nach Risiko der jeweiligen Anwendung. Risiken und Einsatzmöglichkeiten von KI-Systemen werden umfassend adressiert und Unternehmen zur Einhaltung klar definierter Standards verpflichtet.

Das Herzstück der Verordnung bildet ein risikobasierter Ansatz, der KI-Systeme in vier Kategorien einteilt. Je höher das Risiko einer KI-Anwendung, desto umfassender sind die Compliance-Anforderungen. Dieser pragmatische Weg konzentriert die strengsten Vorgaben auf Systeme, die tatsächlich erheblichen Schaden anrichten könnten, während risikoarme Anwendungen weitgehend unreguliert bleiben.

Zeitplan & Übergangsfristen: Ihre Compliance-Roadmap

Die Verordnung wurde am 12. Juli 2024 im EU-Amtsblatt veröffentlicht und trat zwanzig Tage danach, am 1. August 2024, in Kraft. Die praktische Anwendung erfolgt gestaffelt. Regelungen zu verbotenen KI-Praktiken gelten bereits seit Februar 2025. Die Mehrheit der Vorschriften wird nach ein bis zwei Jahren anwendbar, während die umfassenden Pflichten für Hochrisiko-KI-Systeme ursprünglich für August 2026 geplant waren.

Allerdings sind die Fristen aktuell in Bewegung: Im Rahmen des siebten Omnibus-Pakets der Europäischen Kommission stimmten die zuständigen Parlamentsausschüsse für eine Verschiebung der Hochrisiko-Anforderungen. Konkret werden zwei neue Daten vorgeschlagen: der 2. Dezember 2027 für explizit im Gesetz genannte Hochrisiko-Systeme (etwa aus den Bereichen Biometrie, Bildung, Beschäftigung oder Strafverfolgung) sowie der 2. August 2028 für KI-Systeme, die unter sektorspezifische EU-Produktsicherheitsvorschriften fallen. Das Plenum des Europäischen Parlaments muss dem noch zustimmen, danach folgen Verhandlungen mit dem Rat der EU. Die finalen Fristen sind damit noch nicht rechtskräftig. (Steinschaden & newsrooms.ai, 2026)

Für Unternehmen bedeutet dies: Das erste Handlungsfenster ist bereits geschlossen. Seit Anfang 2025 müssen Organisationen sicherstellen, dass sie keine verbotenen KI-Systeme entwickeln oder einsetzen. Die mögliche Fristverlängerung bei Hochrisiko-Anforderungen gibt mehr Planungszeit. Sie entbindet jedoch nicht von der strategischen Vorbereitung, die jetzt beginnen sollte.

Geltungsbereich: Welche Unternehmen der EU AI Act betrifft

Die Verordnung gilt für alle, die KI-Systeme in der EU in Verkehr bringen oder einsetzen, unabhängig davon, wo das Unternehmen seinen Sitz hat. Auch ein amerikanisches oder chinesisches Unternehmen, das KI-Dienste für den europäischen Markt anbietet, unterliegt denselben Anforderungen wie ein europäischer Anbieter.

Dabei unterscheidet der EU AI Act drei relevante Rollen, die für die Compliance-Verantwortung entscheidend sind: 

Anbieter sind Unternehmen, die ein KI-System entwickeln und am Markt bereitstellen (etwa als SaaS-Lösung). Sie tragen die Hauptverantwortung für die Einhaltung regulatorischer Anforderungen, Transparenz und Sicherheit des Systems. 

Betreiber setzen ein KI-System im eigenen Betrieb ein, ohne es weiterzuvertreiben (etwa für interne HR-Prozesse oder Kundenservice). Sie sind für den sicheren Betrieb und die Risikokontrolle in ihrem Nutzungskontext verantwortlich. 

Verwender nutzen ein Modell oder System „as is", also ohne wesentliche eigene Integration, typischerweise für interne Zwecke. Wichtig: Die Pflichten des EU AI Act richten sich immer an das KI-System und die jeweilige Rolle im Umgang damit, nicht an das zugrundeliegende KI-Modell allein. Wer also ein Modell wie GPT-4 in eine eigene Anwendung integriert und diese anbietet, wird zum Anbieter eines KI-Systems und trägt die volle regulatorische Verantwortung dafür.

Für die Länder des Europäischen Wirtschaftsraums (Island, Liechtenstein, Norwegen) ist die Übernahme der Vorschriften noch offen. Unternehmen mit EWR-Bezug sollten die Entwicklung aufmerksam verfolgen, da eine spätere Übernahme wahrscheinlich ist.

Bereits existierende KI-Systeme und Modelle mit allgemeinem Verwendungszweck unterliegen gesonderten Übergangsregelungen.

Die vier Risikokategorien: So klassifizieren Sie Ihre KI-Systeme richtig

Um die eigenen Compliance-Anforderungen zu verstehen, müssen Unternehmen zunächst ihre KI-Systeme korrekt klassifizieren. Die Verordnung unterscheidet vier Risikostufen mit jeweils unterschiedlichen Vorgaben:

Kategorie 1: Verbotene KI-Systeme (Unacceptable Risk) stehen an der Spitze der Regulierung. Es bezieht sich auf Systeme, die mit europäischen Werten unvereinbar sind und daher komplett verboten werden. Diese Kategorie ist klein, aber präzise. Sie umfasst Arten von Anwendungen, die besonders schwer in Grundrechte und Menschenwürde eingreifen.

Die Verbote sind präzise formuliert und betreffen vier spezifische Praktiken. Systeme zur Vorhersage zukünftiger Straffälligkeit von Personen sind ebenso verboten wie KI-Anwendungen, die Menschen ohne deren Wissen manipulieren. Ein Beispiel wäre ein unhörbarer Ton in LKW-Kabinen, der Fahrer unbewusst dazu bringt, länger zu fahren als gesund ist, wobei KI die optimale Frequenz ermittelt. Verboten sind außerdem Systeme, die Schwachstellen bestimmter Personengruppen ausnutzen. Etwa eine intelligente Puppe, die Kinder zu gefährlichem Verhalten ermutigt. Die dritte Verbotskategorie umfasst Social Scoring-Systeme, die Menschen anhand ihres sozialen Verhaltens flächendeckend bewerten. Die vierte Kategorie betrifft biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zu Strafverfolgungszwecken, wobei enge Ausnahmen für Opfersuche, Terrorismusbekämpfung oder schwere Kriminalität existieren.

Kategorie 2: Hochrisiko-KI (High Risk) bilden den Kern der Regulierung. Diese Systeme sind nicht verboten, unterliegen aber umfangreichen Anforderungen. Die Hochrisiko-Klassifizierung entsteht auf zwei Wegen. Erstens gelten KI-Systeme als hochriskant, wenn sie in Produkten oder Sicherheitskomponenten eingesetzt werden, die bereits streng reguliert sind, etwa in Medizinprodukten oder Aufzügen. Zweitens fallen KI-Anwendungen in bestimmten sensiblen Bereichen in diese Kategorie: Biometrie, kritische Infrastruktur, Bildung und Berufsbildung, Beschäftigung und Personalmanagement, Zugang zu grundlegenden privaten und öffentlichen Diensten, Strafverfolgung, Migration und Grenzkontrolle sowie Rechtspflege und demokratische Prozesse.

Die Europäische Kommission wird spätestens 18 Monate nach Inkrafttreten, also in naher Zukunft, eine detaillierte Liste mit praktischen Beispielen veröffentlichen, die konkretisiert, welche Anwendungen als hochriskant gelten. Für diese Systeme müssen Anbieter ein Risikomanagement-System einrichten, qualitativ hochwertige Daten nutzen, umfassende technische Dokumentation führen, Transparenz gewährleisten, menschliche Aufsicht ermöglichen und Robustheit sowie Cybersicherheit garantieren. Die CE-Kennzeichnung zeigt an, dass das System den regulatorischen Anforderungen entspricht.

Die technische Umsetzung der Cybersicherheitsanforderungen erfordert ein tiefgreifendes Verständnis aktueller Bedrohungen für KI-Systeme, insbesondere für Large Language Models. Evasion-Angriffe, bei denen Angreiferversuchen, Sicherheitsmechanismen zu umgehen, stellen eine wachsende Herausforderung dar. Unternehmen sollten einen mehrschichtigen Sicherheitsansatz implementieren, der präventive Maßnahmen wie sichere Prompt-Entwicklung, serverseitige Eingabevalidierung und kontinuierliches Threat Modeling kombiniert. (Bundesamt für Sicherheit in der Informationstechnik [BSI], 2026)

Ein zentraler Schutzmechanismus ist dabei die automatische Maskierung sensibler Daten in Prompts und Dokumenten. Europäische SaaS-Plattformen bieten hierfür DSGVO-konforme und NENNA.AI sogar eine echt datensichere Lösung, die sensible Informationen bereits vor der Verarbeitung automatisch erkennen und maskieren. Dies verhindert, dass personenbezogene oder geschäftskritische Daten an externe KI-Modelle weitergegeben werden. Denn NENNA.AI bindet diese Modelle über ihre APIs an, verarbeitet die Daten jedoch ausschließlich innerhalb der eigenen, europäischen Systeminfrastruktur. Das schafft eine wichtige technische Schutzschicht für die Einhaltung der Cybersicherheitsanforderungen des AI Acts.

Kategorie 3: KI-Systeme mit besonderen Transparenzpflichten umfassen Anwendungen wie Chatbots oder Emotionserkennungssysteme. Hier gilt die Pflicht, Nutzer zu informieren, dass sie mit einer KI interagieren, sofern dies nicht offensichtlich ist.

Zusätzlich zur Nutzerinformation sind auch interne Transparenzpflichten relevant: Unternehmen müssen nachweisen können, welche KI-Systeme von wem, wann und zu welchem Zweck eingesetzt werden. Besonders bei der Nutzung externer KI-Dienste ist die Einhaltung von DSGVO und EU AI Act oft schwer nachvollziehbar. Hier schaffen europäische Plattformen wie NENNA.AI mit Made-in-Germany-Infrastruktur und 100% EU-Serverstandorten eine konforme Grundlage. Durch Browser-Integration lässt sich die KI-Nutzung im gesamten Unternehmen zentral steuern und dokumentieren, was sowohl Transparenz- als auch Nachweispflichten erheblich erleichtert.

Auch der Einsatz von Emotionserkennungs- oder biometrischen Kategorisierungssystemen muss transparent gemacht werden. Bei synthetischen Inhalten wie Deepfakes besteht ebenfalls Kennzeichnungspflicht, es sei denn, dies würde fundamentale Grundrechte oder öffentliche Interessen beeinträchtigen..

Kategorie 4: KI-Systeme mit minimalem oder keinem Risiko unterliegen der Verordnung faktisch nicht. Viele alltägliche KI-Anwendungen fallen in diese Kategorie. Die Kommission und die Mitgliedstaaten fördern hier freiwillige Verhaltenskodizes, deren Einhaltung den Unternehmen überlassen bleibt.