EU AI Act in der Praxis: Wann wird KI im Unternehmen zum Hochrisiko-System?
Nicht jede KI im Unternehmen ist Hochrisiko-KI
Der EU AI Act ist inzwischen in vielen Unternehmen angekommen. Gleichzeitig hält sich ein Missverständnis erstaunlich hartnäckig: Sobald künstliche Intelligenz im Betrieb eingesetzt wird, entstehe automatisch ein komplizierter Hochrisiko-Fall mit umfangreichen gesetzlichen Pflichten. So einfach ist es nicht. Entscheidend ist nicht allein, welche Technik verwendet wird, sondern vor allem, wofür ein KI-System eingesetzt wird. Ein Textgenerator, der eine freundliche Antwort auf eine Kundenanfrage formuliert, ist rechtlich etwas völlig anderes als ein System, das Bewerber bewertet oder Beschäftigte anhand ihrer Leistung beurteilt. Noch einmal anders sieht es aus, wenn eine KI versucht, aus biometrischen Daten die Emotionen von Mitarbeitern abzuleiten. Eine solche Anwendung kann im Arbeitsumfeld sogar unter die verbotenen KI-Praktiken des AI Act fallen. Die Europäische Kommission hat im Mai 2026 Entwürfe von Leitlinien zur Einstufung von Hochrisiko-KI veröffentlicht. Sie sollen Unternehmen, Anbietern und Behörden helfen, die abstrakten Vorschriften des AI Act auf konkrete Anwendungsfälle zu übertragen. Besonders interessant sind die praktischen Beispiele dafür, welche Systeme als Hochrisiko-KI gelten sollen und welche nicht.
Zwei Wege in die Hochrisiko-Kategorie
Der AI Act kennt im Wesentlichen zwei Wege, über die ein KI-System als Hochrisiko-System eingestuft werden kann. Zum einen betrifft dies KI-Systeme, die selbst ein reguliertes Produkt oder sicherheitsrelevanter Bestandteil eines Produkts nach den in Anhang I genannten EU-Vorschriften sind und für die eine Konformitätsbewertung durch Dritte erforderlich ist. Zum anderen erfasst Artikel 6 in Verbindung mit Anhang III bestimmte besonders sensible Einsatzgebiete. Für normale Unternehmen ist vor allem die zweite Gruppe interessant. Dazu gehören beispielsweise bestimmte Anwendungen in Beschäftigung und Personalmanagement, Bildung, biometrischen Anwendungen, kritischer Infrastruktur sowie beim Zugang zu bestimmten wesentlichen privaten oder öffentlichen Dienstleistungen. Deshalb kann dieselbe technische Grundlage je nach Einsatzzweck völlig unterschiedlich einzuordnen sein. Ein großes Sprachmodell kann beispielsweise eine Produktbeschreibung schreiben oder Bestandteil eines Systems zur Bewertung von Bewerbern sein. Die verwendete KI-Technik allein beantwortet die Risikofrage also nicht.
1. Eine KI formuliert E-Mails
Ein Mitarbeiter gibt einige Stichpunkte in einen KI-Assistenten ein und lässt daraus eine geschäftliche E-Mail formulieren. Anschließend liest er den Text und verschickt ihn.
Einordnung: Im Regelfall keine Hochrisiko-Anwendung.
Das ist ein typischer Einsatz generativer KI als Arbeitswerkzeug. Die KI trifft keine Entscheidung über eine Person und übernimmt keine Funktion aus den Hochrisiko-Bereichen des Anhangs III. Trotzdem bleiben andere Themen relevant. Mitarbeiter sollten beispielsweise wissen, welche Informationen sie in das verwendete System eingeben dürfen und welche internen Regeln für vertrauliche oder personenbezogene Daten gelten.
2. Eine KI fasst Besprechungen zusammen
Eine Software erstellt aus einem aufgezeichneten Meeting automatisch ein Protokoll, extrahiert Aufgaben und formuliert eine Zusammenfassung.
Einordnung: Im Regelfall keine Hochrisiko-Anwendung.
Auch hier unterstützt die KI zunächst eine organisatorische Tätigkeit. Datenschutz, Informationssicherheit und die zulässige Verarbeitung von Gesprächsinhalten können wichtig sein, machen die Anwendung aber nicht allein zu einem Hochrisiko-System nach dem AI Act.
3. Eine KI erstellt Produkttexte und Social-Media-Beiträge
Marketingmitarbeiter verwenden generative KI für Produktbeschreibungen, Newsletter, Blogbeiträge oder Beiträge für soziale Netzwerke.
Einordnung: Im Regelfall keine Hochrisiko-Anwendung.
Allerdings können je nach Art der erzeugten Inhalte Transparenzpflichten relevant werden. Der AI Act enthält in Artikel 50 besondere Transparenzvorschriften für bestimmte KI-Systeme und KI-generierte beziehungsweise manipulierte Inhalte. Auch hierzu hat die Kommission 2026 gesonderte Leitlinienentwürfe veröffentlicht.
4. Eine interne KI durchsucht das Unternehmenswissen
Ein Unternehmen baut einen KI-Assistenten auf, der Handbücher, Arbeitsanweisungen, technische Dokumentationen oder interne Richtlinien durchsuchen und Fragen der Mitarbeiter beantworten kann.
Einordnung: Im Regelfall keine Hochrisiko-Anwendung.
Eine solche Wissensdatenbank wird nicht deshalb zur Hochrisiko-KI, weil sie künstliche Intelligenz verwendet. Anders kann die Bewertung aussehen, wenn aus dem Informationssystem ein Entscheidungssystem für einen sensiblen Anwendungsbereich wird. Der konkrete Zweck bleibt entscheidend.
5. Eine KI sortiert Bewerbungen vor
Die Personalabteilung erhält 150 Bewerbungen. Eine Software analysiert Lebensläufe und erstellt eine Rangliste der vermeintlich am besten geeigneten Kandidaten.
Einordnung: Hochrisiko-Bereich.
Der Einsatz von KI bei der Auswahl und Einstellung von Personen gehört zu den ausdrücklich sensiblen Beschäftigungsbereichen des AI Act. Besonders relevant sind Systeme, die Bewerbungen analysieren, Kandidaten filtern oder die Auswahl beeinflussen.
Für Unternehmen liegt hier eine wichtige Grenze: Eine KI, die lediglich einen Stellenanzeigentext sprachlich verbessert, erfüllt eine völlig andere Funktion als eine KI, die Menschen hinsichtlich ihrer Eignung für die Stelle bewertet.
6. Eine KI bewertet Mitarbeiter für eine Beförderung
Ein Unternehmen analysiert Verkaufszahlen, Projektleistungen, Fehlzeiten und andere Daten und lässt daraus automatisiert einen Score für Beförderungsentscheidungen berechnen.
Einordnung: Hochrisiko-Bereich.
Der AI Act erfasst bestimmte KI-Systeme, die Entscheidungen über Bedingungen von Arbeitsverhältnissen, Beförderungen oder Beendigungen beeinflussen. Dass am Ende noch ein Mensch auf „Freigeben" klickt, macht ein System nicht automatisch unproblematisch. Entscheidend ist unter anderem, welche tatsächliche Rolle die KI bei der Entscheidung spielt.
7. Eine KI überwacht Leistung und Verhalten von Beschäftigten
Software analysiert laufend Arbeitsleistung, Bearbeitungszeiten oder andere Verhaltens- und Leistungsdaten und bewertet Mitarbeiter.
Einordnung: Kann in den Hochrisiko-Bereich des Beschäftigungsmanagements fallen.
Gerade bei Personalsoftware sollte deshalb nicht erst nach der Einführung geprüft werden, welche Funktion ein vermeintlich praktisches Analysemodul tatsächlich übernimmt. Ein normales Statistik-Dashboard und eine KI-gestützte Bewertung von Beschäftigten können rechtlich sehr unterschiedliche Systeme sein.
8. Eine KI versucht die Stimmung der Mitarbeiter zu erkennen
Kameras analysieren Gesichtsausdrücke oder andere biometrische Signale und sollen daraus ableiten, ob Beschäftigte gestresst, motiviert, verärgert oder zufrieden sind.
Einordnung: Grundsätzlich verbotene KI-Praxis am Arbeitsplatz, soweit die Voraussetzungen der Emotionserkennung nach Artikel 5 erfüllt sind.
Artikel 5 des AI Act verbietet KI-Systeme zur Ableitung von Emotionen natürlicher Personen am Arbeitsplatz und in Bildungseinrichtungen, wenn die gesetzliche Definition und die entsprechenden Voraussetzungen erfüllt sind. Ausnahmen bestehen insbesondere für bestimmte medizinische oder sicherheitsbezogene Zwecke.
Das ist ein wichtiger Unterschied: Wir befinden uns hier nicht lediglich in der Kategorie „Hochrisiko", sondern möglicherweise bei einer Anwendung, deren Einsatz für diesen Zweck grundsätzlich verboten ist.
9. Eine KI beantwortet Kundenanfragen
Ein Chatbot beantwortet Fragen zu Öffnungszeiten, Produkten, Lieferstatus oder Bedienungsanleitungen und übergibt komplizierte Fälle an Mitarbeiter.
Einordnung: Im Regelfall keine Hochrisiko-Anwendung.
Allerdings können Transparenzpflichten greifen. Menschen sollen bei bestimmten interaktiven KI-Systemen grundsätzlich erkennen können, dass sie mit einem KI-System interagieren, sofern dies nicht aus den Umständen offensichtlich ist oder eine gesetzliche Ausnahme vorliegt.
Auch hier zeigt sich: „Nicht Hochrisiko" bedeutet nicht automatisch
„keine Vorschriften".
10. Eine KI erstellt Schulungsunterlagen
Ein Unternehmen lässt aus einer internen Arbeitsanweisung ein Quiz, eine Präsentation oder einen Schulungstext erzeugen.
Einordnung: Im Regelfall keine Hochrisiko-Anwendung.
Anders kann es bei KI-Systemen aussehen, die im Bildungsbereich Zugang, Zulassung oder wesentliche Bewertungen von Personen bestimmen. Das Erstellen einer internen Schulungsunterlage ist davon grundsätzlich zu unterscheiden.
Die entscheidende Frage lautet: Was macht die KI tatsächlich?
Für Unternehmen ist deshalb eine einfache Bestandsaufnahme sinnvoll. Nicht nur der Produktname sollte erfasst werden. Wichtiger ist der tatsächliche Einsatzzweck.
Eine interne Liste könnte beispielsweise enthalten: verwendetes KI-System, Abteilung, Einsatzzweck, verarbeitete Daten, betroffene Personengruppen, Einfluss auf Entscheidungen und verantwortliche Person im Unternehmen.
Damit lässt sich schnell erkennen, wo genauer hingesehen werden muss. Ein Chatbot im Marketing und eine Bewerberbewertung im Personalbereich sollten nicht einfach unter derselben Überschrift „Wir benutzen KI" abgelegt werden.
Hochrisiko bedeutet nicht verboten
Auch dieser Unterschied ist wichtig. Der AI Act verbietet Hochrisiko-KI nicht grundsätzlich. Für solche Systeme gelten vielmehr umfangreiche Anforderungen. Dazu gehören je nach Rolle des Unternehmens unter anderem Vorgaben zu Risikomanagement, Dokumentation, Protokollierung, Transparenz, menschlicher Aufsicht, Genauigkeit, Robustheit und Cybersicherheit.
Unternehmen müssen außerdem unterscheiden, ob sie Anbieter eines Systems sind oder ein fremdes KI-System als Betreiber einsetzen. Die jeweiligen Pflichten sind nicht identisch.
Was Unternehmen jetzt tun sollten
Der erste sinnvolle Schritt ist deshalb kein 80-seitiges KI-Handbuch, sondern eine Inventur der tatsächlich verwendeten KI-Anwendungen. Anschließend lässt sich prüfen, welche Systeme lediglich allgemeine Arbeitswerkzeuge sind und wo sensible Entscheidungen über Menschen, Sicherheit oder grundlegende Rechte berührt werden.
Besondere Aufmerksamkeit verdienen Personalwesen und Bewerberauswahl. Dort kann aus einer scheinbar praktischen Automatisierung schnell eine Anwendung werden, die unter die Hochrisiko-Regeln des AI Act fällt.
Und bei Angeboten, die angeblich Motivation, Stimmung oder Emotionen von Beschäftigten erkennen können, sollte die Prüfung noch früher beginnen: vor dem Kauf.
Fazit
Der EU AI Act macht nicht jede Verwendung von ChatGPT, Copilot oder anderen KI-Werkzeugen zum Hochrisiko-Fall. Die entscheidende Frage lautet, welchen Zweck das konkrete System erfüllt und welchen Einfluss es auf Menschen und Entscheidungen hat.
Für mittelständische Unternehmen ist das zunächst eine gute Nachricht. Viele alltägliche Anwendungen generativer KI werden nicht allein dadurch zu Hochrisiko-Systemen. Gleichzeitig sollte niemand davon ausgehen, dass eine Anwendung harmlos ist, nur weil sie als praktische Zusatzfunktion einer Personal-, Kamera- oder Unternehmenssoftware verkauft wird.
Gerade die neuen Praxisbeispiele der EU-Kommission zeigen, dass der Einsatzzweck wichtiger ist als das Etikett auf der Software.
Quellen und weiterführende Informationen
- Europäische Kommission: Entwurf von Leitlinien zur Einstufung von Hochrisiko-KI-Systemen
- Europäische Kommission: Leitlinien für Anbieter und Betreiber von Hochrisiko-KI-Systemen
- AI Act Service Desk: Artikel 5 — Verbotene KI-Praktiken
- AI Act Service Desk: Informationen zu Hochrisiko-KI-Systemen
- Europäische Kommission: Entwurf der Leitlinien zu den Transparenzpflichten nach Artikel 50
Hinweis: Dieser Beitrag dient der allgemeinen Information und stellt keine Rechtsberatung dar.
