
www.simplify-data.de
Viele Unternehmen haben Microsoft 365 Copilot, ChatGPT oder ähnliche Werkzeuge freigeschaltet, ohne festzuhalten, wofür sie genutzt werden dürfen. Der AI Act unterscheidet dabei scharf zwischen Alltag (Mails formulieren, Texte zusammenfassen, Dokumente durchsuchen) und Einsatzzwecken mit hohem Risiko, etwa Recruiting oder Leistungsbewertung. Dieser Artikel ergänzt unseren Grundlagenbeitrag „EU AI Act: Was Unternehmen beim KI-Einsatz beachten müssen“ um die Frage, was das im Betriebsalltag konkret heißt (Stand: November 2026).
Wichtiger Hinweis: Dieser Beitrag ist eine allgemeine Information und keine Rechtsberatung. Der AI Act gilt neben der DSGVO, beide sind parallel zu prüfen.
Betreiber oder Anbieter: Ihre Rolle im Alltag
Der AI Act verteilt Pflichten nach Rollen. Für die Praxis genügen zwei.
Betreiber
Betreiber ist, wer ein KI-System unter eigener Verantwortung beruflich nutzt. Wenn Ihre Mitarbeitenden Copilot im Mail-Programm oder ChatGPT im Browser verwenden, sind Sie in der Regel Betreiber. Anbieter des Systems ist dann Microsoft, OpenAI oder ein anderes Unternehmen. Betreiber tragen vor allem Pflichten zur KI-Kompetenz (Art. 4), zur Transparenz (Art. 50) und, bei Hochrisiko-Systemen, zur bestimmungsgemäßen Nutzung und menschlichen Aufsicht (Art. 26).
Wann Sie zum Anbieter werden
Wer ein allgemeines KI-System so konfiguriert oder umwidmet, dass es einen Hochrisiko-Zweck erfüllt, kann nach Art. 25 selbst als Anbieter gelten. Ein Beispiel ist ein Agent in Copilot Studio, der Bewerbungen vorsortiert. Dann gelten deutlich umfangreichere Pflichten. Deshalb lohnt sich ein Blick auf jeden selbst gebauten Agenten, bevor er in Betrieb geht.
Schulungspflicht nach Art. 4 in der Praxis
Seit dem 2. Februar 2025 müssen Unternehmen Maßnahmen ergreifen, damit ihr Personal ausreichend mit KI umgehen kann. Der Digital Omnibus hat die Formulierung abgeschwächt: Gefordert sind Maßnahmen zur Förderung der KI-Kompetenz, kein garantiertes Niveau jeder einzelnen Person. Ein Zertifikat ist nicht vorgeschrieben. Sinnvoll ist ein Nachweis, der drei Fragen beantwortet:
- Wer darf welches Werkzeug nutzen?
- Welche Grenzen und typischen Fehler sind bekannt, etwa erfundene Quellen oder falsche Zahlen?
- Wer hat wann welche Schulung erhalten?
Eine kurze, rollenbasierte Einweisung mit Datum und Teilnehmerliste reicht für den Start oft aus. Führungskräfte gehören ausdrücklich dazu.
Transparenz nach Art. 50 im Büroalltag
Die Transparenzpflichten gelten seit August 2026. Für Betreiber betreffen sie vor allem Inhalte, die nach außen gehen: Deepfakes müssen als solche offengelegt werden, und KI-generierte Texte zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse müssen gekennzeichnet werden, sofern sie nicht redaktionell geprüft und verantwortet werden. Für interne Entwürfe oder eine übersetzte Kundenmail spielt das meist keine Rolle. Für Anbieter generativer Systeme gilt zusätzlich die maschinenlesbare Kennzeichnung, für Systeme, die vor August 2026 am Markt waren, nennt der Digital Omnibus eine Übergangsfrist bis 2. Dezember 2026. Legen Sie intern fest, welche Inhalte vor Veröffentlichung geprüft werden und wer diese Prüfung verantwortet.
Wann Copilot in den Hochrisiko-Bereich rutscht
Alltägliches Formulieren, Übersetzen und Zusammenfassen vorhandener Geschäftsunterlagen steht nicht in Anhang III. Hochrisiko wird es, wenn das System wesentlich bei Entscheidungen über Menschen mitwirkt. Für Anhang-III-Zwecke nennt der Digital Omnibus den 2. Dezember 2027 als Stichtag der Hochrisiko-Pflichten.
| Einsatz | Einordnung |
|---|---|
| Mail entwerfen, Text zusammenfassen, Besprechungsnotizen | Alltag, keine Hochrisiko-Einstufung |
| Interne Wissenssuche in eigenen Dokumenten | Alltag, Datenschutz und Berechtigungen prüfen |
| Bewerbungen vorsortieren oder bewerten | Anhang III, Personalwesen: Hochrisiko |
| Leistung bewerten, Beförderung oder Kündigung vorbereiten | Anhang III, Personalwesen: Hochrisiko |
| Aufgaben nach persönlichen Merkmalen verteilen | Anhang III, Personalwesen: Hochrisiko |
Wer solche Einsätze schon heute nutzt, sollte nicht bis Dezember 2027 warten, sondern sie jetzt anhalten oder sauber vorbereiten.
Positiv- und Negativliste für den Betrieb
Eine einseitige Regel hilft mehr als ein langes Richtlinien-Dokument:
- Erlaubt: Entwürfe für Mails, Protokolle, interne Zusammenfassungen, Recherche mit anschließender Prüfung.
- Nur nach Freigabe: Kundendaten, Verträge, Finanzdaten, Texte für die Veröffentlichung.
- Nicht erlaubt: Personalakten, Bewerbungen, Gesundheitsdaten, vertrauliche Inhalte in privaten Verbraucher-Konten.
- Immer: Ergebnisse prüfen. Keine Entscheidung über Menschen allein auf Basis eines KI-Textes.
Betriebsrat und DSGVO
Wo es einen Betriebsrat gibt, sollten Sie ihn früh einbeziehen. KI-Werkzeuge, die Verhalten oder Leistung auswerten können, unterliegen in Deutschland regelmäßig der Mitbestimmung. Bei Hochrisiko-Systemen am Arbeitsplatz sieht Art. 26 außerdem vor, die Beschäftigtenvertretung vorab zu informieren. Die DSGVO bleibt unberührt: Sie brauchen eine Rechtsgrundlage, einen Auftragsverarbeitungsvertrag mit dem Anbieter, Transparenz gegenüber Betroffenen und bei hohem Risiko eine Datenschutz-Folgenabschätzung.
Checkliste
- Inventar erstellen: Welche KI-Werkzeuge laufen im Microsoft-Tenant, im Browser und auf Mobilgeräten?
- Zweck je Werkzeug in einem Satz festhalten.
- Schulung nach Art. 4 für Nutzende und Führung durchführen und dokumentieren.
- Positiv- und Negativliste veröffentlichen.
- Eigene Agenten und Copilot-Studio-Projekte auf Anhang-III-Zwecke prüfen.
- Prüfprozess für KI-Inhalte festlegen, die nach außen gehen.
- Betriebsrat einbinden und Auftragsverarbeitungsvertrag prüfen.
- Datenschutz-Folgenabschätzung anstoßen, sobald Personaldaten in großem Umfang betroffen sind.
Wie Simplify Data unterstützt
Wir helfen, KI im Unternehmen so einzuführen, dass Zweck, Datenflüsse und Schulung dokumentiert sind: von der Bestandsaufnahme über Nutzungsregeln bis zu eigenen Dokumentensuchen, bei denen Ihre Daten nicht zum Training verwendet werden. Mehr dazu auf der Seite Künstliche Intelligenz, zur Planung im Rahmen unserer IT-Beratung oder direkt über den Kontakt.
Quellen
- EU-Kommission: AI Act, Regulatory Framework
- EUR-Lex: Verordnung (EU) 2024/1689 (KI-Verordnung)
- EUR-Lex: Verordnung (EU) 2026/1744 (Digital Omnibus on AI)
- EUR-Lex: Verordnung (EU) 2016/679 (DSGVO)
Dieser Beitrag dient der allgemeinen Information und stellt keine Rechtsberatung dar; für Ihren konkreten Fall wenden Sie sich bitte an eine Rechtsanwältin oder einen Rechtsanwalt.