KI und Recht im Unternehmen verständlich erklärt

Warum eine Rechtsprüfung beim Anwendungsfall beginnt

Die Bezeichnung „KI“ löst noch keine bestimmte Pflicht aus. Zuerst wird beschrieben, was das System tatsächlich tut: Welche Eingaben verarbeitet es? Welche Ausgabe erzeugt es? Wer nutzt sie? Beeinflusst sie Menschen, Verträge, Beschäftigung, Zugang zu Leistungen oder sicherheitsrelevante Prozesse? Ein Schreibassistent für interne Entwürfe ist anders zu beurteilen als eine Rangfolge von Bewerbungen oder eine autonome Maschinensteuerung.

Danach folgen vier Prüfschritte: Anwendbarkeit, Rolle, Risikokategorie und konkrete Pflichten. Parallel werden andere Rechtsgebiete betrachtet. Personenbezogene Daten führen zur DSGVO, fremde Inhalte zum Urheberrecht, interne Informationen zum Geschäftsgeheimnisschutz und die Nutzung im Beschäftigungsverhältnis zum Arbeitsrecht und zur Mitbestimmung. Der AI Act verdrängt diese Regeln nicht.

Die Prüfung wird dokumentiert und bei wesentlichen Änderungen wiederholt. Ein neues Modell, zusätzlicher Datenzugriff oder eine andere Verwendung kann die Einordnung verändern. Rechtliche Bewertung ist deshalb kein Aufkleber, den ein Produkt einmal erhält. Sie begleitet den Lebenszyklus – etwas weniger dekorativ, dafür deutlich nützlicher.

Schon die Definition des KI-Systems verlangt Sorgfalt. Der AI Act erfasst maschinengestützte Systeme mit unterschiedlich autonomem Betrieb, die aus Eingaben ableiten, wie sie Ausgaben erzeugen, welche physische oder virtuelle Umgebungen beeinflussen können. Ausschließlich von Menschen festgelegte Regeln fallen nicht allein wegen Automatisierung darunter. Grenzfälle werden anhand Funktion und Kommissionsleitlinien geprüft, nicht anhand der Produktwerbung.

Rechtsstand des europäischen AI Act

Die Verordnung (EU) 2024/1689 trat 2024 in Kraft und gilt unmittelbar in den Mitgliedstaaten. Verbote bestimmter Praktiken und die Pflicht zur KI-Kompetenz gelten seit 2. Februar 2025. Governance-Regeln und Pflichten für Anbieter von Modellen mit allgemeinem Verwendungszweck gelten seit 2. August 2025. Seit 2. August 2026 ist der AI Act weitgehend anwendbar; dazu gehören insbesondere Transparenzpflichten nach Artikel 50.

Der AI Omnibus trat am 27. Juli 2026 in Kraft und änderte unter anderem die Zeitplanung. Regeln für eigenständige Hochrisiko-Systeme in sensiblen Bereichen gelten nach der aktuellen Kommissionsdarstellung ab 2. Dezember 2027. Für Hochrisiko-Systeme, die in regulierte Produkte eingebettet sind, gilt der 2. August 2028. Eine neue Verbotsregel zu nicht einvernehmlichen intimen Inhalten und Darstellungen sexuellen Kindesmissbrauchs gilt ab 2. Dezember 2026.

Diese Daten sind Rechtsstand 27. Oktober 2026. Ältere Präsentationen können die ursprünglichen Termine enthalten und sind deshalb nicht automatisch falsch erstellt, aber heute teilweise überholt. Für eine konkrete Einführung werden die aktuelle konsolidierte Verordnung, Leitlinien und gegebenenfalls sektorale Regeln geprüft. Ein Kalender hilft; eine Rollen- und Anwendungsprüfung wird dadurch nicht entbehrlich.

Bei Gesetzesvorhaben wird zwischen Vorschlag, politischer Einigung, formaler Annahme und Inkrafttreten unterschieden. Der Digital Omnibus begann 2025 als Kommissionsvorschlag; die hier genannten geänderten Termine beruhen auf der 2026 in Kraft getretenen Verordnung. Diese Unterscheidung verhindert, dass eine diskutierte Änderung vorschnell als geltendes Recht erscheint – oder eine wirksame Änderung weiterhin nur als Diskussion behandelt wird.

Rollen bestimmen die Pflichten

Der AI Act unterscheidet vor allem Anbieter und Betreiber, daneben Importeure, Händler, Produkthersteller und Anbieter von Modellen mit allgemeinem Verwendungszweck. Anbieter entwickeln ein System oder lassen es entwickeln und bringen es unter eigenem Namen in Verkehr oder in Betrieb. Betreiber verwenden ein KI-System in eigener Verantwortung, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet.

Ein Unternehmen kann seine Rolle verändern. Wer ein fremdes System wesentlich verändert, seinen vorgesehenen Zweck ändert oder ein hochriskantes System unter eigenem Namen anbietet, kann unter den gesetzlichen Voraussetzungen Anbieterpflichten übernehmen. Ein Vertrag, in dem weiterhin „Kunde“ steht, verhindert diesen Rollenwechsel nicht. Maßgeblich ist die tatsächliche Tätigkeit.

Für Betreiber stehen unter anderem Nutzung nach Anleitung, menschliche Aufsicht, geeignete Eingabedaten und Überwachung im Vordergrund, soweit die jeweiligen Regeln anwendbar sind. Anbieter tragen weitergehende Pflichten zu Risikomanagement, Daten, Dokumentation, Protokollierung, Konformitätsbewertung und Marktbeobachtung. GPAI-Anbieter haben eigene Pflichten. Die Rollen werden daher pro System und Lieferkette dokumentiert, nicht pauschal für das gesamte Unternehmen vergeben.

Verträge können Aufgaben und Informationen verteilen, die gesetzliche Rolle aber nicht beliebig umbenennen. Deshalb werden Dokumentation, technische Informationen, Änderungsmeldungen und Unterstützung bei Vorfällen vertraglich verfügbar gemacht. Wer ein System integriert, braucht genug Einblick, um seine eigenen Pflichten zu erfüllen. Eine Zusicherung „AI-Act-ready“ ist ohne bezeichnete Rolle, System und Pflichtenkatalog zu unbestimmt.

Risikostufen und verbotene Praktiken

Der AI Act arbeitet risikobasiert. Bestimmte Praktiken sind verboten, weil sie Grundrechte und Sicherheit in nicht vertretbarer Weise beeinträchtigen können. Dazu zählen unter gesetzlichen Bedingungen etwa manipulative oder ausnutzende Praktiken, Social Scoring, bestimmte biometrische Kategorisierung, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sowie bestimmte Formen biometrischer Fernidentifizierung.

Hochrisiko-Systeme sind insbesondere in den gesetzlich definierten Produkt- und Anwendungsbereichen relevant, beispielsweise bei Beschäftigung, Bildung, bestimmten wesentlichen Diensten, kritischer Infrastruktur oder Strafverfolgung. Nicht jedes System in einem solchen Bereich ist automatisch hochriskant; Zweck, Wirkung, Ausnahmen und die aktuelle Rechtslage müssen geprüft werden. Die Einstufung ist eine juristisch-technische Aufgabe, keine Auswahl in einem Marketingformular.

Für andere Systeme können Transparenzpflichten gelten. Menschen müssen bei bestimmten interaktiven Systemen erkennen können, dass sie mit KI interagieren. Bestimmte synthetische Inhalte, Deepfakes und Texte zu Themen öffentlichen Interesses benötigen unter den Voraussetzungen des Artikels 50 Kennzeichnung. Bei redaktionell geprüftem Text mit übernommener Verantwortung bestehen Ausnahmen. Nicht jeder KI-Entwurf braucht deshalb denselben Aufkleber.

Die Organisation hält die Begründung ihrer Einstufung fest. Sie beschreibt vorgesehenen Zweck, Nutzer, betroffene Personen, Entscheidungswirkung und verwendete Ausnahmen. Bei einer nicht hochriskanten Einordnung wird nicht nur das Ergebnis, sondern auch der Gedankengang dokumentiert. Ändert sich die Nutzung von unterstützender Zusammenfassung zu automatischer Rangfolge, wird neu geprüft.

KI-Kompetenz und menschliche Aufsicht

Artikel 4 des AI Act verpflichtet Anbieter und Betreiber nach der 2026 geänderten Fassung, Maßnahmen zu ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer in ihrem Auftrag tätiger Personen zu unterstützen. Berücksichtigt werden technische Kenntnisse, Erfahrung, Ausbildung, Nutzungskontext und betroffene Personen. Die Norm verlangt kein garantiertes, fest vorgegebenes Kompetenzniveau. Eine einmalige allgemeine Präsentation kann ein Fundament sein, ersetzt aber nicht die Unterstützung für konkrete Rollen und Systeme.

Menschliche Aufsicht bedeutet mehr als ein Freigabefeld. Die zuständige Person muss Aufgabe, Grenzen, Eingaben und Ausgabe verstehen, Warnzeichen erkennen und tatsächlich eingreifen oder stoppen können. Bei hoher Taktung, fehlenden Quellen oder automatischem Vollzug kann eine nominelle Freigabe wirkungslos sein. Aufsicht wird deshalb organisatorisch und technisch gestaltet.

Für nicht hochriskante Systeme ist eine gute Aufsicht ebenfalls sinnvoll, auch wenn nicht jede Detailpflicht des Hochrisiko-Kapitels greift. Fehlerfolgen, vertragliche Verantwortung und fachliche Qualität verschwinden nicht, nur weil ein System regulatorisch niedriger eingestuft ist. Gesetzliche Mindestpflicht und vernünftiger Betrieb sind zwei verwandte, aber nicht identische Dinge.

Kompetenzmaßnahmen werden nachweisbar geplant: Zielgruppe, Lernziel, Systembezug, praktische Übung und Auffrischung. Nutzende müssen beispielsweise sensible Eingaben erkennen und Ergebnisse prüfen; Führung muss Zweck und Risiko entscheiden; technische Rollen brauchen Kenntnisse zu Integration und Angriffen. Teilnahmebescheinigungen können dokumentieren, wer dabei war. Ob die Person anschließend sicher handeln kann, zeigt erst eine passende Aufgabe.

Welche Maßnahme angemessen ist, bleibt damit kontextabhängig. Eine kurze Einführung kann für einen begrenzten Schreibassistenten genügen, während ein System für Personal, Sicherheit oder weitreichende Aktionen Übungen, klare Eskalationswege und wiederkehrende Aktualisierung verlangt. Die Organisation dokumentiert nicht nur Schulungstermine, sondern auch Zweck, Zielgruppe und Anpassungen nach Vorfällen oder Produktänderungen. Damit wird Artikel 4 weder zu einer Prüfung mit staatlich vorgegebener Punktzahl noch zu einer folgenlosen Aufforderung. Er verlangt einen ernsthaften, am Einsatz orientierten Unterstützungsprozess.

Datenschutz gilt neben dem AI Act

Sobald personenbezogene Daten verarbeitet werden, gilt die DSGVO unabhängig davon, ob der AI Act ein System als hochriskant einstuft. Verantwortliche bestimmen Zweck, Rechtsgrundlage, Datenminimierung, Transparenz, Speicherfristen, Sicherheit und Betroffenenrechte. Anbieter können Auftragsverarbeiter, gemeinsam Verantwortliche oder eigene Verantwortliche sein; die tatsächlichen Entscheidungen und Datenflüsse sind maßgeblich.

Eine Rechtsgrundlage wird für jede relevante Verarbeitungsphase benötigt. Ein berechtigtes Interesse ist keine automatische Auffanglösung. Der EDPB beschreibt eine dreistufige Prüfung aus legitimem Interesse, Erforderlichkeit und Abwägung. Die vernünftigen Erwartungen betroffener Personen, Datenquelle, Kontext und mögliche Folgen spielen eine wichtige Rolle. Öffentlich zugängliche Daten sind nicht automatisch frei von Datenschutz.

Besondere Kategorien personenbezogener Daten, internationale Übermittlungen, Datenschutz-Folgenabschätzung und automatisierte Entscheidungen nach Artikel 22 DSGVO können zusätzliche Anforderungen auslösen. Eine KI-Ausgabe, die ein Mensch nur abnickt, ist nicht zwingend eine echte menschliche Entscheidung. Datenschutz und AI Act sollten gemeinsam geprüft werden, ohne ihre Begriffe und Pflichten zu vermischen.

Betroffenenrechte müssen praktisch erfüllbar bleiben. Dazu braucht die Organisation Informationen über Datenquellen, Empfänger, Speicherorte und Einfluss des Systems. Bei Auskunft, Berichtigung oder Löschung kann Unterstützung des Anbieters erforderlich sein. Diese Unterstützung wird vor der Nutzung geklärt. Ein technisch faszinierendes Modell ist wenig hilfreich, wenn niemand erklären kann, welche Personendaten darin oder in angebundenen Speichern verarbeitet werden.

Urheberrecht, Geschäftsgeheimnisse und Verträge

Bei KI treffen mehrere urheberrechtliche Fragen zusammen: Darf ein Inhalt als Eingabe genutzt werden? Ist der Prompt geschützt? Genießt die Ausgabe Schutz? Verletzt die Ausgabe Rechte Dritter? Nach deutschem Urheberrecht sind Werke persönliche geistige Schöpfungen. Rein maschinell erzeugte Ergebnisse erfüllen diese Voraussetzung nicht ohne Weiteres; bei menschlich geprägten Gestaltungen kommt es auf den konkreten schöpferischen Beitrag an.

Wer Ausgaben veröffentlicht oder verwertet, sollte nach erkennbaren Übernahmen, Marken, Personen und geschützten Inhalten suchen. Ein Anbieter verspricht nicht zwingend, dass jedes Ergebnis frei von Rechten Dritter ist. Auch Trainings- und Text-and-Data-Mining-Fragen sind rechtlich differenziert und teilweise umstritten. Eine pauschale Aussage wie „Die KI hat es erzeugt, also darf ich es verwenden“ ist erfreulich kurz, aber nicht belastbar.

Geschäftsgeheimnisse setzen angemessene Geheimhaltungsmaßnahmen voraus. Unkontrollierte Eingaben in externe Dienste können diesen Schutz gefährden. Verträge sollten daher zulässige Systeme, Daten, Kennzeichnung, Rechte an Ergebnissen, Unterstützung, Haftung und Ausstieg regeln. Gegenüber Kunden kann außerdem eine Zustimmung oder Offenlegung des KI-Einsatzes erforderlich sein, wenn Vertrag oder Leistungsbild dies verlangen.

Die Rechtefrage betrifft auch intern erstellte Trainings-, Test- und Wissensbestände. Lizenz, Zweckbindung und Herkunft werden dokumentiert. Bei Bildern, Texten oder Code aus externen Quellen wird geprüft, ob die beabsichtigte Nutzung erlaubt ist. Technische Erreichbarkeit ist keine Lizenz. Das Internet ist eine beeindruckende Bibliothek, nur leider nicht durchgehend ein Selbstbedienungsregal.

Arbeitsrecht und Beschäftigtenvertretung einbeziehen

KI am Arbeitsplatz berührt Weisungsrecht, Datenschutz, Diskriminierungsschutz und gegebenenfalls Mitbestimmung. Systeme, die Verhalten oder Leistung überwachen können, verdienen eine frühe Beteiligung der Beschäftigtenvertretung. Maßgeblich sind Funktion, Konfiguration und Zugriffsmöglichkeiten, nicht nur die Absicht, niemanden überwachen zu wollen.

Besonders sorgfältig sind Systeme für Auswahl, Bewertung, Einsatzplanung und Entscheidungen über Beschäftigte zu prüfen. Neben künftigen oder geltenden Hochrisiko-Pflichten greifen bestehende Regeln wie das Allgemeine Gleichbehandlungsgesetz. Verzerrte Daten und schwer erklärbare Bewertungen können Benachteiligungen verstärken. Ein menschlicher Entscheider darf nicht bloß die Rangliste der Maschine unterschreiben.

Nutzungsregeln schaffen Klarheit: zugelassene Werkzeuge, erlaubte Daten, Prüfpflicht, Kennzeichnung, Verantwortlichkeit und Meldeweg. Sie sollten praktikabel sein und gemeinsam mit sicheren Angeboten eingeführt werden. Eine Richtlinie, die jeden sinnvollen Einsatz verbietet, kann vor allem die Fähigkeit fördern, Browser-Tabs schnell zu schließen.

Die Beteiligung beginnt in der Planungsphase. Dann lassen sich Zweck, Daten, Leistungsbezug und technische Zugriffe noch gestalten. Wird die Beschäftigtenvertretung erst kurz vor dem Rollout informiert, sind wesentliche Entscheidungen bereits vertraglich oder technisch verfestigt. Frühe Beteiligung ist deshalb nicht nur eine Rechtsfrage, sondern meist die kostengünstigere Form des Änderungsmanagements.

Governance und Nachweise zusammenführen

Eine Organisation braucht keinen eigenen Parallelprozess für jedes Gesetz. Ein gemeinsames KI-Inventar kann Zweck, System, Rolle, Risikoeinstufung, Daten, Verantwortliche, Freigaben und Reviews verbinden. Die einzelnen Pflichten bleiben fachlich unterscheidbar, nutzen aber dieselben Grundinformationen. So muss ein Fachbereich seinen Anwendungsfall nicht für Datenschutz, Informationssicherheit, Einkauf und AI Act viermal leicht unterschiedlich beschreiben.

Nachweise sollen Entscheidungen verständlich machen: Welche Quellen wurden geprüft? Welche Annahmen gelten? Wer hat entschieden? Welche Auflagen und Fristen bestehen? Bei geringer Wirkung reicht eine kompakte Dokumentation; hochriskante oder besonders sensible Systeme benötigen deutlich mehr. Umfang folgt Risiko und Rolle. Ein fünfzigseitiges Formular für einen Textentwurf ist ebenso wenig risikobasiert wie eine halbe Seite für eine Personalentscheidung.

Der Reviewkalender berücksichtigt Gesetzesänderungen, Leitlinien, Produktänderungen und tatsächliche Vorfälle. Recht, Datenschutz, Sicherheit und Fachbereich prüfen nicht nur Vollständigkeit, sondern Wirksamkeit. Governance ist gelungen, wenn Verantwortliche rechtzeitig entscheiden können und Nutzende wissen, was sie tun dürfen. Die Zahl abgelegter Dokumente ist dafür höchstens ein indirekter Hinweis.

Praxisbeispiel: KI in der Bewerbervorauswahl

Ein fiktives Unternehmen möchte Bewerbungsunterlagen automatisch zusammenfassen und Bewerbende priorisieren. Schon die Zweckbeschreibung zeigt zwei Funktionen: eine administrative Zusammenfassung und eine Bewertung mit Einfluss auf Zugang zu Beschäftigung. Beide dürfen nicht ohne Weiteres als ein einziger „Recruiting-Assistent“ behandelt werden.

Das Unternehmen klärt Rolle, Anbieter, Datenflüsse und die Hochrisiko-Einordnung nach dem aktuell geltenden Zeitplan. Datenschutz-Folgen, besondere Datenkategorien, Aufbewahrung, Betroffeneninformation und Mitbestimmung werden geprüft. Für die Bewertung werden Qualitäts- und Benachteiligungsrisiken untersucht. Menschen erhalten vollständige Unterlagen und Entscheidungsspielraum; abgelehnte Bewerbungen beruhen nicht automatisch auf einem Modellwert.

Die Organisation entscheidet, zunächst nur eine begrenzte Zusammenfassung ohne Rangfolge zu pilotieren. Auch diese Ausgabe wird geprüft. Die weitergehende Funktion bleibt bis zur abgeschlossenen rechtlichen und fachlichen Bewertung deaktiviert. Das ist kein Mangel an Innovationsfreude. Es ist die recht vernünftige Idee, die Wirkung einer Funktion zu verstehen, bevor sie über Menschen entscheidet.

Für den Pilot werden Entscheidung, Datenquellen, Systemversion, Prüfer und Korrekturen protokolliert. Bewerbende erhalten die erforderlichen Informationen, und ein Kontaktweg für Fragen steht bereit. Nach dem Test bewertet das Unternehmen nicht nur Geschwindigkeit, sondern Auslassungen, systematische Unterschiede und den Aufwand menschlicher Prüfung. Erst diese Gesamtsicht trägt eine Entscheidung über den weiteren Einsatz.