Header Animation Graphic

KI-Kompetenz: Pflichten nach Art. 4 KI-Verordnung

Seit Februar 2025 verlangt Art. 4 KI-Verordnung von Unternehmen, die KI-Systeme anbieten oder einsetzen, Maßnahmen zur KI-Kompetenz ihres Personals. Mit dem Digital Omnibus wurde die Vorschrift 2026 neu gefasst. Der Beitrag erläutert, welche Pflichten heute gelten, wie eine KI-Kompetenz-Schulung aufgebaut sein sollte und wie sich der Nachweis dokumentieren lässt.

KI-Kompetenz nach Art. 4 KI-Verordnung

  • Pflicht gilt seit Februar 2025 für alle KI-Systeme
    Art. 4 KI-Verordnung betrifft Anbieter und Betreiber unabhängig von der Risikoklasse. Auch die Nutzung von Chatbots oder Office-Assistenten erfordert Maßnahmen zur KI-Kompetenz.
  • Digital Omnibus macht aus der Ergebnispflicht eine Förderpflicht
    Seit der Neufassung 2026 müssen Unternehmen Maßnahmen zur Entwicklung der KI-Kompetenz ergreifen. Ein bestimmtes Kompetenzniveau jeder einzelnen Person muss nicht garantiert werden.
  • Schulungen müssen rollenbezogen und praxisnah sein
    Eine KI-Kompetenz-Schulung sollte Funktionsweise, Rolle des Unternehmens, konkrete Risiken und Rechtsrahmen abdecken. Der bloße Verweis auf eine Gebrauchsanweisung reicht in der Regel nicht aus.
  • Nachweis erfolgt über interne Dokumentation
    Ein Zertifikat ist nicht vorgeschrieben. Entscheidend ist eine aktuelle Dokumentation von Systemen, Zielgruppen, Schulungen und Richtlinien, die bei Behördenanfragen oder im Haftungsfall vorgelegt werden kann.

Was KI-Kompetenz nach der KI-Verordnung bedeutet

Die KI-Verordnung (Verordnung (EU) 2024/1689) definiert KI-Kompetenz in Art. 3 Nr. 56 als die Fähigkeiten, Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen ermöglichen, KI-Systeme sachkundig einzusetzen. Dazu gehört auch das Bewusstsein für Chancen und Risiken von KI sowie für mögliche Schäden, die sie verursachen kann. Der Begriff geht damit deutlich über reine Bedienkenntnisse hinaus.

Gemeint ist ein rollenbezogenes Verständnis. Eine Entwicklerin, die ein Modell trainiert, benötigt andere Kenntnisse als ein Sachbearbeiter, der KI-generierte Textentwürfe prüft. Entscheidend ist, dass Beschäftigte die Grenzen eines Systems erkennen, Ergebnisse kritisch bewerten und wissen, wann eine menschliche Prüfung erforderlich ist. Technisches Wissen, rechtliches Grundverständnis und ethische Sensibilität greifen dabei ineinander.

Die Pflicht zur KI-Kompetenz gilt seit dem 2. Februar 2025 und gehört zu den ersten anwendbaren Regelungen der KI-Verordnung. Sie knüpft nicht an eine Risikoklasse an. Sie betrifft also auch Systeme mit geringem Risiko wie Chatbots, Übersetzungswerkzeuge oder Assistenzfunktionen in Office-Anwendungen.

Art. 4 KI-Verordnung nach dem Digital Omnibus

In der ursprünglichen Fassung verlangte Art. 4 KI-Verordnung, dass Anbieter und Betreiber nach besten Kräften sicherstellen, dass ihr Personal über ein ausreichendes Maß an KI-Kompetenz verfügt. Diese Formulierung wurde in der Praxis vielfach als Ergebnispflicht verstanden und sorgte für Unsicherheit darüber, welches Niveau konkret geschuldet ist.

Mit dem Digital Omnibus zur KI-Verordnung, der im Juli 2026 im Amtsblatt der EU veröffentlicht wurde, hat der Gesetzgeber die Vorschrift neu gefasst. Anbieter und Betreiber müssen nun Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit KI-Systemen umgehen. Ausdrücklich klargestellt ist, dass kein bestimmtes Kompetenzniveau einer einzelnen Person garantiert werden muss.

Die Neufassung ist eine Präzisierung und keine Abschaffung. Aus der Ergebnispflicht ist eine Handlungs- und Förderpflicht geworden. Zusätzlich sollen die Kommission und die Mitgliedstaaten Unternehmen, insbesondere kleine und mittlere Unternehmen, durch praktische Beispiele und Leitlinien unterstützen. Wer keine Maßnahmen ergreift, verstößt weiterhin gegen Art. 4.

Wer von den Pflichten betroffen ist

Adressaten sind Anbieter und Betreiber von KI-Systemen. Betreiber ist jede Organisation, die ein KI-System in eigener Verantwortung beruflich verwendet. Damit fallen praktisch alle Unternehmen unter die Pflichten aus Art. 4, sobald Beschäftigte KI-Werkzeuge im Arbeitsalltag nutzen. Die Pflicht greift jedoch nicht, wenn Beschäftigte KI eigenständig und ohne Autorisierung des Arbeitgebers nutzen.

Der erfasste Personenkreis ist weit gefasst. Nach den Fragen und Antworten der EU-Kommission vom Mai 2025 zählen dazu Beschäftigte, die KI-Systeme bedienen oder deren Ergebnisse verwenden, Führungskräfte, die über den Einsatz von KI entscheiden, sowie externe Personen wie Dienstleister, Freelancer oder Auftragnehmer, die im Auftrag des Unternehmens mit KI-Systemen arbeiten.

Die Maßnahmen richten sich nach dem Einzelfall. Zu berücksichtigen sind die technischen Kenntnisse, die Erfahrung und die Ausbildung der Personen, der Einsatzkontext sowie die Personen oder Gruppen, bei denen das KI-System eingesetzt wird. Ein KI-gestütztes Bewerbermanagement erfordert daher eine intensivere Befassung als ein Rechtschreibassistent.

Inhalte einer wirksamen KI-Kompetenz-Schulung

Ein zentrales Instrument zur Erfüllung der Pflichten ist die KI-Kompetenz-Schulung. Die EU-Kommission empfiehlt, mindestens folgende Inhalte abzudecken:

  • ein allgemeines Verständnis davon, wie KI funktioniert und wo ihre Grenzen liegen
  • die Rolle des eigenen Unternehmens als Anbieter oder Betreiber
  • die Risiken der konkret eingesetzten Systeme, etwa Halluzinationen, Verzerrungen oder Datenabfluss
  • die rechtlichen Rahmenbedingungen, insbesondere KI-Verordnung, Datenschutz und Urheberrecht

Wirksam wird eine Schulung erst durch Zielgruppenbezug. Ein Basismodul für alle Beschäftigten lässt sich mit vertiefenden Modulen für Fachbereiche wie Personal, Vertrieb oder IT kombinieren. Die Kommission weist darauf hin, dass der bloße Verweis auf die Gebrauchsanweisung eines Systems in der Regel nicht ausreicht.

Schulungen sind nicht die einzige zulässige Maßnahme. Interne KI-Richtlinien, freigegebene Werkzeuglisten, Ansprechpersonen für Rückfragen und praxisnahe Leitfäden ergänzen das Lernangebot. Gerade die Verbindung von Wissensvermittlung und klaren Nutzungsregeln macht KI-Kompetenz im Arbeitsalltag belastbar.

KI-Kompetenz-Nachweis: Dokumentation statt Zertifikat

Die KI-Verordnung schreibt kein Zertifikat und keine Prüfung vor. Nach Auffassung der EU-Kommission genügt eine interne Dokumentation der ergriffenen Maßnahmen. Für den KI-Kompetenz-Nachweis kommt es daher auf nachvollziehbare Aufzeichnungen an, die im Fall einer behördlichen Anfrage oder eines Schadensfalls vorgelegt werden können. Bewährt hat sich eine Dokumentation mit folgenden Angaben:

  • Bestandsaufnahme der eingesetzten KI-Systeme mit Einsatzzweck und Risikoeinschätzung
  • Zuordnung der Zielgruppen zu Schulungsmodulen und Lernzielen
  • Teilnahmenachweise mit Datum, Inhalt und Format
  • Fassung und Freigabe interner KI-Richtlinien sowie deren Kenntnisnahme durch die Beschäftigten

Die Dokumentation sollte regelmäßig aktualisiert werden. Neue Systeme, geänderte Einsatzzwecke oder personelle Wechsel lösen Anpassungsbedarf aus. Wer bereits ein Datenschutz- oder Informationssicherheitsmanagement betreibt, kann den Nachweis dort integrieren und bestehende Prozesse für Schulungsnachweise nutzen.

Aufsicht und Haftungsrisiken in Deutschland

Seit dem 2. August 2026 überwachen nationale Behörden die Einhaltung der KI-Verordnung. In Deutschland ist die Bundesnetzagentur zentrale Marktüberwachungsbehörde. Für den beaufsichtigten Finanzsektor ist die BaFin zuständig. Grundlage ist das deutsche Gesetz zur Durchführung der KI-Verordnung aus dem Juli 2026.

Ein eigener Bußgeldtatbestand für Verstöße gegen Art. 4 ist weder in Art. 99 KI-Verordnung noch im deutschen Durchführungsgesetz vorgesehen. Folgenlos bleiben die Pflichten dennoch nicht. Fehlende KI-Kompetenz kann als Verletzung von Sorgfalts- und Organisationspflichten gewertet werden, etwa im Rahmen der zivilrechtlichen Haftung oder bei der Bemessung von Sanktionen nach anderen Vorschriften.

Für die Geschäftsleitung ist das Thema zudem eine Frage der Compliance. Nach § 93 AktG und § 43 GmbHG haften Organmitglieder für die Sorgfalt eines ordentlichen Geschäftsleiters. Wer KI im Unternehmen einführt, ohne Beschäftigte angemessen vorzubereiten, erhöht daher das eigene Haftungsrisiko. Führt eine unsachgemäße KI-Nutzung zu Datenschutzverstößen, kommen außerdem Bußgelder nach der DSGVO in Betracht.

KI-Kompetenz bleibt auch nach dem Digital Omnibus eine Daueraufgabe

Die Neufassung von Art. 4 KI-Verordnung schafft mehr Rechtsklarheit. Unternehmen schulden keine garantierte Kompetenz jeder einzelnen Person, wohl aber geeignete und dokumentierte Maßnahmen. Damit verschiebt sich der Fokus von der Frage nach dem richtigen Zertifikat hin zu einem durchdachten, rollenbezogenen Kompetenzprogramm.

Mit weiteren Pflichten wie den Transparenzpflichten nach Art. 50 und den Anforderungen an Hochrisiko-KI-Systeme ab Dezember 2027 wächst der Bedarf an fundiertem Wissen weiter. KI-Kompetenz lässt sich daher sinnvoll als fester Bestandteil der KI-Governance verankern und mit bestehenden Strukturen aus Datenschutz und Informationssicherheit verzahnen.

Dr. Alina Weskamp-Nordmann, Juristin und TÜV-zertifizierte Datenschutzbeauftragte bei intersoft consulting services AG

Dr. Alina Weskamp-Nordmann, LL.M.

Juristin

Ich berate Sie gerne

Rufen Sie uns an oder schreiben Sie uns über das Kontaktformular.

Häufige Fragen zur KI-Kompetenz nach Art. 4 KI-Verordnung

Was ist der Unterschied zwischen KI-Kompetenz nach Art. 4 und menschlicher Aufsicht nach Art. 14 KI-Verordnung?

KI-Kompetenz nach Art. 4 ist eine allgemeine Pflicht für alle KI-Systeme und zielt auf ein grundlegendes Verständnis im Umgang mit KI. Menschliche Aufsicht nach Art. 14 gilt nur für Hochrisiko-KI-Systeme und verlangt, dass bestimmte Personen ein System wirksam überwachen und bei Bedarf eingreifen können.

Art. 14 richtet sich zunächst an Anbieter, die Hochrisiko-Systeme so gestalten müssen, dass eine Überwachung technisch möglich ist. Betreiber müssen die Aufsicht nach Art. 26 Abs. 2 natürlichen Personen übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen. Die Aufsichtsperson muss etwa Fehlfunktionen erkennen, Ergebnisse richtig interpretieren und den sogenannten Automation Bias kennen, also die Neigung, maschinellen Empfehlungen unkritisch zu folgen.

Für eigenständige Hochrisiko-Systeme nach Anhang III gelten diese Pflichten nach der Neufassung durch den Digital Omnibus ab dem 2. Dezember 2027. Art. 4 bildet damit die Basis, auf der die spezielle Aufsichtskompetenz aufbaut.

Was bedeutet der Begriff Betreiber in der KI-Verordnung?

Betreiber ist nach Art. 3 Nr. 4 KI-Verordnung jede natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet. Ausgenommen ist nur die Verwendung im Rahmen einer persönlichen und nicht beruflichen Tätigkeit, etwa die private Nutzung eines Chatbots.

Der Begriff entspricht dem englischen „Deployer“ und ist vom Anbieter abzugrenzen. Anbieter ist nach Art. 3 Nr. 3, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt. Ein Unternehmen, das eine SaaS-Lösung mit KI-Funktion lizenziert und intern nutzt, ist daher Betreiber.

Die Rollen können sich verschieben. Nach Art. 25 KI-Verordnung wird ein Betreiber selbst zum Anbieter eines Hochrisiko-Systems, wenn er es unter eigenem Namen vertreibt, wesentlich verändert oder seine Zweckbestimmung so ändert, dass es als hochriskant einzustufen ist. Für die Planung von Kompetenzmaßnahmen ist die Rollenklärung deshalb ein wichtiger erster Schritt.

Wie oft sollte eine KI-Kompetenz-Schulung wiederholt werden?

Die KI-Verordnung legt kein festes Intervall fest. Maßgeblich ist, ob die vorhandenen Kenntnisse für den aktuellen Einsatz noch ausreichen. In der Praxis ist eine jährliche Auffrischung verbreitet, ergänzt um anlassbezogene Schulungen bei neuen Systemen, geänderten Einsatzzwecken oder neuen Rechtsvorgaben.

Typische Anlässe für eine Aktualisierung sind die Einführung eines neuen KI-Werkzeugs, die Ausweitung auf sensible Bereiche wie Personal oder Kundenkommunikation, neue Erkenntnisse zu Risiken sowie Änderungen des Rechtsrahmens. Der Digital Omnibus aus dem Jahr 2026 ist ein Beispiel für eine solche Änderung. Neue Beschäftigte sollten die Grundlagen bereits beim Onboarding erhalten.

Kurze, wiederkehrende Formate wie E-Learning-Einheiten oder Praxisworkshops eignen sich oft besser als eine einmalige lange Veranstaltung. Das Konzept entspricht dem aus der Informationssicherheit bekannten Security-Awareness-Ansatz, bei dem regelmäßige Impulse das Wissen dauerhaft verankern.

Welche Pflichten gelten für die Nutzung von ChatGPT oder Microsoft Copilot im Unternehmen?

Wer generative KI wie ChatGPT oder Microsoft Copilot in eigener Verantwortung im beruflichen Kontext einsetzt, ist Betreiber im Sinne der KI-Verordnung und muss Maßnahmen zur KI-Kompetenz ergreifen. Die EU-Kommission hat in ihren Fragen und Antworten vom Mai 2025 klargestellt, dass auch die Nutzung solcher Werkzeuge zum Verfassen von Texten erfasst ist.

Beschäftigte sollten wissen, dass Sprachmodelle plausibel klingende, aber falsche Aussagen erzeugen können. Fachleute sprechen von Halluzinationen. Ergebnisse müssen daher vor der Verwendung geprüft werden. Ebenso wichtig sind Regeln zum Umgang mit vertraulichen Informationen und personenbezogenen Daten, da Eingaben je nach Vertragsgestaltung beim Anbieter verarbeitet werden können.

Hinzu kommen die Transparenzpflichten nach Art. 50 KI-Verordnung, die seit dem 2. August 2026 gelten. Für bestimmte bereits vorher in Verkehr gebrachte Systeme bestehen besondere Anpassungs- und Übergangsregelungen.

Für die technische, maschinenlesbare Markierung von synthetischen Inhalten (Art. 50 Abs. 2 KI-VO, z. B. durch Wasserzeichen, Metadaten oder Fingerprints) gilt für bereits vor dem 2. August 2026 in Verkehr gebrachte Bestands-KI-Systeme eine Übergangsfrist bis zum 2. Dezember 2026.

Inhalte, die vor dem 2. August 2026 erzeugt wurden, müssen rückwirkend nicht gekennzeichnet werden.

Betreiber, die KI-generierte Texte zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse herausgeben, müssen dies grundsätzlich offenlegen, sofern keine menschliche Überprüfung mit redaktioneller Verantwortung erfolgt ist. Eine interne KI-Richtlinie bündelt diese Vorgaben in verständlicher Form.

Wie hängen KI-Kompetenz und Datenschutz nach der DSGVO zusammen?

KI-Kompetenz und Datenschutz überschneiden sich immer dann, wenn KI-Systeme personenbezogene Daten verarbeiten. Die DSGVO verlangt bereits, dass Beschäftigte für den Umgang mit Daten sensibilisiert werden. Eine KI-Kompetenz-Schulung kann diese Anforderungen aufgreifen und mit den Vorgaben der KI-Verordnung zu einem gemeinsamen Schulungskonzept verbinden.

Nach Art. 39 Abs. 1 lit. b DSGVO gehört die Sensibilisierung und Schulung der an Verarbeitungsvorgängen beteiligten Mitarbeiter zu den Aufgaben des Datenschutzbeauftragten. Zudem kann der Einsatz von KI eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO erfordern. Die Datenschutzkonferenz hat im Mai 2024 die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ mit Kriterien für die datenschutzkonforme Auswahl und Nutzung von KI-Anwendungen veröffentlicht.

In der Praxis bietet sich eine gemeinsame Governance an. Datenschutz, Informationssicherheit und KI-Compliance können dieselben Prozesse für Bestandsaufnahmen, Risikobewertungen und Schulungsnachweise nutzen. Das vermeidet Doppelarbeit und sorgt für ein einheitliches Bild gegenüber Aufsichtsbehörden.

Léon Schaffers, Jurist im Bereich Datenschutz bei intersoft consulting services AG

Über Léon Schaffers

Wissenswertes zum Datenschutz

Bleiben Sie informiert und erfahren Sie alles Wichtige rund um den Schutz personenbezogener Daten.