zur Übersicht

Besitzen Sie „KI-Kompetenz“? – FAQ zur weitreichendsten Pflicht der KI-VO

Wenn ein KI-System kein hohes Risiko aufweist und keinen besonderen Transparenzpflichten unterliegt, ergeben sich für den Betreiber eigentlich keine großen Verpflichtungen. Die große Ausnahme ist die „KI-Kompetenz“ (AI Literacy). Art. 4 KI-VO verlangt von den Anbietern und Betreibern von KI-Systemen, dass alle Personen, die „mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen.“ Hierbei handelt es sich um die universellste Pflicht aus der Verordnung.

KI-Kompetenz bezeichnet „die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.“ (Art. 3 Nr. 56 KI-VO)

Neue Hilfestellung der EU-Kommission

Aber was heißt KI-Kompetenz genau? Und was kommt auf die Unternehmen zu? Hierzu hat die EU-Kommission kürzlich erstmals eine umfangreiche FAQ-Übersicht veröffentlicht.

Für alle Unternehmen gilt:

Unternehmen müssen nachweislich sicherstellen, dass relevante Mitarbeiter über ein ausreichendes Maß an KI-Kenntnissen verfügen. Das Wissen muss aber nicht messbar sein, geprüft oder zertifiziert werden. Hier steht also der Prozess im Vordergrund.
Es kommt bei KI-Kompetenz nicht nur auf technisches Know-how an – auch ethische, rechtliche und gesellschaftliche Aspekte der KI-Nutzung sind Teil der geforderten Kompetenz.

Der richtige Weg dahin hängt sehr stark vom jeweiligen Setting des Einsatzes und Merkmalen des Unternehmens ab und wird diesen daher weitgehend freigestellt. Jedoch sollte der Umsetzungsprozess in jedem Unternehmen als Grundlage ein allgemeines Verständnis von KI innerhalb der Organisation sicherstellen:

Was ist KI? Wie funktioniert sie? Welche KI wird in unserer Organisation verwendet? Was sind ihre Chancen und Gefahren?

Konkretes Vorgehen

Um den Umsetzungsprozess erfolgreich zu gestalten, sollten Unternehmen daher folgende Fragen beantworten können:

Welche Rolle (Anbieter oder Betreiber von KI-Systemen) nehmen wir ein?
In welchen Kontexten setzen wir KI-Systeme ein? Welcher Zweck wird verfolgt?
Welche Risiken gehen von unseren KI-Systemen aus? Wie werden die Risiken eingedämmt?
Welches Vorwissen und welche Erfahrung können wir bei unseren Mitarbeitern in den unterschiedlichen Rollen voraussetzen? Welche Wissensbestände müssen noch zur Verfügung gestellt werden?

Auf der Grundlage der Antworten können die passenden Formate und der notwendige Aufwand der Kompetenzvermittlung bestimmt werden. Die EU-Kommission verweist daher auf die Notwendigkeit eines differenzierten Trainings. Mitarbeiter mit unterschiedlichen Rollen und unterschiedlichem Vorwissen werden unterschiedliche Maßnahmen brauchen, um das für ihre Rolle notwendige Maß an KI-Kompetenz zu erwerben. So muss nicht zwingend ein KI-Training erfolgen, wenn das Unternehmen davon ausgehen kann, dass Mitarbeiter aufgrund ihrer Ausbildung, Erfahrung und Einsicht in die Materie die notwendige Kompetenz bereits aufweisen. Ebenso kann es ausreichen, dass sich Mitarbeiter lediglich mit der Bedienungsanleitung eines KI-Systems vertraut machen.

Gleichzeitig darf diese Schwelle auch nicht zu niedrig angesetzt werden. Die EU-Kommission betont, dass auch beim einfachen Bereitstellen eines ChatGPT-Services die KI-Kompetenz sichergestellt werden muss, zum Beispiel um auf das häufige Halluzinieren hinzuweisen.

Empfehlenswerte Beispiele aus der Unternehmenspraxis stellt die EU-Kommission in ihrem „Living Repository on AI Literacy“ zur Verfügung. Die öffentliche geförderten European Digital Innovation Hubs (EDIHs), wie dieser hier, bieten gerade für KMU weitere Unterstützung.

Zertifikate oder Prüfungen werden nicht verlangt. Die Kommission empfiehlt aber die interne Dokumentation von Trainings und anderen Maßnahmen, um gegebenenfalls gegenüber den Behörden die Nachweise erbringen zu können. Denn die zuständige Behörde kann bei Verstößen auch Bußgelder verhängen.

Grundsätzlich bietet es sich an, allen Beschäftigten Zugang zu einer allgemeinen KI-Schulung zu verschaffen und sodann speziellere Schulungsbedarfe zu identifizieren.

Fazit

Sicherstellung der KI-Kompetenz ist die am weitesten geltende Pflicht aus der KI-VO. Die Umsetzung hängt stark von den Bedingungen des einzelnen Unternehmens ab. Ein Unternehmen braucht wiederum Klarheit zu grundlegenden Fragen, um die Kompetenzvermittlung sicherstellen zu können.

Sie wollen wissen, wie Sie diese Klarheit in Ihrem Unternehmen erlangen? Sie wollen eine Richtlinie für Ihr Unternehmen aufsetzen?

Sie wollen eine Schulung für Ihre Mitarbeiter konzipieren lassen oder die Schulungen von extern durchführen lassen? Wir bieten allgemeine e-Learnings an und gestalten gemeinsam mit Ihnen individuelle Präsenz- oder Online-Formate, die genau auf Ihre Bedürfnisse passen.

Sprechen Sie uns an, wir unterstützen Sie gerne. Sie wollen zu den weiteren Entwicklungen der KI-VO-Compliance auf dem Laufenden bleiben? Abonnieren Sie unseren Newsletter.