EU AI Act im Überblick:
Definition und Bedeutung für L&D
Der EU AI Act (KI-Verordnung der EU) ist das erste umfassende Gesetzeswerk weltweit, das klare Regeln für die Entwicklung und den Einsatz von KI-Systemen aufstellt. Anders als viele andere Tech-Regularien verfolgt der EU AI Act einen risikobasierten Ansatz: Je höher das Risiko eines KI-Systems für Grundrechte und Sicherheit, desto strenger die Anforderungen und Compliance-Vorgaben.
Das Gesetz betrifft nicht nur Tech-Giganten, sondern jedes Unternehmen in der Europäischen Union, das KI-Systeme anbietet oder nutzt – von der automatisierten Personalauswahl bis zum KI-gestützten Lernprogramm. Also eigentlich fast jedes Unternehmen, unabhängig von Unternehmensgröße und -umsatz. Für L&D-Verantwortliche bedeutet das konkret: Sie sind verantwortlich dafür, ein klares Regelwerk für den rechtssicheren Einsatz von KI im Trainings- und Weiterbildungsbereich zu schaffen – gleichzeitig bietet sich aber auch die strategische Chance, KI-Kompetenz als Wettbewerbsvorteil in der eigenen Organisation zu etablieren.
Warum der EU AI Act eingeführt wurde
Hintergründe und Ziele
KI verändert unsere Arbeitswelt so schnell wie keine andere Technologie zuvor – doch wo Chancen sind, lauern auch Risiken. Der EU AI Act wurde ins Leben gerufen, um Innovation zu fördern und gleichzeitig europäische Grundwerte und Grundrechte zu schützen. Die Europäische Union setzt damit einen weltweiten Standard für vertrauenswürdige, ethische und menschenzentrierte KI-Systeme.
Das sind die drei Hauptgründe für die Entstehung des EU AI Acts:
Zeitplan und Umsetzungsfristen für Unternehmen
Der EU AI Act wird nicht über Nacht vollständig implementiert – die Umsetzung erfolgt schrittweise, damit Unternehmen und Organisationen ausreichend Zeit haben, ihre Prozesse und Systeme anzupassen. Diese Timeline sollten L&D-Teams unbedingt im Auge behalten:
Implementierungsfahrplan des EU AI Acts
- Juli 2024: Offizielles Inkrafttreten des EU AI Acts durch Veröffentlichung im Amtsblatt der Europäischen Union
- Februar 2025: Anwendung der Verbote für unzulässige KI-Praktiken sowie der Pflicht zum Aufbau von KI-Kompetenz (Artikel 4) und der allgemeinen Grundsätze
- August 2025: Inkrafttreten der Bestimmungen zu notifizierten Stellen und Leitungsstrukturen
- August 2026: Vollständige Anwendung der meisten Regelungen, einschließlich der Anforderungen an Hochrisiko-KI-Systeme und Transparenzpflichten
- August 2027: Frist für die Erfüllung der Anforderungen für KI-Modelle mit allgemeinem Verwendungszweck, die vor August 2025 in Verkehr gebracht wurden
- August 2030: Spätester Zeitpunkt für die vollständige Compliance von Hochrisiko-KI-Systemen, die von Behörden genutzt werden
EU AI Act Compliance-Zeitplan für L&D-Teams
- Sofort: Bestandsaufnahme aller genutzten KI-Systeme in Ihrem L&D-Bereich und Evaluierung der KI-Kompetenzen (Ist- versus Soll-Zustand der Skills im Unternehmen)
- Kurzfristig (bis Mitte 2025): Risikoklassifizierung ihrer KI-Tools, besonders bei Personalauswahl, -bewertung und Lernerfolgsmessung
- Mittelfristig (bis Ende 2026): Implementierung robuster Compliance-Prozesse für identifizierte Hochrisiko-Systeme
- Langfristig (ab 2027): Etablierung kontinuierlicher Überwachungs- und Verbesserungsprozesse
Anbieter oder Betreiber?
Rollen und Pflichten im EU AI Act für L&D
Der EU AI Act unterscheidet klar zwischen verschiedenen Akteuren im KI-Ökosystem mit unterschiedlichen Verantwortlichkeiten. Verstehen Sie Ihre Rolle, um die richtigen Compliance-Maßnahmen ergreifen zu können:
- Betreiber
Betreiber sind Sie nach dem EU AI Act, wenn Sie KI-Systeme unter eigener Verantwortung einsetzen. Die meisten L&D-Abteilungen fallen primär in diese Kategorie, wenn sie fertige KI-Lösungen für Training und Talent-Entwicklung nutzen.
Typische Beispiele für L&D als „Betreiber“ von KI-Systemen:
- Sie implementieren ein KI-gestütztes Learning-Management-System (LMS)
- Sie setzen ChatGPT oder ähnliche generative KI-Tools ein, um Schulungsinhalte zu erstellen, zu überprüfen oder zu optimieren
- Sie verwenden ein KI-gestütztes Analyse-Tool, das die Effektivität und den ROI Ihrer Trainingsmaßnahmen auswertet
- Sie nutzen ein KI-Tool, das Mitarbeitergespräche analysiert und datenbasierte Coaching-Empfehlungen generiert
- Sie nutzen ein KI-gestütztes Recruiting-Tool, das Bewerbungsunterlagen vorselektiert oder strukturierte Interviews automatisch auswertet
Betreiberpflichten im EU AI Act:
- Strikte Einhaltung der Nutzungsvorgaben und Betriebsanleitungen des KI-Anbieters
- Gewährleistung einer angemessenen menschlichen Aufsicht über KI-gestützte Entscheidungsprozesse
- Implementierung systematischer Protokollführung über die Nutzung, besonders bei Hochrisiko-Systemen
- Transparenz- und Offenlegungspflicht: Sie müssen Personen klar mitteilen, wenn diese mit KI interagieren (z.B. bei KI-Chatbots) oder wenn ihre Daten von KI verarbeitet werden (z.B. bei automatisierten Bewertungen)
- Anbieter
Als Anbieter gelten Sie nach dem EU AI Act, wenn Sie KI-Systeme entwickeln oder auf den Markt bringen. Dies betrifft auch L&D-Teams, die eigene KI-Lösungen entwickeln, erheblich anpassen oder umwidmen.
Wann ist ein L&D-Team ein „Anbieter“ gemäß EU AI Act?
- Sie entwickeln eine KI-basierte Lernplattform, die Lernfortschritte analysiert und personalisierte Lernpfade für Mitarbeitende erstellt
- Sie passen ein bestehendes Sprachmodell an, um einen firmenspezifischen Lern-Chatbot mit proprietären Daten zu trainieren
- Sie programmieren eine KI-Lösung, die Bewerbungen für Ihre Trainee-Programme vorselektiert oder bewertet
- Sie versehen ein bereits existierendes KI-System mit Ihrem Firmennamen und vertreiben es neu intern oder extern
- Sie verändern die Zweckbestimmung eines KI-Systems wesentlich, z.B. von allgemeiner Textanalyse zu personalisierter Leistungsbewertung
Anbieterpflichten im EU AI Act:
- Umfassende Risikobewertung und korrekte Einstufung Ihrer KI-Systeme in die Risikoklassen
- Lückenlose Dokumentation des gesamten Entwicklungsprozesses und der Trainingsdaten
- Implementation von Qualitätssicherungssystemen und Transparenzmaßnahmen
- Bei Hochrisiko-Systemen: Durchführung einer vollständigen Konformitätsbewertung gemäß den EU-Vorgaben
Die vier Risikoklassen des EU AI Acts
Was sie für L&D bedeuten
Der risikobasierte Ansatz des EU AI Acts teilt KI-Systeme in vier Kategorien ein – von verboten bis minimales Risiko. Diese Einstufung bestimmt, welche rechtlichen Anforderungen für Ihre L&D-Tools gelten:
Verbotene KI-Systeme im Learning & Development
Bestimmte KI-Anwendungen sind in der EU grundsätzlich verboten, auch um Bildungs- und Trainingsbereich, weil sie gegen fundamentale Grundrechte verstoßen oder unvertretbare Risiken für Personen bergen:
- KI-Lernsysteme, die Mitarbeitende basierend auf ihrem sozialen Verhalten außerhalb des Arbeitsplatzes bewerten und dadurch Karrieremöglichkeiten einschränken ("Social Scoring")
- KI-Tools, die in Schulungsräumen oder bei digitalen Trainings biometrische Echtzeit-Erkennung zur unbemerkten Überwachung der Teilnehmenden einsetzen
- Lernplattformen, die unbewusste unterschwellige Techniken nutzen, um das Verhalten der Lernenden zu manipulieren oder psychologischen Druck auszuüben
- Adaptive Lernsysteme, die gezielt Schwachstellen vulnerabler Gruppen (z.B. ältere Mitarbeitende, Personen mit Lernschwierigkeiten) ausnutzen, um sie zu benachteiligen oder zu beeinflussen
- Gamifizierte Lernumgebungen, die so konzipiert sind, dass sie Menschen mit bestimmten psychischen Eigenschaften abhängiges Verhalten oder unverhältnismäßigen Leistungsdruck vermitteln
L&D-Relevanz: Prüfen Sie kritisch, dass Ihre Lern- und Assessment-Tools keine verbotenen Techniken wie unbewusste Manipulation, missbräuchliche Emotionserkennung oder diskriminierendes Social Scoring enthalten.
Hochrisiko-KI-Systeme in der Personalentwicklung
Diese KI-Systeme müssen strenge regulatorische Anforderungen erfüllen, da sie erhebliche Auswirkungen auf die Gesundheit, Sicherheit oder Grundrechte von Personen haben können:
- HR- und Personalmanagement-Tools (z.B. KI-Systeme für Einstellungsentscheidungen, Beförderungen oder Kündigungen)
- Bildungs- und Berufsbildungsanwendungen (z.B. automatisierte Bewertung von Tests oder Lernleistungen mit Karriereauswirkungen)
- KI-Systeme, die zur Teilnehmerauswahl für Fortbildungsprogramme oder Talentförderungsinitiativen eingesetzt werden und damit berufliche Entwicklungschancen beeinflussen
- KI-Anwendungen, die automatisiert Kompetenzen bewerten und daraus Entscheidungen über Zugang zu Expertenwissen oder Spezialisierungen ableiten
L&D-Relevanz: Viele fortschrittliche L&D-Tools, die Mitarbeitende bewerten, Karriereempfehlungen geben oder Entscheidungen über Entwicklungspfade treffen, fallen in diese Kategorie mit umfassenden Compliance-Anforderungen.
KI-Systeme mit Transparenzpflichten in der Mitarbeiterentwicklung
Diese KI-Anwendungen müssen klar und unmissverständlich kennzeichnen, dass eine Interaktion mit künstlicher Intelligenz stattfindet oder Inhalte KI-generiert wurden:
- Chatbots, virtuelle Assistenten und interaktive Lernbegleiter
- KI-generierte oder -manipulierte Inhalte wie Texte, Bilder oder Videos („Deepfakes")
- Personalisierte Empfehlungssysteme für Lernressourcen oder Entwicklungspfade
L&D-Relevanz: Ihre digitalen Lernassistenten, KI-Coaches und automatisch erstellten Lernmaterialien müssen für Nutzende klar als KI-generiert oder KI-unterstützt gekennzeichnet sein, um Transparenzpflichten zu erfüllen.
KI mit minimalem Risiko in L&D-Anwendungen
Die meisten einfacheren KI-Anwendungen fallen unter diese Kategorie und unterliegen keinen spezifischen Verpflichtungen des EU AI Acts, sondern nur allgemeinen Grundsätzen:
- Einfache Textanalyse- und Klassifikationstools ohne personenbezogene Entscheidungen
- Grundlegende KI-gestützte Lernanwendungen wie Quizzes oder interaktive Übungen
- Standard-Rechtschreib- und Grammatikkorrekturtools in Lernplattformen
- Einfache, nicht personalisierte Inhaltsempfehlungssysteme für Trainingsmaterialien
L&D-Relevanz: Auch bei diesen Systemen mit minimalem regulatorischen Risiko sollten Sie auf Datenschutz, Fairness und ethische Aspekte achten, um Best Practices zu implementieren – auch wenn keine spezifischen gesetzlichen Vorgaben bestehen.
KI-Kompetenz nach Artikel 4 EU AI Act:
Schlüsselanforderung für L&D
Der EU AI Act betont in Artikel 4 ausdrücklich die fundamentale Bedeutung von KI-Kompetenz für alle beteiligten Akteure – und hier kommen Learning & Development-Teams ins Spiel, denn Bildung und Weiterbildung sind der Schlüssel zur Erfüllung dieser zentralen Anforderung.
Was bedeutet KI-Kompetenz nach dem EU AI Act?
KI-Kompetenz umfasst das strukturierte Wissen, die praktischen Fähigkeiten und das kritische Verständnis, um:
- KI-Systeme verantwortungsvoll, sicher und rechtmäßig einzusetzen
- Die Chancen, Risiken und Grenzen von KI-Anwendungen zu verstehen und zu kommunizieren
- Fundierte, ethisch reflektierte Entscheidungen über den Einsatz und die Ausgestaltung von KI zu treffen
- Kritisch und faktenbasiert mit KI-generierten Ergebnissen und Empfehlungen umzugehen
- Ethische Aspekte und Grundrechtsfragen bei der KI-Nutzung angemessen zu berücksichtigen
Welche Personengruppen müssen KI-Kompetenz aufbauen?
Die Anforderung zur Entwicklung und Förderung von KI-Kompetenz richtet sich an verschiedene Zielgruppen in Unternehmen:
- Führungskräfte und Entscheider, die strategische Entscheidungen über den Einsatz von KI treffen
- Fachkräfte und Mitarbeitende, die regelmäßig mit KI-Systemen arbeiten oder deren Outputs verwenden
- IT- und Entwicklungsteams, die KI-Systeme implementieren, anpassen oder warten
- Endnutzerinnen und Endnutzer, die mit KI-Systemen interagieren oder von deren Entscheidungen betroffen sind
- Compliancebeauftragte und Qualitätsmanager, die die Einhaltung der KI-Regularien sicherstellen müssen
Welche Konsequenzen drohen bei mangelnder KI-Kompetenz?
Die Förderung von KI-Kompetenz nach Artikel 4 des EU AI Acts ist zwar eine verbindliche Anforderung, hat aber in der Praxis eher empfehlenden Charakter. Anders als bei direkten Verstößen gegen konkrete technische Vorgaben sind hier noch keine unmittelbaren Bußgelder vorgesehen. Das bedeutet jedoch nicht, dass Sie diese Bestimmung ignorieren sollten.
Das eigentliche Risiko entsteht im Schadensfall: Wenn ein nicht ausreichend geschulter Mitarbeiter durch fehlerhafte Nutzung eines KI-Systems einen Schaden verursacht, könnte Ihrem Unternehmen eine Verletzung der allgemeinen Sorgfaltspflicht vorgeworfen werden. In solchen Fällen kann der fehlende Nachweis systematischer KI-Schulungen als Unterlassen angemessener Vorsorgemaßnahmen gesehen werden und haftungsrechtliche Konsequenzen nach sich ziehen.
Daher empfiehlt es sich, KI-Kompetenzaufbau nicht nur als formale Anforderung zu sehen, sondern als wichtigen Schutz vor rechtlichen und finanziellen Risiken. Ein dokumentiertes Schulungskonzept dient im Ernstfall als wichtiger Nachweis, dass Sie Ihre Sorgfaltspflichten ernst genommen haben.
Jetzt EU AI Act konform werden und Ihr Team für die KI-Zukunft qualifizieren
Artikel 4 des EU AI Acts fordert, dass Ihre Mitarbeitenden über ausreichend KI-Kompetenz verfügen müssen. Mit unseren zertifizierten Schulungspaketen – vom 45-minütigen E-Learning „KI-Grundlagen" bis zum individuellen Coaching für Ihre spezifischen Use Cases – machen Sie Ihr Team rechtssicher und fit für die KI-Anforderungen der Zukunft. Jetzt mehr erfahren!
EU AI Act Glossar
Die wichtigsten Begriffe einfach erklärt
- Anbieter
Eine Person oder Organisation, die KI-Systeme entwickelt oder auf den Markt bringt. In L&D wären Sie ein Anbieter, wenn Ihr Team einen eigenen KI-Lernassistenten entwickelt oder ein bestehendes KI-Tool wesentlich anpasst.
- Betreiber
Eine Person oder Organisation, die KI-Systeme in ihrem Betrieb einsetzt. Die meisten L&D-Abteilungen sind Betreiber, wenn sie fertige KI-Tools wie ChatGPT für die Erstellung von Schulungsmaterialien oder KI-gestützte Lernplattformen verwenden.
- GPAI-Modelle (General Purpose AI)
GPAI-Modelle (General Purpose AI oder KI mit allgemeinem Verwendungszweck) sind flexible KI-Systeme, die viele verschiedene Aufgaben erledigen können - wie ein Schweizer Taschenmesser unter den KI-Programmen. Während spezialisierte KI nur eine Sache kann (etwa nur Fotos sortieren oder nur Texte übersetzen), können GPAI-Modelle gleichzeitig texten, rechnen, Bilder erstellen und Gespräche führen. ChatGPT ist ein typisches Beispiel: Es kann sowohl Gedichte schreiben als auch bei Mathematikaufgaben helfen oder Reisepläne erstellen. Der EU AI Act achtet besonders auf diese vielseitigen KI-Systeme, weil sie durch ihre breiten Einsatzmöglichkeiten größere Auswirkungen haben können. Die Anbieter solcher Alleskönner-KIs müssen deshalb besonders genau prüfen, ob ihre Systeme sicher sind und transparent erklären, was ihre KI kann und was nicht.
- Hochrisiko-KI-System
Eine KI-Anwendung mit erheblichen Risiken für Gesundheit, Sicherheit oder Grundrechte. In L&D fallen darunter KI-Systeme, die über berufliche Chancen entscheiden, wichtige Prüfungsergebnisse auswerten oder den Zugang zu Bildungsangeboten steuern.
- KI-Kompetenz
Das nötige Wissen und die Fähigkeiten, um KI-Systeme verantwortungsvoll einzusetzen, ihre Möglichkeiten und Grenzen zu verstehen und Risiken zu erkennen. Der EU AI Act verpflichtet Unternehmen, diese Kompetenz bei ihren Mitarbeitenden zu fördern.
- KI-System
Eine Software, die mit Techniken des maschinellen Lernens, logik- oder wissensbasierten Ansätzen oder statistischen Methoden entwickelt wurde und Inhalte, Vorhersagen, Entscheidungen oder Empfehlungen generieren kann, die das Verhalten von Menschen beeinflussen können.
Einfach erklärt: Stellen Sie sich den Unterschied wie bei zwei unterschiedlichen Köchen vor: Ein KI-System ist wie ein Koch, der aus Erfahrung lernt, sein Rezept ständig anpasst und bei jedem Gericht etwas Neues ausprobieren kann. Ein normales Computerprogramm hingegen folgt immer genau dem gleichen Rezept ohne Abweichungen.
Beispiele für KI-Systeme:
- ChatGPT, das verschiedene Antworten auf ähnliche Fragen geben kann
- Ein Programm, das personalisierte Musikempfehlungen je nach Ihrem Geschmack vorschlägt
- Ein Bewerbungsfilter, der eigenständig entscheidet, welche Kandidaten zum Vorstellungsgespräch eingeladen werden
Keine KI-Systeme nach dem EU AI Act sind:
- Ein einfacher Taschenrechner, der immer die exakt gleiche Antwort auf ´2+2` gibt
- Ein Navigationssystem, das nur vorprogrammierte Routen nutzt, ohne aus Verkehrsdaten zu lernen
- Ein Textverarbeitungsprogramm, das nur die Tastenanschläge des Nutzers umsetzt, ohne Textvorschläge zu machen
- Eine Website, die immer die gleichen Inhalte anzeigt und nicht personalisiert ist
Der Unterschied liegt vor allem darin, ob die Software selbst Inhalte oder Entscheidungen generieren kann, die nicht exakt vorprogrammiert wurden, und ob sie aus Daten lernt und sich weiterentwickelt.
- Menschliche Aufsicht
Sicherstellen, dass immer ein Mensch die Kontrolle über eine KI behält, ihre Entscheidungen verstehen und bei Bedarf eingreifen kann. Insbesondere bei Hochrisiko-KI muss diese Aufsicht gewährleistet sein.
- Verbotene KI-Praktiken
KI-Anwendungen, die grundsätzlich nicht erlaubt sind, weil sie zu riskant oder unethisch sind. Dazu gehören KI-Systeme zur Manipulation von Menschen, zur umfassenden sozialen Bewertung oder zur unbemerkten biometrischen Überwachung im öffentlichen Raum.
Weitere Fragen zur KI-Verordnung?
Stellen Sie diese einfach unserem EU AI Act Chatbot und navigieren Sie souverän durch den Gesetz-Dschungel.
Jacques Alomo
Head of AI Innovation
Machen Sie sich auf den Weg in die Zukunft
Neugierig, wie KI Ihre L&D-Strategie revolutionieren kann? Unser Team von KI-Experten steht bereit, um Ihnen zu helfen. Lassen Sie uns über Ihre Visionen, Herausforderungen und Ziele plaudern. Melden Sie sich noch heute – gemeinsam starten wir Ihre spannende KI-Reise!
Stand der Information: 10. April 2025
Hinweis: Diese Informationen zum EU AI Act stellen keine Rechtsberatung dar und ersetzen nicht die Beratung durch einen auf KI-Recht spezialisierten Rechtsanwalt. Die Inhalte wurden nach bestem Wissen und Gewissen zusammengetragen, erheben jedoch keinen Anspruch auf Vollständigkeit. Wir empfehlen, bei konkreten rechtlichen Fragen zum EU AI Act und seinen Auswirkungen auf Ihre L&D-Prozesse entsprechende juristische Expertise hinzuzuziehen.
