Der EU AI Act

Die vier Risikoklassen des EU AI Acts

Was sie für L&D bedeuten

Der risikobasierte Ansatz des EU AI Acts teilt KI-Systeme in vier Kategorien ein – von verboten bis minimales Risiko. Diese Einstufung bestimmt, welche rechtlichen Anforderungen für Ihre L&D-Tools gelten:

Verbotene KI-Systeme im Learning & Development

Bestimmte KI-Anwendungen sind in der EU grundsätzlich verboten, auch um Bildungs- und Trainingsbereich, weil sie gegen fundamentale Grundrechte verstoßen oder unvertretbare Risiken für Personen bergen:

• KI-Lernsysteme, die Mitarbeitende basierend auf ihrem sozialen Verhalten außerhalb des Arbeitsplatzes bewerten und dadurch Karrieremöglichkeiten einschränken ("Social Scoring")
• KI-Tools, die in Schulungsräumen oder bei digitalen Trainings biometrische Echtzeit-Erkennung zur unbemerkten Überwachung der Teilnehmenden einsetzen
• Lernplattformen, die unbewusste unterschwellige Techniken nutzen, um das Verhalten der Lernenden zu manipulieren oder psychologischen Druck auszuüben
• Adaptive Lernsysteme, die gezielt Schwachstellen vulnerabler Gruppen (z.B. ältere Mitarbeitende, Personen mit Lernschwierigkeiten) ausnutzen, um sie zu benachteiligen oder zu beeinflussen
• Gamifizierte Lernumgebungen, die so konzipiert sind, dass sie Menschen mit bestimmten psychischen Eigenschaften abhängiges Verhalten oder unverhältnismäßigen Leistungsdruck vermitteln

L&D-Relevanz: Prüfen Sie kritisch, dass Ihre Lern- und Assessment-Tools keine verbotenen Techniken wie unbewusste Manipulation, missbräuchliche Emotionserkennung oder diskriminierendes Social Scoring enthalten.

Hochrisiko-KI-Systeme in der Personalentwicklung

Diese KI-Systeme müssen strenge regulatorische Anforderungen erfüllen, da sie erhebliche Auswirkungen auf die Gesundheit, Sicherheit oder Grundrechte von Personen haben können:

• HR- und Personalmanagement-Tools (z.B. KI-Systeme für Einstellungsentscheidungen, Beförderungen oder Kündigungen)
• Bildungs- und Berufsbildungsanwendungen (z.B. automatisierte Bewertung von Tests oder Lernleistungen mit Karriereauswirkungen)
• KI-Systeme, die zur Teilnehmerauswahl für Fortbildungsprogramme oder Talentförderungsinitiativen eingesetzt werden und damit berufliche Entwicklungschancen beeinflussen
• KI-Anwendungen, die automatisiert Kompetenzen bewerten und daraus Entscheidungen über Zugang zu Expertenwissen oder Spezialisierungen ableiten

L&D-Relevanz: Viele fortschrittliche L&D-Tools, die Mitarbeitende bewerten, Karriereempfehlungen geben oder Entscheidungen über Entwicklungspfade treffen, fallen in diese Kategorie mit umfassenden Compliance-Anforderungen.

KI-Systeme mit Transparenzpflichten in der Mitarbeiterentwicklung

Diese KI-Anwendungen müssen klar und unmissverständlich kennzeichnen, dass eine Interaktion mit künstlicher Intelligenz stattfindet oder Inhalte KI-generiert wurden:

• Chatbots, virtuelle Assistenten und interaktive Lernbegleiter
• KI-generierte oder -manipulierte Inhalte wie Texte, Bilder oder Videos („Deepfakes")
• Personalisierte Empfehlungssysteme für Lernressourcen oder Entwicklungspfade

L&D-Relevanz: Ihre digitalen Lernassistenten, KI-Coaches und automatisch erstellten Lernmaterialien müssen für Nutzende klar als KI-generiert oder KI-unterstützt gekennzeichnet sein, um Transparenzpflichten zu erfüllen.

KI mit minimalem Risiko in L&D-Anwendungen

Die meisten einfacheren KI-Anwendungen fallen unter diese Kategorie und unterliegen keinen spezifischen Verpflichtungen des EU AI Acts, sondern nur allgemeinen Grundsätzen:

• Einfache Textanalyse- und Klassifikationstools ohne personenbezogene Entscheidungen
• Grundlegende KI-gestützte Lernanwendungen wie Quizzes oder interaktive Übungen
• Standard-Rechtschreib- und Grammatikkorrekturtools in Lernplattformen
• Einfache, nicht personalisierte Inhaltsempfehlungssysteme für Trainingsmaterialien

L&D-Relevanz: Auch bei diesen Systemen mit minimalem regulatorischen Risiko sollten Sie auf Datenschutz, Fairness und ethische Aspekte achten, um Best Practices zu implementieren – auch wenn keine spezifischen gesetzlichen Vorgaben bestehen.

KI-Kompetenz nach Artikel 4 EU AI Act:

Schlüsselanforderung für L&D

Der EU AI Act betont in Artikel 4 ausdrücklich die fundamentale Bedeutung von KI-Kompetenz für alle beteiligten Akteure – und hier kommen Learning & Development-Teams ins Spiel, denn Bildung und Weiterbildung sind der Schlüssel zur Erfüllung dieser zentralen Anforderung.

Was bedeutet KI-Kompetenz nach dem EU AI Act?

KI-Kompetenz umfasst das strukturierte Wissen, die praktischen Fähigkeiten und das kritische Verständnis, um:

• KI-Systeme verantwortungsvoll, sicher und rechtmäßig einzusetzen
• Die Chancen, Risiken und Grenzen von KI-Anwendungen zu verstehen und zu kommunizieren
• Fundierte, ethisch reflektierte Entscheidungen über den Einsatz und die Ausgestaltung von KI zu treffen
• Kritisch und faktenbasiert mit KI-generierten Ergebnissen und Empfehlungen umzugehen
• Ethische Aspekte und Grundrechtsfragen bei der KI-Nutzung angemessen zu berücksichtigen

Welche Personengruppen müssen KI-Kompetenz aufbauen?

Die Anforderung zur Entwicklung und Förderung von KI-Kompetenz richtet sich an verschiedene Zielgruppen in Unternehmen:

• Führungskräfte und Entscheider, die strategische Entscheidungen über den Einsatz von KI treffen
• Fachkräfte und Mitarbeitende, die regelmäßig mit KI-Systemen arbeiten oder deren Outputs verwenden
• IT- und Entwicklungsteams, die KI-Systeme implementieren, anpassen oder warten
• Endnutzerinnen und Endnutzer, die mit KI-Systemen interagieren oder von deren Entscheidungen betroffen sind
• Compliancebeauftragte und Qualitätsmanager, die die Einhaltung der KI-Regularien sicherstellen müssen

Welche Konsequenzen drohen bei mangelnder KI-Kompetenz?

Die Förderung von KI-Kompetenz nach Artikel 4 des EU AI Acts ist zwar eine verbindliche Anforderung, hat aber in der Praxis eher empfehlenden Charakter. Anders als bei direkten Verstößen gegen konkrete technische Vorgaben sind hier noch keine unmittelbaren Bußgelder vorgesehen. Das bedeutet jedoch nicht, dass Sie diese Bestimmung ignorieren sollten.

Das eigentliche Risiko entsteht im Schadensfall: Wenn ein nicht ausreichend geschulter Mitarbeiter durch fehlerhafte Nutzung eines KI-Systems einen Schaden verursacht, könnte Ihrem Unternehmen eine Verletzung der allgemeinen Sorgfaltspflicht vorgeworfen werden. In solchen Fällen kann der fehlende Nachweis systematischer KI-Schulungen als Unterlassen angemessener Vorsorgemaßnahmen gesehen werden und haftungsrechtliche Konsequenzen nach sich ziehen.

Daher empfiehlt es sich, KI-Kompetenzaufbau nicht nur als formale Anforderung zu sehen, sondern als wichtigen Schutz vor rechtlichen und finanziellen Risiken. Ein dokumentiertes Schulungskonzept dient im Ernstfall als wichtiger Nachweis, dass Sie Ihre Sorgfaltspflichten ernst genommen haben.