Fit für den EU AI Act

Ja, wenn Sie ein KI-System betreiben oder Ihren Mitarbeitenden Zugriff auf ein KI-System anbieten. Laut Artikel 4 des EU AI Acts müssen Unternehmen sicherstellen, dass ihre Mitarbeitenden, die mit KI-Systemen arbeiten, über ausreichend Wissen und Fähigkeiten im Umgang mit KI verfügen.

Ja, aber die Schulungspflicht gilt nur für Unternehmen, die entweder KI-Programme einsetzen (wenn Mitarbeitende z. B. ein KI-Tool wie Chat GPT nutzen, um Texte zu schreiben) oder KI-Systeme selbst entwickeln (wie z. B. OpenAI mit ChatGPT oder ein SaaS-Anbieter, der KI in der eigenen Software integriert hat). Wenn Sie keine KI-Systeme bereitstellen, müssen Sie Ihre Mitarbeitenden auch nicht dazu schulen.

Theoretisch: Nein. Aber: Eine Studie von Microsoft und LinkedIn zeigt, dass 71% der Mitarbeitenden in Deutschland KI nutzen, ohne dass der Arbeitgeber diese bereitgestellt hat – auch genannt „Schatten-KI“. Die Wahrscheinlichkeit, dass Ihre Mitarbeitenden KI für die Arbeit nutzen, ist also sehr hoch. Hier ist eine KI-Schulung also dennoch ratsam – sehen Sie es nicht nur als lästige Pflicht an, sondern als Chance, Ihre Mitarbeitenden mit KI-Skills fit für die Zukunft zu machen und sich so einen echten Wettbewerbsvorteil zu sichern.

Art. 4 des EU AI Acts hat eher einen Appellcharakter, d.h. wenn Sie keine Schulungen anbieten, passiert erstmal nichts. Aber wenn Sie die Schulungen nicht durchführen, kann das als Verletzung Ihrer Sorgfaltspflicht gewertet werden, wenn ein Mitarbeitender einen „Schaden“ verursacht. Dies könnte rechtliche Folgen nach sich ziehen und Ihr Unternehmen haftbar machen, wenn Sie keine KI-Schulung nachweisen können.

Der Gesetzestext des EU AI Acts nennt derzeit keine spezifische Behörde. Allerdings können nationale Aufsichtsbehörden, wie die Bundesnetzagentur, zukünftig damit beauftragt werden.

Die Schulungen müssen grundlegende technische Kenntnisse, rechtliche Vorschriften und ethische Überlegungen im Umgang mit KI-Systemen vermitteln. Dies hilft den Mitarbeitenden, die KI-Systeme sicher und verantwortungsvoll zu nutzen.

Der EU AI Act legt kein genaues Datum fest, aber Unternehmen müssen die Schulungen so schnell wie möglich nach Inkrafttreten der Vorschriften durchführen. Ab dem 1. Februar 2025 müssen Unternehmen bereit sein, die Schulungen nachweisen zu können.

Der Gesetzestext gibt keine festen Intervalle vor, aber es wird empfohlen, die Schulungen regelmäßig zu wiederholen, um mit technologischen und rechtlichen Entwicklungen von KI Schritt zu halten.

Die Dokumentation der Schulungen ist Pflicht. Sie dient als Nachweis dafür, dass Ihr Unternehmen die gesetzlichen Anforderungen erfüllt. Diese Unterlagen sollten sorgfältig geführt und aufbewahrt werden, um im Falle einer Überprüfung vorzeigen zu können.

Die Unterscheidung zwischen Betreiber und Anbieter hängt von der Rolle Ihres Unternehmens in Bezug auf das KI-System ab.

Anbieter:

Ein Anbieter ist jemand, der ein KI-System entwickelt oder entwickeln lässt und es unter seinem eigenen Namen oder als Handelsmarke in Verkehr bringt oder in Betrieb nimmt. Zum Beispiel ist OpenAI ein Anbieter, weil es ChatGPT entwickelt hat und dieses System der Öffentlichkeit zur Verfügung stellt. Ein weiteres Beispiel wäre ein Unternehmen, das eine eigene KI-basierte Plattform als Software-as-a-Service (SaaS) anbietet. Auch wenn ein Unternehmen ein bestehendes KI-Modell in seine eigenen Produkte integriert und diese dann unter seinem Namen vermarktet, gilt es als Anbieter. youknow ist zum Beispiel ein Anbieter, da wir das KI-Modell von OpenAI in unser Autorentool knowtion integriert haben.

Anbieter haben eine umfassendere Verantwortung als Betreiber, da sie für die Entwicklung und den Vertrieb des KI-Systems verantwortlich sind, einschließlich der technischen Dokumentation, der Sicherheitsvorschriften und der Konformitätserklärungen.

Betreiber:

Ein Betreiber ist jemand, der ein KI-System unter seiner eigenen Verantwortung für berufliche Zwecke nutzt. Beispielsweise wäre ein Unternehmen, das eine Lizenz für ChatGPT erwirbt und seine Mitarbeitenden diese nutzen lässt, der Betreiber dieses KI-Systems. Ein weiteres Beispiel wäre ein Unternehmen, das ein KI-System intern zur Automatisierung von Prozessen einsetzt, wie etwa einen KI-basierten Chatbot für den Kundenservice. Der Betreiber muss sicherstellen, dass das KI-System regelkonform verwendet wird und dass das Personal gut geschult ist.

Betreiber sind hauptsächlich dafür verantwortlich, das KI-System in Übereinstimmung mit den gesetzlichen Anforderungen und unter Berücksichtigung der Sicherheit und Ethik zu nutzen. Ihre Pflichten konzentrieren sich auf den Betrieb und die Schulung des Personals, das mit dem KI-System arbeitet.