EU AI Act Summary: KI-Verordnung stellt Unternehmen vor neue Herausforderungen

Hochrisiko-KI-Systeme werden in zwei Kategorien unterteilt: Darunter fallen einerseits KI-Systeme, die in Produkten verwendet werden, die unter die Produktsicherheitsvorschriften der EU fallen. Andererseits handelt es sich auch um KI-Systeme, die in sensible Bereiche wie Gesundheit, Verkehr, Justiz oder Polizei fallen und die in einer EU-Datenbank registriert werden müssen. Bei Hochrisiko-KI-Systemen besteht insbesondere die Pflicht der Errichtung eines Risikomanagementsystems, der Aufzeichnung und Transparenz, der Erstellung einer technischen Dokumentation, der Pflicht zur Aufsicht durch Menschen und der Pflicht, dass diese KI-Systeme ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen.

KI Governance

Ein zentraler Aspekt ist dabei die sogenannte KI-Governance. Diese beschreibt die Gesamtheit der Maßnahmen, die den ethischen und rechtlichen Einsatz von Künstlicher Intelligenz gewährleisten. Transparenz, Fairness und die Einhaltung von Datenschutzbestimmungen sind hier entscheidend. 

Für Unternehmen bedeutet dies, dass die Funktionsweise ihrer KI-Systeme nachvollziehbar gestaltet sein muss, um Vertrauen bei Nutzern und Behörden zu schaffen. Darüber hinaus müssen mögliche Verzerrungen in den Algorithmen aktiv verhindert und Sicherheitslücken vermieden werden. Dies kann nur durch die regelmäßige Schulung der Mitarbeiter und durch klare Richtlinien gelingen. Die richtige Governance trägt somit wesentlich dazu bei, dass die Vorteile von KI ausgeschöpft werden können, während Risiken kontrolliert bleiben.

GPAI-Systeme (General Purpose AI) sind KI-Systeme mit allgemeinem Verwendungszweck. Anbieter von GPAI-Systemen müssen spezielle Anforderungen erfüllen, wie die Erstellung und Aktualisierung von Informationen und Dokumentationen sowie die Einhaltung des Urheberrechts. GPAI-Systeme sind der allgemeinen Risikoklassifizierung zugänglich und unterliegen den entsprechenden Anforderungen.

Nach der KI-Verordnung sind KI-Systeme, 

• die für die Einstellung oder Auswahl natürlicher Personen verwendet werden sollen (z.B. Analyse und Filterung von Bewerbungen, Bewertung von Bewerbern)
• die dazu bestimmt sind, Entscheidungen zu treffen, die sich insbesondere auf die Beendigung und die Bedingungen von Arbeitsverhältnissen auswirken

als Hochrisiko-KI-Systeme einzustufen. Insoweit treffen den Nutzer bzw. Betreiber von KI-Systemen, ebenso wie Anbieter, Importeure, Händler oder Hersteller von KI-Systemen besondere Pflichten.

Mitbestimmungsrechte des Betriebsrates

Dem Arbeitgeber steht es zu, das „Ob“ der Einführung von KI im Arbeitsverhältnis zu bestimmen. Bei dem „Wie“ sind jedoch die Mitbestimmungsrechte des Betriebsrates zu berücksichtigen. Insbesondere sieht § 87 Abs. 1 Nr. 6 BetrVG ein Mitbestimmungsrecht bei der Einführung und Anwendung von technischen Einrichtungen, die objektiv dazu geeignet sind, Verhalten oder Leistung der Arbeitnehmer zu überwachen, vor.

Wenn der Betriebsrat zur Durchführung seiner Aufgaben die Einführung und Anwendung von KI beurteilen muss, so hat er das Recht, einen Sachverständigen heranzuziehen. Der Arbeitgeber hat den Betriebsrat über die Planung des Einsatzes von KI so frühzeitig wie möglich zu unterrichten.

Diskriminierung

Auch durch die Verwendung von KI-Systemen sind Diskriminierungen – ebenso wie durch menschliche Entscheidungen – möglich. Dies liegt daran, dass KI-Anwendungen von Menschen mit möglicherweise bereits nicht repräsentativen Trainingsdaten gefüttert werden und somit zu einer Ungleichbehandlung führen können. Doch wie kann dem juristisch begegnet werden? Schutz bietet auch hier das Allgemeine Gleichbehandlungsgesetz (AGG), wonach Beschäftigte weder unmittelbar noch mittelbar aufgrund der dort genannten Diskriminierungsmerkmale benachteiligt werden dürfen. Aufgrund der technologieneutralen Formulierung des AGG können hiervon auch Entscheidungen durch KI-Anwendungen erfasst sein. Im Fall einer Diskriminierung stehen dem Benachteiligten also Entschädigungs- und Schadensersatzansprüche aus dem AGG zu.

Höchstpersönlichkeit der Arbeitsleistung

Schon jetzt verwenden Arbeitnehmer KI-Anwendungen am Arbeitsplatz, wie DeepL zum Übersetzen oder Copilot / ChatGPT zum Verfassen von Texten. Jedoch hat der Arbeitnehmer seine Arbeitsleistung persönlich zu erbringen, er kann seine Arbeitsleistung also grundsätzlich nicht an Dritte delegieren. Fraglich ist somit, ob die Übertragung von Arbeitsaufgaben auf eine KI-Anwendung einen unzulässigen Einsatz einer Hilfsperson oder den zulässigen Einsatz eines Hilfsmittels darstellt.

Entscheidend dürfte hierbei sein, dass das Arbeitsergebnis durch den Arbeitnehmer hinreichend auf Fehlerhaftigkeit geprüft und nicht ungeprüft als sein eigenes Arbeitsprodukt ausgegeben wird. Vor diesem Hintergrund empfiehlt es sich, betriebsinterne Richtlinien zum Umgang mit KI-Anwendungen zu erstellen und die Mitarbeiter diesbezüglich zu schulen.