Das Europäische Parlament hat eine KI-Verordnung beschlossen. Was ist darin geregelt und was bringt sie für die Mitbestimmung – und was nicht?
von Tim Hühnert, Referatsleiter Recht, DGB Bundesvorstand
Am 13.03.2024 hat das EU-Parlament mit großer Mehrheit „die Verordnung zur Festlegung Harmonisierter Vorschriften für Künstliche Intelligenz“ (KI-VO) beschlossen. Damit kommt nun ein fast dreijähriges Gesetzgebungsverfahren zu seinem Abschluss.
Was regelt die KI-Verordnung?
Die KI-VO will die Einführung von KI-Systemen in Europa fördern und gleichzeitig ein hohes Niveau des Schutzes von Gesundheit, Sicherheit, von den in der Charta verankerten Grundrechten, einschließlich der Demokratie, der Rechtsstaatlichkeit und des Umweltschutzes, vor schädlichen Auswirkungen von Systemen der künstlichen Intelligenz.
Um das zu gewährleisten, werden die KI-Systeme nach ihrem möglichen Risiko für die oben genannten Rechtsgüter eingeteilt. Einzelne Systeme mit besonders hohem, nicht akzeptablem Risiko sollen daher in der EU verboten sein, so etwa das „Social Scoring“ oder auch Emotionserkennungssysteme am Arbeitsplatz.
Systeme mit einem hohen Risiko müssen besondere Anforderungen erfüllen, damit sie in der EU eingeführt und eingesetzt werden dürfen. Die KI-VO legt Bereiche fest, die als Hochrisiko-Bereiche gelten, so etwa der Bereich Beschäftigung. KI-Systeme, die hier eingesetzt werden sollen, gelten aber dann nicht als mit hohem Risiko behaftet, wenn sie kein erhebliches Risiko für die Gesundheit, die Sicherheit oder die Grundrechte natürlicher Personen darstellen.
Was gilt für Hochrisiko-Systeme?
Die KI-VO unterscheidet zwischen Anbietern von KI-Systemen und Anwendern. Letztere dürften vor allem Arbeitgeber sein, die das KI-System zwar einsetzen wollen, es aber nicht selbst entwickelt haben. Die Verordnung sieht vor allem Pflichten für die Anbieter von Hochrisiko-Systemen vor. So müssen sie ein Risikomanagement-System einrichten, um mögliche Risiken zu erkennen und Gegenmaßnahmen zu ergreifen.
Die Systeme müssen so konzipiert sein, dass ihre Funktionsweise transparent ist, damit die Anwender die Ergebnisse des Systems interpretieren und angemessen nutzen können. Auch müssen die Systeme von Menschen beaufsichtigt werden können.
Als Nachweis, dass das KI-System die Anforderungen der Verordnung erfüllt, muss der Anbieter, eine Konformitätsbewertung durchführen lassen, bevor er ein solches System in den Verkehr bringt. Die Bewertung erfolgt entweder durch eine externe Kontrolle durch eine „notifizierte Stelle“, also eine objektive Stelle, die die Konformität überprüft, oder im Rahmen einer internen Kontrolle.
Welche Pflichten treffen die Arbeitgeber als Anwender?
Arbeitgeber als Anwender eines Hochrisiko-Systems müssen sicherstellen, dass das KI-System entsprechend der Gebrauchsanweisung des Anbieters verwendet wird. Es soll sichergestellt werden, dass die geforderte menschliche Aufsicht von Personen durchgeführt wird, die über die erforderliche Kompetenz, Ausbildung und Autorität verfügen und dass sie die nötige Unterstützung erhalten.
Vor Einführung des Systems ist eine zwingende grundrechtliche Folgenabschätzung vorgesehen. Dies gilt aber nur für Einrichtungen des öffentlichen Rechts oder private Betreiber, die öffentliche Dienstleistungen erbringen. Eine zwingende grundrechtliche Folgenabschätzung für alle Arbeitgeber, die ein Hochrisiko-System einführen wollen, ist nicht vorgesehen.
Explizit für die Einführung von Hochrisiko-Systemen am Arbeitsplatz ist geregelt, dass der Anwender vor Einführung des Systems die Beschäftigtenvertreter, also den Betriebsrat, und die betroffenen Arbeitnehmer darüber informieren muss, dass sie vom System betroffen sein werden.
Was ändert sich für Betriebsräte durch die KI-Verordnung?
Abgesehen von der Informationspflicht vor Einführung eines Hochrisiko-Systems am Arbeitsplatz schafft die Verordnung keine Regelungen für das Arbeitsverhältnis. Dies soll den Nationalstaaten überlassen werden. Dafür wurde eine Öffnungsklausel eingeführt, wonach die einzelnen Mitgliedstaaten Regelungen treffen dürfen, die einen besseren Schutz für Arbeitnehmer*innen vorsehen.
Dies betrifft sowohl bereits bestehende Regelungen als auch zukünftige. Diese Öffnungsklausel ist als Aufforderung an die nationalen Gesetzgeber anzusehen, eigene Regelungen für die Einführung und Nutzung von KI-Anwendungen in der Arbeitswelt zu überprüfen und weiterzuentwickeln.
Für die Betriebsverfassung haben wir mit unserem Reformvorschlag schon konkrete Vorschläge gemacht. Um die Arbeitnehmer*innen bei der Einführung von KI-Systemen besser schützen zu können, soll es ein Mitbestimmungsrecht bei Maßnahmen zum Schutz der Würde und der Persönlichkeitsrechte Einzelner (§ 87 Abs. 1 Nr. 6a BetrVG-E) und bei Maßnahmen des betrieblichen Datenschutzes (§ 87 Abs. 1 Nr. 6b BetrVG-E) geben.
Insbesondere brauchen Betriebsräte – gerade bei KI-Systemen – die Möglichkeit, prozedurale Vereinbarungen zu treffen; und dies nicht nur als freiwillige Möglichkeit, sondern als erzwingbare Vereinbarung (§ 74a Abs. 4 BetrVG-E). Nur mit solchen Rahmenvereinbarungen können in der Praxis handhabbare Vereinbarungen getroffen werden.
Welche Rechte gibt die KI-Verordnung mir als Arbeitnehmer*in?
Die Verordnung sieht in ihrer jetzigen Fassung Betroffenenrechte vor, die im Ursprungsentwurf noch fehlten. So kann man als betroffene Person bei einem Verstoß gegen die Bestimmungen dieser Verordnung bei der zuständigen Behörde Beschwerde einreichen.
Außerdem wird das Recht auf Erläuterung der individuellen Entscheidungsfindung geschaffen. Demnach haben Personen, die von einer Entscheidung eines Hochrisiko-KI-Systems betroffen sind, das Recht, vom Anwender nachvollziehbare Informationen zur Rolle des KI-Systems im Entscheidungsverfahren und zu den wesentlichen Elementen der getroffenen Entscheidung zu verlangen.
Diese Betroffenenrechte stehen neben den bereits bestehenden Rechten aus der DSGVO auf Informationen über die erhobenen Daten, Löschung, Berichtigung etc.. Die Regelungen der DSGVO bleiben ausdrücklich von der KI-Verordnung unberührt.
Die Verordnung im Wortlaut (deutsch)
Neueste Kommentare