Das EU-KI-Gesetz kommt – Ist Ihr Unternehmen KI-ready?

Das „Gesetz über Künstliche Intelligenz“ der Europäischen Union wird aller Voraussicht nach in Kürze verabschiedet und sieht bis zu seiner Geltung teilweise nur eine Übergangsfrist von einem Jahr vor.

Am 8.12.2023 wurde zwischen dem Rat der EU und dem Europäischen Parlament zum KI-Gesetz eine vorläufige Einigung erzielt. Das KI-Gesetz regelt nur einige, jedoch besonders relevante Aspekte des Einsatzes Künstlicher Intelligenz (KI). So werden besondere Anforderungen an „Hochrisiko-KI-Systeme“ gestellt, unter die bspw. KI-Systeme fallen, die zur Beeinflussung des Wahlergebnisses und des Wählerverhaltens eingesetzt werden. Bestimmte KI-Systeme wie biometrische Kategorisierungssysteme, die sensible Merkmale wie etwa religiöse Überzeugungen verwenden, sollen verboten werden. KI-Systeme mit allgemeinem Verwendungszweck („general-purpose AI“ – GPAI) und die GPAI-Modelle, auf denen sie beruhen, müssen bestimmte Transparenzanforderungen erfüllen und das EU-Urheberrecht einhalten.

Ergänzend zum KI-Gesetz werden zwei Richtlinienvorschläge der EU zur Regelung der KI- und IT-Haftung diskutiert, nämlich die „Richtlinie über KI-Haftung“ und die Reform der Produkthaftungsrichtlinie. IT-Produkte bzw. Software einschließlich KI-Systemen und verbundener Dienste sollen künftig der Produkthaftung unterliegen.

Der Einsatz generativer KI-Systeme in Unternehmen hat in den letzten Monaten rapide zugenommen. Da das künftige KI-Gesetz auch für Nutzer von KI-Systemen gilt, sollten bereits jetzt und spätestens mit Geltung des KI-Gesetzes Unternehmen, die KI einsetzen, prüfen, ob sie sich rechtskonform verhalten und welchen Risiken sie ausgesetzt sind. Darunter fallen insbesondere:

– Risiko einer Urheberrechtsverletzung sowohl in Bezug auf den Input bzw. Prompt als auch hinsichtlich des Outputs

– Einhaltung des Datenschutzrechts, wenn in generative KI-Systeme personenbezogene Daten eingegeben und durch diese verarbeitet werden

– Abschätzung der Haftungsrisiken beim Einsatz von KI-Systemen, etwa im Falle eines fehlerhaften Outputs, der durch das Unternehmen verwendet wird

– Beachtung von Transparenzanforderungen des KI-Gesetzes

– Prüfung der Vertragsbedingungen des Anbieters des KI-Systems