Am 1. August 2024 ist die EU-Verordnung 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-VO) in Kraft getreten. Die Verordnung soll einen sicheren und verantwortungsvollen Einsatz von KI in der EU gewährleisten und setzt umfassende Anforderungen für Unternehmen, die KI-Systeme entwickeln, bereitstellen oder nutzen. Die Anwendung der einzelnen Bestimmungen erfolgt jedoch gestaffelt:
- Ab dem 2. Februar 2025: Kapitel I (Allgemeine Bestimmungen) und Kapitel II (Verbotene Praktiken im KI-Bereich) treten in Kraft. Dies umfasst unter anderem das Verbot bestimmter KI-Praktiken und die Verpflichtung zur Sicherstellung der KI-Kompetenz.
- Ab dem 2. August 2025: Weitere Regelungen, insbesondere für Anbieter von allgemeinen KI-Modellen, sowie Sanktionsbestimmungen werden wirksam.
- Ab dem 2. August 2026: Es gelten grundsätzlich alle Regelungen der KI-VO, die nicht ausdrücklich zu einem anderen Zeitpunkt anwendbar werden. So etwa die Pflichten der Betreiber von Hochrisiko-KI-Systemen. wie Transparenz- und Berichtspflichten.
- Ab dem 2. August 2027: Regelungen zur Einstufung bestimmter Hochrisikosysteme werden anwendbar.
Artikel 4 KI-VO: Sicherstellung der KI-Kompetenz
Artikel 4 der KI-Verordnung verpflichtet Anbieter und Betreiber von KI-Systemen Maßnahmen zu ergreifen, um nach besten Kräften sicherzustellen, dass alle Personen, die mit dem Betrieb, der Entwicklung oder der Nutzung von KI-Systemen betraut sind, über die erforderliche KI-Kompetenz verfügen.
Dies umfasst:
- Technische Kenntnisse: Verstehen der Funktionsweise von KI-Systemen und deren Algorithmen.
- Erfahrung im spezifischen Einsatzkontext: Schulung und praktische Anwendung von KI in branchenspezifischen Szenarien.
- Bewusstsein für Risiken und Chancen: Vermittlung von Wissen über mögliche ethische und rechtliche Konsequenzen.
Ziel ist es, dass Unternehmen nicht nur die Sicherheit und Wirksamkeit ihrer Systeme gewährleisten, sondern auch das Vertrauen von Nutzern und Kunden stärken. Anbieter und Betreiber von KI-Systemen müssen entsprechende Maßnahmen dokumentieren und nachweisen.
Artikel 3 Nr. 56 KI-VO: Definition der KI-Kompetenz
Gemäß Artikel 3 Nr. 56 wird KI-Kompetenz als die Fähigkeiten, Kenntnisse und das Verständnis definiert, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen der KI-Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen. Dies schließt ein:
- das Verständnis technischer, ethischer und rechtlicher Aspekte von KI,
- die Fähigkeit, Chancen und Risiken zu bewerten und
- den Umgang mit potenziellen Fehlfunktionen oder Missbrauchsszenarien.
Dies unterstreicht, wie wichtig ein ganzheitlicher Ansatz für den Umgang mit KI ist, der über rein technische Aspekte hinausgeht.
Welche Maßnahmen jetzt sinnvoll sind
Die Einhaltung der KI-Verordnung erfordert gezielte Maßnahmen in verschiedenen Bereichen. Unternehmen sollten frühzeitig aktiv werden, um rechtliche Risiken zu minimieren und die neuen Anforderungen zu erfüllen. Auch wenn z.B. ein Verstoß gegen Art. 4 KI-VO weder bußgeld- noch strafbewehrt ist, so kann das Nichtergreifen entsprechender Maßnahmen im Schadensfall als Sorgfaltspflichtverletzung gewertet werden und zu einer Haftung des Unternehmens führen.
- Mitarbeiter regelmäßig schulen und weiterbilden
- Entwickeln Sie Schulungsprogramme, die auf die spezifischen Anforderungen Ihrer Branche zugeschnitten sind.
- Fördern Sie das Verständnis für technische, rechtliche und ethische Aspekte von KI-Systemen.
- Sensibilisieren Sie Mitarbeiter für die Risiken und Chancen von KI.
- Interne Richtlinien erstellen
- Legen Sie klare Regeln für die Entwicklung und Nutzung von KI-Systemen fest.
- Integrieren Sie ethische Prinzipien, wie Transparenz und Fairness, in Ihre Unternehmensrichtlinien.
- Berücksichtigen Sie auch Datenschutz- und IT-Sicherheitsanforderungen sowie arbeits- und mitbestimmungsrechtliche Aspekte.
- KI-Systeme bewerten und anpassen
- Überprüfen Sie bestehende Systeme auf ihre Konformität mit der KI-VO.
- Identifizieren Sie Schwachstellen und setzen Sie notwendige Verbesserungsmaßnahmen um.
- Dokumentieren Sie alle Änderungen, um bei Kontrollen Transparenz zu gewährleisten.
- Interdisziplinäre Teams einrichten
- Bringen Sie Experten aus verschiedenen Bereichen zusammen, darunter IT, Recht, Compliance und Ethik.
- Stellen Sie sicher, dass Entscheidungen zum KI-Einsatz aus verschiedenen Perspektiven betrachtet werden.
- Nutzen Sie diese Teams, um innovative und gleichzeitig rechtskonforme Lösungen zu entwickeln.
Fazit: Chancen und Verantwortung im Umgang mit KI
Die KI-Verordnung stellt nicht nur Herausforderungen dar, sondern bietet auch Chancen, den Einsatz von KI zu professionalisieren und nachhaltig zu gestalten.
Falls Sie Fragen zur Umsetzung der Anforderungen der KI-Verordnung oder zur rechtlichen Bewertung Ihrer KI-Systeme haben, steht Ihnen unser erfahrenes Team gerne zur Verfügung. Kontaktieren Sie uns, um eine individuelle Beratung zu erhalten. Unternehmen, die frühzeitig handeln, können nicht nur ihre Compliance sicherstellen, sondern auch einen Wettbewerbsvorteil erzielen. Mit der richtigen Strategie können sie das volle Potenzial der KI ausschöpfen und gleichzeitig das Vertrauen ihrer Kunden und Partner stärken.