Am 12. Juli 2024 wurde die europäische Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz („KI-Verordnung“) im Amtsblatt der Europäischen Union veröffentlicht. Wie alle europäischen Verordnungen gilt auch diese Verordnung direkt und unmittelbar in Deutschland. Es wird daher kein nationales Umsetzungsgesetz geben, alle Vorgaben finden sich ausschließlich in der KI-VO.

Ziele der KI-VO
Mit dieser Verordnung will die EU einen einheitlichen Rechtsrahmen für den Einsatz von KI-Systemen schaffen. Damit soll zugleich ein hohes Schutzniveau im Hinblick auf Gesundheit und Sicherheit sowie bezüglich der in der Charta der Grundrechte der Europäischen Union verankerten Grundrechte gewährleistet werden. Die EU will so einerseits vor schädlichen Auswirkungen der KI schützen, andererseits aber auch entsprechende Innovationen fördern.

KI-System als Schlüsselbegriff
Die KI-VO enthält folgende grundlegende Definition des von der KI-VO erfassten KI-Systems:

 „Ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können.“

Alle KI-Systeme, die unter diese recht weite Definition fallen, werden durch die KI-VO reguliert.

Risikobasierte Regulierung
Die KI-Systeme werden in der KI-Verordnung abhängig von ihrem jeweiligen Gefahrenpotenzial risikobasiert reguliert. Je höher der europäische Gesetzgeber das Risiko einschätzt, desto höher sind die Anforderungen an Anbieter, Hersteller, Betreiber, Einführer oder Händler solcher Systeme. Die KI-VO sieht folgende KI-Risikokategorien vor:

·         Verbotene Praktiken im KI-Bereich

·         Hochrisiko-KI-Systeme

·         KI-Systeme für direkte Interaktion

·         KI-Modelle mit allgemeinem Verwendungszweck

Die verbotenen Praktiken beinhalten ein inakzeptables Risiko im Hinblick auf die Grundwerte der Europäischen Union, etwa im Bereich der Menschenrechte. Die höchste akzeptable Risikokategorie bilden Hochrisiko-Systeme, die in Anhang III der Verordnung aufgeführt werden. Für diese Systeme gelten umfangreiche organisatorische Vorgaben für die betroffenen Unternehmen, etwa bezüglich der Governance, des Risikomanagements, der menschlichen Aufsicht und der grundrechtsbezogenen Folgenabschätzung. Die sonstigen KI-Systeme und KI-Modelle beinhalten nur ein moderates Risiko, so dass sich die Anforderungen an die betroffenen Unternehmen auf Transparenzpflichten beschränken.

Stufenweise Geltung
Die Vorschriften der KI-Verordnung gelten grundsätzlich ab dem 2. August 2026. Jedoch gelten einige Regelungen, die Unternehmen direkt betreffen, zum Teil bereits zuvor oder danach:

·         Ab dem 2. Februar 2025 gelten die Regelungen zu den verbotenen KI-Praktiken

·         Ab dem 2. August 2025 gelten die Regelungen für die Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

·         Ab dem 2. August 2027 gelten die Regelungen zurEinstufung von Sicherheitsbauteilen als Hochrisiko-KI-System

Sanktionen
Wie mittlerweile üblich, enthält auch diese Verordnung spürbare Sanktionen bei Verstößen gegen ihre Vorgaben. Die Sanktionshöhe hängt bei Bußgeldern davon ab, gegen welche Vorschrift das Unternehmen verstoßen hat. Sie reicht bei verbotenen KI-Praktiken bis zu 35 Mio. € und bei Verstößen gegen sonstige Vorgaben bis zu 15 Mio. €.

Bewertung
Die KI-VO bringt signifikante Anforderungen für die betroffenen Unternehmen mit sich. Angesichts der Komplexität der Regelungen und der Höhe der drohenden Sanktionen sollten sich betroffenen Unternehmen bereits jetzt mit den für sie, abhängig von ihrem Geschäftsmodell, jeweils geltenden Regelungen vertraut machen. Dabei und bei der Umsetzung der neuen Anforderungen in die Unternehmerpraxis unterstützen wir Sie gerne.

Detailinformationen zu den Auswirkungen der KI-VO auf einzelne Rechtsgebiete und unternehmerische Prozesse erhalten Sie zudem bei unserem regelmäßig stattfindenden KI-Lunch, zu dem Sie sich über diesen Link anmelden können.