Am 12. Juli 2024 wurde die europäische Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz („KI-Verordnung“) im Amtsblatt der Europäischen Union veröffentlicht. Die Vorschriften der KI-Verordnung gelten grundsätzlich ab dem 2. August 2026. Einige Regelungen gelten zum Teil bereits zuvor oder danach.
Ziele und Inhalte
Mit dieser Verordnung will die EU einen einheitlichen Rechtsrahmen für den Einsatz von KI-Systemen schaffen. Damit soll zugleich ein hohes Schutzniveau im Hinblick auf Gesundheit und Sicherheit sowie bezüglich der in der Charta der Grundrechte der Europäischen Union verankerten Grundrechte gewährleistet werden. Die KI-VO enthält erstmals eine grundlegende Definition des von der KI-VO erfassten KI-Systems.
Risikobasierte Regulierung
Die KI-Systeme werden in der KI-Verordnung abhängig von ihrem jeweiligen Gefahrenpotenzial risikobasiert reguliert. Je höher der europäische Gesetzgeber das Risiko einschätzt, desto höher sind die Anforderungen an Anbieter, Hersteller, Betreiber, Einführer oder Händler solcher Systeme. Die KI-VO sieht folgende KI-Risikokategorien vor: 1. Verbotene Praktiken im KI-Bereich, 2. Hochrisiko-KI-Systeme, 3. KI-Systeme für direkte Interaktion und 4. KI-Modelle mit allgemeinem Verwendungszweck. Die verbotenen Praktiken beinhalten ein inakzeptables Risiko im Hinblick auf die Grundwerte der Europäischen Union, etwa im Bereich der Menschenrechte. Die höchste akzeptable Risikokategorie bilden Hochrisiko-Systeme, die in Anhang III der Verordnung aufgeführt werden. Für diese Systeme gelten umfangreiche organisatorische Vorgaben für die betroffenen Unternehmen, etwa bezüglich der Governance, des Risikomanagements, der menschlichen Aufsicht und der grundrechtsbezogenen Folgenabschätzung.
Versicherungsspezifische Aspekte
In Anhang III zur KI-VO werden KI-Systeme, die bestimmungsgemäß für die Risikobewertung und Preisbildung in Bezug auf natürliche Personen in der von Lebens- und Krankenversicherung verwendet werden, als Hochrisiko-KI-Systeme eingestuft. Hier befürchtet der Unionsgesetzgeber „finanzielle Ausgrenzung und Diskriminierung“. Bei sonstigen KI-Systemen und KI-Modellen bei anderen Prozessen in den beiden Sparten Leben und Kranken sowie bei Unternehmen anderer Sparten beschränken sich die Anforderungen auf Transparenzpflichten. Daneben müssen von allen Versicherungsunternehmen nicht nur die Anforderungen der KI-VO, sondern zugleich die versicherungsaufsichtsrechtlichen Regelungen und Anforderungen für die Unternehmensführung und das Risikomanagement beachtet werden, die im Versicherungssektor auch für den Einsatz von KI-Systemen gelten.
Sanktionen
Wie mittlerweile üblich, enthält auch diese Verordnung spürbare Sanktionen bei Verstößen gegen ihre Vorgaben. Die Sanktionshöhe hängt bei Bußgeldern davon ab, gegen welche Vorschrift das Unternehmen verstoßen hat. Sie reicht bei verbotenen KI-Praktiken bis zu 35 Mio. € und bei Verstößen gegen sonstige Vorgaben bis zu 15 Mio. €.
Bewertung
Die KI-VO bringt speziell im Bereich Leben und Kranken, aber auch für die anderen Versicherungsunternehmen signifikante Anforderungen mit sich. Angesichts der Komplexität der Regelungen und der Höhe der drohenden Sanktionen sollten sich betroffenen Unternehmen bereits jetzt mit den für sie, abhängig von ihrem Geschäftsmodell, jeweils geltenden Regelungen vertraut machen. Dabei und bei der Umsetzung der neuen Anforderungen in die Unternehmerpraxis unterstützen wir Sie gerne.
Außerdem bieten wir am 17. September 2024 von 13:00 Uhr bis 13:30 Uhr einen kostenlosen virtuellen KI-Lunch speziell für die Versicherungsbranche an, zu dem Sie sich über diesen Link anmelden können. Dort werden wir die branchenspezifischen Vorgaben näher beleuchten und praktische Anwendungsfälle des KI-Einsatzes behandeln.
2025
Private Unfallversicherungen, aber auch „neuere“ Versicherungsformen wie Dread-Disease- oder Existenzsicherungsversicherungen, sehen häufig Leistungsansprüche vor, wenn unfall- oder krankheitsbedingt eine bestimmte Pflegestufe nach dem Sozialgesetzbuch XI zuerkannt wurde. Ab dem Jahr 2017 wurden jedoch die Pflegestufen I bis III durch die Pflegegrade 1 bis 5 ersetzt. Es stellt sich daher die Frage, wie „Altverträge“ im Leistungsfall auszulegen sind, die noch auf die alten Pflegestufen abstellen.
Der EuGH hat mit Urteilen vom 22.10.2024 und 13.03.2025 entschieden, dass Bieter aus Drittstatten – also solchen Staaten, die nicht Mitglied der Europäischen Union sind – und solchen Staaten, die keine Übereinkünfte mit der Union im Bereich des öffentlichen Auftragswesens geschlossen haben, im Vergabeverfahren nur eingeschränkte Rechte besitzen.
Die Europäische Kommission hat ein förmliches Verfahren gegen SAP eingeleitet, um mögliche wettbewerbswidrige Praktiken des Software-Giganten zu untersuchen. Im Kern steht die Frage, ob SAP im Europäischen Wirtschaftsraum eine marktbeherrschende Stellung auf dem Anschlussmarkt für Support und Wartung für die von SAP lizenzierte Software ERP (Enterprise Resource Planning) missbraucht hat.
Die Europäische Kommission sowie nationale Kartellbehörden können von Unternehmen Auskünfte einholen oder Unterlagen anfordern, die sie zur Erfüllung ihrer behördlichen Aufgaben benötigen. Im Zusammenhang mit Fusionskontrollverfahren werden regelmäßig Auskünfte dazu eingeholt, welche wettbewerblichen Auswirkungen ein Zusammenschluss aus Sicht der betroffenen Marktakteure hat. Auch im Rahmen von kartellbehördlichen Ermittlungsverfahren, wenn beispielsweise der Verdacht kartellrechtswidriger Praktiken im Raum steht, können Auskunftsersuchen zu Zwecken der Sachverhaltsaufklärung an Unternehmen gerichtet werden. Befragt werden können dabei nicht nur die im Zentrum der Ermittlung stehenden Unternehmen, sondern auch andere Marktteilnehmer.
Das Oberlandesgericht Brandenburg hat in einem Hinweisbeschluss vom 08.01.2025 zu den Voraussetzungen einer erfolgreichen Insolvenzanfechtung von Rechtsanwaltshonoraren Stellung genommen. Der Insolvenzverwalter des von der Rechtsanwaltskanzlei vertretenen Unternehmens hatte auf Rückzahlung der von der Kanzlei zwischen Januar 2018 und September 2019 vereinnahmten Beratungs- und Prozessvertretungshonorare geklagt. Die Kanzlei argumentierte, ihre Mandantin sei in dem genannten Zeitraum, jedenfalls in wesentlichen Teilen des Zeitraums, nicht zahlungsunfähig gewesen und habe auch ihre drohende Zahlungsunfähigkeit nicht erkannt gehabt. Auch sie selbst habe zu keinem Zeitpunkt eine drohende Zahlungsunfähigkeit angenommen, die mit der Mandantin getroffenen Ratenzahlungsvereinbarungen seien üblich. Der Kanzlei bekannte betriebswirtschaftliche Auswertungen hätten keinen Anlass zur Annahme einer Zahlungsunfähigkeit oder Unwirtschaftlichkeit der eigenen Mandantin gegeben.
