Künstliche Intelligenz (KI) hat in den letzten Jahren eine rasante Entwicklung durchlaufen und ist zu einem zentralen Treiber für Innovation und Wettbewerbsfähigkeit geworden. Unternehmen aller Branchen nutzen KI, um Prozesse zu optimieren, Kosten zu senken, neue Geschäftsmodelle zu entwickeln und die Kundenerfahrung zu verbessern. Von der Automatisierung repetitiver Aufgaben bis hin zur Analyse großer Datenmengen (Big Data) bietet KI vielfältige Anwendungsmöglichkeiten.
Gleichzeitig birgt der Einsatz von KI rechtliche Risiken, die insbesondere für Geschäftsführer von großer Bedeutung sind. Geschäftsführer müssen sich nicht nur mit den technologischen Aspekten auseinandersetzen, sondern auch die rechtlichen Rahmenbedingungen im Blick behalten. Dieser Beitrag gibt einen Überblick über die wichtigsten rechtlichen Aspekte und Handlungsempfehlungen für den Einsatz von KI in Unternehmen und beleuchtet, worauf der Geschäftsführer bei der Einführung und Nutzung von KI achten muss und welche Haftungsrisiken entstehen können.
1. Einsatzmöglichkeiten von KI-Systemen
KI-Systeme können in verschiedenen Unternehmensbereichen eingesetzt werden, z. B.:
• Entscheidungsunterstützung: Automatisierte Auswertung von Daten zur Unterstützung strategischer Entscheidungen.
• Prozessautomatisierung: Optimierung von Produktionsabläufen oder Verwaltungsprozessen.
• Kundeninteraktion: Chatbots oder personalisierte Marketingstrategien.
• Risikomanagement: Früherkennung von betrieblichen Risiken oder Compliance-Verstößen.
Geschäftsführer und Vorstände sind verpflichtet, sich mit den technologischen Möglichkeiten auseinanderzusetzen und deren Einsatz im Rahmen ihrer Sorgfaltspflichten (§ 93 AktG, § 43 GmbHG) zu prüfen.
2. Rechtliche Rahmenbedingungen für den Einsatz von KI
Der Einsatz von KI unterliegt einer Vielzahl von rechtlichen Vorgaben, die sich aus unterschiedlichen Rechtsgebieten ergeben. Hierzu zählen insbesondere:
• Datenschutzrecht: Der Einsatz von KI-Systemen basiert meist auf der Verarbeitung großer Datenmengen, darunter auch personenbezogene Daten. Geschäftsführer müssen daher sicherstellen, dass etwa die Datenschutzgrundverordnung (DSGVO) eingehalten wird, das bedeutet, dass
Besondere Vorsicht ist geboten, wenn KI-Systeme sensible Daten (z. B. Gesundheitsdaten) verarbeiten. Hier können zusätzliche Anforderungen wie eine Datenschutz-Folgenabschätzungen erforderlich sein.
• Geistiges Eigentum und Urheberrecht: KI-Systeme können urheberrechtlich geschützte Werke erstellen oder nutzen. Geschäftsführer müssen daher klären, wer die Rechte an den durch KI generierten Inhalten besitzt und ob die Nutzung von Trainingsdaten urheberrechtlich zulässig ist. In anderen Worten:
• Diskriminierungsverbote: KI-Systeme sind nur so gut wie die Daten, mit denen sie trainiert werden. Enthalten die Trainingsdaten Vorurteile oder Diskriminierungen, können KI-Systeme unbeabsichtigt zu unfairen oder diskriminierenden Ergebnissen führen, z. B. bei der Personalauswahl oder Kreditvergabe. Geschäftsführer müssen daher sicherstellen, dass die KI Systeme fair und transparent arbeiten und keine gesetzlichen Diskriminierungsverbote verletzen. Geschäftsführer müssen hiernach darauf achten, dass
• Produkthaftung: Werden KI-Systeme in Produkte integriert, können produkthaftungsrechtliche Fragen relevant werden. Geschäftsführer müssen in diesen Fällen sicherstellen, dass die Produkte sicher sind und den geltenden Sicherheitsstandards entsprechen.
3. Haftungsrisiken für Geschäftsführer
Die Geschäftsführung trägt eine besondere Verantwortung für die Einhaltung der gesetzlichen Vorgaben im Unternehmen. KI-Systeme können Fehler machen, die zu Schäden bei Kunden, Mitarbeitern oder Dritten führen, sodass bei Verstößen gegen die rechtlichen Vorgaben persönliche Haftungsrisiken entstehen. Geschäftsführerinnen müssen sich daher bei KI-Einsätzen insbesondere mit Haftungsfragen auseinandersetzen, da sich die Haftung bei Fehlern von KI-Systemen aus verschiedenen Rechtsgrundlagen ergeben kann. Folgende Szenarien sind besonders relevant:
a) Organhaftung
Geschäftsführer haben die Pflicht, die Einhaltung aller gesetzlichen Vorgaben im Unternehmen zu überwachen und ihrer Sorgfaltspflicht nachzukommen, indem z. B. ausreichende Tests oder Sicherheitsvorkehrungen implementiert werden. Bei Verstößen gegen Sorgfalts- und Aufsichtspflichten kommt eine Haftung u. a. in Betracht, wenn:
• KI-Systeme ohne ausreichende Prüfung eingeführt werden;
• Fehlentscheidungen auf Basis fehlerhafter KI-Ergebnisse getroffen werden oder
• keine angemessene Überwachung der KI-Systeme erfolgt.
b) Haftung bei Verstößen gegen die DSGVO
Die Geschäftsführung kann persönlich haftbar gemacht werden, wenn sie ihrer Pflicht zur Einhaltung des Datenschutzes nicht nachkommt oder keine angemessenen Maßnahmen zur Datensicherheit ergreift. Verstöße gegen die DSGVO können zu hohen Bußgeldern führen, die bis zu 20 Mio. € oder 4 % des weltweiten Jahresumsatzes betragen können. Bei Schäden, die Dritten entstehen, kann eine deliktsrechtliche Haftung (z. B. bei Datenschutzverletzungen oder fehlerhaften KI-Empfehlungen) greifen.
c) Haftung bei Insolvenzverschleppung
Der Einsatz von KI kann erhebliche Investitionen erfordern. Wenn das Unternehmen aufgrund fehlgeschlagener KI-Projekte in finanzielle Schwierigkeiten gerät, können Geschäftsführer persönlich haften, wenn sie keine angemessenen Maßnahmen zur Sanierung oder Insolvenzantragstellung ergreifen (Insolvenzverschleppung).
d) Produkthaftung
Wenn KI-Systeme als Teil von Produkten eingesetzt werden, kann eine Haftung nach dem Produkthaftungsgesetz (ProdHaftG) in Betracht kommen, insbesondere bei Schäden, die Dritten entstehen.
e) Haftung des Unternehmens
Wenn KI-Systeme fehlerhafte Entscheidungen treffen und dadurch Vertragsverletzungen oder Schäden bei Kunden, Mitarbeitern oder Dritten entstehen, kann das Unternehmen selbst haftbar gemacht werden.
4. Ethische und gesellschaftliche Verantwortung
Der Einsatz von KI birgt nicht nur rechtliche, sondern auch ethische Herausforderungen. Geschäftsführerinnen sollten sich daher auch mit folgenden Fragen auseinandersetzen:
• Wie transparent sind die Entscheidungen der KI-Systeme (Stichwort: Explainable AI)?
• Werden ethische Grundsätze wie Fairness, Transparenz und Nachhaltigkeit bei der Entwicklung und Nutzung von KI beachtet?
• Wie wird mit der möglichen Verdrängung von Arbeitsplätzen durch KI umgegangen?
Unternehmen, die ethische Grundsätze in ihre KI-Strategie integrieren, können ihr Image stärken und das Vertrauen von Kunden und Partnern gewinnen.
5. Praktische Handlungsempfehlungen und Leitfaden für Geschäftsführer
Um Haftungsrisiken zu minimieren und den rechtssicheren Einsatz von KI zu gewährleisten, sollte die Geschäftsführung folgende Maßnahmen ergreifen:
• Einarbeitung in die Technologie: Die Funktionsweise der eingesetzten KI-Systeme und deren potenzielle Risiken sollten verstanden werden.
• Due Diligence bei der Einführung: Zuverlässigkeit und Qualität der KI-Systeme sollte geprüft und Expertengutachten zur Technologie eingeholt werden.
• Rechtliche Rahmenbedingungen prüfen: Die Geschäftsführung muss klären und sicherstellen, dass der Einsatz von KI mit geltendem Recht vereinbar ist (z. B. Datenschutz, Urheberrecht, Produkthaftung).
• Einhaltung der DSGVO: Datenschutz-Folgenabschätzungen sind durchzuführen und Systeme Datenschutz-by-Design und Privacy-by-Default implementiert werden.
• Dokumentation: Die Geschäftsführung sollte alle Entscheidungen und Prozesse im Zusammenhang mit dem Einsatz von KI dokumentieren.
• Transparenz schaffen: Kunden und Partnern muss erklärt werden, wie KI im Unternehmen eingesetzt wird und welche Vorteile dies bietet. Dabei muss sichergestellt werden, dass die Entscheidungsprozesse der KI nachvollziehbar und erklärbar sind („Explainable AI“).
• Risikomanagement: Ein Risikomanagement-System muss implementiert werden, um potenzielle Fehlentscheidungen der KI zu identifizieren und zu minimieren. Compliance und Leistung der KI-Systeme müssen regelmäßig und kontinuierlich auf Fehler oder Bias kontrolliert werden, indem regelmäßige Audits durchgeführt werden.
• Aktualisierung der KI-Systeme: Die Geschäftsführung muss sicherstellen, dass die KI-Systeme regelmäßig an neue rechtliche und technische Anforderungen angepasst werden.
• Schulung der Mitarbeiter: Mitarbeiter müssen im Umgang mit KI geschult werden und die rechtlichen Anforderungen kennen. Die Mitarbeiter müssen für die rechtlichen und ethischen Aspekte von KI sensibilisiert werden.
• Klare vertragliche Regelungen: Bei fehlerhaften Entscheidungen von KI-Systemen stellt sich die Frage, wer haftet: Hersteller, Betreiber oder Nutzer. Sofern zwischen den Parteien der Einsatz von KI-Systemen vereinbart wird, ist eine klare vertragliche Regelung zur Verschuldenshaftung zwischen den Parteien essenziell.
• Versicherungsschutz: Die Geschäftsführung sollte prüfen, ob bestehende Versicherungen (z. B. D&O-Versicherungen, Cyber- und Technologieversicherungen) Haftungsrisiken im Zusammenhang mit dem Einsatz einer KI abdecken.
6. Ausblick: Der EU AI Act und seine Bedeutung
Die Europäische Union arbeitet derzeit an einem neuen Rechtsrahmen für KI, den sogenannten EU AI Act. Dieser wird voraussichtlich verbindliche Anforderungen an die Entwicklung und den Einsatz von KI-Systemen aufstellen, insbesondere in Hochrisikobereichen wie der Personalauswahl, der Kreditvergabe oder der medizinischen Diagnostik. Geschäftsführer sollten die Entwicklungen im Blick behalten und sich frühzeitig auf die neuen Anforderungen vorbereiten.
7. Fazit: KI als strategischer Erfolgsfaktor
Künstliche Intelligenz (KI) bietet enorme Chancen für Unternehmen, stellt Geschäftsführer aber auch vor komplexe rechtliche und ethische Herausforderungen. Durch eine sorgfältige Planung, die Einhaltung der gesetzlichen Vorgaben, eine kontinuierliche Überwachung sowie ein effektives Risikomanagement können die Haftungsrisiken reduziert und die Vorteile von KI für das Unternehmen genutzt werden. Geschäftsführerinnen sollten den Einsatz von KI nicht nur als technologische, sondern auch als strategische und rechtliche Aufgabe begreifen und zu diesem Zweck rechtliche und technische Expertise einbinden, um den rechtssicheren Einsatz von KI zu gewährleisten.
2025
Private Unfallversicherungen, aber auch „neuere“ Versicherungsformen wie Dread-Disease- oder Existenzsicherungsversicherungen, sehen häufig Leistungsansprüche vor, wenn unfall- oder krankheitsbedingt eine bestimmte Pflegestufe nach dem Sozialgesetzbuch XI zuerkannt wurde. Ab dem Jahr 2017 wurden jedoch die Pflegestufen I bis III durch die Pflegegrade 1 bis 5 ersetzt. Es stellt sich daher die Frage, wie „Altverträge“ im Leistungsfall auszulegen sind, die noch auf die alten Pflegestufen abstellen.
Der EuGH hat mit Urteilen vom 22.10.2024 und 13.03.2025 entschieden, dass Bieter aus Drittstatten – also solchen Staaten, die nicht Mitglied der Europäischen Union sind – und solchen Staaten, die keine Übereinkünfte mit der Union im Bereich des öffentlichen Auftragswesens geschlossen haben, im Vergabeverfahren nur eingeschränkte Rechte besitzen.
Die Europäische Kommission hat ein förmliches Verfahren gegen SAP eingeleitet, um mögliche wettbewerbswidrige Praktiken des Software-Giganten zu untersuchen. Im Kern steht die Frage, ob SAP im Europäischen Wirtschaftsraum eine marktbeherrschende Stellung auf dem Anschlussmarkt für Support und Wartung für die von SAP lizenzierte Software ERP (Enterprise Resource Planning) missbraucht hat.
Die Europäische Kommission sowie nationale Kartellbehörden können von Unternehmen Auskünfte einholen oder Unterlagen anfordern, die sie zur Erfüllung ihrer behördlichen Aufgaben benötigen. Im Zusammenhang mit Fusionskontrollverfahren werden regelmäßig Auskünfte dazu eingeholt, welche wettbewerblichen Auswirkungen ein Zusammenschluss aus Sicht der betroffenen Marktakteure hat. Auch im Rahmen von kartellbehördlichen Ermittlungsverfahren, wenn beispielsweise der Verdacht kartellrechtswidriger Praktiken im Raum steht, können Auskunftsersuchen zu Zwecken der Sachverhaltsaufklärung an Unternehmen gerichtet werden. Befragt werden können dabei nicht nur die im Zentrum der Ermittlung stehenden Unternehmen, sondern auch andere Marktteilnehmer.
Das Oberlandesgericht Brandenburg hat in einem Hinweisbeschluss vom 08.01.2025 zu den Voraussetzungen einer erfolgreichen Insolvenzanfechtung von Rechtsanwaltshonoraren Stellung genommen. Der Insolvenzverwalter des von der Rechtsanwaltskanzlei vertretenen Unternehmens hatte auf Rückzahlung der von der Kanzlei zwischen Januar 2018 und September 2019 vereinnahmten Beratungs- und Prozessvertretungshonorare geklagt. Die Kanzlei argumentierte, ihre Mandantin sei in dem genannten Zeitraum, jedenfalls in wesentlichen Teilen des Zeitraums, nicht zahlungsunfähig gewesen und habe auch ihre drohende Zahlungsunfähigkeit nicht erkannt gehabt. Auch sie selbst habe zu keinem Zeitpunkt eine drohende Zahlungsunfähigkeit angenommen, die mit der Mandantin getroffenen Ratenzahlungsvereinbarungen seien üblich. Der Kanzlei bekannte betriebswirtschaftliche Auswertungen hätten keinen Anlass zur Annahme einer Zahlungsunfähigkeit oder Unwirtschaftlichkeit der eigenen Mandantin gegeben.
