Künstliche Intelligenz (KI) hat in den letzten Jahren eine rasante Entwicklung durchlaufen und ist zu einem zentralen Treiber für Innovation und Wettbewerbsfähigkeit geworden. Unternehmen aller Branchen nutzen KI, um Prozesse zu optimieren, Kosten zu senken, neue Geschäftsmodelle zu entwickeln und die Kundenerfahrung zu verbessern. Von der Automatisierung repetitiver Aufgaben bis hin zur Analyse großer Datenmengen (Big Data) bietet KI vielfältige Anwendungsmöglichkeiten.

Gleichzeitig birgt der Einsatz von KI rechtliche Risiken, die insbesondere für Geschäftsführer von großer Bedeutung sind. Geschäftsführer müssen sich nicht nur mit den technologischen Aspekten auseinandersetzen, sondern auch die rechtlichen Rahmenbedingungen im Blick behalten. Dieser Beitrag gibt einen Überblick über die wichtigsten rechtlichen Aspekte und Handlungsempfehlungen für den Einsatz von KI in Unternehmen und beleuchtet, worauf der Geschäftsführer bei der Einführung und Nutzung von KI achten muss und welche Haftungsrisiken entstehen können.

1. Einsatzmöglichkeiten von KI-Systemen

KI-Systeme können in verschiedenen Unternehmensbereichen eingesetzt werden, z. B.:

• Entscheidungsunterstützung: Automatisierte Auswertung von Daten zur Unterstützung strategischer Entscheidungen.
• Prozessautomatisierung: Optimierung von Produktionsabläufen oder Verwaltungsprozessen.
• Kundeninteraktion: Chatbots oder personalisierte Marketingstrategien.
• Risikomanagement: Früherkennung von betrieblichen Risiken oder Compliance-Verstößen.

Geschäftsführer und Vorstände sind verpflichtet, sich mit den technologischen Möglichkeiten auseinanderzusetzen und deren Einsatz im Rahmen ihrer Sorgfaltspflichten (§ 93 AktG, § 43 GmbHG) zu prüfen.

2. Rechtliche Rahmenbedingungen für den Einsatz von KI

Der Einsatz von KI unterliegt einer Vielzahl von rechtlichen Vorgaben, die sich aus unterschiedlichen Rechtsgebieten ergeben. Hierzu zählen insbesondere:

• Datenschutzrecht: Der Einsatz von KI-Systemen basiert meist auf der Verarbeitung großer Datenmengen, darunter auch personenbezogene Daten. Geschäftsführer müssen daher sicherstellen, dass etwa die Datenschutzgrundverordnung (DSGVO) eingehalten wird, das bedeutet, dass

•  die Datenverarbeitung auf einer rechtlichen Grundlage (z.B. Einwilligung oder berechtigtes Interesse) beruht;
• die Prinzipien der Datenminimierung und Zweckbindung eingehalten werden und
• technische und organisatorische Maßnahmen zur Datensicherheit implementiert sind, um Datenpannen zu vermeiden.

Besondere Vorsicht ist geboten, wenn KI-Systeme sensible Daten (z. B. Gesundheitsdaten) verarbeiten. Hier können zusätzliche Anforderungen wie eine Datenschutz-Folgenabschätzungen erforderlich sein.

•  Geistiges Eigentum und Urheberrecht: KI-Systeme können urheberrechtlich geschützte Werke erstellen oder nutzen. Geschäftsführer müssen daher klären, wer die Rechte an den durch KI generierten Inhalten besitzt und ob die Nutzung von Trainingsdaten urheberrechtlich zulässig ist. In anderen Worten:

• Bei Patenten: KI-gestützte Erfindungen können unter bestimmten Voraussetzungen patentiert werden. Geschäftsführer sollten dann prüfen, ob ihre KI-Innovationen patentfähig sind.
• Bei Urheberrechten: Wer ist der Urheber eines Werks, das von einer KI geschaffen wurde? Diese Frage ist rechtlich noch nicht abschließend geklärt. Unternehmen sollten daher vertraglich regeln, wer die Rechte an KI-generierten Inhalten besitzt.

• Diskriminierungsverbote: KI-Systeme sind nur so gut wie die Daten, mit denen sie trainiert werden. Enthalten die Trainingsdaten Vorurteile oder Diskriminierungen, können KI-Systeme unbeabsichtigt zu unfairen oder diskriminierenden Ergebnissen führen, z. B. bei der Personalauswahl oder Kreditvergabe. Geschäftsführer müssen daher sicherstellen, dass die KI Systeme fair und transparent arbeiten und keine gesetzlichen Diskriminierungsverbote verletzen. Geschäftsführer müssen hiernach darauf achten, dass

• die Trainingsdaten repräsentativ und frei von Diskriminierung sind;
• regelmäßige Audits durchgeführt werden, um Bias in den KI-Entscheidungen zu identifizieren und zu korrigieren sowie
• transparente und nachvollziehbare Entscheidungsprozesse geschaffen werden, um das Vertrauen der Nutzer zu gewinnen.

• Produkthaftung: Werden KI-Systeme in Produkte integriert, können produkthaftungsrechtliche Fragen relevant werden. Geschäftsführer müssen in diesen Fällen sicherstellen, dass die Produkte sicher sind und den geltenden Sicherheitsstandards entsprechen.

3. Haftungsrisiken für Geschäftsführer

Die Geschäftsführung trägt eine besondere Verantwortung für die Einhaltung der gesetzlichen Vorgaben im Unternehmen. KI-Systeme können Fehler machen, die zu Schäden bei Kunden, Mitarbeitern oder Dritten führen, sodass bei Verstößen gegen die rechtlichen Vorgaben persönliche Haftungsrisiken entstehen. Geschäftsführerinnen müssen sich daher bei KI-Einsätzen insbesondere mit Haftungsfragen auseinandersetzen, da sich die Haftung bei Fehlern von KI-Systemen aus verschiedenen Rechtsgrundlagen ergeben kann. Folgende Szenarien sind besonders relevant:

a) Organhaftung

Geschäftsführer haben die Pflicht, die Einhaltung aller gesetzlichen Vorgaben im Unternehmen zu überwachen und ihrer Sorgfaltspflicht nachzukommen, indem z. B. ausreichende Tests oder Sicherheitsvorkehrungen implementiert werden. Bei Verstößen gegen Sorgfalts- und Aufsichtspflichten kommt eine Haftung u. a. in Betracht, wenn:
• KI-Systeme ohne ausreichende Prüfung eingeführt werden;
• Fehlentscheidungen auf Basis fehlerhafter KI-Ergebnisse getroffen werden oder
• keine angemessene Überwachung der KI-Systeme erfolgt.

b) Haftung bei Verstößen gegen die DSGVO

Die Geschäftsführung kann persönlich haftbar gemacht werden, wenn sie ihrer Pflicht zur Einhaltung des Datenschutzes nicht nachkommt oder keine angemessenen Maßnahmen zur Datensicherheit ergreift. Verstöße gegen die DSGVO können zu hohen Bußgeldern führen, die bis zu 20 Mio. € oder 4 % des weltweiten Jahresumsatzes betragen können. Bei Schäden, die Dritten entstehen, kann eine deliktsrechtliche Haftung (z. B. bei Datenschutzverletzungen oder fehlerhaften KI-Empfehlungen) greifen.

c) Haftung bei Insolvenzverschleppung

Der Einsatz von KI kann erhebliche Investitionen erfordern. Wenn das Unternehmen aufgrund fehlgeschlagener KI-Projekte in finanzielle Schwierigkeiten gerät, können Geschäftsführer persönlich haften, wenn sie keine angemessenen Maßnahmen zur Sanierung oder Insolvenzantragstellung ergreifen (Insolvenzverschleppung).

d) Produkthaftung

Wenn KI-Systeme als Teil von Produkten eingesetzt werden, kann eine Haftung nach dem Produkthaftungsgesetz (ProdHaftG) in Betracht kommen, insbesondere bei Schäden, die Dritten entstehen.

e) Haftung des Unternehmens

Wenn KI-Systeme fehlerhafte Entscheidungen treffen und dadurch Vertragsverletzungen oder Schäden bei Kunden, Mitarbeitern oder Dritten entstehen, kann das Unternehmen selbst haftbar gemacht werden.

4. Ethische und gesellschaftliche Verantwortung

Der Einsatz von KI birgt nicht nur rechtliche, sondern auch ethische Herausforderungen. Geschäftsführerinnen sollten sich daher auch mit folgenden Fragen auseinandersetzen:
• Wie transparent sind die Entscheidungen der KI-Systeme (Stichwort: Explainable AI)?
• Werden ethische Grundsätze wie Fairness, Transparenz und Nachhaltigkeit bei der Entwicklung und Nutzung von KI beachtet?
• Wie wird mit der möglichen Verdrängung von Arbeitsplätzen durch KI umgegangen?
Unternehmen, die ethische Grundsätze in ihre KI-Strategie integrieren, können ihr Image stärken und das Vertrauen von Kunden und Partnern gewinnen.


5. Praktische Handlungsempfehlungen und Leitfaden für Geschäftsführer

Um Haftungsrisiken zu minimieren und den rechtssicheren Einsatz von KI zu gewährleisten, sollte die Geschäftsführung folgende Maßnahmen ergreifen:

• Einarbeitung in die Technologie: Die Funktionsweise der eingesetzten KI-Systeme und deren potenzielle Risiken sollten verstanden werden.

• Due Diligence bei der Einführung: Zuverlässigkeit und Qualität der KI-Systeme sollte geprüft und Expertengutachten zur Technologie eingeholt werden.

• Rechtliche Rahmenbedingungen prüfen: Die Geschäftsführung muss klären und sicherstellen, dass der Einsatz von KI mit geltendem Recht vereinbar ist (z. B. Datenschutz, Urheberrecht, Produkthaftung).

• Einhaltung der DSGVO: Datenschutz-Folgenabschätzungen sind durchzuführen und Systeme Datenschutz-by-Design und Privacy-by-Default implementiert werden.

• Dokumentation: Die Geschäftsführung sollte alle Entscheidungen und Prozesse im Zusammenhang mit dem Einsatz von KI dokumentieren.

• Transparenz schaffen: Kunden und Partnern muss erklärt werden, wie KI im Unternehmen eingesetzt wird und welche Vorteile dies bietet. Dabei muss sichergestellt werden, dass die Entscheidungsprozesse der KI nachvollziehbar und erklärbar sind („Explainable AI“).

• Risikomanagement: Ein Risikomanagement-System muss implementiert werden, um potenzielle Fehlentscheidungen der KI zu identifizieren und zu minimieren. Compliance und Leistung der KI-Systeme müssen regelmäßig und kontinuierlich auf Fehler oder Bias kontrolliert werden, indem regelmäßige Audits durchgeführt werden.

• Aktualisierung der KI-Systeme: Die Geschäftsführung muss sicherstellen, dass die KI-Systeme regelmäßig an neue rechtliche und technische Anforderungen angepasst werden.

• Schulung der Mitarbeiter: Mitarbeiter müssen im Umgang mit KI geschult werden und die rechtlichen Anforderungen kennen. Die Mitarbeiter müssen für die rechtlichen und ethischen Aspekte von KI sensibilisiert werden.

• Klare vertragliche Regelungen: Bei fehlerhaften Entscheidungen von KI-Systemen stellt sich die Frage, wer haftet: Hersteller, Betreiber oder Nutzer. Sofern zwischen den Parteien der Einsatz von KI-Systemen vereinbart wird, ist eine klare vertragliche Regelung zur Verschuldenshaftung zwischen den Parteien essenziell.

• Versicherungsschutz: Die Geschäftsführung sollte prüfen, ob bestehende Versicherungen (z. B. D&O-Versicherungen, Cyber- und Technologieversicherungen) Haftungsrisiken im Zusammenhang mit dem Einsatz einer KI abdecken.

6. Ausblick: Der EU AI Act und seine Bedeutung

Die Europäische Union arbeitet derzeit an einem neuen Rechtsrahmen für KI, den sogenannten EU AI Act. Dieser wird voraussichtlich verbindliche Anforderungen an die Entwicklung und den Einsatz von KI-Systemen aufstellen, insbesondere in Hochrisikobereichen wie der Personalauswahl, der Kreditvergabe oder der medizinischen Diagnostik. Geschäftsführer sollten die Entwicklungen im Blick behalten und sich frühzeitig auf die neuen Anforderungen vorbereiten.

7. Fazit: KI als strategischer Erfolgsfaktor

Künstliche Intelligenz (KI) bietet enorme Chancen für Unternehmen, stellt Geschäftsführer aber auch vor komplexe rechtliche und ethische Herausforderungen. Durch eine sorgfältige Planung, die Einhaltung der gesetzlichen Vorgaben, eine kontinuierliche Überwachung sowie ein effektives Risikomanagement können die Haftungsrisiken reduziert und die Vorteile von KI für das Unternehmen genutzt werden. Geschäftsführerinnen sollten den Einsatz von KI nicht nur als technologische, sondern auch als strategische und rechtliche Aufgabe begreifen und zu diesem Zweck rechtliche und technische Expertise einbinden, um den rechtssicheren Einsatz von KI zu gewährleisten.