Die KI macht, Manager haften?

KI als Unterstützung für Managemententscheidungen

Schon Ende 2022 haben wir uns in diesem Blog mit KI beschäftigt, damals zum Thema „Haftung für Schäden durch Künstliche Intelligenz: Worauf muss sich HR vorbereiten?“.

In diesem Beitrag geht es nun um einen anderen Aspekt des Einsatzes von KI im Unternehmen: die Haftung von Verantwortlichen bei Nutzung von KI – ein Thema mit zunehmender Relevanz und Brisanz. Denn die Arbeit von Vorstandsmitgliedern, Geschäftsführern und Aufsichtsräten wird in Anbetracht steigender Herausforderungen komplexer, u.a. im Zusammenhang mit der Digitalisierung und der aktuellen weltwirtschaftlichen Situation.

Verständlich also, dass Verantwortliche Unterstützung suchen, um Aufgaben effizient erledigen zu können. Warum dann nicht auch auf KI zurückgreifen? Denn gerade bei datengetriebenen Themen kann KI hilfreich sein, effizient Entscheidungsgrundlagen zu schaffen.

KI als nicht menschlicher Entscheidungshelfer

Doch was passiert, wenn die KI „Fehler“ macht und unbrauchbare Ergebnisse liefert, auf deren Grundlage falsche und schädigende Unternehmensentscheidungen getroffen werden? Müssen sich menschliche Entscheider diese Fehler zurechnen lassen?

Hier stößt das etablierte Haftungssystem des gesetzlichen Deliktrechts an Grenzen. Denn KI-Systeme treffen Entscheidungen auf der Grundlage von Daten und Algorithmen – ohne menschliche Einwirkung. Verantwortlichkeit im rechtlichen Sinne auf „die KI“ abzuwälzen, funktioniert nicht.

EU-Recht für KI-Einsatz entsteht

Im Hinblick darauf, ob und wie KI im Unternehmen eingesetzt wird, sind Verantwortliche im Rahmen ihrer Entscheidungskompetenz frei, z. B. im Hinblick darauf, ob ein Mensch oder eine KI Informationen als Entscheidungsgrundlage aufbereitet.

Künftig wird allerdings eine EU-Verordnung (KI VO-E) einen rechtlichen Rahmen für den Umgang mit KI in Unternehmen vorgeben. Dabei sieht der aktuelle Entwurf u. a. ein Pflichtenprogramm für den Einsatz von KI vor. Die Verletzung von Pflichten kann dann Strafen zur Folge haben, sich aber auch auf die Haftung von Verantwortlichen auswirken.

Wie mit KI umgehen?

Wegen potenzieller Haftungsrisiken auf den Einsatz von KI zu verzichten, wird mittelfristig keine Lösung sein. Es gilt also, einen Weg zu finden, der effiziente Unterstützung der Managementarbeit bietet, aber keine unkalkulierbaren Haftungsrisiken birgt.

Damit das gelingt, ist es zunächst wichtig, verwendete/geplante KI-Systeme zu erfassen, um mit verantwortlichen Stellen im Unternehmen eine Risikobewertung (Datenschutz, IT-Sicherheit, Geschäftsgeheimnisse etc.) vorzunehmen.

Wird KI eingesetzt, sollte das außerdem möglichst nachvollziehbar sein und genau dokumentiert werden. Gleichzeitig ist sicherzustellen, dass KI nicht autonom schaltet und waltet, sondern menschliche Kontrolle durch qualifiziertes Fachpersonal stattfindet. Und nicht zuletzt gilt es, Strukturen und Verantwortlichkeiten zu schaffen, die das Vorstehende überwachen.

Kurzum: Es gilt, eine verlässliche KI-Governance zu etablieren.

Kein Blindflug beim Einsatz von KI

Augen zu und durch funktioniert im Umgang mit KI im Unternehmen nicht. Wer in den Vorstandsetagen KI einsetzen will, muss auf enge Zusammenarbeit mit den Bereichen IT, Datenmanagement und Recht & Compliance setzen, um Haftungsrisiken zu minimieren.

Denn wer passende KI-Systeme mit maximaler Verlässlichkeit zum Einsatz bringt, wird nicht für Fehlentscheidungen auf der Basis von falschen KI-Berechnungen haften: Haben Verantwortliche bei der Entscheidung über und im Umgang mit KI im Rahmen ihrer Geschäftsführung die Sorgfalt eines ordentlichen und gewissenhaften Geschäftsleiters angewendet (vgl. § 93 Abs. 1 S. 1 AktG), kann sich nichts anderes ergeben.