KI-Haftung (cepAnalyse)

Die Haftung für Schäden, die aus Künstlicher Intelligenz (KI) resultieren, stellt Geschädigte bislang oft vor Beweisschwierigkeiten, denn KI-Systeme sind zumeist komplex und undurchsichtig. Die Kommission will daher diese Probleme durch eine Offenlegungspflicht und eine Kausalitätsvermutung verringern. Das Centrum für Europäische Politik (cep) hält das zwar für sinnvoll, hat aber rechtlich große Bedenken. Das Gesetz dürfe sich nicht auf Art. 114 AEUV stützen.

cepAnalyse

„Die Kausalitätsvermutung ist angesichts der Komplexität und Intransparenz von KI-Systemen sachgerecht. Die Anpassung der Beweislastregeln bringt potenziell Geschädigte vor Gericht auf Augenhöhe mit den KI-Anbietern“, sagt cep-Digitalexperte Matthias Kullas, der die Kommissionsvorschläge analysiert hat.

Kullas begrüßt die neue Stoßrichtung. „Wenn Personen vor Gericht geltend machen wollen, durch Künstliche Intelligenz geschädigt worden zu sein, stehen sie vor besonderen Beweisschwierigkeiten. Die Kommission will dieses Problem durch gemeinsame Mindeststandards lösen und so das Vertrauen der Gesellschaft in KI stärken. Dieser Ansatz ist richtig“, betont der cep-Experte.

Die Richtlinie sieht zudem eine Befugnis für nationale Gerichte vor, die Offenlegung einschlägiger Beweismittel zu einem bestimmten Hochrisiko-KI-System auf Antrag anzuordnen. Wann ein Hochrisiko-KI-System vorliegt, richtet sich maßgeblich nach Funktion und Zweck des Systems und den möglichen Auswirkungen auf Gesundheit, Sicherheit und Grundrechte natürlicher Personen. „Die Offenlegungspflicht kann helfen, aussichtlose Klagen zu vermeiden. Sie greift aber unverhältnismäßig in die Hoheitsrechte der Mitgliedstaaten ein, denen solche Pflichten fremd sind“, kritisiert Kullas.

Kullas hat große rechtliche Bedenken hinsichtlich der Rechtsgrundlage: „Es ist zweifelhaft, ob die Richtlinie auf Art. 114 AEUV gestützt werden kann, da kein positiver Effekt auf den Binnenmarkt zu erwarten ist. Denn weder die Kausalitätsvermutung noch die Offenlegungspflicht haben Auswirkungen auf die Verkehrsfähigkeit von KI-Produkten. Sie tragen auch nicht zur Beseitigung von spürbaren Wettbewerbsverzerrungen bei.“