PRESSEINFORMATION 65/2019

Die von der EU-Kommission angestrebte Schaffung von Vertrauen in KI bei Nutzern und Betroffenen kann ganz sicher die Akzeptanz und Nutzung von KI fördern. Aus Sicht des cep sind auch die zur Erreichung dieses Ziels vorgeschlagenen Maßnahmen - wie klare Informationen über die Eigenschaften von KI-fähigen Produkten - im Wesentlichen sachgerecht. Allerdings geht eine generelle Informationspflicht, wie KI-Entscheidungen von einem Menschen überprüft oder korrigiert werden können, zu weit. Eine solche Pflicht sollte in einem angemessenen Verhältnis zu den möglichen Folgen einer KI-Entscheidung stehen. Angemessen ist sie z.B., wenn KI-Entscheidungen für die Betroffenen Rechtsfolgen haben oder sie anderweitig binden.

Darüber hinaus ist es sachgerecht, dass die Kommission "verfolgen" will, wie die DSGVO bei KI-Anwendungen umgesetzt wird. Denn bereits heute sind drei KI-spezifische Probleme bei der Umsetzung der DSGVO absehbar. Aus juristischer Sicht kann die EU in Ausübung ihrer Binnenmarktkompetenz zur Gewährleistung eines hohen Verbraucherschutzes harmonisiertes Produktsicherheits und -haftungsrecht wie die Produkthaftungsrichtlinie anpassen oder neue Regelungen erlassen, um so den Binnenmarkt für KI-Produkte und -Dienstleistungen zu verwirklichen. Bisher besteht hier nämlich Rechtsunsicherheit, vor allem dahingehend, inwieweit das geltende Recht auf "fehlerhafte KI" anwendbar und angemessen ist. Damit steht zu befürchten, dass die Mitgliedstaaten dieses unterschiedlich auslegen oder eigene Regeln erlassen, um z.B. Verantwortlichkeiten für KI festzulegen und Regress zu ermöglichen.

Für das cep ist die Forderung der Kommission, dass KI "transparent" sein soll, jedoch zu unbestimmt. Auch können die ethischen Leitlinien, die im Auftrag der Kommission durch ein "Expertengremium" - hier die AIHLEG - erarbeitet wurden, nur Ausgangspunkt für eine breite öffentliche ethische Debatte über KI sein, in die alle Betroffenen einzubeziehen sind.

Hintergrund

Die EU beheimatet "erstklassige" KI-Forscher und KI-Startups, eine starke Robotik-Industrie und weltweit führende Unternehmen in Bereichen wie Verkehr, Gesundheit und Produktion, in denen KI immer wichtiger wird. Angesichts des harten globalen Wettbewerbs muss die EU ihre Kräfte bündeln. 2018 haben sich alle Mitgliedstaaten in einer Erklärung zur Zusammenarbeit in Bezug auf KI verpflichtet. Die Mitteilung "KI für Europa" sowie ein "koordinierter Plan" beschreiben die "Europäische KI-Strategie". Die Kommission will die Entwicklung und Nutzung von KI in der EU vorantreiben, damit die EU wettbewerbsfähig bleibt. Gleichzeitig soll die EU zu einem Vorreiter bei der Entwicklung "verantwortungsvoller" KI werden, die den Menschen nutzt und bei der der Mensch im Mittelpunkt stehen sollte.

Die KI-Strategie besteht aus drei Säulen:

Säule 1: Investitionen in KI zur Stärkung der "technologischen und industriellen Leistungsfähigkeit der EU" und der Verbreitung von KI in der gesamten Wirtschaft [s. cepAnalyse 10/2019],

Säule 2: Anpassung der Bildungs- und Sozialsysteme an die neue Arbeitswelt [s. cepAnalyse 12/2019],

Säule 3: Schaffung ethischer Regeln und Rechtsvorschriften für KI [vorliegende cepAnalyse 13/2019]