PRESSEINFORMATION 79/2019

Die vorgeschlagenen Leitlinien sind ein sinnvoller erster Schritt hin zu einem EU-einheitlichen Konzept "ethisch vertretbarer" KI. Aus der Sicht des cep bietet die in den Leitlinien enthaltene "Bewertungsliste für vertrauenswürdige KI" Entwicklern und Nutzern eine wichtige Orientierungshilfe bei der Umsetzung der ethischen Anforderungen an KI in der Praxis. Allerdings sollten die unverbindlichen Leitlinien durch konkrete Beispiele ergänzt werden, um die Umsetzung weiter zu erleichtern.

Nach den Leitlinien muss KI, um "vertrauenswürdig" zu sein, während ihres gesamten Lebenszyklus rechtmäßig sein - d.h. das geltende Recht einhalten und insbesondere die Grundrechte achten -, robust sein, insbesondere in technischer Hinsicht - z.B. resistent gegen Cyberangriffe sein - und ethisch sein - d.h. ethischen Werten entsprechen, auch dort, wo der technische Fortschritt das Recht überholt. Obwohl unverbindlich, sollen diese Werte bei der Bestimmung helfen, was mit KI getan werden sollte - nicht, was damit getan werden kann - und wie KI Grundrechten und zugrunde liegenden Werten entsprechen kann.

Die Leitlinien bieten eine Hilfestellung für die Schaffung "ethischer" und "robuster" KI. Die hochrangige Expertengruppe hat dazu aus den Grundrechten und Grundwerten der EU vier ethische Grundsätze (menschliche Autonomie, Schadensverhütung, Fairness und Erklärbarkeit) abgeleitet und auf dieser Grundlage sieben Kernanforderungen für die Verwirklichung "vertrauenswürdiger KI" formuliert. Dazu gehören u.a.:

• Vorrang menschlichen Handelns und menschlicher Aufsicht: Um die menschliche Autonomie und Entscheidungsfindung zu sichern, sollte KI menschliches Handeln unterstützen und menschliche Aufsicht ermöglichen.

• Technische Robustheit und Sicherheit: Um Schäden zu vermeiden, muss KI technisch robust und sicher sein, d.h. ein dem Risiko angemessenes Sicherheitsniveau aufweisen, zuverlässig, sicher und widerstandsfähig gegen Angriffe - z.B. Hacking und Manipulationen - sein und gleiche, d.h. "reproduzierbare" Ergebnisse unter gleichen Bedingungen erzeugen. Zudem soll KI Sicherheitsvorkehrungen vorsehen, die bei Problemen einen Rückfallplan aktivieren, z.B. einen menschlichen Bediener einbeziehen.

• Transparenz: Die Elemente von KI - Daten, Systeme und Geschäftsmodelle - müssen transparent, insbesondere so weit wie möglich erklärbar und rückverfolgbar sein.

Hintergrund

Systeme der Künstliche Intelligenz (KI) sind von Menschen entwickelte Softwaresysteme, die ihre Umgebung durch die Erfassung von Daten wahrnehmen, die gesammelten Daten interpretieren, Schlussfolgerungen daraus ziehen oder die aus den Daten abgeleiteten Informationen verarbeiten und über die am besten geeigneten Maßnahmen zur Erreichung eines vorgegebenen komplexen Ziels entscheiden. KI hat das Potenzial, unsere Welt zu verbessern, u.a. die Gesundheitsversorgung zu stärken, den Energieverbrauch zu senken und Autos sicherer zu machen; Landwirte können natürliche Ressourcen effizienter nutzen.