11.02.20

PRESSEINFORMATION 10/2020

Europäische Strategie zur künstlichen Intelligenz

Die EU-Kommission arbeitet an einer Europäischen Strategie zur künstlichen Intelligenz (KI) und will dazu in der kommenden Woche ein Weißbuch veröffentlichen. Das cep hat einen Entwurf bewertet.

Die aktuelle Gesetzgebung zur künstlichen Intelligenz (KI) in der Europäischen Union weist Schwächen auf. Darauf wird im Entwurf des Weißbuches verwiesen, der dem cep vorliegt. Dem nicht-öffentlichen Dokument der Kommission zufolge prüft die EU-Kommission drei Regulierungsoptionen für zukünftige Maßnahmen, um diese Schwächen zu beheben. Die Optionen sind ein freiwilliges Kennzeichnungssystem (Label), konkrete sektorale Anforderungen für Behörden sowie obligatorische Anforderungen für risikoreiche KI-Anwendungen.

Aus Sicht des cep würde ein freiwilliges Label die unternehmerische Freiheit respektieren. Allerdings könnte es nicht ausreichen, um z.B. Sicherheits- und Haftungsfragen zu klären.

Bei den „sektoralen Anforderungen“ an die Behörden würde von diesen u.a. verlangt werden, Informationen über die Effektivität der von ihnen verwendeten KI-Anwendungen zu veröffentlichen. Dies – so die Autoren des cepAdhoc – sei sachgerecht, da die öffentlichen Behörden über erheblich mehr Einflussmöglichkeiten verfügen, in die Grundrechte von Menschen einzugreifen, als private Akteure. Bei dieser Option erörtert die Kommission zudem, ob spezifische Regeln für den Einsatz von Gesichtserkennungssystemen im öffentlichen Raum eingeführt werden sollten oder ob der Einsatz dieser Technologie im öffentlichen Raum für einen Zeitraum von z.B. drei bis fünf Jahren verboten werden sollte. Aus Sicht des cep ist es zwar zutreffend, dass die Gesichtserkennungstechnologie mehr Herausforderungen an Grundrechte stellt als viele andere KI-Anwendungen. Aber wie die Kommission selbst erkannt hat, könnte eine so weitreichende Maßnahme wie ein vollständiges Verbot der Gesichtserkennungstechnologie deren Entwicklung dieser Technologie in der EU behindern. Dies gilt umso mehr, da dieser Markt bereits von Nicht-EU-Unternehmen dominiert wird.

Für das cep würden die geplanten „obligatorischen Anforderungen“ für risikoreiche KI-Anwendungen diese sowohl im privaten als auch im öffentlichen Sektor auf flexible Weise abdecken. Allerdings müsse dafür der Begriff "risikoreich" klar definiert werden, weil Unternehmen sonst die Möglichkeit hätten, Risiken ihrer KI-Anwendung herunterzuspielen, damit ihre Produkte nicht den Standards für risikoreiche KI-Anwendungen entsprechen müssten.