PRESSEINFORMATION 12/2020

„Die EU-Strategie ist ein mutiges Plädoyer für mehr technologische Souveränität in der EU. Um die gesteckten Ziele zu erreichen, muss die EU die Investitionen in KI erhöhen. Dies ist wichtig, weil sowohl in Asien als auch in Nordamerika die Investitionen in KI erheblich höher sind als in der EU. Um die ambitionierten Investitionsziele einzuhalten, muss die EU im nächsten mehrjährigen Finanzrahmen ausreichende Mittel vorsehen.

Es ist richtig und wichtig, dass künstliche Intelligenz im Einklang mit den Grundrechten und Grundwerten der EU entwickelt und genutzt wird. Ein risikobasierter Ansatz erscheint dafür grundsätzlich sinnvoll; allerdings sind eine genaue und klare Abgrenzung zwischen „risikoreichen“ und „risikoarmen“ KI-Anwendungen sowie eine effektive Durchsetzung der Regeln unerlässliche Voraussetzungen, um die nötige Rechtssicherheit und damit Vertrauen in KI zu schaffen.

Gesichtserkennungstechnologien beinhalten – besonders wenn sie im öffentlichen Bereich eingesetzt werden – sehr hohe Risiken für die Grundrechte der Überwachten. Angesichts der Tatsache, dass in einigen Mitgliedstaaten die staatliche Nutzung solcher Technologien bereits erwogen bzw. gesetzlich geregelt werden soll, muss zur Vermeidung einer Rechtszersplitterung zeitnah klargestellt werden, wann und unter welchen Voraussetzungen die Datenschutzgrundverordnung den Mitgliedstaaten den Einsatz solcher Technologien – etwa unter dem Geltendmachung eines „erheblichen öffentlichen Interesses“ – ausnahmsweise erlaubt, oder inwiefern die Datenschutzgrundverordnung erst gar nicht anwendbar ist, weil es sich um Tätigkeiten handelt, die die nationale Sicherheit betreffen.“

Hintergrund:

Die EU-Kommission hat heute ein Weißbuch über einen europäischen Ansatz für künstliche Intelligenz (KI) vorgelegt. Das Weißbuch ist Teil eines Gesamtpakets, mit dem die EU-Kommission die Europäische Digital- und Datenstrategie für die nächsten Jahre vorstellt. Diese soll der EU zu mehr technologischer Souveränität und – innerhalb weniger Jahre – zu einer globalen digitalen Schlüsselposition verhelfen. Gleichzeitig soll die Strategie sicherstellen, dass Grundrechte und Werte der EU auch bei der anstehenden digitalen Transformation eingehalten werden.

Das Weißbuch für KI enthält schwerpunktmäßig Vorschläge, wie KI in der EU künftig reguliert werden könnte. Dabei fasst die Kommission zusätzliche bindende Vorschriften zunächst nur für sogenannte „risikoreiche“ KI ins Auge, deren Einhaltung vor der Markteinführung der KI-Produkte, im Wege einer behördlichen Konformitätsprüfung überprüft und sichergestellt werden soll. Regeln will die Kommission dabei unter anderem spezifische Anforderungen an die Daten, mit denen KI-Systeme trainiert werden, Dokumentations- und Informationspflichten sowie Anforderungen, die eine hinreichende menschliche Aufsicht und Kontrolle über die KI sicherstellen sollen. „Risikoarme KI“ soll hingegen nach dem Vorschlag der Kommission bis auf weiteres lediglich der bestehenden EU-Gesetzgebung unterworfen bleiben. Allerdings erwägt die Kommission die Einführung eines freiwilligen Kennzeichnungssystems, bei dem Unternehmen, die freiwillig höhere Anforderungen an KI einhalten, ein Label für „vertrauenswürdige KI“ erwerben könnten.

Der Einsatz von Gesichtserkennungstechnologien zum Zwecke der Fernidentifizierung von Menschen im öffentlichen Bereich soll über die Datenschutzgrundverordnung hinaus nicht grundsätzlich verboten werden. Die Kommission kündigt stattdessen eine breite europäische Debatte über die Umstände an, unter denen der Einsatz solcher Technologien in der EU künftig gerechtfertigt sein sollte, und mit welchen Maßnahmen der Grundrechtsschutz in solchen Fällen sichergestellt werden kann