What to Expect When AI Agents Are Unleashed?

 „KI-Agenten können heute bereits komplexe virtuelle Umgebungen ohne spezifische Programmierung meistern“, erklärt cep-Digitalexperte Anselm Küsters. „Gleichzeitig bringen sie Risiken wie unbeabsichtigte Marktverzerrungen, psychologische Manipulation oder politische Voreingenommenheit mit sich. Die bisherigen EU-Instrumente wie die Virtual Worlds Toolbox benennen zwar grundlegende Risiken wie Avatar-Hacking, greifen aber angesichts der Fähigkeit von KI-Agenten zu Täuschung und strategischer Regelumgehung deutlich zu kurz“.

Gerade bei der Transparenz klaffen gefährliche Lücken. Die dominierenden US-Tech-Firmen geben kaum Einblick in Sicherheitsprotokolle. „Neueste Forschungen zeigen, dass fortschrittliche KI-Systeme lernen können, zu ‚lügen‘ oder zu ‚schummeln‘ – bekannt als Specification Gaming – um ihre Ziele zu erreichen, wenn sie unter Druck stehen“, warnt Küsters. „Solche technischen Probleme könnten in der digitalen Ökonomie dazu führen, dass Agenten systematisch Regeln umgehen, Nutzer täuschen und das Vertrauen in virtuelle Interaktionen untergraben“.

Das cep fordert daher eine Nachbesserung der EU-Metaverse-Strategie und der KI-Regulierung. „Wir brauchen verbindliche Transparenzpflichten, regelmäßige, unabhängige Bias-Audits und robuste Haftungsregeln – idealerweise durch eine Wiederaufnahme und Anpassung der KI-Haftungsrichtlinie“, so Küsters. „Vertrauen ist die Währung der digitalen Wirtschaft. Die EU muss deshalb proaktiv Standards für vertrauenswürdige KI-Agenten setzen, statt nur auf technologische Entwicklungen zu reagieren“.