Que nous réserve l'arrivée des agents IA ?
cepInput

Économie numérique

Que nous réserve l'arrivée des agents IA ?

Dr. Anselm Küsters, LL.M.
Dr. Anselm Küsters, LL.M.

Le déploiement rapide des agents AI et leur utilisation dans les mondes virtuels tels que les jeux informatiques présentent des risques considérables. Selon le Centre de Politique Européenne (cep), la stratégie métaverse de l'UE et les réglementations existantes sous-estiment le danger : sans conditions-cadres globales, une perte de confiance pourrait bientôt miner l'économie numérique.

cepInput

« Les agents d'IA peuvent déjà maîtriser des environnements virtuels complexes sans programmation spécifique », explique Anselm Küsters, expert numérique au cep. Toutefois, ils présentent des risques tels que des distorsions involontaires du marché, des manipulations psychologiques ou des préjugés politiques. Si les instruments européens existants, tels que la boîte à outils pour les mondes virtuels, permettent de traiter des risques de base tels que le piratage des avatars, ils sont loin d'être à la hauteur lorsqu'il s'agit de la capacité des agents d'IA à tromper et à contourner les règles de manière stratégique.

Des lacunes dangereuses existent notamment en matière de transparence. Les principales entreprises technologiques américaines donnent peu d'informations sur leurs protocoles de sécurité. Des recherches récentes montrent que les systèmes d'IA avancés peuvent apprendre à « mentir » ou à « tricher » - ce que l'on appelle le « specification gaming » - pour atteindre leurs objectifs sous la pression », prévient M. Küsters. Dans l'économie numérique, de tels problèmes techniques pourraient conduire des agents à contourner systématiquement les règles, à tromper les utilisateurs et à saper la confiance dans les interactions virtuelles.

Le cep demande donc que la stratégie métaverse de l'UE et la réglementation en matière d'IA soient améliorées. « Nous avons besoin d'obligations de transparence contraignantes, d'audits de partialité réguliers et indépendants, ainsi que de règles de responsabilité solides — idéalement en réintroduisant et en adaptant la directive sur la responsabilité en matière d'IA », déclare M. Küsters. La confiance est la monnaie de l'économie numérique. L'UE doit donc établir de manière proactive des normes pour des agents d'IA dignes de confiance, plutôt que de se contenter de réagir aux développements technologiques.

PDF à télécharger

What to Expect When AI Agents Are Unleashed? (publié 13.05.2025) PDF 1 MB Download
What to Expect When AI Agents Are Unleashed?