Cosa ci si può aspettare dal rilascio degli agenti di Intelligenza Artificiale?

“Gli agenti di IA sono già in grado di gestire ambienti virtuali complessi senza una programmazione specifica”, spiega Anselm Küsters, esperto digitale del cep. ”Allo stesso tempo, comportano rischi quali distorsioni involontarie del mercato, manipolazione psicologica o pregiudizi politici. Gli strumenti UE esistenti, come il Virtual Worlds Toolbox, identificano rischi fondamentali come l'hacking degli avatar, ma sono chiaramente insufficienti rispetto alla capacità degli agenti IA di ingannare e aggirare strategicamente le regole”.

Proprio in materia di trasparenza esistono pericolose lacune. Le aziende tecnologiche statunitensi dominanti non forniscono quasi nessuna informazione sui protocolli di sicurezza. “Ricerche recenti dimostrano che i sistemi di IA avanzati possono imparare a 'mentire' o 'barare' – fenomeno noto come Specification Gaming – per raggiungere i propri obiettivi quando sono sotto pressione”, avverte Küsters. ‘Tali problemi tecnici potrebbero portare, nell'economia digitale, ad agenti che aggirano sistematicamente le regole, ingannano gli utenti e minano la fiducia nelle interazioni virtuali’.

Il cep sollecita quindi un miglioramento della strategia dell'UE sul metaverso e della regolamentazione dell'IA. “Abbiamo bisogno di obblighi di trasparenza vincolanti, audit periodici e indipendenti sui casi di bias e norme solide in materia di responsabilità, preferibilmente attraverso la ripresa e l'adeguamento della direttiva sulla responsabilità dell'IA”, afferma Küsters. “La fiducia è la valuta dell'economia digitale. L'UE deve quindi stabilire in modo proattivo standard per agenti di IA affidabili, invece di limitarsi a reagire agli sviluppi tecnologici”.