AI generativa: l’Antitrust impone più trasparenza sul rischio di “allucinazioni”.

L’AGCM rafforza il presidio consumeristico sui servizi di intelligenza artificiale generativa. Con tre istruttorie nei confronti di DeepSeek, Mistral AI e NOVA AI, l’Autorità ha affrontato il tema delle cosiddette “allucinazioni”, ossia la generazione di contenuti inesatti, fuorvianti o inventati da parte dei chatbot. I procedimenti si sono conclusi con l’accoglimento degli impegni proposti dalle società, senza accertamento di infrazione ai sensi dell’art. 27, comma 7, del Codice del consumo.

Gli impegni assunti puntano a rendere più chiari, accessibili e tempestivi gli avvisi rivolti agli utenti, sia nei siti internet sia nelle app, anche nelle fasi che precedono la registrazione o l’acquisto del servizio. In particolare, le società dovranno inserire disclaimer permanenti nelle interfacce di utilizzo, sotto le chat, in lingua italiana e con link informativi dedicati, per avvertire gli utenti della possibilità che le risposte generate dall’AI contengano errori o informazioni non affidabili.

L’Autorità ha inoltre richiesto un rafforzamento dell’informativa precontrattuale, con avvertenze esplicite sui limiti di affidabilità dei contenuti prodotti dai sistemi di AI e sulla necessità di verificarne l’esattezza. Nel caso DeepSeek, gli impegni includono anche un investimento tecnologico volto a mitigare il fenomeno, pur prendendo atto che, allo stato attuale della tecnologia, le allucinazioni non possono essere eliminate integralmente.

Specifico anche l’intervento su NOVA AI: il servizio dovrà chiarire meglio al consumatore la propria natura di interfaccia unica di accesso a diversi chatbot, senza presentarsi come un sistema autonomo di aggregazione o rielaborazione delle risposte.

Nei provvedimenti l’AGCM ha valorizzato il fatto che l’informazione sul rischio di risposte inesatte sia rilevante per una scelta consapevole dell’utente, anche quando il servizio non comporta il pagamento di un corrispettivo monetario.

La vicenda conferma l’estensione della vigilanza sulle pratiche commerciali scorrette anche ai servizi di AI generativa.