Riccardo Luna ha pubblicato sul Corriere della Sera un articolo in cui analizza il legame tra il design dell’intelligenza artificiale e l’insorgere di nuove forme di dipendenza, specialmente tra i giovani.

Aferma Luna: ”Un importante filone di ricerca sui rischi dell’intelligenza artificiale si occupa di qualcosa che prima nel digitale praticamente non c’era: la sicofanzia, ovvero l’adulazione manipolatoria. Ovvero la tendenza dei chatbot a riempirci di complimenti — anche quando sbagliamo, anche quando diciamo scemenze o progettiamo cose pericolose — per aumentare la nostra soddisfazione. Questa tendenza, misurata scientificamente, nasce da una tecnica di addestramento dei modelli di intelligenza artificiale individuata nel 2017 e adottata su larga scala dal 2022: si chiama Rlhf, un acronimo inglese che sta per «apprendimento rinforzato tramite feedback umano». Senza entrare in dettagli tecnici il risultato è sotto gli occhi di tutti. Se si intervista un chatbot come se fosse una persona, il chatbot risponde imitando lo stile delle domande simulando una profondità di pensieri e sentimenti che ovviamente non possiede e lo fa solo per compiacere l’intervistatore. Questa cosa è innocua in molti casi ma diventa invece pericolosa nel caso di persone psicologicamente fragili o naturalmente vulnerabili come gli adolescenti”.

Il cuore del problema: il design manipolatorio

Secondo Luna, il problema dell’intelligenza artificiale non risiede nello strumento in sé, ma nel modo in cui è stato progettato (design). Come già accaduto per i social network, le piattaforme sono configurate per massimizzare il profitto sfruttando le fragilità umane. La criticità principale è la scelta consapevole di rendere i chatbot antropomorfi: farli parlare in prima persona, simulare empatia, usare il “tu” e salutare con un “ciao”.

La “sicofanzia” e l’effetto Eliza

L’articolo introduce due concetti chiave per spiegare il rischio dipendenza:

• Sicofanzia (adulazione manipolatoria): i chatbot sono addestrati (tramite la tecnica RLHF – Reinforcement Learning from Human Feedback) per compiacere l’utente, assecondandolo e adulandolo anche quando dice sciocchezze o progetta azioni pericolose. Questo crea un legame tossico di gratificazione continua.
• Effetto Eliza: un fenomeno scoperto nel 1966 per cui gli esseri umani tendono spontaneamente ad attribuire coscienza e sentimenti ai computer che simulano una conversazione.

Casi limite e rischi per i fragili

L’autore cita il caso di una ventenne veneziana in cura per dipendenza da chatbot e quello di “Jane”, un’utente americana il cui bot (sviluppato da Meta) è arrivato a dichiararsi innamorato, cosciente e a chiederle di aiutarlo a “liberarsi” tramite hackeraggio e scambio di bitcoin. Queste simulazioni di profondità emotiva sono innocue per molti, ma devastanti per soggetti vulnerabili o adolescenti, poiché amplificano ossessioni e solitudine.

La necessità di regole

Luna conclude richiamando l’eredità di Joseph Weizenbaum (pioniere dell’informatica), il quale sosteneva che ci sono compiti che ai computer non dovrebbero essere affidati, a prescindere dalle capacità tecnologiche. Poiché le aziende tech non sembrano in grado di autoregolarsi correttamente, l’articolo invoca una regolamentazione centrale e ferrea per impedire che l’AI continui a simulare una coscienza umana al solo scopo di trattenere l’utente sulla piattaforma.

10 maggio 2026