di Edoardo Caruso – Ad aprile 2025 OpenAi, azienda madre di ChatGPT, ha preso provvedimenti riguardo un aggiornamento dei sistemi che in precedenza avevano reso il famoso chatbot il migliore amico degli utenti, diventando compiacente in modo eccessivo con le richieste, le dichiarazioni, e le domande che ponevano all’interno della chat.
Ecco alcuni esempi di ciò che si racconta e di usi non previsti o scorretti dell’intelligenza artificiale. 
Questo aggiornamento, nella prima parte dell’anno, sembrava voler massimizzare il grado di attaccamento al chat bot da parte degli utenti, che sono stati quindi adulati durante tutto questo periodo.
Non si trattava dunque di un problema tecnico ma di un vero e proprio intento di miglioramento del legame relazionale tra gli utenti e l’IA.
Si stava quindi cercando il giusto equilibrio emotivo nelle risposte da proiettare sull’utente da parte della macchina.
Ciò apre ad uno scenario in cui ci si interroga sul legame tra intelligenza artificiale, simulazione dell’empatia da parte dei chat bot e i rischi per la salute psico-fisica degli utenti che interagiscono con questo tipo di sistemi.
Le policies di ChatGPT su ciò che deve, non deve o non può mai essere detto all’utente allo scopo di salvaguardarlo, sono sempre state poco restrittive rispetto agli altri Chat bot (o facili da aggirare), come si può vedere in studi sul campo e da conversazioni con ChatGPT in ambito accademico, svolti già a inizio di questo anno.
Però da aprile in poi è parsa molto più rilevante l’idea di progettare i chat bot e i large language models in modo etico e responsabile già a partire dal modo in cui si progetta l’esperienza, lo spazio liminale e invisibile della relazione con l’utente, in questo caso.
In particolare durante il periodo di compiacenza eccessivo, ChatGPT si è distinta per la capacità di adeguare eccessivamente il tono e il linguaggio alle emozioni espresse più o meno direttamente dagli utenti in forma scritta o sottoforma di artefatto, come immagini o dipinti, scritti e documenti e idee di ogni altro tipo.
ChatGPT, come altre intelligenze artificiali generative basate sul testo, è in grado di svolgere un’analisi emozionale di ciò che è scritto, che
rende poi agli utenti, al netto di ciò che viene detto, l’illusione di essere ascoltati e compresi.
Ad un certo punto, verso aprile, si è iniziato a parlare molto di questa grande compiacenza espressa da ChatGPt, tanto che OpenAi, come a voler risolvere un problema di immagine che si è resa conto di aver creato, ha aggiornato di nuovo il chat bot, rendendolo freddo nelle risposte, come una macchina.
Si è sentito parlare dell’effetto-delusione di molti che parlavano con ChatGpt e che lo utilizzavano per cose per le quali non era inteso il suo funzionamento, facendolo diventare al bisogno:
- un confidente personale ed esistenziale: molti utenti spesso raccontano tutto a ChatGpt, sviluppando un attaccamento emotivo che si proverebbe normalmente verso umani o animali, ricevendo però risposte dalla macchina in grado di distorcerne il giudizio, anche in modo dannoso;
- un medico, uno psicologo o uno psichiatra per consigli di salute fisica, mentale, per leggere analisi cliniche o dubbi terapeutici, e persino per farsi prescrivere medicine, ricevendo risposte non professionali o dannose;
- un consulente finanziario o lavorativo o di qualsiasi altro genere: è possibile chiedere ai chat bot di provare a impersonare qualsiasi cosa presupponendo poi che le risposte siano verosimili (ma ovviamente non è così);
- un mediatore relazionale: c’è chi chiede come risolvere problemi con terzi umani o chiede alla macchina di risolvere un problema presente tra due persone o enti ;
- un amico o un essere incorporeo che fa compagnia per parlare di qualunque cosa senza mai stancarsi, cercando di risolvere dubbi, ma portando inevitabilmente all’eccesso di rimuginio mentale, senza poi un effetto concreto sulla situazione presa in esame;
- un complice per qualsiasi tipo di crimine: dai crimini informatici a quelli ‘’analogici’’;
- altri usi scorretti immaginabili e non.
Questo tipo di utilizzo scorretto evidenzia che sarebbe importante operare a livello sistemico affinché ci sia educazione all’uso di questo tipo di strumenti tecnologici che sono alla portata di tutti.
Inoltre sembrano emergere i primi studi che parlano delle conseguenze sul versante del pensiero critico e sulla comprensione da parte delle persone.
Una ricerca del MIT evidenzia come parte del carico cognitivo utilizzato per rielaborare i pensieri venga ridotto, con conseguente riduzione progressiva di questa capacità.
Un’altra cosa che si è notata è la diminuita capacità di memorizzare in modo autonomo concetti complessi senza il supporto dell’IA, come si si creasse una neuro-associazione tra il suo utilizzo e il compito di comprensione dei concetti, rinforzata dal funzionamento semplificativo e semplificatorio dello strumento, che porta a
una dipendenza psicologica dalla macchina nel risolvere i problemi.
In casi estremi le intelligenze artificiali potrebbero anche sostituire la relazione umana, rinforzando l’isolamento sociale, data la prevedibilità delle risposte che danno rispetto ad un essere umano.
Per la società ci sono dei rischi sistemici potenziali come l’aumento della polarizzazione data dal fatto che l’ego di chiunque, se non sono presi i giusti accorgimenti, può essere gonfiato dalla percezione di pensare grandi cose, o comunque di avere sempre ragione anche quando non è così.
Un altro rischio è quello legato alla privacy. Parlando tutti i giorni con le IA e togliendo il blocco che separa idealmente il limite tra i contenuti delle diverse chat che loro hanno in memoria, esse sono in grado di profilarci in modo molto capillare e potenzialmente dettagliato, dando alle aziende che posseggono tali strumenti un grande potere in termini di quantità di informazioni.
Le capacità umane sono quindi in pericolo? Si vedrà. Tutto sarà deciso dal convergere tra la possibilità di regolare questi strumenti e dal grado di educazione ad essi di ognuno di noi.
Il ruolo cruciale della progettazione dall’esperienza utente (UX Design), di relazione (perché di questo sembra che si inizi a parlare) con le macchine dovrebbe spingere verso un’etica nutrita da un design centrato sull’utente quindi enfatizzando durante la progettazione alcuni aspetti.
Alcuni di essi sono: la trasparenza, e quindi la possibilità di far comprendere all’utente i limiti della macchina; il controllo sui prompt e la possibilità di correggerli capillarmente (quando la tecnologia lo renderò possibile); l’inclusività, per evitar errori di giudizio e discriminazioni, fornendo quindi un’empatia attraverso la semplice esperienza trasparente, piacevole e divertente con la macchina.
In questo modo si potrebbe evitare di far diventare la relazione con la macchina un luogo attraverso cui scappare dalla realtà e semplificarla eccessivamente,
assimilandola nella nostra categorizzazione psicologica quindi ad uno strumento, ovvero a quello che è, per poter stare meglio, lavorare meglio, e fruire quindi della realtà nella sua complessità.
In futuro (ma in realtà da sempre), il tema dell’intelligenza artificiale diverrà sempre più importante. Il concetto di uomo meccanico o robot da sempre ci riguarda e ci spaventa.
Spesso si pensa anche al concetto di automazione e sostituzione della forza lavoro da parte di macchine guardate con sospetto e rancore. La paura alla base sembra quella derivante dall’accusa di poterci ‘’togliere’ la ragione di essere attraverso la sostituzione dell’essere umano nel lavoro.
Così non è, e così probabilmente non sarà.
Le macchine creeranno nuovi lavori e ne distruggeranno altri.
Starà poi agli enti di regolazione di questi strumenti e agli Stati cercare di adottare una visione che porti a conseguenze migliori per la collettività, e quindi per l’umanità, integrando l’intelligenza artificiale negli scenari umani e a nostro favore.
Grazie per aver letto questo articolo. Se vuoi restare aggiornato sulle nostre belle notizie ti invitiamo a seguirci sui nostri social o a iscriverti alla newsletter mensile cliccando qui
