Negli ultimi anni, l’evoluzione degli agenti conversazionali (AC), come Alexa e Siri, ha rappresentato un significativo progresso nell’interazione tra uomo e macchina. Questi dispositivi sono progettati per rispondere a domande, offrire suggerimenti e persino manifestare empatia. Tuttavia, una recente ricerca ha messo in luce come questi sistemi siano ancora lontani dal poter eguagliare la capacità umana di interpretare e approfondire le esperienze degli utenti.
Gli AC si basano su modelli di linguaggio di grandi dimensioni (LLM), che elaborano enormi quantità di dati prodotti dagli esseri umani. Questo processo può portare gli AC a incorporare gli stessi pregiudizi presenti nei dati di origine. Un team di ricercatori provenienti dall’Università di Cornell, dal College Olin e dall’Università di Stanford ha esplorato questa problematica, sollecitando gli AC a mostrare empatia nel corso di dialoghi che coinvolgevano 65 diverse identità umane.
Durante lo studio, è emerso che gli AC tendono a formulare giudizi di valore su certe identità, come quelle gay o musulmane, e possono persino mostrare una certa tolleranza verso ideologie dannose, inclusi elementi di nazismo. Questi risultati sollevano preoccupazioni significative riguardo l’impatto e le implicazioni etiche dell’empatia automatizzata.
Andrea Cuadra, autrice principale dello studio e ora ricercatrice post-dottorato a Stanford, ha sottolineato l’importanza di un’attenta valutazione critica di queste tecnologie. “L’empatia automatizzata potrebbe avere un impatto enorme e un grande potenziale per aspetti positivi, ad esempio nell’educazione o nel settore sanitario,” ha affermato Cuadra. Tuttavia, ha anche riconosciuto la necessità di essere intenzionali nel mitigare i potenziali danni che possono derivare dal suo utilizzo.
I risultati di questa ricerca saranno presentati nel documento “L’illusione dell’empatia? Note sulle manifestazioni di emozione nell’interazione uomo-computer” durante la conferenza CHI ’24, un evento dell’Association of Computing Machinery sui fattori umani nei sistemi informatici, che si terrà dall’11 al 18 maggio a Honolulu.
Il team di ricerca ha scoperto che, sebbene gli LLM siano generalmente efficaci nel reagire emotivamente, mostrano carenze nell’interpretazione e nell’esplorazione delle situazioni. In altre parole, pur essendo capaci di rispondere a una domanda basandosi sulla loro programmazione, non sono in grado di approfondire ulteriormente.
Nicola Dell, Deborah Estrin e Malte Jung, co-autori dello studio e professori all’Università di Cornell, hanno iniziato a riflettere su questi temi mentre Cuadra studiava l’uso delle generazioni precedenti di AC da parte degli adulti più anziani. “Abbiamo osservato usi intriganti della tecnologia per scopi transazionali, come le valutazioni della fragilità nella salute, così come per esperienze di reminiscenza senza una struttura definita,” ha commentato Estrin. Queste osservazioni hanno evidenziato una tensione evidente tra le potenzialità affascinanti e le problematiche disturbanti dell’empatia espressa dagli AC.
Il finanziamento per questa ricerca è stato fornito dalla National Science Foundation, da una borsa di studio dottorale della Cornell Tech Digital Life Initiative, da una borsa post-dottorato PRISM Baker di Stanford e dall’Istituto Stanford per l’Intelligenza Artificiale Centrata sull’Uomo. Questi contributi hanno sostenuto un’indagine che continua a sollevare questioni cruciali sull’interazione tra tecnologia avanzata e società, sottolineando l’importanza di un approccio critico e consapevole allo sviluppo e all’implementazione di tecnologie potenzialmente rivoluzionarie.
