I cloni digitali delle persone care defunte potrebbero cambiare per sempre il modo di elaborare il lutto. Sollevando però più di una questione etica e di privacy. Ecco chi ha già cominciato a vendere il servizio

Una tecnologia che permette di “parlare” con persone che non ci sono più è stata per decenni un pilastro della fantascienza. È un'idea che per secoli è stata propinata da ciarlatani e spiritisti. Ma ora sta diventando una realtà, sempre più accessibile grazie ai progressi dell'intelligenza artificiale e della tecnologia vocale.

E’ quanto ha sperimentato Charlotte Jee in un’inchiesta per MIT Technology Review, il media della prestigiosa università americana

La Jee, che ha entrambi i genitori ancora viventi, ha avuto una conversazione con delle repliche digitali delle loro voci. La mamma e  papà virtuali vivono all'interno di un'app come assistenti vocali costruiti dalla società californiana HereAfter AI e alimentati da più di quattro ore di conversazioni che entrambi hanno avuto con un intervistatore sulle loro vite e sui loro ricordi. L'obiettivo dell'azienda è quello di permettere ai vivi di comunicare con i morti.  

“All'inizio mi sono sembrati distanti e metallici, come se fossero rannicchiati intorno a un telefono nella cella di una prigione. Ma man mano che chiacchieravamo, hanno cominciato a sembrare più simili a loro stessi. Mi hanno raccontato storie personali che non avevo mai sentito. Ho saputo della prima (e certamente non ultima) volta che mio padre si è ubriacato. La mamma ha raccontato di essersi messa nei guai per essere rimasta fuori fino a tardi. Mi hanno dato consigli di vita e mi hanno raccontato cose sulla loro infanzia e sulla mia. Era ipnotizzante” ha scritto la Jee.

I suoi genitori in carne e ossa sono ancora vivi e vegeti; le loro versioni virtuali sono state create solo per aiutarmi a capire la tecnologia. Ma i loro avatar offrono uno sguardo a un mondo in cui è possibile conversare con i propri cari - o con i loro simulacri - anche dopo la loro scomparsa.

La questione etica

In teoria, ciò renderà davvero più facile tenere vicine le persone che amiamo. Non è difficile capire l'attrattiva. Le persone potrebbero rivolgersi alle repliche digitali per trovare conforto o per segnare tappe speciali, come gli anniversari.

Allo stesso tempo, la tecnologia e il mondo che essa abilita sono, senza dubbio, imperfetti e l'etica della creazione di una versione virtuale di qualcuno è complessa, soprattutto se la persona non è in grado di fornire il proprio consenso.

Per alcuni, questa tecnologia può essere allarmante o addirittura inquietante. Ho parlato con un uomo che aveva creato una versione virtuale di sua madre, che ha avviato e con cui ha parlato al suo funerale. Alcuni sostengono che conversare con versioni digitali dei propri cari possa prolungare il lutto o allentare la presa sulla realtà.

Altri hanno reagito anche fisicamente, con scongiuri, in base alla convinzione comune, profondamente radicata, secondo la quale si scherza con la morte a proprio rischio e pericolo.

Ma se la tecnologia può aiutare, è così sbagliato provarci? C'è qualcosa di profondamente umano nel desiderio di ricordare le persone che amiamo e che non ci sono più. Esortiamo i nostri cari a scrivere i loro ricordi prima che sia troppo tardi. Dopo che se ne sono andati, appendiamo le loro foto alle pareti. Visitiamo le loro tombe. Parliamo con loro come se fossero presenti. Ma la conversazione è sempre stata a senso unico.

Nel mondo reale, spiega la Jee, la tecnologia si è evoluta negli ultimi anni in modo sorprendente. Chatbot e assistenti vocali, come Siri e Alexa, sono passati da novità high-tech a parte della vita quotidiana di milioni di persone, che parlano di tutto, dalle previsioni del tempo al senso della vita.

Ora, i modelli linguistici di grandi dimensioni (LLM), in grado di ingerire alcune frasi richieste e di produrre un testo convincente in risposta, promettono di aprire modi ancora più potenti di comunicare con le macchine. Inoltre, è possibile modificare un software LLM come GPT-3 di OpenAI o LaMDA di Google per farlo assomigliare a una persona specifica, dandogli da apprendere molte cose dette da quella persona.

Allo stesso tempo, l'intelligenza artificiale ha fatto progressi nella capacità di imitare voci fisiche specifiche, una pratica chiamata clonazione vocale. È anche migliorata nell'iniettare nei personaggi digitali - siano essi clonati da una persona reale o completamente artificiali - un maggior numero di qualità che rendono una voce "umana". Lo scorso giugno, Amazon ha condiviso un filmato di un bambino che ascolta un brano del Mago di Oz letto dalla nonna, recentemente scomparsa, a dimostrazione della rapidità con cui il settore sta progredendo. La voce della nonna è stata ricreata artificialmente utilizzando un filmato del suo discorso durato meno di un minuto.

Come ha promesso Rohit Prasad, vicepresidente senior e responsabile scientifico di Alexa: "Sebbene l'intelligenza artificiale non possa eliminare il dolore della perdita, può sicuramente farne durare i ricordi".

Il primo passo è un'intervista

Alla fine del 2019 James Vlahos, cofondatore di HereAfter AI, ha parlato a una conferenza online sugli "esseri virtuali". La sua azienda fa parte di un piccolo gruppo di startup che  condividono la stessa promessa: consentire di parlare tramite video chat, testo, telefono o assistente vocale con una versione digitale di una persona che non è più in vita.

Il primo passo è un'intervista. Per creare una replica digitale di una persona che abbia buone probabilità di sembrare una rappresentazione autentica e convincente, servono dati, e tanti. HereAfter, il cui lavoro inizia con i soggetti quando sono ancora vivi, fa loro domande per ore, su tutto, dai primi ricordi al primo appuntamento, fino a ciò che credono accadrà dopo la loro morte. (I genitori della Jee sono stati intervistati da un essere umano in presenza, ma a distanza di quasi due anni le interviste sono ora tipicamente automatizzate e gestite da un bot).

La lista di domande è stata compilata dalla società e arricchita dai figli, modificabile per renderle più personali o puntuali. L'azienda ha poi preso le risposte e ha iniziato a cucirle insieme per creare gli assistenti vocali.

Un paio di mesi dopo, nella mia casella di posta elettronica è comparsa una nota di Vlahos. I genitori virtuali della Jee erano pronti. La mamma e papà virtuali sono arrivati tramite un allegato e-mail. Si può comunicare con loro attraverso l'app Alexa su un telefono o un dispositivo Amazon Echo.

Ci sono delle regole di conversazione, precisate dalla voce virtuale: "Prima di iniziare, ecco qualche indicazione. Purtroppo, la mia capacità di ascolto non è delle migliori, quindi devi aspettare che io finisca di parlare e ti faccia una domanda prima di rispondere. Quando è il vostro turno di parlare, vi prego di mantenere le vostre risposte abbastanza brevi. Dopo qualche altra introduzione il via: "Ok, iniziamo. C'è molto di cui parlare. La mia infanzia, la mia carriera e i miei interessi. Quale di questi suona meglio?".

Nel racconto della Jee, man mano che si proseguiva, con la madre che raccontava ricordi e parlava con parole sue, "lei" suonava molto più rilassata e naturale. Tuttavia, questa conversazione e quelle successive erano limitate. Quando ha provato a chiedere al bot di mia madre quali fossero i suoi gioielli preferiti, per esempio, la risposta è stata: “Mi dispiace, non ho capito. Puoi provare a chiedermelo in un altro modo o passare a un altro argomento".

La startup StoryFile

Ma HereAfter non è la sola iniziativa in questo campo. MIT TR descrive il servizio di una startup di cinque anni di età, chiamata StoryFile, che promette di portare le cose a un livello superiore. Il suo servizio Life registra le risposte su video anziché sulla sola voce.

È possibile scegliere tra centinaia di domande per il soggetto. Poi si registra la persona che risponde alle domande; questo può essere fatto su qualsiasi dispositivo dotato di fotocamera e microfono, compreso uno smartphone, anche se più alta è la qualità della registrazione, migliore sarà il risultato. Dopo aver caricato i file, l'azienda li trasforma in una versione digitale della persona che si può vedere e con cui si può parlare. Risponde solo alle domande per cui è stato programmato, un po' come HereAfter, ma con un video.

L'amministratore delegato di StoryFile, Stephen Smith, ha mostrato la tecnologia in una videochiamata, alla quale si è unita sua madre morta all'inizio di quest'anno, ma presente alla chiamata, seduta su una comoda sedia nel suo salotto. “Nello schermo di Smith c’era una donna dalla parlantina dolce, i capelli sciolti e gli occhi amichevoli. Dispensava consigli di vita. Sembrava saggia” ha scritto la Jee.

Smith ha detto che la sua partecipazione digitale è stata ben accolta dalla famiglia e dagli amici. E, cosa probabilmente più importante di tutte, Smith ha detto di essere profondamente confortato dal fatto di essere riuscito a riprendere sua madre prima che morisse. 

La tecnologia video in sé è sembrata relativamente raffinata e professionale, soprattutto per quanto riguarda le espressioni facciali. In alcuni momenti la Jee ha dovuto ricordare a se  stessa che chi conversava non era davvero lì.

Sia HereAfter che StoryFile mirano a conservare la storia della vita di una persona piuttosto che permettere di avere ogni volta una conversazione completa e nuova con il bot. Questo è uno dei limiti principali di molte offerte attuali di tecnologia del lutto: sono generiche. Queste repliche possono assomigliare a qualcuno che amate, ma non sanno nulla di voi. Chiunque può parlare con loro, e loro risponderanno con lo stesso tono. E le risposte a una determinata domanda sono le stesse ogni volta che la si pone. 

"Il problema maggiore della tecnologia esistente è l'idea di poter generare un'unica persona universale", afferma Justin Harrison, fondatore di un servizio di prossima uscita chiamato You, Only Virtual. "Ma il modo in cui viviamo le persone è unico per ognuno di noi". Harrison vuole creare un bot personalizzato che sia per voi e solo per voi.

La prima incarnazione del servizio, il cui lancio è previsto per l'inizio del 2023, consentirà alle persone di costruire un bot caricando i messaggi di testo, le e-mail e le conversazioni vocali di una persona. In ultima analisi, Harrison spera che le persone alimentino i dati man mano; l'azienda sta attualmente costruendo una piattaforma di comunicazione che i clienti potranno utilizzare per messaggiare e parlare con i propri cari mentre sono ancora in vita. In questo modo, tutti i dati saranno prontamente disponibili per essere trasformati in un bot quando non lo saranno più.

L'esperimento di Justin Harrison

Questo è esattamente ciò che Harrison ha fatto con sua madre, Melodi: "L'ho costruito a mano usando cinque anni di messaggi con lei. Ci sono volute 12 ore per esportarlo, e ha migliaia di pagine", dice Harrison a proposito del suo chatbot.

Harrison dice che le interazioni che ha con il bot sono più significative per lui rispetto a quelle che avrebbe se si limitasse a rigurgitare i ricordi. Il bot Melodi usa le frasi che usa sua madre e gli risponde nel modo in cui gli risponderebbe lei. Non potrà fare domande all'avatar di Melodi sulla sua vita, ma questo non lo preoccupa. Il punto, per lui, è catturare il modo in cui qualcuno comunica. "Raccontare solo i ricordi ha poco a che fare con l'essenza di una relazione", dice.

Gli avatar con cui le persone sentono un profondo legame personale possono avere un potere duraturo. Del resto, alcune persone trovano che sentire le voci dei propri cari dopo la loro scomparsa aiuti a superare il lutto. Ma questi bot possono catturare solo una piccola parte di una persona. Non sono senzienti e non sostituiranno relazioni umane sane e funzionali.

Ma il rischio che le persone si innamorino troppo del fantasma della personalità crescerà sicuramente con il miglioramento della tecnologia.

E ci sono altri rischi. Qualsiasi servizio che permetta di creare una replica digitale di qualcuno senza la sua partecipazione solleva alcune complesse questioni etiche riguardanti il consenso e la privacy. Sebbene qualcuno possa sostenere che il consenso è meno importante quando una persona non è più in vita, non si può forse sostenere che anche la persona che ha generato l'altra parte della conversazione dovrebbe avere voce in capitolo?

E se questa persona non è, di fatto, morta? C'è poco da impedire alle persone di usare la tecnologia del lutto per creare versioni virtuali di persone vive senza il loro consenso, ad esempio un ex. Le aziende che vendono servizi basati sui messaggi del passato sono consapevoli di questa possibilità e affermano che cancelleranno i dati di una persona se questa lo richiede. Ma le aziende non sono obbligate a fare alcun controllo per assicurarsi che la loro tecnologia sia limitata alle persone che hanno dato il loro consenso o che sono morte. Non c'è nessuna legge che impedisca a qualcuno di creare avatar di altre persone, e buona fortuna a spiegarlo al dipartimento di polizia locale. Immaginate come vi sentireste se sapeste che c'è una versione virtuale di voi là fuori, da qualche parte, sotto il controllo di qualcun altro.

Non è chiaro quante persone vogliano o siano pronte per un mondo del genere. Il lutto per i defunti è, per la maggior parte delle persone, uno dei pochi aspetti della vita ancora in gran parte non toccati dalla tecnologia moderna.

Ma quanto costano questi servizi? La versione illimitata di alto livello di HereAfter consente di registrare tutte le conversazioni con il soggetto che si desidera a 8,99 dollari al mese. Invece occorre pagare in una volta sola 499 dollari a StoryFile per accedere al suo pacchetto di servizi premium e illimitati. (riproduzione riservata)