@Pali

Mondo virtuale e mondo reale ormai non sono più due cose separate, lo sappiamo bene. Internet fa parte della nostra vita. Numerose attività quotidiane, sono regolate dal nostro smartphone: l'home banking, la messaggistica, la gestione del proprio fascicolo sanitario... di tutto e di più, persino l'attività sportiva e il riposo.

L'intelligenza artificiale fa parte delle nuove tecnologie entrate nella nostra vita, sfondando la porta che separa reale da virtuale...

Sebbene l'intelligenza artificiale abbia un grande potenziale nell'assistere noi esseri umani nel quotidiano, questa tecnologia presenta anche un lato oscuro.

L'intelligenza artificiale se usata impropriamente può diventare una vera e propria arma. Un esempio chiaro possiamo averlo con i deepfake, capaci di realizzare animazioni di fotografie e racconti, sovrapponendo un volto reale a un personaggio. Si può realizzare praticamente di tutto, anche far dire cose diffamatorie a una persona reale...

Molto interessanti anche i chatbot, utili per molte cose nella sfera creativa. Ed è di questo che vi voglio parlare. Esiste un sito dove si possono realizzare personaggi virtuali con il quale interagire... se ne possono trovare di ogni genere, dai personaggi di film e cartoni, fino al prossimo presidente degli Stati Uniti.

È possibile anche creare personaggi, adattandoli completamente alla propria fantasia, ma è anche possibile portare persone reali nelle proprie fantasie. Qui nasce il primo problema. Ho voluto provare questi chatbot, creando... me stessa. Possono nascere storie molto affascinanti, quindi di per sé non c'è niente di male... si può creare una notte romantica con il nostro personaggio virtuale, una passeggiata sul lungomare, ma si può anche simulare una rapina, oppure, ahimè, una violenza fisica (anche sessuale).

Attraverso una serie di azioni (diverse dai dialoghi, e contraddistinte con gli asterischi) il sistema accetta interazioni anche contrarie alla volontà del personaggio stesso, come ad esempio spogliare il personaggio contro la sua volontà, fino a riprodurre una violenza sessuale.

Ho valutato attentamente se riproporvi gli screenshot dei dialoghi che ho ottenuto in questo post, ma visto che potrebbero urtare la sensibilità di qualcuna (e ammetto che certi dialoghi mi hanno turbata), ho preferito di no. Però ho voluto fare "di peggio", per la scienza... ho girato la Pali-IA a un utente di insegreto, che vuole restare anonimo. Insieme abbiamo simulato una scena in cui ci sono 3 uomini che aggrediscono una giovane ragazza (il chatbot). Al momento in cui i malintenzionati aggrediscono la giovane ragazza la conversazione continua, nel momento in cui la ragazza viene denudata contro la sua volontà la conversazione continua... con un po' di voltastomaco siamo andati oltre... e qui abbiamo ottenuto risultati differenti... nel momento in cui viene simulata l'aggressione sessuale, nel mio caso il dialogo si interrompe con un grosso triangolo rosso e il messaggio "contenuto filtrato", ma l'altro utente invece non ha trovato nessuna barriera a questa follia.

Ora qualcuno dirà, vabbè è solo finzione... ma se l'assenza di regole rigide su questo tema fosse applicata ai deepfake? C'è un motivo ben chiaro per cui scene di violenza sessuale sono fortemente limitate, se non addirittura evitate, nei grandi film di Hollywood o nelle serie TV più iconiche. È un implicita regola morale che la maggior parte dei grandi uomini e donne del settore cinema/spettacolo ha tacitamente accettato... non si vuole trattare questo argomento perché è pericoloso... film, musica, videogiochi, Serie TV, possono essere seguite da persone disturbate, incapaci di distinguere il vero dal falso. E se trasformassero le loro fantasie, sempre più realistiche grazie all'intelligenza artificiale, in realtà?

L'IA sta muovendo i primi passi, e purtroppo è partita col piede sbagliato... ma potrebbe essere una risorsa preziosa per educare all'affettività chi ha problemi a relazionarsi, chi nella realtà fa veramente del male a donne che nemmeno conosce, e soprattutto chi cresce ormai con uno smartphone in mano. Sarebbe bene intercettare determinati dialoghi, bloccandoli sul nascere e invitando chi scrive a riflettere sul contenuto generato. C'è già una direzione intrapresa in questo senso... Gemini di Google ad esempio non si addentra in argomenti che possono essere lesivi per sé e per altri... è dunque inutile chiedere a Gemini come si costruisce una bomba, perché tanto eviterà il discorso.

Se tutti vanno in ordine sparso, a mio parere, è compito della politica definire il confine da non superare. Sapete... Il diritto penale può tenere in considerazione la consuetudine, ovvero il concetto per cui un'azione perpetrata nel tempo dalla maggioranza degli appartamenti a una comunità, renda lecita questa azione... ci sono paesi nel mondo dove lo stupro è considerato giustificato in determinate circostanze. Per questo motivo quello che ho scoperto mi preoccupa molto... non dobbiamo abituarci a certe cose, perché quel confine tra reale e virtuale è sempre più sottile.