Algoritmo anti suicidi Facebook: come funziona e perché è rischioso

Algoritmo anti suicidi Facebook: come funziona e perché è rischioso

Circa un anno fa, Facebook ampliava il suo programma anti suicidi. Un algoritmo scansiona i post pubblicati sulla piattaforma, e seleziona automaticamente quelli le cui parole rimandano ad una volontà, più o meno manifesta, di togliersi la vita.

Facebook: l’algoritmo anti-suicidi

Le parole sospette del post vengono così classificate secondo una scala da zero a uno, dove uno rappresenta “rischio imminente”. Una volta identificato, il post viene inoltrato ad un primo team di moderatori. Questi, sostiene Facebook, ricevono istruzioni precise, studiate da specialisti, su “contenuti potenzialmente legati a suicidio, automutilazione e disordini alimentari” e “identificazione di una potenziale minaccia credibile o imminente di suicidio”. In questa prima fase, i contenuti non sono associati al nome dell’utente. Perché il problema sta proprio qua: l’algoritmo anti suicidii raccoglie dati sensibili umani, ad esempio sulla salute mentale degli utenti, andando così ad intaccare la normativa sulla privacy. Facebook, infatti, non ha l’obbligo di sottostare, nella fase gestione dei dati, alla disciplina alla quale sono sottoposti i servizi sanitari. Per questo motivo, la funzione non è utilizzata in Europa ma solo negli Stati Uniti e in altre zone in cui le norme sulla privacy sono meno stringenti. Tornando al programma anti suicidi, laddove i moderatori individuino contenuti più o meno a rischio, i risultati vengono inviati ad un altro team di esperti. Questo, a differenza dell’altro, ha accesso ad informazioni che legano il post all’identità dell’utente. Al termine di questa terza fase, si possono percorre due strade: contattare l’utente con informazioni e risorse di supporto o chiamare i soccorritori, in ultima istanza le forze dell’ordine. “Chiunque raccolga questo tipo di dati, che sono informazioni sanitarie sensibili, e intervenga sulle persone dovrebbe essere trattato nella stessa maniera”. Lo dichiara Natasha Duarte, analista del Center for Democracy and Technology, intervistata da Business Insider.

Facebook: ancora problemi per la privacy

Attualmente, però, le leggi statunitensi non equiparano i dati raccolti dall’algoritmo di Facebook con quelli sanitari. Il social network di Mark Zuckerberg, dunque, non è obbligato a rispettare gli stessi limiti previsti dall’Health Insurance Portability and Accountability Act. Che, tra le altre cose, vietano la condivisione e un pieno accesso dei pazienti ai propri dati. Facebook ha confermato che i segnali di rischio con punteggi vicini allo zero sono eliminati dopo 30 giorni. Ma dall’altra parte non ha fornito dettagli sulla gestione dei dati legati ad un rischio maggiore. Non è dunque escluso che alcune informazioni sensibili siano bersaglio di cyber-attacchi. Una vera e propria minaccia, visto che, potenzialmente, i coinvolti potrebbero essere utenti con disturbi mentali. Da parte sua, Facebook è molto soddisfatto. “In un anno – ha spiegato Zuckerberg in post dello scorso novembre – abbiamo aiutato circa 3.500 persone nel mondo”. Ma sono noti anche i casi di falso allarme. Come quello di una donna dell’Ohio, obbligata dalla polizia ad un controllo psicologico dopo aver ricevuto una notifica da Facebook. Per questo motivo, molti esperti chiedono un intervento atto ad eguagliare la normativa sulla privacy tra i social network e i servizi sanitari. O almeno una maggiore trasparenza da parte dei primi, lasciando agli utenti la libertà di decidere se sottoporre i propri post al programma anti-suicidi o meno.