Poche professioni al mondo sono a contatto col male come i moderatori di Facebook. Intendo il male in ogni sua declinazione. Un male che non esprime alcun fascino, un male visibile, che si può leggere, guardare, direi quasi toccare con mano. Proprio grazie anche a un patto stretto col diavolo – col male – i social network (c’è anche YouTube in posizione faustiana) hanno prosperato grazie al talento dei loro creatori, hanno raggiunto un successo ineguagliabile nella storia dell’umanità.
E la presunzione che dentro le piattaforme il male potesse essere messo da parte, cancellato, evitato, nascosto, pur essendo esso vivo e vegeto e seducente, ha edificato una costruzione dalle fondamenta fragili. Che oggi mostra crepe morali che andranno via via allargandosi.
I moderatori di Facebook sono quelle che persone – 35.000 ragazze e ragazzi – che trascorrono la loro giornata a cancellare, rimuovere, ed estirpare il male dal social network (ciò che Facebook definisce male). Lavorano in appalto e hanno ogni giorno a che fare con l’espressione verbale o figurata della parte oscura dell’umanità. Con l’ausilio, per nulla efficace come vedremo, della tecnologia, scovano contenuti vietati e li rimuovono, bloccano gli utenti, cancellano account, rimuovono gruppi e pagine. Pedofilia, abusi, discorsi d’odio, razzismo, autolesionismo, istigazione all’omicidio e al suicidio, provate a immaginare il catalogo del male. Una lurida sentina colma di rifiuti di ogni genere: rifiuti verbali e visuali che escono dalla bocca e dalla tastiera di centinaia di migliaia di esseri umani, in ogni parte del mondo, ogni giorno della settimana, ogni ora, ogni minuto, ogni secondo. E pensate che esiste qualcuno che svuota questa fogna per lavoro. Immerge metaforicamente le proprie mani, perché è la psiche a infilarsi in questo torbido, pericoloso e oscuro imbuto, e tenta di giorno dopo giorno di liberare il social network dal male. Come svuotare il mare con un cucchiaino.
Adesso questi lavoratori – essenziali, come molti altri – hanno scritto una lettera aperta a Mark Zuckerberg, Sheryl Sandberg e altri manager di altissimo livello di Facebook. Una lettera che solleva con prepotenza un velo che ha occultato per anni il loro lavoro, un lenzuolo d’ipocrisia sollevato solo da poche e valorose inchieste giornalistiche.
I moderatori hanno scritto perché adesso hanno ancora più paura, hanno paura di prendersi il Covid, e hanno chiesto condizioni di impiego differenti, più sicure, uguali a quelle dei loro colleghi.
Mentre i dipendenti regolari di Facebook godevano, e godono, della possibilità di stare a casa, di lavorare da casa, questo gruppo di lavoratori – in outsourcing, cioè dipendenti di società terze – è rimasto incatenato alla ruota dentata della catena di montaggio digitale. Senza la possibilità di allontanarsi. Rischiando e poi ammalandosi. Nonostante la pandemia, insomma, hanno continuato a lavorare in ufficio a stretto contatto l’uno con gli altri. Adesso vorrebbero poter «lavorare da casa a tempo indeterminato». Nella lettera hanno chiesto la «fine dell’outsourcing», il desiderio di essere assunti: «Facebook dovrebbe portare in casa la forza lavoro che modera i contenuti – scrivono – offrendo gli stessi diritti e vantaggi del personale interno». Hanno anche reclamato un’indennità di rischio: «se vuoi che i moderatori rischino la loro vita per mantenere (vivibile) la “community” e il profitto» che ne deriva, allora, rivolgendosi direttamente a Facebook, «devi pagare per questo. I moderatori che lavorano in un ufficio su materiale ad alto rischio (ad esempio su contenuti relativi ad abusi sui minori) dovrebbero ricevere un’indennità pari a 1.5 il loro salario normale». Non solo.
La lettera aperta parla di «assistenza sanitaria e psichiatrica». Mentre i dipendenti di Facebook godono di vari vantaggi, tra cui l’assicurazione sanitaria privata, ai moderatori dei contenuti, che «sopportano il peso maggiore, per la propria salute mentale, del trauma che deriva da contenuti tossici», vengono offerti 45 minuti a settimana con un «coach del benessere». Questi «coach» non sono psicologi o psichiatri, e non possono costruire un rapporto di fiducia con i moderatori, basato magari sul segreto professionale. Addirittura la «direzione di Facebook chiede ai “coach” di rivelare dettagli riservati rispetto alle sessioni di consulenza». I moderatori ora vogliono «lo stesso supporto per la salute mentale e fisica che ha lo staff di Facebook».
Non risulta difficile immaginare, con centinaia di milioni di persone costrette a casa, che all’aumento del traffico internet verso i social network abbia coinciso con un indicibile aumento della portata della cloaca digitale. La lettera racconta addirittura la richiesta fatta ai «moderatori che lavoravano sui contenuti pedopornografici (…) ,e senza risorse aggiuntive», di un incremento degli obiettivi da raggiungere, durante la pandemia. Insomma più lavoro, molto più lavoro, ma alle stesse identiche condizioni. Provate a immaginare cosa significhi tutto questo.
Un tale modo di procedere aveva già creato problemi al social network. In un articolo dello scorso maggio, The Verge, ha raccontato che Facebook ha stretto accordi di risarcimento con un gruppo di moderatori, a causa dei disturbi per stress post traumatico causati dal loro lavoro. L’azienda di Mark Zuckerberg avrebbe destinato come indennizzo la somma di 52 milioni di dollari per 11.250 moderatori, poco più 1000 dollari a testa, tolte le spese legali.
Dobbiamo considerare questo documento come un testo di profondo valore che aiuta a comprendere le dinamiche del social network, davvero importante, insomma, per quello che dice e per chi lo ha scritto. Lo ha firmato un gruppo di 40 moderatori con nome e cognome e altri 248 in modo anonimo, a testimonianza di quanto sia rischioso esporsi in questo modo (trovo assurdo che nessun giornale italiano ne abbia parlato). Questa vicenda, inoltre, restituisce una nitida istantanea delle enormi diseguaglianze che la rivoluzione digitale ha portato con sé, anche all’interno dei feudi più autorevoli, con vassalli e servi della gleba al servizio dei sovrani della Silicon Valley.
Allo stesso tempo, la lettera appare un documento eccezionale su un fronte specifico: essa evidenzia la nudità di Facebook di fronte all’infinito, e impari, conflitto combattuto nella sentina digitale, nel tentativo di arginare il proliferare del male. L’importanza di questo testo sta nel fatto che i moderatori osservano Facebook in un modo in cui nessun altro utente ha la possibilità di vedere, e cioè prima del continuo e ripetuto lavoro di filtro che loro stessi mettono in pratica, ogni giorno, a ogni latitudine. Osservano e lavorano quindi su feed molto distanti da quella confortevole esperienza di navigazione che Zuckerberg, e non solo lui, pretende di offrire agli utenti. E dalla nudità emergono l’impotenza e l’inadeguatezza, tecnologiche e culturali, di fronte a una sfida che Facebook non può in alcun modo vincere (servirebbero milioni di moderatori, servirebbero criteri mutevoli, e sarebbe comunque sempre troppo tardi).
In questo senso il documento rivela alcune novità. E cioè che il social network ha intrapreso «un enorme esperimento dal vivo nella moderazione dei contenuti», così scrivono gli autori della lettera aperta, un esperimento basato su una soluzione «fortemente automatizzata», e quindi affidata all’intelligenza artificiale.
Ancora una volta scorgiamo l’ombra del riflesso condizionato californiano che conta sulla sola tecnologia, per la risoluzione di ogni problema. Anche per la soluzione di un problema – metafisico, a essere onesti – come quello del male. E questa impostazione ha fallito, scrivono i moderatori: «l’intelligenza artificiale non si è dimostrata all’altezza del compito». Le considerazioni, di persone che lavorano nel cuore del social network, non lasciano scampo: «la lezione è chiara – spiegano i moderatori – gli algoritmi di Facebook sono lontani anni dal raggiungere quel livello di sofisticazione necessario a moderare automaticamente i contenuti. E potrebbero non arrivarci mai». E aggiungono un atto d’accusa preciso: «senza il nostro lavoro, Facebook è inutilizzabile. Il suo impero crolla». Senza il lavoro dei moderatori, aggiungono, «i suoi algoritmi non possono individuare che cosa è satira. Non possono individuare e separare il giornalismo dalla disinformazione. Non possono rispondere rapidamente a contenuti che incitano all’autolesionismo o all’abuso sui minori». E chiudono così: solo «noi possiamo (we can)», soltanto gli esseri umani possono fare tutto questo.
Credo che pochi documenti come questo evidenzino la fragilissima ossatura morale sulla quale le techno-corporation hanno edificato il loro successo. Da un lato c’è un approccio prometeico fallimentare, almeno finché l’intelligenza artificiale non riuscirà a fare tutti quei lavori – intelligenti – che l’essere umano può (we can) fare. Dall’altro un patto mefistofelico col diavolo, col male in ogni sua forma, un male che esiste nel mondo; e che solo la presunzione sconsiderata di chi abita la Silicon Valley ritiene possa essere nascosto sotto al tappeto digitale. Tra l’altro la presunzione poggia sul costo enorme, in termini di salute mentale, per chi provvede quotidianamente all’operazione di rimozione di un materiale tossico fluviale, e che pare senza fine.
Ma noi tutti siamo distratti, pensiamo alla pandemia. E quando la pandemia sarà finita, ringrazieremo le techno-corporation perché ci hanno concesso, bontà loro, di parlarci, di connetterci, di informarci, di discutere, ci hanno concesso tutto ciò quando la distanza lo impediva.
Nel patto mefistofelico, che i giovani e talentuosi Adrian Leverkün californiani hanno stretto con il diavolo, compare anche la possibilità di un inedito riflesso offerto in dote a tutti gli umani. Finalmente, grazie alla mirabile tecnologia, l’essere umano può darsi ad una presunta creazione, e dedicarvisi con impegno e costanza, per tentare di sfuggire a molte evenienze della vita: non solo il tempo, anche l’irrilevanza, la noia, la solitudine. Come se il talento dei creatori scivolasse nelle fibre più intime degli utilizzatori, stimolandoli a questa sedicente creazione; utilizzatori che adesso vogliono specchiarsi nel social network, nelle possibilità che esso mette loro a disposizione in virtù dell’appartenenza a una comunità di pari. Abbiamo visto a quale prezzo si realizza tutto questo.
«Quello che forniamo noi – sembrano dire i titani digitali agli utenti, e invece sono parole di Thomas Mann – è il massimo in questo senso: slanci, illuminazioni, stati di elevazione e sfrenatezza, libertà, sicurezza, leggerezza, sensazioni di potenza e trionfo tali che il nostro uomo (l’utente, al giorno d’oggi) non crede ai propri sensi; in aggiunta a tutto questo ci mettiamo pure la colossale ammirazione per ciò che ha realizzato, un’ammirazione di sé che potrebbe farlo rinunciare facilmente a quella degli altri, a quella del mondo: è il brivido del culto di sé, il delizioso orrore di se stesso, sotto il cui effetto lui si sente come l’ancia di uno strumento baciato dalla grazia, come una bestia divina. E ogni tanto, con pari forza, precipita in basso, onorevolmente in basso – non solo nel vuoto, nella desolazione e nella tristezza impotente, ma anche nel dolore e nella sofferenza – fra cose familiari, del resto, che erano già lì da prima e a cui era predisposto, ma che ora sono potenziate onorevolmente e al massimo grado grazie all’illuminazione e alla coscienza della sbornia».
Poche parole, penso, sebbene lontane, riescono ad aderire così perfettamente al sottofondo cupo della lettera dei moderatori. Alle tante dolorose implicazioni che essa porta con sé. Una sola enorme differenza si erge, invalicabile, tra le meravigliose parole di Thomas Mann e l’universo digitale, l’assenza totale di bellezza.
