Partiamo da questa storia. Alla fine dello scorso anno, Valerie Peter, una studentessa ventitreenne di Manchester, in Inghilterra, si è resa conto di avere un problema con gli acquisti online. Si trattava più di quello che comprava che di quanto comprava. Una tendenza di moda, quella degli scaldamuscoli di peluche, si era infiltrata nei feed dei social media della Peter: la sua scheda TikTok For You, la sua pagina Instagram Explore, i suoi consigli su Pinterest. Aveva sempre considerato gli scaldamuscoli "brutti, orrendi, ridicoli", eppure ben presto in qualche modo si è magicamente ritrovata con un paio di questi, che ha acquistato online premendo un pulsante, per un capriccio quasi inconscio. Lo stesso è accaduto in seguito con i gioielli Van Cleef & Arpels, dopo che un membro del cast del reality show britannico "Love Island" ha indossato una collana del marchio sullo schermo. I braccialetti floreali in stile Art Nouveau di Van Cleef sono finiti sul feed TikTok di Peter, che si è trovata a sfogliare i prodotti del marchio.
Confusa, Peter ha scritto un'e-mail per chiedere consiglio a Rachel Tashjian, una critica di moda che scrive una famosa newsletter chiamata "Opulent Tips". "Sono su Internet da 10 anni e non so se mi piace quello che mi piace o quello che un algoritmo vuole che mi piaccia", ha scritto Peter.
La donna è arrivata a vedere le raccomandazioni algoritmiche dei social network come una sorta di intrusione psichica, che rimodella in modo surrettizio ciò che le viene mostrato online e, di conseguenza, la sua comprensione delle proprie inclinazioni e dei propri gusti.
Naturalmente, i consumatori sono sempre stati i bersagli della pubblicità manipolativa. Un cartellone pubblicitario onnipresente o uno spot televisivo possono insinuarsi nel cervello dell'utente, facendogli credere di dover acquistare immediatamente, ad esempio, un nuovo attrezzo per l'esercizio fisico dotato di video. Ma i social network hanno sempre preteso di mostrarci cose che ci piacciono, cose verso le quali avremmo potuto organicamente gravitare. Perché, allora, sembra che l'intero ecosistema di contenuti con cui interagiamo online sia stato progettato per influenzarci in modi che non riusciamo ad analizzare e che hanno solo una lontana relazione con le nostre preferenze autentiche? Nessun marchio stava promuovendo gli scaldamuscoli a Peter. Piuttosto, "l'algoritmo" - quell'entità vaga, oscura e inumana a cui faceva riferimento nella sua e-mail - aveva deciso che gli scaldamuscoli e i gioielli erano ciò che avrebbe visto.
ll dilemma di Peter mi ha fatto venire in mente un termine che negli ultimi anni è stato usato per descrivere la sensazione dell'utente moderno di Internet di dover costantemente confrontarsi con le stime delle macchine sui suoi desideri: l'ansia da algoritmo. Assediati da raccomandazioni automatiche, siamo lasciati a indovinare esattamente come ci stiano influenzando, sentendoci in alcuni momenti mal percepiti o fuorviati e in altri cronometrati con inquietante precisione. A volte, il computer sembra controllare le nostre scelte più di noi.
Un algoritmo, in matematica, è semplicemente un insieme di passaggi utilizzati per eseguire un calcolo, che si tratti della formula per l'area di un triangolo o delle linee di una prova complessa. Ma quando si parla di algoritmi online ci si riferisce di solito a quelli che gli sviluppatori chiamano "sistemi di raccomandazione", utilizzati fin dall'avvento del personal computing per aiutare gli utenti a indicizzare e ordinare una marea di contenuti digitali.
Nel 1992, gli ingegneri del Palo Alto Research Center di Xerox costruirono un sistema algoritmico chiamato Tapestry per valutare la pertinenza delle e-mail in arrivo, utilizzando fattori come le persone che avevano aperto un messaggio e la loro reazione (il cosiddetto "filtraggio collaborativo"). Due anni dopo, i ricercatori del M.I.T. Media Lab hanno creato Ringo, un sistema di raccomandazione musicale che funziona confrontando i gusti degli utenti con altri che amano musicisti simili. (lo strumento di ricerca originale di Google, risalente al 1998, si basava sul PageRank, un primo algoritmo per misurare l'importanza relativa di una pagina Web.)
Solo a metà dello scorso decennio, però, i sistemi di raccomandazione sono diventati una parte pervasiva della vita online. Facebook, Twitter e Instagram hanno abbandonato i feed cronologici, che mostrano i messaggi nell'ordine in cui sono stati pubblicati, per passare a quelli sequenziati in modo più algoritmico, mostrando ciò che le piattaforme hanno stabilito essere più interessante per l'utente. Spotify e Netflix hanno introdotto interfacce personalizzate che cercano di soddisfare i gusti di ciascun utente. (questi cambiamenti hanno reso le piattaforme meno prevedibili e meno trasparenti. Quello che si vedeva non era mai del tutto uguale a quello che vedevano gli altri. Non si poteva contare sul fatto che un feed funzionasse allo stesso modo da un mese all'altro. Proprio la scorsa settimana, Facebook ha implementato una nuova scheda Home predefinita sulla sua app che dà priorità ai contenuti consigliati, sulla falsariga di TikTok, il suo principale concorrente.)
Quasi tutte le altre principali piattaforme Internet utilizzano una qualche forma di raccomandazione algoritmica. Google Maps calcola i percorsi di guida in base a variabili non specificate, tra cui i modelli di traffico previsti e l'efficienza del carburante, deviandoci a metà viaggio in modi che possono essere più convenienti o che possono portarci fuori strada. L'applicazione Seamless per la consegna di cibo carica in anticipo le voci del menu che prevede possano piacervi in base alle vostre recenti abitudini di ordinazione, all'ora del giorno e a ciò che è "popolare vicino a voi". I sistemi di posta elettronica e di messaggi di testo forniscono previsioni su ciò che si sta per digitare. (può sembrare che ogni applicazione cerchi di indovinare ciò che volete prima che il vostro cervello abbia il tempo di trovare la propria risposta, come un odioso ospite di una festa che finisce le vostre frasi mentre le pronunciate.) Siamo costantemente impegnati a negoziare con la fastidiosa figura dell'algoritmo, senza sapere come ci saremmo comportati se fossimo stati lasciati a noi stessi. Non c'è da stupirsi se siamo ansiosi. In un recente saggio,, Jeremy D. Larson ha descritto la fastidiosa sensazione che le raccomandazioni algoritmiche e le playlist automatizzate di Spotify stiano svuotando la gioia dell'ascolto della musica, mandando in corto circuito il processo di scoperta organica: "Anche se c'è tutta la musica che ho sempre desiderato, nessuna di queste mi sembra necessariamente gratificante, emotiva o personale".
Gli studiosi hanno proposto diversi termini per definire il nostro rapporto incerto con la tecnologia algoritmica. In un articolo del 2017, Taina Bucher, professoressa dell'Università di Oslo, ha raccolto i tweet di protesta sul feed di Facebook come testimonianza di quello che ha definito un "immaginario algoritmico" emergente. Un utente si chiedeva perché le sue ricerche di un regalo per la doccia del bambino avessero apparentemente dato luogo a pubblicità di applicazioni per il monitoraggio della gravidanza. Un musicista era frustrato dal fatto che i suoi post di condivisione di nuove canzoni ricevessero poca attenzione, nonostante i suoi migliori tentativi di ottimizzare la promozione includendo, ad esempio, frasi esclamative come "Wow!".
C'era una "struttura di sentimenti" che si stava sviluppando intorno all'algoritmo, dice Bucher, aggiungendo: "Le persone stavano notando che c'era qualcosa in questi sistemi che aveva un impatto sulle loro vite". Più o meno nello stesso periodo, Tarleton Gillespie, un accademico che lavora per la filiale di ricerca di Microsoft, ha descritto come gli utenti stessero imparando a modellare ciò che pubblicavano per massimizzare la loro "riconoscibilità algoritmica", uno sforzo che ha paragonato a un oratore che "si gira verso il microfono" per amplificare la sua voce. I contenuti vivevano o morivano grazie alla S.E.O., o ottimizzazione per i motori di ricerca, e chi imparava a sfruttarne le regole acquisiva poteri speciali. Gillespie cita, come esempio, quando l'editorialista di consigli Dan Savage organizzò una campagna di successo, nel 2003, per sommergere i risultati di ricerca di Google per Rick Santorum, il senatore di destra, con un volgare neologismo sessuale.
L'"ansia algoritmica", tuttavia, è la frase più adatta che ho trovato per descrivere l'esperienza inquietante di navigare nelle piattaforme online di oggi. Shagun Jhaver, studioso di social computing, ha contribuito a definire questa espressione mentre conduceva ricerche e interviste in collaborazione con Airbnb nel 2018. Dei quindici host con cui ha parlato, la maggior parte si preoccupava della posizione dei propri annunci nei risultati di ricerca degli utenti. Sentivano "l'incertezza sul funzionamento degli algoritmi di Airbnb e la percezione di una mancanza di controllo", disse Jhaver in un documento scritto insieme a due dipendenti di Airbnb. Un host disse: "Un sacco di annunci peggiori del mio si trovano in posizioni più alte". Oltre a cercare di aumentare le loro posizioni in classifica ridipingendo le pareti, sostituendo i mobili o scattando foto più lusinghiere, gli host hanno anche sviluppato quelle che Jhaver ha definito "teorie popolari" sul funzionamento dell'algoritmo.
Si collegavano ad Airbnb ripetutamente nel corso della giornata o aggiornavano costantemente la disponibilità della loro unità, sospettando che questo li avrebbe aiutati a farsi notare dall'algoritmo. Alcuni hanno contrassegnato in modo impreciso i loro annunci come "sicuri per i bambini", nella convinzione che ciò avrebbe dato loro una spinta. Jhaver è arrivato a vedere gli host di Airbnb come lavoratori controllati da un supervisore informatico invece che da manager umani. Per guadagnarsi da vivere, dovevano indovinare cosa volesse il loro capriccioso capo, e le ansiose congetture potrebbero aver reso il sistema meno efficiente nel complesso.
Le preoccupazioni degli host di Airbnb erano radicate nelle sfide della vendita di un prodotto online, ma ci interessano soprattutto i sentimenti simili che affliggono chi, come Valerie Peter, sta cercando di capire cosa consumare.
Patricia de Vries, una ricercatrice della Gerrit Rietveld Academie che ha scritto sull'ansia algoritmica, dice: "Proprio come la paura delle altezze non riguarda le altezze, l'ansia algoritmica non riguarda semplicemente gli algoritmi". Gli algoritmi non avrebbero il potere che hanno senza la marea di dati che produciamo volontariamente sui siti che sfruttano le nostre identità e preferenze a scopo di lucro. Quando una pubblicità di reggiseni o materassi ci segue su Internet, il colpevole non è solo l'algoritmo di raccomandazione, ma l'intero modello di business dei social media basati sugli annunci, a cui partecipano miliardi di persone ogni giorno. Quando parliamo di "algoritmo", forse confondiamo i sistemi di raccomandazione con la sorveglianza online, la monopolizzazione e l'appropriazione da parte delle piattaforme digitali di tutto il nostro tempo libero - in altre parole, con l'intera industria tecnologica “estrattiva del XXI secolo..
Non si può dare la colpa agli utenti per aver frainteso i limiti degli algoritmi, perché le aziende tecnologiche hanno fatto di tutto per mantenere i loro sistemi opachi, sia per gestire il comportamento degli utenti sia per evitare che i segreti commerciali venissero divulgati ai concorrenti o cooptati dai bot. Krishna Gade ha accettato un lavoro in Facebook subito dopo le elezioni del 2016 negli USA, lavorando per migliorare la qualità del news-feed. In quell'occasione ha sviluppato una funzione, chiamata "Perché vedo questo post?", che consentiva all'utente di fare clic su un pulsante di qualsiasi elemento apparso nel suo feed di Facebook e di vedere alcune delle variabili algoritmiche che avevano causato la comparsa dell'elemento. Per lo meno, offriva agli utenti un'idea suggestiva di come il sistema di raccomandazione li percepisse. Tuttavia, oggi, sul sito Web di Facebook, il pulsante "Perché sto vedendo questo post?" è disponibile solo per gli annunci. Sull'app è incluso anche per i post non pubblicitari, ma, quando l'ho provato di recente su una manciata di post, la maggior parte diceva solo che erano "popolari rispetto ad altri post che hai visto".
In assenza di una trasparenza affidabile, molti di noi hanno escogitato rimedi casalinghi per gestire l'influenza dell'algoritmo. Come i padroni di casa di Airbnb, adottiamo trucchi che speriamo ci facciano guadagnare promozione sui social media, come una breve tendenza, qualche anno fa, di utenti che preferivano i loro post su Facebook con finti annunci di fidanzamento o matrimonio. Cerchiamo di insegnare ai sistemi di raccomandazione le nostre preferenze, eliminando i film che non ci piacciono su Netflix o sfogliando velocemente i video indesiderati su TikTok. Non sempre funziona. Valerie Peter ha ricordato che, dopo aver seguito un gruppo di account incentrati sull'astrologia su Twitter, il suo feed ha iniziato a raccomandare una marea di contenuti astrologici. Il suo interesse per l'argomento si è rapidamente affievolito - "ho iniziato a temere per la mia vita ogni volta che Mercurio era retrogrado", ha detto - ma Twitter ha continuato a proporre contenuti correlati. Il sito ha un pulsante che gli utenti possono premere per segnalare che non sono interessati a questo tweet, accompagnato da un'emoji con la faccia triste, ma quando Peter l'ha provato ha scoperto che anche le alternative suggerite da Twitter erano legate all'astrologia.
Ultimamente sono stato attratto da angoli di Internet che non sono governati da raccomandazioni algoritmiche. Mi sono iscritto a Glass, un'applicazione per la condivisione di foto che si rivolge ai fotografi professionisti ma è aperta a tutti. Il mio feed è tranquillo, incontaminato e interamente cronologico, con foto di città in bianco e nero e ampi paesaggi a colori, un mix che ricorda i primi giorni di Flickr (anche se l'estetica predominante della fotografia oggi è stata plasmata dagli algoritmi di ottimizzazione della fotocamera dell'iPhone). Non riesco a immaginare un'esperienza così piacevole su Instagram, dove il mio feed è stato invaso da irritanti video consigliati, mentre la piattaforma cerca di imitare TikTok. (l'unico problema di Glass è che non ci sono abbastanza contenuti da vedere, perché i miei amici non si sono ancora iscritti…)
L'attrazione gravitazionale dei principali social network è difficile da superare. Abbiamo bisogno di “curatori” umani.