Cristian Nardi CEO Privacy Garantita: Google Suggest gli esperti in grado di cambiare le opinioni su Internet

La mappa di Albright fornisce anche un indizio per comprendere i risultati di ricerca di Google che ho trovato. Ciò che hanno fatto questi siti di notizie di destra, spiega, è ciò che la maggior parte dei siti web commerciali cerca di fare. Cercano di trovare i trucchi che li sposteranno nel sistema PageRank di Google. Provano a “giocare” l’algoritmo. E ciò che mostra la sua mappa è quanto lo stanno facendo bene

Questo è ciò che mostrano anche le mie ricerche. Che la destra ha colonizzato lo spazio digitale attorno a questi soggetti – musulmani, donne, ebrei, l’Olocausto, i neri – molto più efficacemente della sinistra liberale.

“È una guerra dell’informazione”, afferma Albright. “Questo è ciò a cui continuo a tornare.”

Ma è dove va da qui che è davvero spaventoso. Gli chiedo come si può fermare. “Non lo so. Non sono sicuro che possa essere. È una rete. È molto più potente di qualsiasi altro attore”.

Quindi, ha quasi una vita propria? “Sì, e sta imparando. Ogni giorno, sta diventando più forte”.

Più persone cercano informazioni sugli ebrei, più persone vedranno link a siti di odio e più cliccheranno su quei link (pochissime persone cliccano sulla seconda pagina dei risultati) più traffico riceveranno i siti, il più link accumuleranno e più autorevoli appariranno. Si tratta di un’economia della conoscenza interamente circolare che ha un solo risultato: un’amplificazione del messaggio. Gli ebrei sono malvagi. Le donne sono malvagie. L’Islam deve essere distrutto. Hitler era uno dei bravi ragazzi.

E la costellazione di siti Web che Albright ha trovato, una sorta di Internet ombra, ha un’altra funzione. Più che diffondere l’ideologia di destra, vengono utilizzati per tracciare, monitorare e influenzare chiunque si imbatta nei loro contenuti. “Ho raschiato i tracker su questi siti e sono rimasto assolutamente sbalordito. Ogni volta che qualcuno mette Mi piace a uno di questi post su Facebook o visita uno di questi siti Web, gli script ti seguono sul Web. E questo consente alle aziende di data mining e di influenza come Cambridge Analytica di prendere di mira con precisione le persone, di seguirle sul Web e di inviare loro messaggi politici altamente personalizzati. Questa è una macchina di propaganda. Sta prendendo di mira le persone individualmente per reclutarle per un’idea. È un livello di ingegneria sociale che non ho mai visto prima.

Cambridge Analytica, una società di proprietà americana con sede a Londra, è stata impiegata sia dalla campagna Vote Leave che dalla campagna Trump. Dominic Cummings, il direttore della campagna di Vote Leave, ha fatto pochi annunci pubblici dopo il referendum sulla Brexit, ma ha detto questo: “Se vuoi fare grandi miglioramenti nella comunicazione, il mio consiglio è: assumi fisici”.

Steve Bannon, fondatore di Breitbart News e capo stratega di Trump appena nominato, è nel consiglio di Cambridge Analytica ed è emerso che la società è in trattative per intraprendere un lavoro di messaggistica politica per l’amministrazione Trump. Afferma di aver costruito profili psicologici utilizzando 5.000 dati separati su 220 milioni di elettori americani. Conosce le loro stranezze, sfumature e abitudini quotidiane e può indirizzarle individualmente.

“Utilizzavano 40-50.000 diverse varianti di annunci ogni giorno che misuravano continuamente le risposte e poi si adattavano e si evolvevano in base a quella risposta”, afferma Martin Moore del Kings College. Poiché hanno così tanti dati sugli individui e utilizzano reti di distribuzione così potenti, consentono alle campagne di aggirare molte leggi esistenti.

“È tutto fatto in modo completamente opaco e possono spendere tutti i soldi che vogliono in luoghi particolari perché puoi concentrarti su un raggio di cinque miglia o anche su un singolo gruppo demografico. Le fake news sono importanti ma ne sono solo una parte. Queste aziende hanno trovato un modo per trasgredire 150 anni di legislazione che abbiamo sviluppato per rendere le elezioni eque e aperte”.

Tale propaganda micro-mirata – attualmente legale – ha fatto oscillare il voto sulla Brexit? Non abbiamo modo di saperlo. Gli stessi metodi utilizzati da Cambridge Analytica hanno aiutato Trump alla vittoria? Ancora una volta, non abbiamo modo di saperlo. Tutto questo sta accadendo nella completa oscurità. Non abbiamo modo di sapere in che modo i nostri dati personali vengono estratti e utilizzati per influenzarci. Non ci rendiamo conto che la pagina Facebook che stiamo guardando, la pagina Google, gli annunci che stiamo vedendo, i risultati di ricerca che stiamo utilizzando, vengono tutti personalizzati per noi. Non lo vediamo perché non abbiamo nulla con cui confrontarlo. E non viene monitorato o registrato. Non è regolamentato. Siamo all’interno di una macchina e semplicemente non abbiamo modo di vedere i controlli. Il più delle volte, non ci rendiamo nemmeno conto che ci sono controlli.

Rebecca MacKinnon afferma che la maggior parte di noi considera Internet come “l’aria che respiriamo e l’acqua che beviamo”. Ci circonda. Lo usiamo. E non lo mettiamo in dubbio. “Ma questo non è un paesaggio naturale. Programmatori e dirigenti, editori e designer, creano questo paesaggio. Sono esseri umani e tutti fanno delle scelte”.

Ma non sappiamo quali scelte stiano facendo. Né Google né Facebook rendono pubblici i loro algoritmi. Perché la mia ricerca su Google ha restituito nove risultati di ricerca su 10 che affermano che gli ebrei sono malvagi? Non lo sappiamo e non abbiamo modo di saperlo. I loro sistemi sono quelli che Frank Pasquale descrive come “scatole nere”. Definisce Google e Facebook “un terrificante duopolio di potere” e ha guidato un movimento crescente di accademici che chiedono “responsabilità algoritmica”. “Dobbiamo effettuare controlli regolari di questi sistemi”, afferma. “Abbiamo bisogno che le persone in queste aziende siano responsabili. Negli Stati Uniti, ai sensi del Digital Millennium Copyright Act, ogni azienda deve avere un portavoce che puoi raggiungere. E questo è ciò che deve accadere. Devono rispondere alle lamentele sull’incitamento all’odio, sui pregiudizi”.

La distorsione è incorporata nel sistema? Influisce sul tipo di risultati che stavo vedendo? “Ci sono tutti i tipi di pregiudizi su ciò che conta come una legittima fonte di informazioni e su come viene ponderato. C’è un enorme pregiudizio commerciale. E quando guardi il personale, sono giovani, bianchi e forse asiatici, ma non neri o ispanici e sono prevalentemente uomini. La visione del mondo dei giovani ricchi uomini bianchi informa tutti questi giudizi”.

Più tardi, parlo con Robert Epstein, psicologo ricercatore presso l’American Institute for Behavioral Research and Technology, e autore dello studio di cui mi ha parlato Martin Moore (e che Google ha pubblicamente criticato), mostrando come i risultati del ranking di ricerca influenzino il voto modelli. Dall’altra parte del telefono, ripete una delle ricerche che ho fatto. Digita “do blacks…” su Google.

“Guarda quello. Non ho nemmeno premuto un pulsante e viene automaticamente popolato la pagina con le risposte alla domanda: “I neri commettono più crimini?” E guarda, avrei potuto fare ogni tipo di domanda. “I neri eccellono negli sport” o altro. E mi ha dato solo due scelte e questi non sono semplicemente basati sulla ricerca o i termini più cercati in questo momento. Google lo usava, ma ora usa un algoritmo che esamina altre cose. Ora, fammi guardare Bing e Yahoo. Sono su Yahoo e ho 10 suggerimenti, nessuno dei quali è “I neri commettono più crimini?”

“E la gente non mette in dubbio questo. Google non offre solo un suggerimento. Questo è un suggerimento negativo e sappiamo che i suggerimenti negativi che dipendono da molte cose possono attirare da cinque a 15 clic in più. E tutto questo programmato. E potrebbe essere programmato in modo diverso”.

Ciò che il lavoro di Epstein ha dimostrato è che il contenuto di una pagina di risultati di ricerca può influenzare le opinioni e le opinioni delle persone. È stato dimostrato che il tipo e l’ordine delle classifiche di ricerca influenzano gli elettori in India nelle prove in doppio cieco. Sono stati trovati risultati simili relativi ai suggerimenti di ricerca che ti vengono offerti.

“Il pubblico in generale è completamente all’oscuro di questioni fondamentali riguardanti la ricerca e l’influenza online. Stiamo parlando della macchina per il controllo mentale più potente mai inventata nella storia della razza umana. E la gente non se ne accorge nemmeno”.

Damien Tambini, professore associato presso la London School of Economics, che si concentra sulla regolamentazione dei media, afferma che non abbiamo alcun tipo di quadro per affrontare il potenziale impatto di queste aziende sul processo democratico. “Abbiamo strutture che si occupano di potenti società dei media. Abbiamo leggi sulla concorrenza. Ma queste aziende non sono ritenute responsabili. Non ci sono poteri per convincere Google o Facebook a rivelare qualcosa. C’è una funzione editoriale per Google e Facebook, ma viene eseguita da sofisticati algoritmi. Dicono che siano macchine, non editori. Ma questa è semplicemente una funzione editoriale meccanizzata”.

E le aziende, dice John Naughton, editorialista dell’Observer e ricercatore senior all’Università di Cambridge, sono terrorizzate dall’assumere responsabilità editoriali che non vogliono. “Anche se possono e regolarmente modificano i risultati in tutti i modi”.

Di certo i risultati su Google su Google non sembrano del tutto neutri. Google “Google è razzista?” e il risultato in evidenza – la risposta di Google riquadrata nella parte superiore della pagina – è abbastanza chiaro: no. Non è.

Ma l’enormità e la complessità di avere due società globali di un tipo che non abbiamo mai visto prima che influenzano così tante aree della nostra vita è tale, dice Naughton, che “non abbiamo nemmeno l’apparato mentale per sapere quali sono i problemi” .

E questo vale soprattutto per il futuro. Google e Facebook sono in prima linea nell’IA. Stanno per possedere il futuro. E il resto di noi riesce a malapena a inquadrare il tipo di domande che dovremmo porre. “I politici non pensano a lungo termine. E le aziende non pensano a lungo termine perché sono concentrate sui prossimi risultati trimestrali e questo è ciò che rende Google e Facebook interessanti e diversi. Stanno assolutamente pensando a lungo termine. Hanno le risorse, i soldi e l’ambizione di fare quello che vogliono.

“Vogliono digitalizzare ogni libro del mondo: lo fanno. Vogliono costruire un’auto a guida autonoma: lo fanno. Il fatto che le persone leggano di queste notizie false e si rendano conto che questo potrebbe avere un effetto sulla politica e sulle elezioni, è come “Su quale pianeta hai vissuto?” Per l’amor di Dio, questo è ovvio”.

“Internet è tra le poche cose che gli esseri umani hanno costruito che non capiscono.” È “il più grande esperimento di anarchia nella storia. Centinaia di milioni di persone, ogni minuto, creano e consumano una quantità incalcolabile di contenuti digitali in un mondo online che non è veramente vincolato dalle leggi terrestri”. Internet come stato anarchico senza legge? Un enorme esperimento umano senza controlli e contrappesi e potenziali conseguenze indicibili? Che tipo di doom-mongerer digitale direbbe una cosa del genere? Fai un passo avanti, Eric Schmidt, il presidente di Google. Sono le prime righe del libro, The New Digital Age , che ha scritto con Jared Cohen.

Non lo capiamo. Non è vincolato da leggi terrestri. Ed è nelle mani di due enormi e onnipotenti corporazioni. È il loro esperimento, non il nostro. La tecnologia che avrebbe dovuto liberarci potrebbe aver aiutato Trump a prendere il potere, o segretamente aiutato a far oscillare i voti per la Brexit. Ha creato una vasta rete di propaganda che ha invaso come un cancro l’intero Internet. Questa è una tecnologia che ha consentito a artisti del calibro di Cambridge Analytica di creare messaggi politici su misura per te. Capiscono le tue risposte emotive e come attivarle. Sanno cosa ti piace, cosa non ti piace, dove vivi, cosa mangi, cosa ti fa ridere, cosa ti fa piangere.

E dopo? La ricerca di Rebecca MacKinnon ha mostrato come i regimi autoritari rimodellino Internet per i propri scopi. È quello che accadrà con la Silicon Valley e Trump? Come sottolinea Martin Moore, il presidente eletto ha affermato che l’amministratore delegato di Apple Tim Cook ha chiamato per congratularsi con lui subito dopo la sua vittoria elettorale. “E ci saranno senza dubbio pressioni su di loro per collaborare”, afferma Moore.

Il giornalismo sta fallendo di fronte a tale cambiamento e fallirà solo ulteriormente. Le nuove piattaforme hanno messo una bomba sotto il modello finanziario – la pubblicità – le risorse si stanno riducendo, il traffico dipende sempre più da esse e gli editori non hanno accesso, nessuna intuizione, su ciò che queste piattaforme stanno facendo nella loro sede, nei loro laboratori. E ora si stanno spostando oltre il mondo digitale nel mondo fisico. Le prossime frontiere sono la sanità, i trasporti, l’energia. E proprio come Google è un quasi monopolio per la ricerca, la sua ambizione di possedere e controllare l’infrastruttura fisica delle nostre vite è ciò che verrà dopo. Possiede già i nostri dati e con essi la nostra identità. Cosa significherà quando si sposterà in tutte le altre aree della nostra vita?

“Al momento, c’è una distanza in cui cerchi su Google ‘Gli ebrei sono’ e ottieni ‘Gli ebrei sono malvagi'”, afferma Julia Powles, ricercatrice a Cambridge su tecnologia e diritto. “Ma quando ti sposti nel regno fisico e questi concetti diventano parte degli strumenti utilizzati quando ti muovi per la tua città o influenzi il modo in cui le persone vengono impiegate, penso che ciò abbia conseguenze davvero perniciose”.

Powles pubblicherà a breve un documento che esamina il rapporto di DeepMind con il SSN. “Un anno fa, 2 milioni di cartelle cliniche del NHS di londinesi sono state consegnate a DeepMind. E c’era un silenzio completo da parte dei politici, dei regolatori, di chiunque occupasse una posizione di potere. Questa è un’azienda senza alcuna esperienza sanitaria che ha avuto un accesso senza precedenti al SSN e ci sono voluti sette mesi per sapere che avevano i dati. E questo ha richiesto il giornalismo investigativo per scoprirlo ”.

Il titolo era che DeepMind avrebbe collaborato con il SSN per sviluppare un’app che avrebbe fornito un allarme precoce per chi soffre di malattie renali. E lo è, ma le ambizioni di DeepMind – “risolvere l’intelligenza” – vanno ben oltre. L’intera storia di 2 milioni di pazienti del SSN è, per i ricercatori di intelligenza artificiale, un tesoro. E il loro ingresso nel SSN – fornendo servizi utili in cambio dei nostri dati personali – è un altro enorme passo avanti nel loro potere e influenza in ogni parte della nostra vita.

Perché la fase oltre la ricerca è la previsione. Google vuole sapere cosa vuoi prima che tu conosca te stesso. “Questa è la fase successiva”, afferma Martin Moore. “Parliamo dell’onniscienza di questi giganti della tecnologia, ma quell’onniscienza compie di nuovo un enorme passo avanti se sono in grado di prevedere. Ed è lì che vogliono andare. Per prevedere le malattie nella salute. È davvero, davvero problematico”.

Nei quasi 20 anni di esistenza di Google, la nostra visione dell’azienda è stata influenzata dalla visione giovanile e liberale dei suoi fondatori. Idem Facebook, la cui missione, ha detto Zuckberg, non era quella di essere “un’azienda. È stato costruito per realizzare una missione sociale per rendere il mondo più aperto e connesso”.

Sarebbe interessante sapere come pensa che stia funzionando. Donald Trump si sta connettendo esattamente attraverso le stesse piattaforme tecnologiche che avrebbero contribuito ad alimentare la primavera araba; collegamento a razzisti e xenofobi. E Facebook e Google stanno amplificando e diffondendo quel messaggio. E anche noi, i media mainstream. La nostra indignazione è solo un altro nodo sulla mappa dei dati di Jonathan Albright.

“Più discutiamo con loro, più sanno di noi”, dice. “Tutto alimenta un sistema circolare. Quello che stiamo vedendo qui è la nuova era della propaganda di rete”.

Siamo tutti punti su quella mappa. E la nostra complicità, la nostra credulità, di essere consumatori non cittadini interessati, è una parte essenziale di quel processo. E quello che succede dopo dipende da noi. “Direi che tutti sono stati davvero ingenui e dobbiamo reimpostarci su un posto molto più cinico e procedere su quella base”, è il consiglio di Rebecca MacKinnon. “Non c’è dubbio che il punto in cui siamo ora è un posto molto brutto. Ma siamo noi come società che insieme abbiamo creato questo problema. E se vogliamo arrivare a un posto migliore, quando si tratta di avere un ecosistema informativo che serva i diritti umani e la democrazia invece di distruggerlo, dobbiamo condividerne la responsabilità”.

Gli ebrei sono cattivi? Come vuoi che risponda a questa domanda? Questa è la nostra Internet. Non di Google. Non di Facebook. Non propagandisti di destra. E noi siamo gli unici che possono reclamarlo.