Sappiamo dove siete. Sappiamo dove siete stati. Possiamo sapere più o meno a cosa state pensando. — Eric Schmidt, per molti anni presidente di Google
l giorno d’oggi il comportamento digitale viene utilizzato per determinare conseguenze di ogni tipo nel mondo reale. Google e Facebook riescono a percepire lo stato emotivo di una persona o, come dice Schmidt, a sapere cosa pensiamo. I filmati sui bambini che si trovano su YouTube, ad esempio, sono stati usati per la ricerca scientifica sul potenziale dell’intelligenza artificiale nella diagnosi dell’autismo, mentre le compagnie di assicurazioni utilizzano i post sui social media per determinare il prezzo dell’assicurazione. Ma sempre di più i social media stanno iniziando a influenzare anche la politica mondiale. Basti pensare che negli Stati Uniti nel 2016 – anno della campagna presidenziale che ha visto vincitore Donald Trump – l’elettorato è stato investito per 760 milioni di volte di notizie false. Tre storie false per ogni americano adulto e il contributo della rete è stato determinante. Negli ultimi anni Google si sta facendo strada anche nel campo della sanità, mettendo da parte una grande quantità di dati sulle nostre abitudini d’acquisto, sui farmaci che usiamo e su dove viviamo. L’11 novembre The Wall Street Journal ha reso pubblico il cosiddetto Project Nightingale, l’accordo segreto di Google con Ascension, uno dei più grandi sistemi sanitari no profit degli Stati Uniti, che ha sede a St Louis, nel Missouri. Attraverso questa partnership, iniziata nel 2018, Google ha ottenuto l’accesso alle cartelle cliniche di oltre 50 milioni di persone in 21 stati. I dati raccolti nel progetto che prende il nome da Florence Nightingale – colei che creò l’assistenza infermieristica moderna – includono risultati di laboratorio, diagnosi mediche, registri di ospedalizzazione e prescrizioni di farmaci, fornendo così a Google una storia sanitaria completa con tanto di nomi e date di nascita. Né i pazienti né i medici coinvolti erano stati informati del progetto, riferisce The Wall Street Journal, ma le parti coinvolte hanno affermato di non aver violato le disposizioni contenute nell’Hipaa (Health insurance portability and accountability act), il pacchetto di normative sulla privacy che protegge i dati dei pazienti [1].
Questa faccenda evidenzia ancora una volta la relativa conoscenza delle normative sull’uso aziendale dei dati personali – in realtà abbastanza permissive – da parte dell’opinione pubblica. Secondo lo scienziato sociale Jay Shaw, che studia intelligenza artificiale e salute presso l’Università di Toronto in Canada, la situazione attuale sembra non essere troppo diversa da una sorta di far west nel quale manca una sostanziale attività regolatoria sull’uso industriale dei dati personali [2]. E anche Evgeny Morozov, sociologo e giornalista bielorusso, oggi uno degli intellettuali di riferimento in merito al dibattito sugli effetti politici e sociali dello sviluppo della tecnologia, la pensa allo stesso modo. Uno dei temi centrali del nostro tempo è la regolamentazione dello spazio cibernetico: se negli anni ottanta era emersa l’idea che il cyberspazio fosse un luogo distinto dal mondo reale e quindi regolato dal cosiddetto diritto cibernetico, al contrario il cyberspazio non può essere considerato un mondo separato perché internet è al centro del contemporaneo economico e sociale in cui ci troviamo. La Silicon Valley non è diversa da Wall Street e le grandi piattaforme digitali come Google e Facebook si stanno appropriando dello spazio pubblico monopolizzando i dati personali. “Le aziende della Silicon Valley – scrive Morozov – stanno piazzando un fi lo spinato invisibile intorno alle nostre vite. Sulla carta ci promettono più libertà, apertura e mobilità, ci dicono che possiamo andare dove vogliamo quando vogliamo, ma in realtà si tratta di una libertà fasulla, come quella di chi deve portare il braccialetto elettronico” [3].
Il controllo della nostra vita digitale è una delle principali sfide per i diritti umani della nostra era. — Kumi Naidoo
Anche un rapporto di Amnesty International accusa Facebook e Google di avere un “modello di business basato sulla sorveglianza che non ha confronto nella storia umana”. Basti pensare che Facebook, oltre alla sua omonima piattaforma, controlla anche WhatsApp, Messenger e Instagram, mentre Google controlla YouTube, Gmail, il sistema operativo mobile Android, il più famoso e utilizzato motore di ricerca e non solo. Ma non è tutto. Bisogna considerare, infatti, che la sorveglianza include anche “l’interno delle case delle persone attraverso l’uso di assistenti domestici come l’assistente di Google e sistemi domestici intelligenti che collegano più dispositivi come telefoni, televisioni e riscaldamento. Sempre di più, l’estrazione dei dati si estende anche gli spazi pubblici attraverso l’infrastruttura della città smart progettata per raccogliere dati in un’area urbana. Facebook sta persino sviluppando una tecnologia che consentirebbe di tracciare l’interno del cervello umano”.
Dunque, come afferma Kumi Naidoo, segretario generale di Amnesty International, i giganti della tecnologia hanno accumulato “un potere senza pari sul mondo digitale, raccogliendo e monetizzando i dati personali di miliardi di persone. Il loro insidioso controllo della nostra vita digitale mina l’essenza della privacy ed è una delle principali sfide per i diritti umani della nostra era” [4].
La questione della privacy, però, non è l’unica. E forse neanche la più importante. Le aziende, infatti, hanno accesso da tempo a milioni di cartelle cliniche e i pazienti raramente vengono informati. Google, ad esempio, aveva già milioni di dati di pazienti grazie agli accordi con diverse istituzioni sanitare, come la Mayo clinic, l’Università di Chicago e la Cleveland clinic. Senza dimenticare l’acquisizione da parte di Google di DeepMind Health, l’unità medica dell’omonima società basata sull’intelligenza artificiale, che già sollevò il problema dei dati personali. La vera domanda da farsi dovrebbe piuttosto essere cosa intenda fare Google con tutti questi dati. Per questo è fondamentale distinguere tra i dati in sé e le conoscenze acquisite da Google dall’analisi di tali dati, che potrebbe utilizzare anche in altri contesti. I documenti di brevetto depositati nel 2018 suggeriscono che Google aspira a prevedere o identificare le condizioni di salute delle persone che non hanno nemmeno consultato un medico, tramite quelli che oggi vengono chiamati dati medici emergenti (EMD), informazioni sulla salute dedotte dall’intelligenza artificiale grazie al comportamento del cittadino, considerato alla stregua di un consumatore di medicina. Un recente studio, ad esempio, ha analizzato le cartelle cliniche e i post sui social media di 999 utenti di Facebook mostrando risultati sorprendenti: messaggi contenenti linguaggio religioso, come le parole Dio, Signore e Gesù, erano forti predittori del diabete [5]. Sulla stessa scia, Google sta brevettando una casa smart che estrae EMD dal comportamento di chi ci abita per dedurre se stiano sviluppando la malattia di Alzheimer o disturbi da uso di sostanze. Anche in questo caso il guadagno reale non è nei dati, ma nell’utilizzo degli EMD per la profilazione dei consumatori. Per questo, il vero pericolo del Project Nightingale è la capacità di Google di sfruttare la sua cache di dati sanitari per costruire un impero senza rivali di sorveglianza della salute dei consumatori che abbraccia numerosi settori e tecnologie.
Tutti si aspetteranno di essere trattati e monitorati, visto che i vantaggi saranno enormi. — Hal Varian
Ed è proprio quello che intende Shoshama Zuboff quando parla di capitalismo della sorveglianza, qualcosa che “si appropria dell’esperienza umana usandola come materia prima da trasformare in dati sui comportamenti”. Hal Varian, chief economist di Google, preferisce ovviamente definirla personalizzazione: “Anziché dover chiedere qualcosa a Google, è Google a dover sapere che cosa volete e a dirvelo ancora prima che lo domandiate. Tutti si aspetteranno di essere trattati e monitorati, visto che i vantaggi in termini di convenienza, sicurezza e servizi saranno enormi. Il monitoraggio continuo sarà la norma” [6].
Bibliografia
[1] Shaukat T. Our partnership with Ascension. Inside Google Cloud, 12 novembre 2019.
[2] Ledford H. Google health-data scandal spooks researchers. Nature, 19 novembre 2019.
[3] Morozov E. Silicon Valley: i signori del silicio. Torino: Codice Edizioni, 2016.
[4] Amnesty International. Surveillance giants: how the business model of Google and Facebook threatens human rights. Rapporto, 2019.
[5] Merchant RM, Asch DA, Crutchley P, et al. Evaluating the predictability of medical conditions from social media posts. PlosOne, 17 giugno 2019.
[6] Zuboff S. Il capitalismo della sorveglianza. Roma: LUISS, 2019.
fonte: FORWARD
