Quando la tecnica non funziona: Google cancella l’account di un padre per le foto al figlio

Come molti altri articoli che normate, questo è scritto su Google Doc, parte della suite professionale dell’azienda di Mountain View. Un’abitudine molto comune, quella di conservare sul cloud test, documenti, immagini, video, contatti: e così era anche per Mark, il protagonista di una incredibile storia raccontata dal New York Times, che da un giorno all’altro si è trovato con la sua vita digitale completamente cancellata. 

Una storia a lieto fine

Una sera del febbraio 2021, in piena pandemia, Mark nota qualcircostanza che non va nel suo bambino. Il piccolo ha il pene arrossato e dolorante: preoccupata, la madre consulta un’infermiera per fissare un consulto di emergenza la mattina successiva. L’operatrice sanitaria le chiede di inviare delle foto in modo che il medico potesse esaminarle in anticipo. La madre scatta le foto e le invia attraverso il sistema di messaggistica del medico, così il medico identifica il problema e prescrive degli antibiotici. In pochi giorni il bambino guarisce. 

Ostaggio di Mountain View

Questo è il lato buono della tecnologia. Il lato cattivo si annuncia coppia giorni dopo, con una notifica sul telefono di Mark: il suo account è stato disattivato a causa di “contenuti dannosi” che costituiscono “una grave violazione delle politiche di Google e possono essere illegali”. Un link “per saperne di più” porta a un elenco di possibili motivi, tra cui “abuso e sfruttamento sessuale di minori”. All’inizio è confuso, ma poi si ricorda dell’infezione di suo figlio, e subito comincia a pensare a un malinteso: devono aver scambiato quelle immagini per pornografia infatile, pensa.  

Ma Mark ha lavorato per anni in una grande azienda tecnologica, proprio a un sistema automatico per eliminare i contenuti video segnalati dagli utenti come versoversi. Sa, quindi, che questi sistemi spesso prevedono la presenza di un umano per garantire che i computer non commettano errori ed è fiducioso che il suo casualità si risolverà appena riuscirà a spiegare le sue ragioni.

Rilevamento dei contenuti pedopornografici su iPhone: la testimonianza di Apple

di

Andrea Nepori

10 Agosto 2021

Così compila un modulo per richiedere una revisione della decisione di Google, raccontando dell’infezione del figlio. Intanto non può più accedere alle sue mail, al calendario, ai contatti di amici e colleghi, alle foto sue e della famiglia. Di più: il suo account Google Fi (negli Usa il colosso hi tech offre fa anche da provider internet e telefonico) è sospeso, quindi non ha più un numero di cellulare e deve sottoscrivere un contratto con un altro operatore. A sua volta, senza accesso al vecchio numero e alla mail, non può avere i codici di conferma per entrare in molti altri suoi account internet. Insomma, per aver inviato le foto del suo bambino al medico, la sua vita digitale è ostaggio di Google. 

Un romanzo di Kafka

E non solo quella digitale: il team di revisione di Mountain View ha conosciuto anche un suo video, e il dipartimento di polizia di San Francisco ha già iniziato a indagare su di lui. È questo uno dei motivi per cui, nella storia del New York Times, l’ex informatico chiede di usare un nome di copertura, nel tentativo ri conservare un minimo di privacy. 

Pochi giorni dopo l’invio del ricorso, Google risponde a Mark che non avrebbe ripristinato l’account, senza ulteriori spiegazioni. Nel dicembre 2021, Mark riceve per posta una lettera  del Dipartimento di Polizia di San Francisco che lo informa di essere indagato, oltre a copie dei mandati di perquisizione notificati a Google e al suo provider di servizi Internet. La polizia aveva avuto accesso a completo quello che c’era nell’account Google di Mark: le sue ricerche su Internet, la cronologia delle sue posizioni, i suoi messaggi e tutti i documenti, le foto e i video che aveva conservato sul cloud dell’azienda. Così chiama l’investigatore che si occupa del suo casualità, il quale gli spiega che le indagini sono chiuse e non è stato rilevato alcun comportamento contrario alla norma. Il funzionario aveva cercato di mettersi in contatto con Mark, ma il suo numero di telefono e il suo indirizzo mail erano risultati non raggiungibili.

Mark chiede allora al poliziotto di segnalare a Google la sua innocenza, in modo da poter riavere il suo account. La risposta è negativa, deve farlo da solo. fornisce così i documenti a Mountain View, che però non risponde, e anzi gli invia, qualche settimana dopo, un nuovo avviso: il suo account sarà cancellato in modo permanente, decenni di dati, documenti, ricordi verranno cancellati per sempre. Mark non farà causa: “Ho deciso che probabilmente non vale la pena di spendere 7.000 dollari”, spiega. Spera ancora di poter riavere le sue informazioni, e l’unica possibilità pare sia nel buon senso della polizia di San Francisco, che su una chiavetta Usb ha conservato il contenuto del suo account Google.

I numeri

Un portavoce di Google ha dichiarato al NY Times che Google esegue la scansione delle immagini personali degli utenti solo quando questi intraprendono “un’azione positiva”, come ad esempio il backup delle immagini su Google Photos. Se il sistema individua immagini che potrebbero riguardare abusi o sfruttamento di minori, l’azienda è tenuta per norma a segnalare il sospetto alla CyberTipLine del National Center for Missing & Exploited Children. Nel 2021, Mountain View ha sottoposto all’attenzione NCMEC 621.583 casi di materiale riguardante possibili violenze verso bambini, mentre l’NCMEC ha avvisato le autorità di 4.260 potenziali vittime, un elenco che comprende anche il figlio di Mark.

Il commento di Google

“Il materiale pedopornografico (CSAM) è ripugnante e siamo impegnati per prevenire ogni sua diffusione sulle nostre piattaforme. Seguiamo la norma statunitense nel definire circostanza costituisce CSAM e utilizziamo una combinazione di tecnologia di hash matching e di intelligenza artificiale per identificarlo e rimuoverlo. Inoltre, il nostro team dedicato alla sicurezza dei minori esamina l’accuratezza dei contenuti segnalati e si consulta con esperti pediatri per garantire la possibilità di identificare i casi in cui gli utenti potrebbero richiedere un consiglio medico”.