Google ha accusato un uomo di aver compiuto – a detta sua – un reato molto grave. Potrebbe sembrare giusto in questo caso, ma da quel che è emerso pare che non ci sia nulla di vero.
La storia coinvolge un uomo di San Francisco, negli Stati Uniti, a cui Google disabilitò l’account nel 2021 perché aveva scattato diverse foto dell’inguine del figlio per motivi medici. Secondo l’algoritmo della società, quelle immagini rappresentavano materiale pedopornografico e per questo il padre era stato anche segnalato alla polizia.
Il bambino aveva un dolore al pene e difatti risultava essere gonfio, per cui Mark aveva bisogno di scattare con il proprio smartphone alcune foto della sua zona inguinale. In seguito, per via delle restrizioni per la pandemia da coronavirus, sua moglie programmò un consulto medico online per il giorno seguente: l’infermiera che aveva fissato l’appuntamento le aveva chiesto di inviare alcune foto così che il pediatra potesse vederle prima. La ragazza così ne scattò delle altre, sempre con il telefono di Mark, in cui si vedeva la mano del marito che indicava il gonfiore.
In seguito, dopo aver scattato queste foto, Mark ricevette una notifica con cui Google lo avvisava di aver disabilitato il suo account a causa di contenuti pericolosi. Stessa cosa successe anche con il servizio Gmail che Mark aveva aperto e quello telefonico Google Fi, impedendogli di chiamare e navigare su Internet. A parte alle e-mail di oltre quindici anni, il padre perse persino le foto e i video che erano stati archiviati sul cloud di Google.
Ma questa situazione non andò mica a migliorare, anzi; venne a sapere in un secondo momento che la polizia di San Francisco stava indagando su di lui per via di un altro video salvato nel suo telefono che era stato segnalato da Google come molto pericoloso. Attualmente non è più sospetto, ma i suoi account sono ancora disabilitati. Tuttavia, il caso che abbiamo raccontato è isolato oppure no?
I report passati e la risposta di Google
Il New York Times ha raccontato che la stessa cosa successa a Mark accadde anche a un uomo di Houston, in Texas. Secondo Jon Callas, esperto di tecnologia dell’organizzazione per le libertà civili nell’era digitale Electronic Frontier Foundation, le vicende come queste potrebbero essere molte di più. Non per niente ritengono che i sistemi di controllo e protezione sono fallibili e possono avere conseguenze gravi e inaspettate per le persone che non avevano avuto comportamenti intenzionalmente dannosi.
Concludiamo con una dichiarazione di Google sulla faccenda, nella quale viene detto che: “Il materiale pedopornografico (CSAM) è ripugnante e siamo impegnati per prevenire ogni sua diffusione sulle nostre piattaforme. Seguiamo la legge statunitense nel definire cosa costituisce CSAM e utilizziamo una combinazione di tecnologia di hash matching e di intelligenza artificiale per identificarlo e rimuoverlo. Inoltre, il nostro team dedicato alla sicurezza dei minori esamina l’accuratezza dei contenuti segnalati e si consulta con esperti pediatri per garantire la possibilità di identificare i casi in cui gli utenti potrebbero richiedere un consiglio medico“.
