I nostri volti in pasto alle IA: stiamo addestrando le macchine a riconoscerci, ma qual è il prezzo che potremmo pagare?

Ogni foto di famiglia caricata su Facebook, ogni selfie su Instagram, ogni video su TikTok è oggi, con ogni probabilità, già dentro il ventre di un modello di intelligenza artificiale. Non ce lo hanno chiesto in modo chiaro. Non abbiamo firmato nulla di comprensibile. Eppure il nostro volto, il volto dei nostri figli, la nostra voce, i nostri gesti quotidiani sono diventati materia prima gratuita per addestrare sistemi che, un domani, potrebbero essere usati contro di noi. Questo non è un allarmismo da fantascienza: è la logica conclusione di scelte industriali già in corso.

Le piattaforme social hanno costruito imperi miliardari raccogliendo dati che gli utenti pensavano di condividere solo con amici e parenti. Termini di servizio scritti apposta per essere illeggibili, aggiornamenti di policy silenziosi, clausole che si auto estendono a “finalità future non ancora definite”: tutto concorre a un solo risultato, ovvero trasformare la fiducia delle persone in fatturato.

Quando un genitore pubblica la foto del proprio bambino, non sta firmando un contratto per addestrare un futuro sistema di riconoscimento facciale. Ma è esattamente quello che, nei fatti, sta accadendo.

Non si tratta di un dettaglio tecnico. Si tratta di un trasferimento di potere: da miliardi di persone comuni verso un pugno di aziende (e, indirettamente, verso chiunque quelle aziende decidano di servire, oggi o in futuro).

Il rischio più discusso finora riguarda la privacy in senso “leggero”: pubblicità mirata, profilazione commerciale, furto d’identità. Ma c’è un livello di pericolo molto più serio e molto meno discusso: l’uso di questi dati biometrici per sistemi di identificazione e targeting, cioè sistemi progettati per riconoscere una persona specifica in mezzo alla folla, o da un drone, o da una telecamera di sorveglianza, e poi agire di conseguenza.

Una volta che un modello è stato addestrato a riconoscere volti umani con precisione, la differenza tra “suggerire tag automatici su Facebook” e “identificare un bersaglio da colpire” non è tecnologica: è politica. È una questione di chi controlla il sistema e per quale scopo decide di usarlo. E la storia insegna che questa distanza può essere colmata molto più in fretta di quanto vorremmo credere.

Chi pensa che l’uso militare di massa di dati biometrici raccolti su civili sia uno scenario distopico dovrebbe guardare a ciò che diverse inchieste giornalistiche indipendenti hanno già documentato nella Striscia di Gaza. Secondo le ricostruzioni di +972 Magazine, Local Call e del New York Times, l’esercito israeliano ha impiegato un sistema di intelligenza artificiale, noto come “Lavender“, che nelle prime sei settimane dopo il 7 ottobre 2023 avrebbe generato circa 37.000 raccomandazioni di bersagli umani, con una supervisione umana ridotta a pochi secondi per ciascuna verifica. In parallelo, sempre secondo queste inchieste, è stato attivato un programma di riconoscimento facciale su vasta scala, basato anche su tecnologie sviluppate da aziende come Corsight AI, capace di identificare volti persino da riprese di droni a bassa qualità, sistema usato per catalogare la popolazione palestinese senza consenso, anche ai checkpoint.

Un altro sistema, soprannominato “Where’s Daddy?“, sarebbe stato usato per tracciare i bersagli individuati da Lavender fino al momento in cui rientravano nelle proprie abitazioni, con le famiglie presenti.

Non è necessario prendere posizione su ogni dettaglio di queste inchieste per capire il punto centrale: l’infrastruttura tecnica per trasformare dati biometrici di civili in liste di bersagli non è un’ipotesi teorica. Esiste, è stata costruita, ed è stata usata. Il salto logico che porta da “addestriamo un’AI a riconoscere i volti per taggare gli amici” a “usiamo un’AI per riconoscere i volti e decidere chi colpire” si è già consumato, in un conflitto reale, davanti agli occhi del mondo.

Chi obietta “ma i governi democratici non farebbero mai una cosa simile con i nostri dati” dimentica un pezzo di storia scomodo ma documentato: durante il Terzo Reich, la macchina statistica del regime nazista si appoggiò a tecnologie di catalogazione dei dati, le schede perforate Hollerith, fornite tramite la filiale tedesca di IBM, per censire, classificare ed emarginare sistematicamente ebrei, rom e altre minoranze, in un percorso che portò alla deportazione di massa. La tecnologia in sé non era pensata per il genocidio: era “solo” uno strumento di catalogazione efficiente. Fu il regime politico che la usò trasformandola in un’arma.

Questo è precisamente il punto: una tecnologia neutra nelle mani di un’azienda oggi può diventare uno strumento di persecuzione nelle mani di un governo autoritario domani. I governi cambiano. Le costituzioni possono essere sospese. Le maggioranze democratiche possono trasformarsi in regimi illiberali nel giro di pochi anni, come la storia recente di diversi paesi ha dimostrato. Ma i dataset di volti, una volta raccolti, non si cancellano: restano lì, pronti per essere requisiti, comprati, hackerati o semplicemente consegnati per legge al nuovo potere.

Perché “non ho nulla da nascondere” non basta più

L’argomento più comune, “non mi preoccupa, non ho nulla da nascondere“, presuppone che il potere che userà quei dati sarà sempre benevolo e sempre quello attuale. È una scommessa pericolosa. Non stiamo scegliendo di condividere i nostri volti con il governo di oggi: stiamo, di fatto, condividendoli con chiunque, in futuro, riuscirà ad accedere a quei database o alle capacità dei modelli addestrati su di essi, governi, aziende, servizi di intelligence stranieri, o eserciti privati. Una volta che un volto è dentro un modello di riconoscimento, la sua “restituzione” o cancellazione è tecnicamente quasi impossibile.

Ci è stato venduto un patto implicito: “condividi la tua vita online, e in cambio avrai connessione, intrattenimento, visibilità”. Nessuno ci ha detto che quella stessa vita, frammento per frammento, sarebbe diventata la materia prima per costruire strumenti di identificazione di massa il cui uso finale non è, e non potrà mai essere, sotto il nostro controllo. Il fatto che simili strumenti siano già stati impiegati in un contesto di conflitto reale dimostra che la distanza tra “innocuo miglioramento tecnologico” e “strumento di potenziale persecuzione” è enormemente più breve di quanto immaginiamo e di quanto la comunicazione dell’industria tecnologica lasci intendere.