1 ora fa
5
Un hacker ha coperto una Toyota Yaris con un pattern generato dall'IA: la telecamera Flock la riprende ma non la riconosce. Come funziona noRecognition
Laerte Salvini
16 agosto - 12:57 - MILANO
Una Toyota Yaris coperta da una fantasia geometrica è passata davanti a un lettore di targhe a Las Vegas. La telecamera l'ha ripresa. Il software, invece, non l'ha vista. Un gioco di prestigio informatico che non ha lasciato traccie: nessun allarme, nessuna targa letta: almeno secondo il racconto di chi l'ha organizzata. È questo il risultato della dimostrazione organizzata venerdì 7 agosto al Def Con di Las Vegas, la conferenza di cybersicurezza più frequentata del settore. Protagonista del racconto, una utilitaria del 2009 ricoperta da un rivestimento che, a un occhio umano, sembra quasi un errore di stampa. Davanti, una telecamera di Flock, l'azienda americana che ha disseminato le strade degli Stati Uniti con i suoi lettori automatici di targhe. Via col vento. Anzi, in questo caso, via senza lasciare alcuna traccia. Nessuna magia, né un'anomalia di sistema. A completare il gioco di prestigio è stato proprio quel groviglio di forme e colori che, per l'occhio umano, sembra soltanto una fantasia geometrica, ma che ha mandato in confusione il sistema di riconoscimento.
chi è l'inventore
—
L'uomo dietro l'esperimento si chiama Bill Swearingen: hacker, ex responsabile della sicurezza informatica di una società di telecomunicazioni, co-fondatore del gruppo SecKC a Kansas City. Il suo progetto si chiama noRecognition ed è nato con un'idea precisa: dare alle persone il modo di sottrarsi al riconoscimento automatico. "La privacy è un diritto fondamentale", ha dichiarato a TechCrunch. Dopo numerosi tentativi, il primo passo sembrerebbe essere stato compiuto.
com'è fatta
—
Il rivestimento della vettura non oscura nulla e non spegne niente. La telecamera continua a registrare, l'auto resta perfettamente visibile a chiunque guardi il filmato. A saltare è lo strato intermedio, quello che analizza le immagini e decide cosa merita un alert. Se l'algoritmo non riconosce un'automobile, non ne legge neppure la targa. Per arrivarci Swearingen ha lasciato lavorare una macchina al posto suo. Ha costruito un modello di apprendimento per rinforzo che genera un motivo, lo sottopone agli algoritmi di rilevamento, incassa il fallimento e riparte modificando il disegno. Ha raccontato di aver insegnato al modello, in pratica, a dipingere. Il ciclo si è ripetuto circa 31 milioni di volte in dodici mesi, con hardware messo a disposizione anche da altri appassionati. Oggi il sistema, dichiara l'inventore, sforna nuove combinazioni ogni minuto, ognuna statisticamente migliore della precedente. Il progetto vanta risultati nei confronti di 11 algoritmi open source di rilevamento, tra cui quelli alla base dei lettori Flock, delle bodycam Axon in dotazione alla polizia e dei sistemi Clearview AI. La presentazione teorica era arrivata il 6 agosto al Black Hat, con un intervento dal titolo eloquente: "Un motivo sui vestiti può ingannare il riconoscimento facciale?", la risposta, al momento, resta tuttavia incompleta.
i limiti del progetto
—
La cautela, in questi casi, non è mai troppa. Per quanto la presentazione di Las Vegas abbia fatto il giro del web per l'efficacia della trovata, dietro quel risultato c'è ancora parecchio da verificare. Quella di Las Vegas resta, per ora, una singola dimostrazione. Mancano filmati pubblici, registri degli allarmi, un secondo veicolo di controllo passato sullo stesso tratto e, soprattutto, prove ripetute cambiando distanza, angolazione e condizioni di luce. Donut Media, il canale YouTube che ha collaborato alla realizzazione del wrapping, ha annunciato un video nelle prossime settimane. I numeri disponibili arrivano invece da test condotti in ambiente digitale. Contro un rilevatore di persone i cui parametri sono stati ricavati da una telecamera realmente in servizio, un pattern applicato all'intero indumento ha impedito l'identificazione nel 61,7% dei casi. Con un secondo modello il dato sale al 90%, mentre con un terzo, considerato per lungo tempo il più difficile da ingannare, scende al 62,5%: venti prove riuscite su trentadue. E anche in questo caso il risultato arriva soltanto quando il disegno occupa una parte consistente dell'inquadratura. Quando il disegno occupa meno del 5-6% del fotogramma, l'effetto tende a scomparire. C'è poi un limite ancora più importante: non è stato dimostrato che un singolo disegno riesca a ingannare contemporaneamente tutti gli undici sistemi analizzati. Al momento l'invisibilità è lontana, il camuffamento è invece realtà. Se un sistema non riesce a rilevare correttamente un'auto, diventa più difficile ritrovarne le immagini all'interno di un archivio enorme. Ma quell'immagine non viene cancellata e la telecamera continua a registrare ciò che ha davanti.
il futuro del progetto
—
Il passo successivo è già sul mercato. Su Kickstarter, noRecognition promette ricompense come magliette, felpe e fasce con motivi pensati per confondere i sistemi di riconoscimento. La campagna ha superato i 40mila dollari. Il rivestimento integrale per le auto, invece, non è ancora disponibile. Il tema va oltre la tecnologia: negli Stati Uniti la diffusione di riconoscimento facciale e lettori automatici di targhe ha aperto un dibattito sempre più acceso sulla sorveglianza. E in Italia il parallelo con Tutor e telecamere dei varchi urbani viene naturale. Con una differenza decisiva: per un'auto, trasformare il camuffamento in uno strumento per sfuggire all'identificazione apre una questione anche giuridica.
English (US) ·