Toyota Yaris ‘invisibile’: il camouflage anti-AI di DEF CON

Un ricercatore di cybersecurity ha mostrato al DEF CON di Las Vegas una Toyota Yaris interamente rivestita da una pellicola adesiva con pattern grafici pensati per confondere i sistemi di riconoscimento basati sull’intelligenza artificiale. Il progetto si chiama noRecognition ed è opera di Bill Swearingen, che lo ha presentato durante la celebre conferenza di sicurezza informatica statunitense.

Cos’è il progetto noRecognition

noRecognition è il progetto ideato da Bill Swearingen, ricercatore di cybersecurity, per studiare le vulnerabilità dei sistemi di riconoscimento automatico basati su intelligenza artificiale. L’idea alla base è realizzare pattern grafici in grado di “confondere” gli algoritmi di visione artificiale senza rendere l’oggetto fisicamente invisibile: le telecamere continuano a riprendere regolarmente la scena, ma il software di riconoscimento può avere difficoltà a interpretare correttamente ciò che vede.

Il camouflage mostrato al DEF CON su una Toyota Yaris

Per dimostrare il funzionamento della tecnologia, Swearingen ha rivestito una Toyota Yaris con una livrea integrale composta da disegni psichedelici ad alto contrasto, mostrata pubblicamente alla conferenza DEF CON di Las Vegas. La vettura non nasconde la propria presenza agli occhi umani né alle telecamere, che la riprendono normalmente: l’obiettivo del pattern è esclusivamente quello di interferire con l’elaborazione automatica dell’immagine da parte dei software di riconoscimento.

Gli 11 algoritmi ingannati nei test

Secondo i test presentati da Swearingen, il camouflage avrebbe ingannato 11 algoritmi open source utilizzati nella prova, impedendo loro di identificare correttamente il veicolo come un’automobile. Il pattern avrebbe messo in difficoltà anche sistemi di lettura automatica delle targhe e dispositivi di videosorveglianza, evidenziando come alcune tecnologie di riconoscimento oggi diffuse possano essere soggette a errori sistematici se opportunamente sollecitate.

Un’intelligenza artificiale contro l’altra

Un aspetto particolare dell’esperimento è che gli stessi pattern grafici del camouflage sono stati generati da Swearingen utilizzando l’intelligenza artificiale, dando vita a una sorta di sfida tra algoritmi: sistemi di IA impiegati per ingannare altri sistemi di IA dedicati alla sorveglianza. Una dinamica che, secondo il ricercatore, rischia di diventare sempre più comune con la diffusione capillare del riconoscimento automatico.

L’obiettivo: accendere i riflettori sulla sorveglianza automatizzata

Al di là dell’aspetto tecnico, l’esperimento di Swearingen punta soprattutto a richiamare l’attenzione sui rischi legati alla sorveglianza automatizzata e agli errori dei sistemi di riconoscimento, sempre più diffusi negli Stati Uniti tra lettura targhe, videosorveglianza urbana e altri strumenti di controllo. La notizia è stata diffusa online anche tramite il profilo X @hevnsnt.

Domande frequenti su noRecognition e il camouflage anti-AI

Cos’è noRecognition?

È un progetto di ricerca in cybersecurity ideato da Bill Swearingen per sviluppare pattern grafici capaci di confondere i sistemi di riconoscimento automatico basati su intelligenza artificiale, applicabili tramite pellicole adesive su superfici come la carrozzeria di un’auto.

Chi è Bill Swearingen?

È un ricercatore di cybersecurity, fondatore del progetto noRecognition, che ha presentato la propria tecnologia alla conferenza DEF CON di Las Vegas su una Toyota Yaris interamente rivestita dal pattern anti-riconoscimento.

La Toyota Yaris diventa davvero invisibile?

No: le telecamere continuano a riprendere normalmente il veicolo. Ciò che cambia è la capacità di alcuni software di intelligenza artificiale di identificarlo correttamente come un’automobile.

Quali sistemi sono stati ingannati nei test?

Secondo Swearingen, il camouflage ha ingannato 11 algoritmi open source impiegati nella prova, oltre a mettere in difficoltà sistemi di lettura automatica delle targhe e dispositivi di videosorveglianza.

Come sono stati creati i pattern del camouflage?

I disegni sono stati generati utilizzando l’intelligenza artificiale, la stessa tecnologia che il pattern è poi in grado di confondere: un caso di IA impiegata per ingannare altre IA di sorveglianza.

Perché Swearingen ha realizzato questo esperimento?

L’obiettivo dichiarato è sensibilizzare sui rischi legati alla sorveglianza automatizzata e agli errori dei sistemi di riconoscimento, sempre più diffusi negli Stati Uniti.