Cientistas descobrem forma bizarra de burlar câmeras de vigilância com IA

A inteligência artificial avança a passos largos, e a área de vigilância é uma das mais promissoras. Ainda assim, a análise automática de padrões e ambientes pode apresentar algumas falhas que um olho humano não deixaria passar — e a mais recente descoberta nesse setor é no mínimo impressionante.

Pesquisadores da Katholieke Universiteit Leuven, na Bélgica, encontraram uma forma simples de impedir que um sistema de vigilância reconheça uma pessoa: pendurar uma impressão colorida no pescoço. Assim, o indivíduo que está com o objeto não entra no “retângulo” de classificação do sistema, que também descobre objetos, como cadeiras.

O vídeo abaixo mostra exatamente como isso funciona:

Que bruxaria é essa?
O truque está nos padrões de cor que normalmente não fazem parte de um ser humano e, aos olhos da IA, significam que aquela não é uma pessoa “normal”. Isso acontece porque o sistema é treinado a partir de redes adversárias, que aprendem o que são homens e mulheres a partir de amostras. Como provavelmente nenhuma das imagens enviadas para o banco de dados contém o tal papel pendurado no pescoço, a identificação é levada a um falso negativo.

Por enquanto, o uso do quadro colorido só confunde um algoritmo em específico, mas cientistas já buscam formas mais complexas capazes de enganar vários sistemas, incluindo roupas que deixariam a pessoa “invisível” para eles. O objetivo é refinar os esquemas de vigilância utilizados atualmente e impedir que algo assim seja usado para fins ilegais.