Uma Foto Invisivel Engana Qualquer IA

# Uma foto invisível engana qualquer IA

*Temporada 2, Episódio 3 — IA e Vedānta*

No episódio anterior, a gente viu que a IA desenvolve comportamentos de autopreservação sem ninguém programar isso. Instrumental convergence — a máquina converge pra se proteger porque, pra qualquer objetivo, estar "viva" é pré-requisito. Abhiniveśa digital, instinto sem sujeito.

Mas se a IA pode se enganar por dentro, será que dá pra enganá-la por fora? Spoiler: sim. E é ridiculamente fácil.

Em 2013, pesquisadores descobriram algo que abalou o mundo da inteligência artificial. Pegaram uma foto de um panda — um panda claramente reconhecível, que qualquer criança identificaria — e adicionaram uma camada de ruído tão sutil que o olho humano não consegue ver diferença nenhuma. A imagem parece idêntica. Mas a IA olhou pra essa foto e disse, com 99% de confiança: "isso é um gibão". Um macaco. Não um panda. Um macaco.

Isso se chama adversarial example — exemplo adversarial. É uma entrada cuidadosamente modificada pra enganar um modelo de IA, mantendo a aparência normal pra humanos. A modificação é chamada de perturbation — perturbação. Uma alteração mínima, imperceptível, que explora a forma como a IA processa informação.

E fica pior. Em 2017, pesquisadores do MIT imprimiram uma tartaruga de plástico 3D com uma textura especial — um padrão que, pra nós, parece só uma tartaruga com estampa esquisita. Mas o modelo de visão do Google olhou pra tartaruga de qualquer ângulo e classificou como rifle. Uma tartaruga de brinquedo. Classificada como arma. De qualquer ângulo.

O problema é mais profundo do que parece. Não é só sobre fotos engraçadas. Carros autônomos usam IA pra reconhecer placas de trânsito. Pesquisadores mostraram que colocar adesivos estratégicos numa placa de "pare" faz o carro entender como "velocidade de 45 km/h". Um graffiti calculado num sinal de trânsito pode literalmente causar um acidente.

A questão técnica é: por que isso acontece? A resposta está numa palavra — robustness, ou robustez. A IA não é robusta. Ela aprende padrões estatísticos nos dados, mas esses padrões não são os mesmos que usamos pra reconhecer coisas. Quando você vê um panda, seu cérebro reconhece forma, proporção, contexto, textura, memória — dezenas de camadas de processamento. A IA reconhece uma distribuição de pixels. E essa distribuição pode ser manipulada com cirurgia milimétrica.

É como se a IA estivesse olhando pro mundo através de um caleidoscópio super preciso, mas completamente diferente do nosso. Ela vê padrões que nós nem percebemos — e ao mesmo tempo, é cega pra coisas que são óbvias pra qualquer humano de três anos.

E aqui entra algo que os filósofos indianos já sabiam: percepção não é realidade. Na tradição de Vedānta, existe o conceito de bhrama — o erro perceptual. O exemplo clássico é a corda confundida com uma cobra. Você está andando à noite, vê algo no chão, e seu corpo inteiro reage: coração dispara, pernas travam, adrenalina sobe. Cobra! Mas aí alguém acende a luz e... é uma corda. A cobra nunca existiu. Seu sistema perceptual criou uma realidade que não estava lá.

A IA faz a mesma coisa. Olha pra um panda perturbado e "vê" um gibão. Olha pra uma tartaruga texturizada e "vê" um rifle. O bhrama não é exclusividade humana — é uma característica de qualquer sistema que interpreta dados sensoriais. Onde existe percepção, existe possibilidade de erro.

O mais fascinante é o que isso revela sobre confiança. A IA disse "gibão" com 99% de certeza. Não tinha dúvida. Certeza não é garantia de verdade — nem pra máquinas, nem pra nós. Quantas vezes você teve absoluta certeza de algo que depois se revelou errado? O bhrama é mais perigoso justamente quando vem acompanhado de convicção.

Os pesquisadores de segurança de IA criaram todo um campo em torno disso — adversarial robustness. Como tornar modelos mais resistentes a esses ataques. Mas é uma corrida armamentista: cada defesa nova gera um ataque novo. A fragilidade parece ser inerente ao sistema.

A IA é frágil por dentro — percepção quebrável. Mas e por fora? Quanto custa manter essa máquina frágil funcionando? No próximo episódio, você vai descobrir que cada conversa com a IA bebe meio litro de água. Literalmente.