O racismo algorítmico do reconhecimento facial

Texto: Juliano Pereira

Você é preso(a) saindo do ônibus. A polícia identifica você por um sistema de reconhecimento facial, que conecta o seu rosto com o de uma pessoa procurada. Sem direito a contestar, vai para a prisão. Enquanto a verdadeira pessoa foragida segue solta. Injusto demais? Sem dúvida. E é uma situação cada vez mais comum. 

O policiamento por câmeras têm lados positivos. Elas ajudam a identificar pessoas desaparecidas e esclarecer crimes, como o que envolveu, recentemente, duas brasileiras na Alemanha. Elas só foram soltas quando revelou-se a troca de bagagens e elas não estavam envolvidas em tráfico de drogas. Mas fica a pergunta: qual o custo que pagamos quando nossa privacidade é invadida? O erro na identificação de pessoas é só uma faceta. 

Se Deus criou o ser humano à sua imagem e semelhança, a humanidade criou a tecnologia da mesma forma. Com falhas, vieses e preconceitos. E que ficam escancarados quanto maior a complexidade da solução. Uma coisa é pedir pizza pelo aplicativo, ou encontrar a rota mais rápida para dirigir. O tal algoritmo não precisa “pensar” muito para executar a tarefa. Já quando o assunto é identificar pessoas ou sugerir soluções, o olhar de quem programa fica evidente. É igual a ensinar meu filho a chutar bola. Ele vai me imitar, olhar como eu tomo distância, como bato na bola. E fará igual, muitas vezes, até aprender.

Quando você aciona o reconhecimento do celular, primeiro precisa ensiná-lo a reconhecer quem é você. Aproximar o rosto e oferecer seus vários ângulos. A taxa de erro de identificação é nula. Agora, imagine esse mesmo celular buscando reconhecer você na multidão. Sem nunca ter visto seu rosto em movimento. Vai ser quase impossível, certo?! Pois bem, aquela câmera que o(a) identificou como foragido(a) fez exatamente isso. Ela foi “ensinada” a reconhecer pessoas a partir de um banco de imagem (um álbum de fotografias). Porém, ela aprendeu errado e é menos criteriosa (menos precisa) quando se trata da população negra. Enquanto a taxa de erro de identificação de uma pessoa branca é inferior a 1%, a de pessoas negras chega a 33%¹.

Vale se atentar para outra realidade: das 820 mil pessoas presas no Brasil em 2022, 67,4% eram negras². Por lógica (ainda que perversa), o algoritmo busca proporcionalmente mais pessoas negras porque há mais foragidos negros. E essa combinação é catastrófica. Pessoas negras deixam de ser apenas rostos e passam a ser alvos. Alvos no mundo digital. Em 2019, quando o Brasil começou a usar o reconhecimento facial, 184 pessoas foram presas, sendo 90% negras³. A câmer busca ativamente pessoas negras. E isso tem nome: racismo algorítmico⁴, A tecnologia nasce com um viés discriminatório.