Quando o algoritmo é racista!

A digitalização trouxe vários ganhos, mas também tem sido usada de forma perversa, reproduzindo o racismo estrutural que faz parte da sociedade brasileira. É o que aponta o pesquisador baiano Tarcízio Silva em seu livro Racismo Algorítmico: Inteligência Artificial e Redes Digitais, publicação editada pelo Sesc e que faz parte da coleção Democracia Digital, organizada pelo professor Sérgio Amadeu da Silveira. Na prática, esse tipo de racismo acontece por meio de sistemas de reconhecimento facial que prendem pessoas negras inocentes, filtros de redes sociais que afinam traços de rostos e clareiam a pele e algoritmos que não reconhecem ou despotencializam pessoas negras em redes sociais.

De acordo com o trabalho acadêmico de Silva, a tecnologia não é neutra. Ele lembra que a relação entre racismo e tecnologias digitais sempre foi negada ou invisibilizada na maioria dos espaços hegemônicos da academia e das instituições que definem de políticas públicas. “Porém, cada vez mais especialistas buscam enfrentar o desafio de criar redes de colaboração, recursos e ferramentas para acolher mais pesquisadores no campo”, destaca. O livro – que nasceu da pesquisa de doutorado do pesquisador – é uma iniciativa de lutar contra os impactos racializados da tecnologia, de acordo com o autor.

Racismo algorítmico na “falsa” tecnicidade das plataformas

Para Silva, o fato de as plataformas digitais enfatizarem os aspectos técnicos faz parecer que elas são neutras, mas isso não acontece no mundo real. “Algoritmos, pela definição técnica, são sistematizações de procedimentos encadeados de forma lógica para realizar tarefas em um espaço computacional. Mas quando falamos de “algoritmização” da sociedade, trata-se de muito mais do que simplesmente a profusão de algoritmos e inteligência artificial para ordenação e classificação de coisas e pessoas”, explica. “Quando a moderação de conteúdo racista ou extremista não é feita como deveria, e as plataformas fogem da responsabilidade, a comoção da violência discursiva, enunciados racistas inclusos, se torna padrão para usuários e para algoritmos que aprendem a sua replicação”, detalha.

Além de pesquisador, produtor cultural e mestre em Comunicação e Cultura Contemporâneas pela Universidade Federal da Bahia (UFBA), Silva é doutorando em Ciências Humanas e Sociais na UFABC, onde estuda epistemologias da ignorância e racismo algorítmico. Ele também é Tech + Society Fellow (2020-2022) na Fundação Mozilla, atuando em promoção de segurança digital e defesa contra danos algorítmicos.

As atividades de Silva ainda incluem a organização de publicações como “Comunidades, Algoritmos e Ativismos digitais: olhares afrodiaspóricos” (LiteraRUA, 2020), “Estudando Cultura e Comunicação com Mídias Sociais” (Editora IBPAD, 2018) e “Monitoramento e Pesquisa em Mídias Sociais: metodologias, aplicações e inovações” (Uva Limão, 2016). Ele é também é fundador da Desvelar, projeto editorial de promoção de conhecimento contra-coloniais e afrodiaspóricos sobre tecnologia e sociedade.

Comentários

Comentários