• O racismo algorítmico reproduz o racismo estrutural brasileiro por meio de tecnologias digitais como reconhecimento facial e filtros que discriminam pessoas negras.
  • Sistemas algorítmicos não são neutros, pois refletem e amplificam preconceitos sociais, tornando a moderação de conteúdo racista insuficiente nas plataformas digitais.
  • O combate ao racismo algorítmico exige redes colaborativas e ferramentas que incluam pesquisadores e políticas públicas para enfrentar desigualdades tecnológicas no setor digital.
Resumo supervisionado por jornalista.

A digitalização trouxe vários ganhos, mas também tem sido usada de forma perversa, reproduzindo o racismo estrutural que faz parte da sociedade brasileira. É o que aponta o pesquisador baiano Tarcízio Silva em seu livro Racismo Algorítmico: Inteligência Artificial e Redes Digitais, publicação editada pelo Sesc e que faz parte da coleção Democracia Digital, organizada pelo professor Sérgio Amadeu da Silveira. Na prática, esse tipo de racismo acontece por meio de sistemas de reconhecimento facial que prendem pessoas negras inocentes, filtros de redes sociais que afinam traços de rostos e clareiam a pele e algoritmos que não reconhecem ou despotencializam pessoas negras em redes sociais.

De acordo com o trabalho acadêmico de Silva, a tecnologia não é neutra. Ele lembra que a relação entre racismo e tecnologias digitais sempre foi negada ou invisibilizada na maioria dos espaços hegemônicos da academia e das instituições que definem de políticas públicas. “Porém, cada vez mais especialistas buscam enfrentar o desafio de criar redes de colaboração, recursos e ferramentas para acolher mais pesquisadores no campo”, destaca. O livro – que nasceu da pesquisa de doutorado do pesquisador – é uma iniciativa de lutar contra os impactos racializados da tecnologia, de acordo com o autor.

Racismo algorítimico na “falsa” tecnicidade das plataformas

Para Silva, o fato de as plataformas digitais enfatizarem os aspectos técnicos faz parecer que elas são neutras, mas isso não acontece no mundo real. “Algoritmos, pela definição técnica, são sistematizações de procedimentos encadeados de forma lógica para realizar tarefas em um espaço computacional. Mas quando falamos de “algoritmização” da sociedade, trata-se de muito mais do que simplesmente a profusão de algoritmos e inteligência artificial para ordenação e classificação de coisas e pessoas”, explica. “Quando a moderação de conteúdo racista ou extremista não é feita como deveria, e as plataformas fogem da responsabilidade, a comoção da violência discursiva, enunciados racistas inclusos, se torna padrão para usuários e para algoritmos que aprendem a sua replicação”, detalha.

Além de pesquisador, produtor cultural e mestre em Comunicação e Cultura Contemporâneas pela Universidade Federal da Bahia (UFBA), Silva é doutorando em Ciências Humanas e Sociais na UFABC, onde estuda epistemologias da ignorância e racismo algorítmico. Ele também é Tech + Society Fellow (2020-2022) na Fundação Mozilla, atuando em promoção de segurança digital e defesa contra danos algorítmicos.

As atividades de Silva ainda incluem a organização de publicações como “Comunidades, Algoritmos e Ativismos digitais: olhares afrodiaspóricos” (LiteraRUA, 2020), “Estudando Cultura e Comunicação com Mídias Sociais” (Editora IBPAD, 2018) e “Monitoramento e Pesquisa em Mídias Sociais: metodologias, aplicações e inovações” (Uva Limão, 2016). Ele é também é fundador da Desvelar, projeto editorial de promoção de conhecimento contra-coloniais e afrodiaspóricos sobre tecnologia e sociedade.

Dúvidas mais comuns

Racismo algorítmico ocorre quando sistemas de inteligência artificial ou algoritmos reproduzem ou ampliam preconceitos raciais existentes, refletindo desigualdades presentes na sociedade.

Ele se manifesta por meio de sistemas de reconhecimento facial que erram ao identificar pessoas negras, filtros que alteram traços e clareiam a pele, e algoritmos que desvalorizam ou ignoram pessoas negras em redes sociais.

A tecnologia reflete os vieses e desigualdades da sociedade, pois os algoritmos são desenvolvidos a partir de dados e processos que podem conter preconceitos, tornando a suposta neutralidade técnica uma falsa impressão.

Discriminação algorítmica refere-se a padrões sistemáticos de tratamento desigual causados por algoritmos e sistemas de inteligência artificial que produzem resultados enviesados ou injustos contra determinados grupos sociais.

O racismo algorítmico reforça a exclusão e marginalização de grupos racializados, perpetuando desigualdades, dificultando o acesso a direitos e oportunidades, e normalizando discursos e práticas racistas nas plataformas digitais.

Especialistas buscam criar redes de colaboração, desenvolver recursos e ferramentas para ampliar a pesquisa no campo, além de promover debates e políticas públicas que reconheçam e combatam os impactos racializados da tecnologia.

É a ideia de que as plataformas digitais são neutras por serem técnicas, quando na verdade seus algoritmos e sistemas refletem e reproduzem preconceitos sociais, especialmente quando a moderação de conteúdos racistas é insuficiente.