Racismo algorítmico: como a tecnologia reproduz desigualdades
O avanço da inteligência artificial tem ampliado o debate sobre o racismo algorítmico — quando sistemas automatizados reproduzem ou intensificam desigualdades raciais presentes na sociedade. O conceito se refere a situações em que algoritmos, mesmo sem intenção explícita, geram resultados discriminatórios a partir de dados históricos ou decisões de desenvolvimento. Tecnologia e desigualdade Especialistas apontam […] O conteúdo Racismo algorítmico: como a tecnologia reproduz desigualdades aparece primeiro em Revista Raça Brasil.
Black News 
O avanço da inteligência artificial tem ampliado o debate sobre o racismo algorítmico — quando sistemas automatizados reproduzem ou intensificam desigualdades raciais presentes na sociedade.
O conceito se refere a situações em que algoritmos, mesmo sem intenção explícita, geram resultados discriminatórios a partir de dados históricos ou decisões de desenvolvimento.
Tecnologia e desigualdade
Especialistas apontam que o problema não está apenas na tecnologia, mas nos dados utilizados e nas escolhas feitas por quem desenvolve esses sistemas.
Como algoritmos aprendem com padrões já existentes, desigualdades sociais podem ser interpretadas como “normais”, sendo reproduzidas em larga escala.
Esse tipo de viés pode aparecer em áreas como:
- reconhecimento facial
- segurança pública
- processos seletivos
- análise de crédito
O caso Smart Sampa
Um dos exemplos recentes no Brasil envolve o sistema de monitoramento Smart Sampa, que utiliza reconhecimento facial com milhares de câmeras na cidade de São Paulo.
Relatos apontam que pessoas já foram identificadas erroneamente pelo sistema, incluindo um homem negro que foi abordado diversas vezes por engano após ser confundido com um foragido.
Além disso, uma pesquisa divulgada em fevereiro de 2026 pelo Laboratório de Políticas Públicas e Internet (Lapin), pelo Instituto de Referência Negra Peregum e pela Rede Liberdade identificou problemas estruturais no sistema.
O estudo aponta:
- ocorrência de falsos positivos
- registros de prisões indevidas
- indícios de viés racial e territorial nas abordagens
Segundo o levantamento, ao menos 23 pessoas foram conduzidas indevidamente e outras foram presas e posteriormente liberadas após erros do sistema.
As organizações também afirmam que o modelo pode reforçar desigualdades históricas, ao intensificar práticas de vigilância seletiva sobre determinados grupos sociais.
Evidências científicas
O debate sobre racismo algorítmico não é recente. Um dos estudos mais citados na área, o projeto Gender Shades, publicado em 2018, demonstrou que sistemas de reconhecimento facial apresentam taxas de erro significativamente maiores ao analisar mulheres e pessoas negras.
A pesquisa evidenciou que a falta de diversidade nos dados de treinamento impacta diretamente na precisão das tecnologias, ampliando desigualdades.
Um problema estrutural
Especialistas destacam que o racismo algorítmico não depende de intenção direta, mas de um conjunto de fatores estruturais, como:
- bases de dados enviesadas
- falta de diversidade nas equipes de tecnologia
- ausência de regulação adequada
Nesse cenário, a tecnologia passa a refletir — e potencialmente ampliar — desigualdades já existentes.
Desafios e caminhos
Com o crescimento do uso de inteligência artificial em áreas sensíveis, o debate sobre regulação e transparência ganha força.
Entre as medidas apontadas estão:
- auditoria de algoritmos
- diversificação de dados
- inclusão de profissionais diversos no desenvolvimento
- criação de políticas públicas específicas
O desafio é garantir que a inovação tecnológica não reproduza padrões históricos de exclusão.
O conteúdo Racismo algorítmico: como a tecnologia reproduz desigualdades aparece primeiro em Revista Raça Brasil.
