Algoritmo, Inteligência Artificial e Racismo – a nova face de um velho problema.
Não existe neutralidade quando o mundo é desigual. Nem a inteligência artificial nem o algoritmo pairam acima da sociedade. Pelo contrário, nascem e crescem dentro dela, ainda mais no Brasil, que possui uma estrutura profundamente racista e desigual. Por isso mesmo, não dá para termos a ilusão de que os algoritmos e a inteligência artificial […] O conteúdo Algoritmo, Inteligência Artificial e Racismo – a nova face de um velho problema. aparece primeiro em Revista Raça Brasil.
Black News 
Não existe neutralidade quando o mundo é desigual. Nem a inteligência artificial nem o algoritmo pairam acima da sociedade. Pelo contrário, nascem e crescem dentro dela, ainda mais no Brasil, que possui uma estrutura profundamente racista e desigual.
Por isso mesmo, não dá para termos a ilusão de que os algoritmos e a inteligência artificial são neutros. Em verdade, são decisões codificadas. Escolhas políticas disfarçadas por técnicas sofisticadas.
Portanto, o que estamos vendo hoje, não é inovação tecnológica apenas. É a digitalização das desigualdades e dentro delas o racismo. E isso está ocorrendo em várias áreas: econômica, social, ambiental, de gênero ou sexual.
Na segurança pública, por exemplo, o reconhecimento facial já funciona como uma nova forma de suspeição automática. E essa suspeição tem alvo: corpos negros e pobres.
O caso de Daiane de Sousa Mello não foi um acidente:
- Daiane de Sousa Mello (Rio de Janeiro), coordenadora de igualdade racial de Nova Iguaçu, negra, foi confundida com uma foragida enquanto participava da 5ª Conferência Estadual de Igualdade Racial. Foi abordada de forma truculenta, indevidamente, gerando constrangimento. Detalhe: no Rio de Janeiro 80% dos erros de reconhecimento facial envolvem pessoas negras.
Ou seja, isso é um sintoma – Mulher negra, autoridade pública, tratada como criminosa por um sistema que erra sempre na mesma direção. Não há coincidência quando 80% dos erros recaem sobre pessoas negras. Há padrão. Há método. Há estrutura.
Trocar o policial pelo algoritmo não eliminou a violência policial no país. Apenas a revestiu de tecnologia. E talvez isso seja ainda mais perigoso.
No mercado de trabalho, o mecanismo tem sido o mesmo. O velho filtro da “boa aparência” nunca deixou de existir. Apenas foi atualizado. Sai o olhar explícito do dono do negócio e entra o código invisível.
Sai o constrangimento direto, entra a exclusão silenciosa.
Mas o resultado é o mesmo: pessoas negras sendo descartadas do mercado antes mesmo de terem qualquer chance. O algoritmo decide.
Ou seja, a inteligência artificial, do modo como vem sendo utilizada, é uma máquina de reproduzir desigualdades — com mais velocidade, mais escala e menos transparência.
Algoritmos são treinados com dados históricos. E a história brasileira é marcada pelo racismo. Logo, o resultado não poderia ser outro. Se não houver intervenção humana consciente, o futuro será apenas a repetição do passado.
Mais grave ainda. Essas tecnologias estão concentradas nas mãos de grandes corporações. Poder econômico, poder tecnológico e poder político se entrelaçam — sem controle democrático, sem transparência, sem responsabilidade pública.
Isso não é avanço. É uma forma sofisticada de dominação. Diante disso, não há espaço para ingenuidade. Regulação não é debate técnico. É disputa de poder. Transparência não é detalhe. É condição de cidadania.
Portanto, diversidade nas equipes de desenvolvimento não é pauta identitária. É questão de justiça e de sobrevivência.
E quando a injustiça passa a operar em silêncio, por meio de códigos e bancos de dados, ela se torna mais profunda — e mais perigosa. Portanto, a questão não é se a tecnologia pode ser racista, mas sim, quem está se beneficiando desse modelo?
Se o futuro será digital, ele terá que ser enfrentado politicamente. Porque, do jeito que está, não estamos diante de progresso, mas sim de uma nova engrenagem de um velho sistema. Mais eficiente. Mais invisível. E, por isso mesmo, mais cruel. Porque o que está em jogo é o poder.
Toca a zabumba que a terra é nossa!
O conteúdo Algoritmo, Inteligência Artificial e Racismo – a nova face de um velho problema. aparece primeiro em Revista Raça Brasil.
