Algoritmos decidem cada vez mais coisas por nós. Mas eles são neutros?

Algoritmos decidem cada vez mais coisas por nós. Eles ajudam empresas a selecionar candidatos para vagas de emprego, organizam o conteúdo exibido nas redes sociais, apoiam análises de crédito e são usados até em sistemas de reconhecimento facial. Ao mesmo tempo em que prometem tornar esses processos mais rápidos e objetivos, também despertam uma preocupação crescente entre pesquisadores: a capacidade de reproduzir preconceitos presentes na sociedade.

O debate ganhou força à medida que esses sistemas passaram a exercer um papel cada vez maior em decisões com impacto real sobre a vida das pessoas, influenciando desde a chance de conseguir um emprego ou um empréstimo até a visibilidade de conteúdos publicados nas redes sociais. Especialistas de áreas como ciência da computação, comunicação e ciências sociais alertam que algoritmos estão longe de ser neutros e podem ampliar desigualdades já existentes ao aprender com dados produzidos pela própria sociedade.

Esse fenômeno é conhecido como violência algorítmica. O conceito descreve situações em que algoritmos e sistemas de inteligência artificial reproduzem ou aprofundam discriminações presentes nos dados com que foram desenvolvidos e nas escolhas feitas durante sua criação. Mais do que um problema técnico, pesquisadores argumentam que esses sistemas podem reforçar desigualdades históricas e produzir impactos concretos sobre diferentes grupos sociais.

Algoritmos já são usados em áreas como reconhecimento facial, seleção de candidatos, análise de crédito e recomendação de conteúdos nas redes sociais – Imagem: Oselote / Shutterstock

Algoritmos são neutros?

É comum associar algoritmos à ideia de neutralidade. Afinal, eles executam cálculos matemáticos e seguem regras definidas por computador. Mas, segundo os especialistas ouvidos pelo Olhar Digital, essa percepção ignora um ponto fundamental: antes de tomar qualquer decisão, esses sistemas precisam ser treinados com dados e configurados por pessoas.

“Não existe neutralidade na sociedade”, afirma Lucas Reis, professor-doutor em Comunicação, pesquisador do Instituto Nacional de Ciência e Tecnologia em Democracia Digital (INCT.DD) e empresário do setor de inteligência artificial. Segundo o pesquisador, quem desenvolve um algoritmo decide quais dados serão utilizados, como essas informações serão ponderadas e quais objetivos o sistema deverá perseguir. Se essas escolhas refletem valores e desigualdades da sociedade, elas também influenciam as respostas produzidas pelo algoritmo.

Quando a gente fala de racismo ou violência algorítmica, é quando uma receita que uma máquina segue acaba bebendo de um problema que a sociedade tem.

Lucas Reis

Para Reis, o maior risco surge quando esse processo é automatizado em larga escala. Em vez de reproduzir um preconceito em um único caso, um algoritmo pode aplicar o mesmo padrão milhares ou milhões de vezes, influenciando decisões como a seleção de candidatos para vagas de emprego, a concessão de crédito, o reconhecimento facial e a distribuição de conteúdos nas redes sociais.

No caso das inteligências artificiais generativas, esse aprendizado acontece durante o treinamento do modelo. Segundo Marcelo Finger, professor de Ciência da Computação da Universidade de São Paulo (USP), a primeira etapa consiste em identificar padrões presentes em enormes volumes de dados. Depois, empresas realizam um processo de alinhamento para orientar o comportamento da IA e reduzir respostas consideradas inadequadas.

“Ele é naturalmente racista porque os dados são racistas. Ou seja, o substrato da sociedade que gerou aqueles dados é racista e esse padrão é capturado pelo modelo na primeira fase. Na segunda fase você vai tentar desentortar”, resume Finger.

Por que “viés algorítmico” não explica tudo?

Quando algoritmos reproduzem preconceitos, é comum que esse fenômeno seja descrito como um viés algorítmico. Para Bruna Irineu e Larissa Pelúcio, autoras do livro Violência algorítmica e vidas LGBTQIAPN+: ensaios sobre tecnologia, poder e resistência na era digital, porém, essa definição é insuficiente. As pesquisadoras defendem que reduzir o problema a um viés faz parecer que ele decorre apenas de uma falha técnica, quando, na verdade, está ligado a desigualdades que antecedem a própria tecnologia.

“Quando a gente fala em violência algorítmica, a gente está falando de um conjunto de ações sistêmicas que reitera uma violência que está fora do digital, que é anterior a ela. A gente não acredita que a tecnologia inventou o racismo, inventou a LGBTfobia, mas que toda essa arquitetura tecnológica amplia, aprofunda a dinâmica da violência”, afirma Bruna Irineu.

Na avaliação das autoras, a palavra violência foi escolhida porque amplia o foco da discussão. Em vez de olhar apenas para o funcionamento do algoritmo, o conceito chama atenção para os efeitos que esses sistemas podem produzir sobre determinados grupos e para as estruturas sociais que influenciam seu desenvolvimento.

“Não se trata de uma questão técnica, de uma falha do sistema. A gente queria deixar mais claro que isso faz parte da lógica mesmo de funcionamento da plataforma”, diz Larissa Pelúcio. Para ela, falar em violência também significa reconhecer que esses sistemas podem promover apagamentos, restringir direitos e reforçar discursos de ódio, em vez de apenas reproduzir um erro de programação.

Segundo as pesquisadoras, algoritmos não atuam isoladamente. Eles fazem parte de plataformas digitais, sistemas de recomendação e modelos de negócio que influenciam quais conteúdos ganham visibilidade, quais permanecem invisíveis e quais vozes conseguem ocupar espaço no ambiente digital. Por isso, elas defendem que discutir violência algorítmica também significa discutir relações de poder, concentração das plataformas e proteção de direitos.

Como a violência algorítmica afeta o dia a dia?

A violência algorítmica nem sempre aparece de forma evidente. Em muitos casos, ela está presente em decisões automatizadas que passaram a fazer parte da rotina de empresas, plataformas digitais e órgãos públicos. Sistemas de inteligência artificial já são usados para ajudar empresas a selecionar candidatos para vagas de emprego, apoiar análises de crédito, recomendar conteúdos nas redes sociais e identificar pessoas por reconhecimento facial.

Na área de recursos humanos, por exemplo, ferramentas de IA vêm sendo adotadas para acelerar etapas de recrutamento e triagem de currículos. O uso dessas tecnologias ganhou atenção em 2018, quando a Amazon abandonou uma ferramenta experimental de seleção de candidatos após descobrir que ela favorecia homens. Como o sistema havia sido treinado com dados de contratações anteriores da empresa, acabou reproduzindo um padrão já existente em seu histórico.

Outro exemplo envolve sistemas de reconhecimento facial. Estudos mostraram que algumas dessas tecnologias apresentam taxas de erro maiores na identificação de pessoas negras do que de pessoas brancas. No Brasil, organizações da sociedade civil vêm questionando seu uso na segurança pública após casos de identificações equivocadas que resultaram em abordagens e prisões injustas.

Segundo Lucas Reis, o maior risco surge quando esses processos deixam de depender de decisões individuais e passam a ser automatizados. Um algoritmo pode repetir o mesmo padrão milhares ou milhões de vezes, ampliando desigualdades que antes já existiam na sociedade.

Para Bruna Irineu e Larissa Pelúcio, os efeitos também aparecem nas plataformas digitais. Algoritmos de recomendação e moderação influenciam quais conteúdos ganham alcance, quais permanecem invisíveis e quais vozes conseguem circular com maior facilidade. Na avaliação das pesquisadoras, essas escolhas ajudam a explicar por que a violência algorítmica não afeta apenas decisões pontuais, mas também a forma como diferentes grupos participam do debate público.

Algoritmos definem quais conteúdos aparecem para cada usuário e influenciam a visibilidade de publicações nas redes sociais – Imagem: Vasin Lee / Shutterstock

Quem desenvolve os algoritmos também influencia esse debate

A discussão sobre violência algorítmica não termina no funcionamento dos sistemas. Para os especialistas ouvidos pelo Olhar Digital, ela também envolve quem desenvolve essas tecnologias, quem define seus critérios de funcionamento e quais países concentram a capacidade de criar modelos de inteligência artificial.

Hoje, a maior parte dos modelos de IA usados no mundo é desenvolvida por empresas sediadas nos Estados Unidos e na China. Para Lucas Reis, essa concentração faz da inteligência artificial uma tecnologia estratégica, capaz de influenciar não apenas diferentes setores da economia, mas também a distribuição de poder entre países. Segundo o pesquisador, quem lidera esse desenvolvimento tende a concentrar inovação, infraestrutura e capacidade de definir os rumos dessas ferramentas.

Na avaliação de Bruna Irineu, esse cenário reforça a necessidade de discutir soberania digital. Para ela, reduzir a dependência tecnológica passa por investimentos em pesquisa, formação de profissionais, infraestrutura e desenvolvimento de tecnologias próprias, permitindo que países como o Brasil tenham maior autonomia sobre sistemas cada vez mais presentes no cotidiano.

“A gente precisa falar com bastante compromisso e com muita urgência sobre soberania informacional, soberania digital”, afirma a pesquisadora. Segundo ela, isso exige investimentos em recursos humanos, software, hardware e infraestrutura tecnológica, além do fortalecimento da capacidade nacional de desenvolver essas ferramentas.

As pesquisadoras também defendem ampliar a diversidade entre as pessoas que desenvolvem algoritmos e modelos de inteligência artificial. Para elas, incluir grupos historicamente marginalizados nesse processo contribui para incorporar diferentes perspectivas ao desenvolvimento dessas tecnologias e reduzir a reprodução de desigualdades que já existem na sociedade.

O post Algoritmos decidem cada vez mais coisas por nós. Mas eles são neutros? apareceu primeiro em Olhar Digital.

source https://olhardigital.com.br/2026/07/06/internet-e-redes-sociais/algoritmos-decidem-cada-vez-mais-coisas-por-nos-mas-eles-sao-neutros/