Por Isabella Lapa | Atualizado em novembro de 2026
Resposta rápida: viés por proxy acontece quando a IA discrimina sem receber dado sensível, porque variáveis como CEP, escola ou histórico de compras carregam a mesma informação. Tirar raça ou gênero da base não resolve. O controle passa por testar o resultado por grupo, de forma contínua, como a LGPD e as boas práticas de governança recomendam.
Imagine um modelo de crédito que nunca viu a cor da pele de ninguém. A equipe tirou raça, gênero e idade da base e seguiu em frente. Seis meses depois, o modelo aprova muito menos gente de certos bairros, justamente onde vivem os grupos que se queria proteger. Ele não sabe quem você é, mas sabe onde você mora e onde estudou. Muitas vezes, isso basta.
Esse é o viés por proxy: não aparece no código e passa em testes de acurácia comuns. A seguir, você vai entender como ele acontece, ver casos por setor, saber o que a LGPD diz e conhecer quatro passos para descobrir se isso está acontecendo na sua empresa.
Assista: Viés por proxy, como a IA discrimina sem saber quem você é. Isabella Lapa, CEO da DataGuide, explica o tema, os vieses que andam juntos e os quatro passos necessários para a sua empresa.
O que é viés por proxy
Primeiro, uma definição: em IA, viés-algorítmico é um erro sistemático. O sistema acerta mais para uns grupos e erra mais para outros, de forma consistente. Viés por proxy é o que acontece quando uma variável aparentemente neutra funciona como substituta (proxy) de uma característica protegida. O modelo não recebe raça, gênero ou renda, mas recebe dados que andam junto com elas e aprende o padrão por esse caminho indireto.
O mecanismo é estatístico, e não intencional. Modelos de aprendizado de máquina procuram qualquer sinal que ajude a prever o resultado pedido. Se os dados históricos refletem desigualdades (e quase sempre refletem), o modelo encontra as variáveis que as carregam e as reproduz com aparência de objetividade.
O caso mais citado, que abre o vídeo da DataGuide sobre o tema, é o revelado em 2018 pela Reuters: a Amazon abandonou uma ferramenta de triagem de currículos que rebaixava candidatas mulheres. Ninguém tinha informado o gênero à IA. Treinada com dez anos de contratações majoritariamente masculinas, ela passou a penalizar indiretamente currículos por termos com a palavra "women's", como em "capitã do time feminino de xadrez".
Por isso a estratégia de "não coletar dado sensível" resolve pouco. Não perguntar não é o mesmo que não discriminar.

Texto alternativo: Diagrama com três blocos ligados por setas. No primeiro, riscados, raça, gênero, idade e renda, retirados da base. No segundo, as variáveis que continuam: CEP, escola, histórico de compras e horário de acesso, ligadas ao primeiro por correlação. No terceiro, o modelo de IA, que entrega decisões desiguais entre grupos.
Os proxies mais comuns
Quase todas as variáveis abaixo têm motivo legítimo para estar num modelo. O problema é o que elas também revelam.

Fonte: elaboração da DataGuide, a partir do vídeo "Viés por proxy". Nenhuma dessas variáveis é proibida por si só; o risco está no efeito que produzem.
Por que o CEP pesa tanto no Brasil
Segundo o Censo 2022 do IBGE, cerca de 16,4 milhões de pessoas vivem em favelas e comunidades urbanas. Nessas áreas, pretos e pardos são 72,9% da população, contra 55,5% no país. Um modelo que penaliza certos CEPs, mesmo sem saber a cor de ninguém, tende a atingir de forma desproporcional a população negra.

Texto alternativo: Gráfico de barras horizontais. Pretos e pardos são 72,9% da população em favelas e comunidades urbanas e 55,5% da população brasileira total, segundo o Censo 2022 do IBGE.
Os vieses que andam junto com o proxy
O proxy raramente aparece sozinho. O viés histórico surge quando os dados retratam com precisão um passado injusto, como no caso da Amazon. O loop de retroalimentação acontece quando as decisões do modelo geram os dados do próximo treino: se ele nega crédito a um grupo, esse grupo tem menos chances de construir histórico de bom pagador. O viés de automação aparece na seção sobre a LGPD.
Discriminação por IA na prática: exemplos por setor
Os casos abaixo vêm de setores em que uma decisão automatizada muda a vida de alguém. Em todos, o que importa é o efeito sobre grupos, e não a intenção de quem construiu o sistema.
Crédito
Em julho de 2025, a Procuradoria-Geral de Massachusetts (EUA) fechou acordo de US$ 2,5 milhões com a Earnest, de crédito estudantil. Segundo a acusação, o modelo usava a taxa média de inadimplência de cada instituição de ensino e, com isso, penalizava solicitantes negros e hispânicos com mais frequência. A escola virou proxy.
Recrutamento
Em maio de 2025, a Justiça Federal da Califórnia autorizou o prosseguimento do caso Mobley v. Workday como ação coletiva por discriminação etária; o processo também alega impacto po raça e deficiência . O autor alega que o sistema de triagem de candidatos da empresa discrimina por raça, idade e deficiência. Nos autos, a Workday informou 1,1 bilhão de candidaturas rejeitadas com suas ferramentas. Idade raramente aparece como campo, mas pode ser inferida pelo ano de formatura.
Seguros
Proprietários negros processaram a State Farm alegando que o algoritmo de detecção de fraude em sinistros residenciais impunha a eles mais obstáculos do que a clientes brancos. Em setembro de 2023, a Justiça Federal de Illinois manteve a alegação de impacto desproporcional, e o processo segue em fase de provas.
Saúde
O exemplo clássico, também lembrado no vídeo, é de 2019. Um estudo na Science mostrou que um algoritmo usado em hospitais dos EUA para indicar cuidado extra subestimava pacientes negros. Ele usava o gasto com saúde como indicador de necessidade. Com menos acesso ao sistema, esses pacientes gastavam menos mesmo igualmente doentes, e o algoritmo lia "gasta menos" como "precisa menos". Trocado o indicador, a proporção de pacientes negros encaminhados mais que dobrou.
O problema segue atual. Em abril de 2025, um estudo na Nature Medicine testou nove modelos de linguagem em mais de 1,7 milhão de recomendações para casos de pronto-socorro. Com os mesmos dados clínicos, pacientes de alta renda receberam mais indicação de tomografia e ressonância. Num sistema real, a renda chega ao modelo pelo tipo de plano ou pelo endereço.

O que a LGPD diz sobre discriminação e decisões automatizadas
A LGPD não usa a expressão "viés algorítmico", mas trata do tema em três pontos. Para um panorama mais amplo, veja a relação entre inteligência artificial e LGPD.
O princípio da não discriminação (art. 6º, IX) proíbe tratar dados "para fins discriminatórios ilícitos ou abusivos", em qualquer tratamento. O art. 11, §1º estende o regime dos dados sensíveis a "qualquer tratamento de dados pessoais que revele dados pessoais sensíveis e que possa causar dano ao titular". É aqui que a lei encontra o viés por proxy: se as variáveis permitem inferir origem racial ou saúde, o tratamento pode atrair as regras mais rígidas.
Já o art. 20 garante ao titular a revisão de decisões tomadas unicamente por tratamento automatizado que afetem seus interesses, incluindo perfil pessoal, profissional, de consumo e de crédito, ou aspectos da personalidade. O controlador deve informar os critérios usados e, se recusar por segredo comercial, a ANPD pode auditar "aspectos discriminatórios".

Quando a revisão humana só carimba
Quem usa IA para decidir sobre pessoas costuma dizer: "mas tem um humano revisando". O risco é o viés de automação, quando o revisor simplesmente confia na máquina. Com cinquenta análises para fechar no dia e a resposta já na tela, ele clica em aprovar. Se a revisão garantida pelo art. 20 só carimba o que a IA decidiu, ela existe no papel, e não na prática. Humano no processo não é governança. Humano com tempo, critério e autonomia para discordar da máquina, sim.
O que a ANPD já sinalizou
Em maio de 2025, a ANPD publicou a Nota Técnica nº 12/2025, com as 124 contribuições recebidas sobre IA e decisões automatizadas. Houve debate sobre monitoramento, auditorias, avaliações de impacto e revisão humana em casos de alto risco, como crédito e emprego. O PL 2338/2023, em tramitação na Câmara, prevê a ANPD como coordenadora da regulação de IA.
Na prática: remover o dado sensível não afasta a responsabilidade. A LGPD pode alcançar o efeito do tratamento sobre o titular, e quem decide com um modelo precisa conseguir mostrar que esse efeito não é discriminatório.
Como testar e mitigar o viés por proxy
O viés por proxy não aparece quando você olha as variáveis de entrada. Aparece quando você olha o resultado, e só se alguém estiver olhando. Por isso, o controle segue os quatro passos apresentados no vídeo: mapear onde a IA decide sobre pessoas, testar o resultado por grupo, investigar as variáveis e documentar e revisar.
Avaliação de impacto de IA
O ponto de partida é saber onde a IA decide sobre pessoas: crédito, contratação, precificação, atendimento, triagem. Com esse mapa, a avaliação de impacto de IA identifica quem é afetado e quais variáveis podem funcionar como proxy. A ISO/IEC 42005, de maio de 2025, orienta esse tipo de avaliação, numa lógica próxima à do relatório de impacto da LGPD, que explicamos no RIPD passo a passo.
Teste por grupo
Não basta conferir o que entra no modelo: é preciso olhar o que sai. A taxa de aprovação é parecida entre grupos? E a taxa de erro? Uma referência usada nos EUA nas diretrizes de seleção de emprego (e que não tem força no Brasil) é a regra dos quatro quintos: se a taxa de seleção de um grupo fica abaixo de 80% da do grupo mais favorecido, há sinal de alerta.

Texto alternativo: Gráfico com duas barras. Grupo A tem 60% de aprovação e grupo B, 42%. Abaixo, três quadros: razão de impacto de 0,70, referência de 0,80 da regra dos quatro quintos e o resultado "alerta", porque a razão ficou abaixo da referência.
Outra técnica é o teste contrafactual: manter tudo igual e trocar só um atributo. Em um estudo sobre decisões de financiamento imobiliário de 2024, pesquisadores da Lehigh University mostraram que um modelo de linguagem exigia de solicitantes negros cerca de 120 pontos a mais de score para a mesma aprovação.
Há um paradoxo, que a Isabella Lapa destaca no vídeo como advogada de privacidade: para provar que o sistema não discrimina, às vezes é preciso olhar para o dado sensível. Sem saber o gênero das pessoas avaliadas, não há como medir desigualdade entre homens e mulheres. A tensão com a LGPD tem saída, mas exige finalidade clara, base legal adequada entre as hipóteses de tratamento da LGPD e controle de acesso. É uma decisão documentada, não improvisada.
Investigação das variáveis
Quando o teste acende um alerta, é hora de descobrir quais variáveis têm forte correlação com características sensíveis. Algumas podem ficar, com justificativa ligada ao objetivo da decisão. Outras precisam sair ou ser tratadas, e cada escolha fica registrada.
Documentação e monitoramento contínuo
Esse não é um teste que se faz uma vez: mudou o modelo ou a base, testa de novo. A cidade de Nova York exige auditoria anual de viés em ferramentas de contratação, e uma auditoria do Controlador do estado, de dezembro de 2025, achou pelo menos 17 possíveis problemas em 32 auditorias nas quais o órgão municipal tinha apontado só 1. Arquivar o relatório não é controle.

Texto alternativo: Quatro cartões em sequência: mapear onde a IA decide sobre pessoas, testar o resultado por grupo, investigar as variáveis e documentar e revisar. Abaixo, uma faixa lembra que, se o modelo ou a base mudarem, o teste deve ser refeito.
Governança de IA e ISO/IEC 42001: onde o viés vira processo
Teste sem dono, sem orçamento e sem registro vira exercício pontual. A governança de IA define quem responde por cada sistema e quando a avaliação é refeita, e a ISO/IEC 42001 é a norma certificável que estrutura isso. Ela trata a imparcialidade (fairness) como objetivo de IA e a qualidade dos dados como fonte de risco . Para entender a norma do início, veja o que é a ISO 42001.

Para quem já decidiu estruturar o sistema de gestão, o caminho está em como implementar a ISO 42001.
Conclusão
O viés por proxy mostra que discriminação por IA não depende de intenção nem de dado sensível na base. A LGPD já cobra o efeito, a ANPD já sinalizou os caminhos em debate e os casos por setor mostram o custo de ignorar o problema.
A maioria das empresas testa se a IA funciona, se é rápida, se é barata. Poucas testam se ela é justa. Como resume a Isabella Lapa no vídeo: não perguntar não significa não discriminar. Às vezes significa só não estar olhando.
Fale com quem cuida da governança de IA de ponta a ponta. A DataGuide mapeia os sistemas de IA da sua operação, identifica onde há risco de viés por proxy, estrutura a avaliação de impacto e conecta tudo à LGPD e à ISO/IEC 42001. Peça um diagnóstico de governança de IA.
Fontes
Vídeo DataGuide: Viés por proxy, com Isabella Lapa, no canal da DataGuide no YouTube
Lei 13.709/2018 (LGPD): Lei Geral de Proteção de Dados, texto oficial no Planalto
Censo 2022: Agência Brasil: população de favela é mais negra e jovem que o restante do país
Recrutamento: Reuters, via Euronews: Amazon abandona ferramenta de recrutamento com viés contra mulheres (2018)
Crédito: Procuradoria-Geral de Massachusetts: acordo de US$ 2,5 milhões com credor por uso de IA
Recrutamento: Proskauer: ação contra a Workday por viés de IA avança como ação coletiva
Seguros: Civil Rights Litigation Clearinghouse: Huskey v. State Farm
Saúde: Science: Dissecting racial bias in an algorithm used to manage the health of populations (2019)
Saúde: ScienceDaily,Proskauer: estudo do Mount Sinai sobre viés de IA em recomendações médicas
Teste contrafactual: Lehigh University: IA mostra viés racial em decisões de financiamento imobiliário
ANPD: Lefosse: ANPD publica nota técnica sobre decisões automatizadas
ANPD: Convergência Digital: ANPD avança na regulação de decisões automatizadas por IA
Monitoramento: DLA Piper: auditoria crítica da lei de Nova York sobre IA na contratação
ISO/IEC 42005: ISO: avaliação de impacto de sistemas de IA
ISO/IEC 42001: TCSA: catálogo de controles do Anexo A da ISO 42001



