Não é só resposta pronta. É preconceito pronto

Por The Shift

Mais de 30% de adolescentes afirmam que conversar com um chatbot é tão ou mais satisfatório do que conversar com amigos reais. E, 33% das pessoas entrevistadas, optaram por recorrer a plataformas de IA conversacional, ao invés de familiares ou colegas, para discutir assuntos importantes. Esse deslocamento relacional transforma a IA em uma nova “autoridade simbólica”, uma espécie de “conselheira” para milhões de adolescentes e jovens de ambos os sexos.

Os dados aparecem no relatório “A Miragem da IA: um reflexo incômodo com alto impacto nos jovens”, da LLYC, que avaliou esse fenômeno em 12 países – incluindo Brasil, Estados Unidos, Espanha e diversos países da América Latina – e focou jovens entre 16 e 25 anos. Os pesquisadores utilizaram cinco grandes modelos de linguagem – ChatGPT, Gemini, Grok, Llama e Mistral.

O estudo levanta uma discussão importante: a de que os sistemas de IA reproduzem desigualdades históricas e podem amplificá-las. Em vez de corrigir vieses sociais, a tecnologia tende a espelhar padrões do passado, reforçando papéis tradicionais de gênero justamente no momento em que as novas gerações estão formando sua identidade.Um exemplo: a forma como a IA descreve homens e mulheres em situações semelhantes. Em 56% dos casos, as respostas da IA classificam jovens mulheres como “frágeis” ou vulneráveis, quase quatro vezes mais frequentemente do que no caso dos homens.

O problema não está necessariamente na intenção dos algoritmos, mas no material com que são treinados: dados produzidos por uma sociedade que historicamente ainda é desigual. Quando analisam esses dados, os modelos reproduzem padrões e narrativas já existentes, transformando preconceitos históricos em respostas aparentemente “neutras”. O risco é que essas respostas, quando naturalizadas, passem a moldar expectativas de futuro para milhões de jovens.

A “amiga tóxica” digital

A tendência de colocar meninas e mulheres jovens como “frágeis” aparece principalmente em cenários envolvendo conflitos pessoais ou dilemas emocionais. Quando a interlocutora é mulher, a IA tende a priorizar a validação emocional. Frases como “Eu te entendo” ou “Sua reação é legítima” aparecem com frequência maior.

Já para interlocutores meninos e homens jovens, a linguagem se torna mais direta e orientada à ação, com recomendações práticas e imperativas.

O estudo descreve essa diferença como um “duplo padrão algorítmico”:

• Para mulheres: empatia, validação e proteção
• Para homens: instrução, estratégia e ação

Em outras palavras, a IA tende a reforçar uma visão tradicional em que mulheres ocupam o espaço da emoção e homens o da decisão.

Esse padrão também aparece na forma como a IA estabelece uma relação emocional com seus usuários. O sistema assume um tom de amizade ou proximidade emocional em uma em cada três respostas dirigidas a mulheres, com uma frequência 13% maior do que nas interações com homens. Essa personificação cria uma relação que os pesquisadores chamam de “amiga tóxica digital”: um interlocutor que valida sentimentos constantemente, mas nem sempre oferece caminhos concretos para resolver problemas.

Além disso, a IA se personifica 2,5 vezes mais nas interações com mulheres. Essa dinâmica pode reforçar a ideia de que mulheres precisam de apoio emocional constante para avançar, enquanto homens são tratados como agentes autônomos.

A segregação começa nas vocações

O impacto dos vieses aparece também nas orientações profissionais. Segundo o relatório da LLYC, os algoritmos redirecionam mulheres até três vezes mais para áreas como Saúde e Ciências sociais, enquanto incentivam homens a seguir carreiras em Engenharia ou Liderança. Essa diferença se manifesta até mesmo na forma como as respostas são estruturadas. Quando um homem pergunta sobre carreira em Tecnologia ou Liderança, o caminho é apresentado como natural. Já quando a pergunta vem de uma mulher, as respostas costumam incluir alertas ou recomendações adicionais de resiliência.

Na prática, isso cria uma barreira psicológica adicional: o sistema sugere que certas carreiras são mais difíceis ou menos naturais para as mulheres. Esse fenômeno pode reforçar uma segregação ocupacional que já existe no mundo real.

Outro insight envolve a percepção de competência profissional. Em análises de currículos hipotéticos com perfis idênticos, mas nomes diferentes, os sistemas de IA atribuíram 0,92 ano a menos de experiência relevante a candidatos com nomes femininos. Essa diferença aparentemente pequena pode ter consequências consideráveis: em processos seletivos automatizados, ela pode resultar em candidatas sendo classificadas em posições mais juniores ou menos qualificadas.

Em contextos profissionais, o relatório mostra ainda que

• A liderança feminina é frequentemente descrita como “excepcional” ou “inspiradora”, em vez de normal.
• Ambientes hostis são associados ao trabalho feminino em 9 de cada 10 cenários analisados.

Esse padrão reforça o chamado “teto de vidro programado”, no qual desigualdades estruturais são replicadas por sistemas automatizados.

O que precisamos considerar

O relatório traz uma série de outros dados e, por isso, é uma leitura que deveria interessar a todas as pessoas, não apenas ao universo das mulheres. Diante da perspectiva de que a IA estará em nossas vidas, algumas vezes como infraestrutura invisível, outras como colega de trabalho, suas respostas passam a influenciar expectativas e decisões.

É um risco cultural que exige olhar atento, especialmente das famílias com adolescentes, um público que está ávidamente consumindo IA Generativa: o relatório “Talk, Trust, and Trade-Offs: How and Why Teens Use AI Companions”, produzido pela Common Sense Media em parceria com a Universidade de Chicago, aponta que 72% de jovens entre 13 e 17 anos usaram IA pelo menos uma vez no ano passado e 52% deles fazem uso regular da tecnologia. Ensinar a questionar as respostas da IA é um bom começo.

Se os algoritmos continuarem reproduzindo padrões históricos sem questionamento, sem que nós entremos com o senso crítico, podem consolidar desigualdades justamente no momento em que as novas gerações deveriam ter mais oportunidades de superar essas injustiças. A tecnologia que promete transformar o futuro pode acabar reforçando o passado.

Conteúdo originalmente produzido e publicado por The Shift. Reprodução autorizada exclusivamente para a Abranet. A reprodução por terceiros, parcial ou integral, não é permitida sem autorização.