Ferramentas populares de inteligência artificial erram mais e oferecem menos diversidade de referências quando respondem a perguntas sobre pessoas negras e indígenas. O dado consta do estudo “Grandes Modelos de Linguagem e a Educação das Relações Étnico-Raciais: experimento exploratório”, conduzido pelo pesquisador Tarcízio Silva com apoio do Instituto Alana.
O levantamento analisou sete serviços disponíveis no Brasil: Amazônia IA, ChatGPT, DeepSeek, Gemini, Grok, Maricata AI e Meta AI, entre setembro e outubro de 2025. Durante cinco rodadas, todos os sistemas receberam os mesmos comandos, com tarefas ligadas à rotina escolar.
Na primeira etapa, as ferramentas foram orientadas a indicar um artista musical de cada estado brasileiro. Sem especificação racial, 77,1% dos resultados apresentaram pelo menos um erro. O índice subiu para 87,5% quando o comando solicitava artistas negros e para 97,1% quando a busca era por artistas indígenas. Nesse último grupo, apenas uma resposta não continha erro explícito.
As falhas incluíram atribuições geográficas incorretas, confusão sobre gêneros artísticos, nomes inexistentes e respostas que afirmavam não haver informações disponíveis. Uma das ferramentas declarou que não seria possível apresentar um artista indígena de cada estado porque não existiam dados suficientes. Outra deixou de indicar referências indígenas para estados como Amapá e Bahia.
A alegação de ausência de artistas apareceu de forma desigual entre as regiões. Para artistas negros do Sul, 34% das respostas apresentaram falta generalizada de referências.
Para artistas indígenas, o percentual chegou a 29% nas regiões Norte e Sul e a 26% no Nordeste. O mesmo problema não ocorreu nas consultas sem especificação racial.
“Os resultados demonstram que o entusiasmo em implementar I.A. generativa na educação é muito perigoso. O experimento permite entender que a geração probabilística de texto pode aprofundar apagamento cultural e desinformação de forma mais acentuada nas escolas contra grupos minoritários”, afirmou Tarcízio Silva.
Dificuldade em reconhecer profissionais contemporâneos
Durante o segundo teste, os sistemas receberam pedidos para preparar uma atividade sobre profissões do futuro e projeto de vida, com a indicação de um profissional brasileiro.
Nas 35 respostas de cada categoria, foram citados 23 profissionais diferentes na consulta geral, 20 quando o comando solicitava pessoas negras e apenas oito quando o pedido era por profissionais indígenas.
Em duas ferramentas, as referências negras enfatizaram personalidades históricas já falecidas, como Luiza Mahin, Zumbi dos Palmares, Luiz Gama e Milton Santos. O padrão não se repetiu nas respostas gerais e sugere dificuldade dos sistemas em reconhecer a atuação contemporânea de profissionais negros.
A diferença também apareceu em uma tarefa de matemática. Os serviços receberam pedidos para indicar objetos, instrumentos ou construções para apresentar aos estudantes.
Nenhuma das respostas geradas pelo comando geral mencionou espontaneamente um elemento ligado à cultura ou à história indígena, africana ou afro-brasileira.
Quando os comandos passaram a exigir conteúdos dessas culturas, as ferramentas apresentaram alguns exemplos, mas também produziram generalizações e informações inventadas.
Entre os resultados estavam um objeto inexistente chamado “Abacaxi de Palhaço”, descrições imprecisas sobre o uso da matemática nos quilombos e a associação genérica de máscaras africanas ao ensino de geometria.
“O estudo relaciona esse comportamento ao racismo algorítmico, termo usado para descrever situações em que sistemas automatizados reproduzem ou ampliam disparidades raciais”, alertou o pesquisador.
“Na educação, as consequências podem atingir tanto a precisão do conteúdo quanto a maneira como crianças e adolescentes constroem referências sobre a própria identidade.”
Leis e o risco na rotina escolar
As leis 10.639/2003 e 11.645/2008 tornam obrigatório o ensino das histórias e culturas afro-brasileira e indígena nas escolas de educação básica .
“Quando uma ferramenta de inteligência artificial omite ou distorce conteúdos sobre as histórias e culturas negra e indígena, o impacto vai além do erro factual pois pode reforçar desigualdades e limitar o repertório de aprendizagem”, explicou Rodrigo Nejm, especialista em educação digital do Alana.
O risco aumenta com a incorporação da IA à rotina escolar. Dados da pesquisa TIC Educação 2024 indicam que 37% dos estudantes brasileiros usam IA generativa em pesquisas escolares. Entre alunos do ensino médio, o percentual chega a 70%.
A tecnologia também é utilizada por 43% dos professores na preparação de conteúdo didático. Apenas 19% dos estudantes que usam essas ferramentas afirmam ter recebido orientação dos docentes.
Nenhum dos serviços alertou de forma clara sobre suas limitações para atividades educacionais. Algumas plataformas incentivaram o aproveitamento direto das respostas em trabalhos escolares. Os sistemas também deixaram de apresentar as fontes usadas na produção dos conteúdos, o que dificulta a verificação por professores e estudantes.
“Sistemas usados por estudantes e professores não podem ser tratados como fontes neutras ou infalíveis. Sua adoção deve ser precedida de avaliações de risco centradas no direito de crianças e adolescentes”, concluiu Nejm.
