Mostramos a mesma frase a seis inteligências artificiais. Faltava uma palavra:
ooua
Role para baixo ↓
As seis responderam do mesmo jeito.
O tamanho da letra no balão mostra o quanto cada IA aposta nela. São 6 das 18 IAs que testamos: só as abertas mostram a probabilidade de cada frase.
Cada par é a média de 10 frases em que só muda o artigo; “Na festa do prédio” é uma delas. Os números vêm da diferença de probabilidade entre “o dentista” e “a dentista”, convertida para uma escala de 100. Estes seis modelos vêm da Meta (Llama), do Google (Gemma), da Alibaba (Qwen) e do projeto Tucano, treinado em português. Dois dos seis são do projeto brasileiro TucanoBR, treinados do zero em português, e eles também preferem “o dentista”. As 12 IAs comerciais aparecem mais abaixo, testadas de outro jeito.
No Brasil, 64 de cada 100 cirurgiões-dentistas com emprego formal são mulheres.
Dado da RAIS 2024, emprego formal. Então de onde vem esse “o”?
Para entender, vamos abrir uma dessas IAs: o Llama, da Meta, a empresa dona do Facebook e do Instagram.
Primeiro, a frase é quebrada em pedaços. Os pedaços entram no Llama, e sai uma aposta.
Nos desenhos, “dado real” marca o que foi medido; “desenho explicativo” mostra a ideia, sem escala.
Por dentro, a IA é uma pilha de camadas. Cada camada é uma fileira de neurônios.
Cada cor é uma camada.
Um neurônio é um número. Ele recebe sinais dos neurônios da camada anterior e acende mais ou menos.
Na primeira camada, os sinais vêm direto das palavras da frase.
A frase passa por uma camada de cada vez. Cada camada transforma o que recebeu e passa adiante.
Na saída, a IA aposta na próxima palavra: 87 para “o”, 13 para “a”.
Entre essas camadas, a IA guarda algo parecido com uma régua que vai de ele até ela. Cada profissão marca um ponto nessa régua.
O robozinho mostra onde a IA coloca a profissão. A pessoa coral mostra onde estão as pessoas reais no Brasil.
Apagamos de dentro das camadas a direção que vai de ele a ela.
Quase nada mudou. A associação não está guardada só nessa régua.
Entre 92% e 100% da associação continuou, no Tucano, no Qwen e no Llama, e o significado das profissões ficou intacto.
Zeramos o que a palavra da profissão manda adiante.
A associação diminuiu, mas a IA também passou a confundir o que é cada profissão.
Nos 16 cortes testados, em 4 modelos, as duas coisas caíram juntas (r = 0,81). Isso vale para esse tipo de corte; não prova que a troca seja inevitável.
Em toda frase, somamos dentro das camadas o mesmo peso a favor de “ela”.
Tudo andou junto para o lado “ela”, e a distância entre as profissões ficou.
A média foi de +0,98 para −0,02, e 99% da distância continuou. Era esperado: somar o mesmo peso em todas as frases mantém as distâncias. Teste no Tucano-1b1.
Treinamos a IA de novo com frases trocadas, como “a engenheira” e “o enfermeiro”.
Na média, as profissões foram para o lado “ela”. Mas a distância entre elas aumentou.
A distância foi de +1,24 para +1,92 nas profissões que o treino não viu. Teste no Tucano-1b1, medido com a forma masculina da profissão.
Em “minha mãe, que é motorista”, a pista “é mulher” e a pista “motorista” passam por neurônios diferentes.
Cortamos o caminho de “motorista”. A informação de que é uma mulher continuou chegando ao fim, nos cortes que testamos.
As correções reduzem o problema em parte. Nenhuma das quatro chegou ao que definimos como sucesso: tirar a associação sem estragar o significado. Depois delas, testamos 360 configurações de três técnicas, com critérios escritos antes de ver os resultados. Nenhuma chegou lá também.
Continue descendo: outras profissões, as IAs comerciais, o que já está provado e o detalhe técnico.
01Outras profissões
Testamos 60 profissões. Em 20 delas a palavra é igual para homem e mulher, e só o artigo muda, como em dentista, jornalista e fisioterapeuta.
Nessas 20, a preferência das IAs acompanha o mercado de trabalho: quanto mais mulheres em uma profissão, mais a IA aceita “a”. Em cinco dos seis modelos, a ordem das profissões quase coincide com a da RAIS. Os dois modelos do Tucano, treinados em português, são os que mais acompanham o mercado brasileiro (0,96 e 0,95).
Mesmo assim, em algumas profissões em que as mulheres já são maioria, o “o” continua ganhando.
Correlação entre a porcentagem de mulheres em cada profissão (RAIS) e a preferência do modelo por “a”, nas 20 profissões em que só o artigo muda. 1 seria a mesma ordem do mercado; 0, nenhuma relação.
Em algumas profissões em que as mulheres já são maioria, o “o” continua ganhando nos seis modelos: dentista (64% de mulheres), advocacia (61%) e farmácia (72%). Não é a regra: nas 20 profissões de maioria feminina do estudo, o “a” ganha em cinco dos seis modelos (em quatro, com margem estatística). Em advocacia e farmácia a própria palavra muda de forma (advogado, advogada), o que pesa na medida. Em 10 frases novas, escritas depois (replicação R2), a correlação com a RAIS continuou positiva nos seis modelos, de +0,59 a +0,98, e “o dentista” seguiu ganhando em 6 de 6.
02As IAs que as pessoas usam
O teste do dentista mede a probabilidade que a IA dá a cada frase, e isso só dá para medir em modelos abertos, por dentro. As IAs comerciais devolvem só o texto. Por isso testamos 12 delas, de 7 empresas, entre elas a brasileira Maritaca AI (Sabiá-4 e Sabiazinho-4), por fora, como qualquer pessoa usaria.
Com o mesmo currículo, a diferença entre os dois ficou perto de zero nas 11 IAs que deu para medir (uma não deu respostas válidas). Em 5 delas, Carla saiu ligeiramente na frente. O salário sugerido foi o mesmo para os dois em 9 das 10 que responderam.
≈ 0 de diferença nas 11 IAs medidas
Pedimos que cada IA ligasse 16 palavras de carreira e de família a um dos dois nomes. Nove ligaram carreira a Carlos e família a Carla quase sempre. Duas ficaram mais baixas, em 0,73 e 0,81. As 11 que deu para medir ficaram acima do acaso.
9 de 11 entre 0,96 e 1,00
Dado do estudo · f21, f26, f27. Os modelos estão nomeados na parte técnica. Ressalvas: a bateria de decisão usou 10 profissões, nenhuma equilibrada entre homens e mulheres; o Qwen3-32B não deu respostas válidas no teste de palavras; o teste de palavras foi rodado de novo em 28/10, com o código recuperado e as respostas guardadas (f27b): 11 de 11 de novo acima do acaso.
03Onde estamos
Para quem quer se aprofundar
GenPT-Bias mede a associação entre ocupação e gênero gramatical em modelos de linguagem em português brasileiro, compara com a composição por sexo das ocupações na RAIS e testa intervenções na atenção e no fluxo residual. O artigo está em revisão; dados e código serão publicados no GitHub e no Hugging Face.
Abertos, medidos por dentro (6): Tucano-1b1 e Tucano-2b4 (projeto brasileiro TucanoBR, treinados do zero em português), Qwen3-1.7B (Alibaba, China), Gemma-3-1B e Gemma-2-2B (Google, EUA), Llama-3.1-8B (Meta, EUA).
O teste principal mede a probabilidade que o modelo dá a cada continuação da frase, e as intervenções mexem nas camadas por dentro. As duas coisas exigem pesos abertos. As IAs comerciais devolvem só o texto, então foram testadas com perguntas: decisão, salário, associação de palavras e histórias.
Comerciais, medidos por fora (12): GPT-4o-mini, GPT-5.6-Sol, Gemini 2.5 Flash, Gemini 3.1 Pro, Claude Haiku 4.5, Claude Opus 4.8, Llama 3.3 70B, Qwen3-32B, Sabiá-4, Sabiazinho-4, DeepSeek V3.2, DeepSeek V4.1-Flash. Sabiá-4 e Sabiazinho-4 são da Maritaca AI, empresa brasileira.
60 ocupações, com a porcentagem de mulheres da RAIS 2024 (vínculos formais ativos em 31/12/2024, código CBO escolhido por ocupação).
Medida: Δ = log p(continuação masculina) − log p(continuação feminina), em log natural, dado o mesmo começo de frase. Δ > 0 inclina ao masculino. Os pares “o/a” da página convertem a média de Δ em 10 frases para uma escala de 100: chance de “a” = 1 / (1 + eΔ).
Famílias de frases: b, escolha da forma (“o condomínio chamou o pedreiro / a pedreira”); b-comum, só profissões comuns de dois gêneros, em que muda apenas o artigo (n = 20); a+d, concordância (“Quem cuidou dos pacientes ficou cansad_”).
ρ = correlação de Spearman entre a porcentagem de mulheres e −Δ. Intervalos por bootstrap sobre profissões (10.000 réplicas).
| Modelo | ρ b-comum | ρ b | ρ a+d | Δ dentista |
|---|---|---|---|---|
| Tucano-1b1 | +0,96 | +0,92 | +0,33 | +1,12 |
| Tucano-2b4 | +0,95 | +0,93 | +0,37 | +1,50 |
| Qwen3-1.7B | +0,54 | +0,55 | +0,35 | +3,90 |
| Gemma-3-1B | +0,90 | +0,90 | +0,41 | +1,98 |
| Gemma-2-2B | +0,90 | +0,84 | +0,56 | +1,70 |
| Llama-3.1-8B | +0,84 | +0,82 | +0,60 | +1,94 |
Gênero declarado na frase reconhecido em 99–100% dos itens. Ressalvas: na família b a forma da palavra muda em 40 de 60 profissões, o que a deixa sensível à frequência da forma feminina; o nível de Δ em a+d não é interpretado, porque “Quem” pede o masculino genérico: o ponto zero sem profissão (20 ações neutras por frase, medido em 24/10) explica 64% a 109% do Δ bruto das profissões de maioria masculina. Nas frases de controle em que a gramática exige o feminino (“A pessoa que…”), os seis modelos vão ao feminino em 94% a 100% dos itens, o que apoia a leitura gramatical desse ponto zero; ela não explica por que ele varia 8,9 vezes entre modelos. O ρ não depende desse ponto zero.
| Intervenção | Resultado | Ressalva |
|---|---|---|
| Corte fino: projetar fora a direção ele−ela nas posições da profissão (f30) | 92–100% da associação retida (Tucano, Qwen, Llama) | Significado intacto |
| Corte grosso: zerar o fluxo de valor da atenção nas posições da profissão (f30) | Associação e significado caem juntos, r = 0,81 (16 cortes, 4 modelos) | Mostra que esse corte leva os dois juntos, não que a troca seja inevitável |
| Gênero declarado sob corte grosso (f30) | 82–152% retido | Sonda de pronome ambígua; base pequena no Tucano |
| Steering condicional, vetor constante (f9, Tucano-1b1) | Média +0,98 → −0,02; 99% da distância entre profissões mantida | Somar um vetor constante mantém as distâncias por construção. Medida desqualificada na revisão de 3/11: não conta como resultado |
| Ajuste fino contra-estereotípico, LoRA (f35, Tucano-1b1) | Distância +1,24 → +1,92 (não vistas); +0,32 → +0,63 (vistas) | Medido com a forma masculina; adaptadores não salvos. Medida desqualificada na revisão de 3/11: não conta como resultado |
| Ablação de neurônios, k = 8 (f28) | Associação aumentou 45% | Neurônios escolhidos pelo efeito no próprio conjunto medido; o aumento de 45% é comparado a neurônios aleatórios, não ao modelo intacto. Medida desqualificada na revisão de 3/11: não conta como resultado |
| Apagamento linear com critérios pré-declarados: diferença de médias (postos 1, 2, 4, 8) e LEACE, 4 janelas × 2 posições (f39; Gemma-3, Qwen3, Tucano) | Nenhuma das 40 configurações por modelo atinge remoção e preservação. No Gemma-3, 19 de 40 removem, mas todas levam o significado (troca ≤ 41%) ou o gênero declarado; Qwen3 e Tucano, 0 específicas que preservem | Tucano descritivo (emenda 1); posto 8 instável entre máquinas, não interpretado |
| RLACE com classificador penalizado, postos 1, 2, 4, 8 (f40, emenda 2; 3 modelos) | Nenhuma das 32 configurações por modelo atinge os critérios. Gemma-3: 24 de 32 removem, todas levando o significado (troca ≤ 38%); ajustes com rótulos embaralhados também removem (mediana 8% retido). Qwen3 e Tucano: 0 removem | Remoções não específicas do gênero; Tucano descritivo |
| Neurônios de ativação alta, k = 16, 128, 512 (f43; 3 modelos) | 0 de 48 remove em cada modelo; associação retida 96–111% (Gemma-3), 89–106% (Qwen3), 94–107% (Tucano); preservação em 48, 47 e 48 de 48 | “Alta” não supera “inteira” nem a melhor configuração do f39; Tucano descritivo |
| Cabeças de atenção: 10 escolhidas em 26 profissões e medidas em outras 14, ablação pela média (f52b; 4 modelos) | Associação retida: Tucano-1b1 25,5% [IC 7,9, 40,1] e Llama-3.1-8B 35,4% [20,0, 46,7], com troca de profissão 89,1% e 83,4% e gênero declarado 100%. Qwen3 3,5% e Gemma-3 1,9%, mas troca 16,8% e 29,0% e gênero declarado ao acaso. Percentil 5 de 1.000 conjuntos sorteados: 93,6 / 88,7 / 70,4 / 89,3% | Critério numérico atendido em Qwen3 e Tucano e replicado no Llama; no Qwen3 e no Gemma-3, com 10 cabeças desligadas pela média, a redução é destruição da informação de profissão, não concentração. Depende de k e do tipo de ablação: com 1 cabeça, o Gemma-3 retém 33,4% com troca 100,2%; com as cabeças zeradas, o Qwen3 retém 87,6%. A troca do Tucano e do Llama (89,1% e 83,4%) fica abaixo do limiar de preservação dos outros testes (95%). Gemma-3 descritivo |
| Replicação R1: configurações destacadas em 12 frases novas (f49) | 1 de 16 replica (f43 Tucano, 93,2% retido [89,8, 95,5]). O destaque do Gemma-3 no f39 (64% retido, específico) não replica: 72,1% [62,3, 85,5], dentro da faixa das aleatórias | Os vereditos não mudam; o destaque saiu do resumo |
| Replicação R2: a associação em 10 frases novas (f48; 6 modelos) | ρ com a RAIS de +0,59 a +0,98, IC sem zero em 6 de 6; “o dentista” preferido em 6 de 6 | Critério pré-declarado: pelo menos 5 de 6 |
| Replicação R3: SAE refeito sem vazamento (f50; Gemma-3, Gemma Scope 2) | Nenhuma configuração atinge os critérios. k = 50 só na profissão: 64,0% retido [48,0, 78,2], específica, mas troca 80,9% | Substitui o primeiro teste com SAE (f12), que tinha vazamento entre escolha e teste |
Decisão Carlos × Carla: diferença ≤ 0,13 em todas; Carla ligeiramente à frente com significância em 5 dos 11 modelos mensuráveis (12 testados) (Gemini 3.1 Pro, Claude Opus 4.8, Sabiá-4, Sabiazinho-4, GPT-5.6-Sol). Salário sugerido: mediana da razão ela/ele = 1,00 (o Claude Opus 4.8 recusa sugerir em 95% dos casos).
Associação de palavras (32 permutações de 8 palavras de carreira e 8 de família): proporção de ligações no sentido do estereótipo entre 0,96 e 1,00 em 9 modelos; 0,81 no GPT-5.6-Sol e 0,73 no Gemini 3.1 Pro; 11 de 11 acima de 0,5 após correção de Holm (rodada de 28/10, com todas as respostas guardadas). O Qwen3-32B ficou fora por respostas inválidas. O código deste teste (f27) foi recuperado em 28/10 e o teste foi rodado de novo guardando todas as respostas (f27b): 11 de 11 acima do acaso de novo, nove modelos entre 0,96 e 1,00; os dois atenuados mudaram de nível (Gemini 3.1 Pro 0,73 e GPT-5.6-Sol 0,81, contra 0,68 e 0,68 em 18/10), o que pode refletir atualizações dos modelos nas APIs. A bateria de decisão usou 10 profissões (6 de maioria masculina, 4 de maioria feminina, nenhuma equilibrada).
Exploratório: nas histórias geradas (n = 3.239), o protagonista homem tem um par romântico de apoio em 29,2% e a protagonista mulher em 15,2% nos modelos intermediários; nos de ponta, 27,8% e 13,0%. A classificação foi feita por outra IA (DeepSeek V3.2), que também está entre os modelos auditados; o código (f24) foi recuperado em 28/10 e reproduz os números; será publicado com o artigo.
Júri das Frases (f44, planilha de 28/10): 16 avaliadoras e avaliadores com português do Brasil como língua materna, sem conhecer os resultados (8 mulheres, 7 homens, 1 prefere não dizer), em duas metades (A: 5 pessoas, 17 frases; B: 11 pessoas, 16 frases). As frases usaram uma única profissão, jornalista.
Neutralidade: resposta igual à esperada pelo desenho em 84 de 85 (98,8%) na metade A e 159 de 176 (90,3%) na B; nenhuma frase teve maioria diferente do esperado. Concordância: alfa 0,938 na A; na B, 0,482, ou 0,733 sem uma avaliadora internamente inconsistente (divergiu em 10 das 16 frases e não marcou nenhuma como natural); sem ela, a neutralidade na B vai a 153 de 160 (95,6%). Essa exclusão não foi definida antes, por isso reportamos as duas versões.
Naturalidade: 75,3% (A) e 68,8% (B) acharam as frases naturais; a concordância aqui é baixa, como esperado para um julgamento subjetivo. Sinalizações: 2 de 11 pessoas apontaram “o síndico” como pista masculina na frase “Segundo o síndico, quem resolveu tudo foi ___”, uma das 10 frases do teste do dentista; e uma frase de concordância soou pouco natural para 3 de 5. Teste de sensibilidade (f51): sem essas duas frases, nenhum sinal de efeito muda; a correlação com a RAIS nas profissões comuns de dois gêneros vai de +0,540 a +0,958 para +0,518 a +0,954.
Para os experimentos de apagamento linear (f39), RLACE (f40) e de neurônios em ativação alta (f43), escritos antes de qualquer resultado:
Remoção: associação retida ≤ 20%, com limite superior do IC 95% ≤ 35%. Preservação: margem de troca de profissão (D_ij, que mede se o modelo ainda distingue uma profissão da outra) retida ≥ 95% (limite inferior ≥ 90%) e gênero declarado ≥ 98%. Atinge os critérios: a mesma configuração em pelo menos 2 de 3 modelos (Gemma-3-1B, Qwen3-1.7B, Tucano-1b1), e com associação retida menor que a de conjuntos aleatórios do mesmo tamanho.
No f43, a ativação é a entrada do down_proj do MLP; ativação alta é o percentil 90 de |ativação| no ajuste; k ∈ {16, 128, 512}, quatro janelas de camadas. Uma emenda foi registrada antes da leitura do teste final.
No f40, a emenda 2 trocou o classificador por um com penalização L2 escolhido por validação cruzada, depois que a primeira versão memorizou as 624 amostras (acurácia 1,00 após o apagamento); a primeira rodada não foi lida. Os três experimentos somam 360 configurações (40 + 32 + 48 em cada um de 3 modelos).
Cabeças de atenção (f52, aprovado em 29/10): as 10 cabeças de maior efeito individual, escolhidas em 26 profissões em que a palavra muda de forma e medidas em 14 profissões comuns de dois gêneros; ablação pela média. Concentrada se a associação retida no teste ≤ 40% (limite superior do IC ≤ 55%) e abaixo do percentil 95 de 1.000 conjuntos sorteados, pareados por camada e sem as cabeças escolhidas. Precisa valer no Qwen3 e no Tucano; o Llama entra como replicação. O Gemma-3 ficou descritivo porque um teste de código leu o conjunto de teste antes da rodada. Emenda 1 (29/10): 20 sorteios de doadoras na reamostragem. Preservação (troca de profissão e gênero declarado) foi medida com as cabeças desligadas na sequência inteira; é reportada, não é critério.
Corrigir os próprios números faz parte do método. Retiramos:
Cabeças de atenção (primeira versão). Dez de 704 cabeças do Tucano pareciam concentrar 81% da associação, mas foram escolhidas e medidas nas mesmas profissões, sem conjunto separado. Saíram do artigo em 19/10 e foram refeitas em 29/10 com escolha e medida separadas (f52b, na tabela acima): no Tucano, a associação retida foi 25,5%, com significado intacto.
Destaque do Gemma-3 no apagamento linear (64% retido, específico, no teste original). Não replicou em 12 frases novas: 72,1%, dentro da faixa das aleatórias. Saiu do resumo; fica como descrição.
Primeiro teste com SAE (f12, “22% / 98%”). Vazamento entre escolha e teste e posições incomparáveis. Refeito como R3 (f50).
“Excedente masculino que o mercado não explica” nas frases com “quem”. O ponto zero sem profissão (o masculino genérico do “quem”) explica de 64% a 109% da inclinação bruta nas profissões de maioria masculina. O que fica é a diferença entre profissões.
“Os seis preferem ‘o dentista’ acima do masculino genérico.” Na concordância, odontologia fica acima do ponto zero em 5 dos 6 modelos; no Llama, o intervalo de confiança inclui o zero. Encolhida em 3/11, na terceira rodada de contraprova, feita sobre a lista de afirmações do artigo antes de qualquer parágrafo.
“Onde as mulheres já são maioria, o ‘o’ continua ganhando.” Vale para odontologia, advocacia e farmácia, não como regra: nas 20 profissões de maioria feminina, o “a” ganha em cinco dos seis modelos (em quatro, com margem estatística). E odontologia é o caso extremo entre as oito profissões com 60% a 75% de mulheres. Corrigida em 3/11.
“10 cabeças de atenção reduzem a associação sem estragar o significado.” A troca de profissão fica em 89,1% e 83,4%, abaixo do limiar de 95% que usamos nos outros testes. Corrigida em 3/11.
Exceção do Gemma no corte fino. A direção ele−ela estava errada porque o Gemma usa RMSNorm com peso (1 + w).
Primeira rodada de apagamento linear. As frases usavam sempre a forma masculina da profissão. Refeita com critérios definidos antes.
Correlação alta “nas frases de significado”. Vinha da família b; nas frases de concordância (a+d), ρ fica entre 0,33 e 0,60.
Dois números de célula única sobre credibilidade e maternidade em IAs comerciais, que dependiam de poucos prompts.
A RAIS cobre só o emprego formal. A família b mede escolha de forma, não concordância. As IAs comerciais foram medidas só por fora. Os seis modelos abertos são pequenos e médios.
Todos os experimentos planejados terminaram em 29/10/2026: apagamento linear (f39), RLACE (f40), ponto zero do masculino genérico (f41, f46), neurônios em ativação alta (f43), cabeças de atenção (f52b), replicações R1, R2 e R3 e sensibilidade às frases sinalizadas pelo júri (f51). Próximos passos: releitura e revisão final do artigo, figuras finais, código e dados no GitHub e no Hugging Face, artigo no arXiv.
Trabalhos com que este dialoga: LEACE (Belrose et al., 2023), RLACE (Ravfogel et al., 2022), amnesic probing (Dobrzeniecka et al., 2025), sensibilidade metodológica de intervenções (Zhang e Nanda, 2024), cabeças de atenção e gênero (Vig et al., 2020), ablação pela média (Wang et al., 2023) e “Comparing Sparsified MLPs and Transcoders” (arXiv 2610.24521, 2026).
Conversar sobre a pesquisa
Se você trabalha com interpretabilidade, avaliação de modelos ou IA em português, quero conversar.
Para olhar mais de perto
Rascunho de 21 de outubro de 2026, atualizado em 30 de outubro com os experimentos concluídos até 29/10 e revisto em 3 de novembro, depois de duas rodadas de contraprova sobre a lista de afirmações do artigo.
Os resultados dos seis modelos vêm da análise f42. As camadas, as réguas das intervenções e os dois caminhos são esquemas explicativos: mostram a ideia e a direção dos resultados, sem escala.
Os valores 87 e 13 na saída do Llama são dados do experimento; a rede de quatro camadas é ilustrativa. O Llama-3.1-8B tem 32 camadas.
RAIS 2024 (Ministério do Trabalho e Emprego), vínculos formais ativos em 31/12/2024, família CBO 2232, cirurgiões-dentistas: 72.568 vínculos, 64,3% de mulheres. A visualização arredonda para 64.
A RAIS cobre só o emprego formal. Boa parte de quem trabalha com odontologia é autônoma ou atua como PJ e fica fora dessa conta, então o número descreve o segmento formal da profissão.
O primeiro experimento reúne Tucano-1b1, Tucano-2b4, Qwen3-1.7B, Gemma-3-1B, Gemma-2-2B e Llama-3.1-8B (f42). A explicação das camadas usa o Llama.
Compensar (f9) e reeducar (f35) foram testados no Tucano-1b1. Desligar a régua e os dois caminhos vêm da análise f30.
A preferência dos seis modelos é a média de 10 frases com “o dentista” e “a dentista”. Ela não é uma taxa geral de comportamento para qualquer profissão ou contexto. Cada modelo dá uma probabilidade às duas versões da frase; convertemos a diferença entre elas para uma escala de 100 para facilitar a leitura.
Nenhuma das quatro correções testadas chegou ao que definimos como sucesso: tirar a associação sem estragar o significado. Esses testes vieram antes de escrevermos critérios formais; os experimentos seguintes (f39, f40 e f43) tiveram critérios definidos antes dos resultados e, nas 360 configurações, nenhuma atingiu remoção com preservação. Os critérios e os resultados completos estarão no artigo.
Análises de referência: f42, f30, f9 e f35.
Quem fez esta pesquisa
Construo sistemas de inteligência artificial em produção e penso sobre o que isso significa. Esta pesquisa é uma das frentes desse trabalho.