Decodificando linguagem de máquina: análise de viés e preconceito em modelos de linguagem

A crescente adoção de Modelos de Linguagem de Grande Escala (LLMs) tem levantado preocupações sobre os vieses que esses modelos podem amplificar. Estudos como o de Lucy e Bamman (2021) mostram que o GPT-3 reforça estereótipos de gênero. Além disso, pesquisas como a de Abid et al. (2021) evidenciam vieses religiosos, por exemplo, muçulmanos sendo frequentemente associados a temas violentos.
Neste estudo, investigamos como características valorizadas por empregadores, conforme identificadas por Tushar e Sooraksa (2023) em sua revisão semissistemática sobre habilidades de empregabilidade, são associadas ao gênero dos personagens em textos gerados por LLMs. Nossos resultados mostram uma correlação negativa entre características positivas e personagens masculinos, sugerindo um viés significativo, onde características positivas são menos associadas a personagens masculinos