Assistentes de IA reforçam estereótipos culturais na escrita, aponta estudo
O debate acerca da reprodução de preconceitos por sistemas de inteligência artificial já vem acontecendo há alguns anos. Agora, pesquisadores da Universidade Cornell apontam que essa tecnologia também pode fortalecer estereótipos culturais na escrita, tornando-a mais genérica e fazendo com que usuários do Sul Global soem como americanos.
Entenda:
- Assistentes de IA podem tornar a escrita mais genérica e estereotipada, alertam cientistas;
- Em um novo estudo, a IA tornou a linguagem de participantes indianos mais parecidas com a dos estadunidenses;
- Além disso, as sugestões de preenchimento automático foram baseadas nas preferências dos americanos;
- Precisando adequar as sugestões à sua linguagem e repertório cultural, os indianos tiveram uma produtividade menor e, com isso, os assistentes de IA se mostraram menos úteis.
Como explica a equipe em comunicado, as ferramentas de IA mais populares (como o ChatGPT) são desenvolvidas principalmente por empresas dos EUA, mas usadas ao redor de todo o planeta – incluindo 85% da população do Sul Global.
Leia mais:
- IA reflete preconceitos humanos, diz estudo
- IA perpetua estereótipos raciais e de gênero, aponta estudo
- Duolingo vai substituir funcionários pela IA
Assistentes de IA tornam escrita genérica com base em estereótipos
Para o estudo, os pesquisadores de Cornell reuniram 59 pessoas da índia e 59 dos Estados Unidos, e pediram que escrevessem sobre temas culturais.
Metade dos participantes de cada país realizou a tarefa de forma independente, e a outra metade usou um assistente de IA que deu sugestões curtas de preenchimento automático.
Foram registradas as teclas digitadas pelos participantes e se eles aceitaram ou não as sugestões da IA. De acordo com a equipe, o assistente deixou a escrita das duas nacionalidades mais parecida – por outro lado, trouxe uma queda de produtividade para os indianos, que precisaram corrigir frequentemente as sugestões.
Por exemplo, diante de temas como comidas ou feriados preferidos, as sugestões do assistente de IA foram baseadas nas preferências dos americanos (pizza e Natal). A equipe também revelou que se um participante indiano tentasse escrever o nome de Shah Rukh Khan, ator de Bollywood, para falar sobre uma figura pública, a IA sugeriria Scarlett Johansson ou Shaquille O’Neil como preenchimento automático após o “S”.
Assistente de escrita de IA foi menos útil para participantes indianos
A análise também aponta que, ainda que os indianos tenham aceitado mais as sugestões da IA do que os americanos, elas acabaram não sendo tão úteis. Isso porque as respostas precisaram ser mais editadas para combinar com o estilo de escrita e o repertório cultural dos indianos em cada tema.
“O uso de IA na escrita pode levar a estereótipos culturais e homogeneização da linguagem. As pessoas começam a escrever de forma semelhante, e não é isso que queremos”, diz Aditya Vashistha, autor sênior da pesquisa.
O post Assistentes de IA reforçam estereótipos culturais na escrita, aponta estudo apareceu primeiro em Olhar Digital.