Os chatbots de inteligência artificial estão padronizando a forma como as pessoas falam, escrevem e pensam, segundo um estudo da Universidade do Sul da Califórnia (Estados Unidos).
Clique para receber notícias de Tecnologia e Ciências pelo WhatsApp
Se essa homogeneização continuar sem controle, poderia reduzir a sabedoria coletiva e a capacidade de adaptação da humanidade, alertam cientistas da computação e psicólogos em um artigo de opinião publicado na revista Trends in Cognitive Sciences, da Cell Press.
Os especialistas sustentam que os desenvolvedores de modelos de linguagem de grande porte (LLM) deveriam incorporar maior diversidade do mundo real nos conjuntos de treinamento, não apenas para preservar a diversidade cognitiva humana, mas também para aprimorar a capacidade de raciocínio dos chatbots.
“As pessoas diferem em sua forma de escrever, raciocinar e ver o mundo”, explica o cientista da computação Zhivar Sourati, primeiro autor do estudo e pesquisador da Universidade do Sul da Califórnia. “Quando essas diferenças são mediadas pelos mesmos LLM, seu estilo linguístico, perspectiva e estratégias de raciocínio distintivas se homogeneízam, produzindo expressões e pensamentos padronizados”.
Segundo os investigadores, a diversidade cognitiva dentro de grupos e sociedades impulsiona a criatividade e a resolução de problemas. No entanto, alertam que essa diversidade está diminuindo à medida que bilhões de pessoas utilizam os mesmos chatbots para tarefas cada vez mais diversas.
Por exemplo, quando os usuários empregam esses sistemas para aprimorar seus textos, a escrita pode perder sua individualidade estilística e reduzir o senso de responsabilidade sobre a produção criativa.
“A preocupação não é apenas que os LLM moldem a forma como as pessoas escrevem ou falam, mas que redefinam sutilmente o que conta como um discurso credível, uma perspectiva correta ou até mesmo um bom raciocínio”, assinala Sourati.
A equipe cita diversos estudos que mostram que os textos gerados por LLM tendem a refletir a linguagem, os valores e os estilos de raciocínio de sociedades ocidentais, educadas, industrializadas, ricas e democráticas.
“Como os LLM são treinados para capturar regularidades estatísticas em seus dados de treinamento, que frequentemente sobrerrepresentam idiomas e ideologias dominantes, seus resultados refletem uma porção estreita e enviesada da experiência humana”, acrescenta o pesquisador.
Os cientistas também indicam que, embora os indivíduos possam gerar mais ideias ao utilizar LLM, os grupos produzem menos ideias e menos criativas quando dependem desses sistemas em comparação com quando combinam diretamente suas capacidades coletivas.
Além disso, alertam que mesmo quem não utiliza diretamente esses modelos pode ser influenciado por eles. “Se muitas pessoas ao meu redor pensam e falam de certa maneira, sentiria pressão para me alinhar com elas, porque pareceria uma forma mais credível ou socialmente aceitável de expressar minhas ideias”, explica Sourati.
Mais além da linguagem, estudos mostram que após interagir com LLM enviesados, as opiniões das pessoas podem se aproximar das do próprio modelo. Também destacam que esses sistemas favorecem o raciocínio linear passo a passo, o que pode reduzir o uso de estilos intuitivos ou abstratos que em alguns casos resultam mais eficientes.
Igualmente, os pesquisadores advertem que os usuários tendem a aceitar as sugestões dos modelos como opções “suficientemente boas”, o que pode transferir gradualmente a iniciativa criativa do usuário para o sistema.
LEIA TAMBÉM:
Vazamento revela iPhone com iOS 19, sistema ainda não anunciado pela Apple
Desconexão de luxo: Light Phone 3 propõe minimalismo no smartphone
Retorno à origem: Elon Musk lança X Money para revolucionar finanças globais
Diante desse cenário, a equipe propõe que os desenvolvedores incorporem deliberadamente diversidade linguística, cultural e de raciocínio nos modelos. Segundo Sourati, essa diversidade deveria basear-se na pluralidade real existente entre os seres humanos e não em variações aleatórias.
“Se os LLM tivessem formas mais diversas de abordar ideias e problemas, apoiariam melhor a inteligência coletiva e a capacidade de resolução de problemas de nossas sociedades”, conclui.