Estudo da UCR: ChatGPT e Gemini e a possível perda da alma da internet em 25 anos

Há algo curioso que acontece quando você faz uma pergunta na internet e, em poucos segundos, recebe uma resposta limpa e segura.

A sensação é de avanço: você encontra o que precisava sem ter de atravessar uma dúzia de posts, tópicos de fórum e relatos pessoais com qualidade irregular.

Um estudo recente da Universidade da Califórnia, Riverside (UCR) indica, porém, que aquilo que é “peneirado” nesse processo pode ser mais importante do que parece.

E, à medida que sistemas de IA passam a comandar cada vez mais a forma como buscamos informação online, a própria internet pode estar perdendo - de maneira silenciosa - algo que levou 25 anos para se acumular.

Os pesquisadores avaliaram como modelos de linguagem de grande porte, como ChatGPT e Gemini, respondem a perguntas subjetivas, baseadas em opinião.

Depois, colocaram essas respostas lado a lado com as respostas humanas às mesmas perguntas. A diferença apareceu de forma consistente - e com impacto real.

Lógica versus todo o resto

Para organizar os tipos de raciocínio, o grupo recorreu ao triângulo retórico de Aristóteles.

Nesse modelo, a persuasão é dividida em três categorias: logos, apoiado em lógica e consistência factual; ethos, que apela à autoridade ou à credibilidade pessoal; e pathos, ligado à emoção e a experiências humanas compartilhadas.

Com essas categorias, a equipe comparou como pessoas e sistemas de IA montam argumentos e formulam respostas.

Um tipo diferente de persuasão

Ao analisar respostas do ChatGPT e do Gemini e compará-las com resultados de busca no Google e no Bing, os pesquisadores identificaram uma divergência marcante.

Conteúdos da internet escritos por humanos costumam combinar os três tipos de apelo: unem fatos a preocupações morais, experiências pessoais, emoção, narrativa e histórias.

"O que descobrimos é que os humanos essencialmente usam os três, enquanto os LLMs essencialmente só se apoiam em logos", disse o coautor Kevin Esterling, professor de políticas públicas e ciência política na UCR.

"A forma como eles tentam persuadir é diferente da forma como humanos persuadem."

O problema da margarita

Para tornar a diferença mais palpável, os autores usam um exemplo simples. Se você pedir a uma IA uma receita de margarita, receberá uma resposta competente, bem estruturada e construída a partir de uma quantidade enorme de dados de treinamento.

O que não vem junto é o tipo de conteúdo que você encontraria no Guia Difford - um site de coquetéis em que Simon Difford apresenta dezenas de receitas de margarita, organizadas em sete estilos.

O site também acompanha a história da bebida, atribuindo sua origem a uma descoberta feita por um jornalista no México dos anos 1930, quando teria encontrado algo então chamado de "Margarida de Tequila".

Esse tipo de riqueza - a história, a personalidade, a voz humana defendendo por que aquilo importa - é justamente o que a IA tende a remover. Não é exatamente incorreto, mas acaba soando árido.

Por que o raciocínio da IA é moldado assim

Os pesquisadores levantam uma hipótese para explicar por que esses sistemas de IA se apoiam tão fortemente em respostas factuais e centradas em lógica.

Os mecanismos de "alinhamento" e de segurança que as empresas adicionam aos modelos são projetados para direcionar as respostas para terrenos factuais e pouco controversos, evitando linguagem emocional ou carregada politicamente.

Com isso, as respostas se tornam previsivelmente seguras, mas também ficam sistematicamente desprovidas dos tipos de raciocínio mais bagunçados e pessoais que autores humanos levam a debates contestados.

O estudo ainda observou que ChatGPT e Gemini se parecem bastante entre si na forma de responder.

"Quando usamos plataformas de IA em vez de buscas na internet, recuperamos uma versão destilada do conhecimento, limitada pelos limites de segurança de cada plataforma de IA, e sem emoção humana ou diversidade de opiniões", disse o coautor Vagelis Hristidis, cientista da computação na UCR.

Por que a comunicação humana é diferente

Esterling argumenta que parte do que se perde tem relação com algo essencial à maneira como as pessoas se comunicam.

Em conversas humanas, estamos o tempo todo prevendo como o outro vai reagir - emocional, intelectual e moralmente. Isso orienta a argumentação, define o que destacamos e influencia as histórias que escolhemos contar.

"Quando humanos conversam entre si, conseguimos entender o que o outro está pensando", afirmou Esterling. "Existe esse tipo de interação de mão dupla."

Modelos de linguagem não operam assim. Eles produzem sequências estatisticamente prováveis de palavras a partir de dados de treinamento e parâmetros internos.

Não há um modelo do ouvinte, nem uma noção do que vai funcionar emocionalmente ou do que vai soar pessoalmente significativo.

"Não é como conversar com uma pessoa", disse Esterling. "É apenas uma máquina prevendo quais palavras deveriam ser ditas em resposta a um comando."

O que podemos estar perdendo

Essas ferramentas têm sido usadas cada vez mais para encontrar informações sobre política, saúde, ética e assuntos públicos - justamente as áreas em que a gama completa do raciocínio humano faz mais falta.

Uma pergunta sobre reforma do sistema de saúde ou sobre política de combustíveis fósseis não é apenas uma questão de fatos. Envolve valores, envolve quais experiências contam e envolve que tipo de sociedade as pessoas querem construir.

"À medida que as pessoas dependem cada vez mais de sistemas de IA para descobrir informações, em detrimento das buscas tradicionais na internet, a internet pode gradualmente perder sua alma e deixar de refletir a natureza humana que a moldou nos últimos 25 anos", disse Hristidis.

Os ganhos de eficiência ao recuperar informação com IA existem: obter uma resposta direta com rapidez é, de fato, útil. O problema é que, no caminho, se perde o material que ajuda as pessoas a compreender não só os fatos, mas também umas às outras.

"Como humanos, estamos programados para achar que qualquer coisa que produza linguagem tem cognição humana por trás", disse Esterling. "Mas este artigo está mostrando que as máquinas produzem linguagem que não tem qualidades humanas quando se trata de raciocínio e argumentação."

A internet foi construída por gente debatendo, compartilhando, persuadindo e contando histórias. Se ela vai continuar sendo assim provavelmente depende de percebermos o que estamos deixando para trás.

A pesquisa foi apresentada na Conferência de Ciência da Rede da ACM, em Braunschweig, Alemanha.