Estudo revela que inteligências artificiais sofisticadas têm maior tendência a fornecer informações falsas

IA mais poderosa, mas será que é mais confiável?

Uma pesquisa muito interessante publicada na revista Nature está dando o que falar! A conclusão é de que os grandes modelos de linguagem (LLMs) estão se tornando cada vez mais potentes, mas isso vem com um preço: as inteligências artificiais parecem estar “mentindo” mais frequentemente. É isso mesmo! À medida que elas ficam mais “expertas”, a confiança nelas parece não aumentar, mas baixar!

Pesquisadores analisaram modelos famosos como o GPT da OpenAI, o LLaMA da Meta e o BLOOM do grupo BigScience. Os testes foram super variados, envolvendo desde matemática até geografia, e incluíram tarefas como listar informações em uma ordem específica. Parece fácil, né? Mas as coisas não são bem assim!

Resultados dos Modelos

Os modelos mais robustos deram as respostas mais acertadas, porém vacilaram nas perguntas mais complicadas. Resumindo: quanto mais poderosos os modelos de IA se tornavam, mais respostas erradas eles geravam. A conta simplesmente não fecha!

Um Dilema Humano

José Hernández-Orallo, um dos pesquisadores, mandou a real: esses modelos estão tentando responder quase tudo! O resultado? Mais acertos, mas também mais erros. E é aí que entra a confusão: como distinguir se a IA está realmente dando uma resposta confiável ou se está inventando algo? Uma verdadeira caça às bruxas da veracidade!

O que fazer?

Os pesquisadores sugerem que uma saída poderia ser programar essas IAs para serem menos impulsivas, ou seja, elas poderiam admitir quando não sabem a resposta. Mas será que isso é algo que as empresas querem? Afinal, mostrar uma IA perfeita é bem mais chamativo!

Além disso, quando um grupo de pessoas foi testado para julgar a precisão das respostas dos chatbots, eles erraram em até 40% das vezes! É complicado, galera!