Joseph Stiglitz: IA coleta dados 'lixo' e ameaça informações

O economista Joseph Stiglitz, laureado com o Nobel, afirmou que a Inteligência Artificial (IA) pode comprometer a qualidade das informações em que se baseia. Segundo ele, os modelos de linguagem estão sujeitos à coleta de dados considerados “lixo”, o que distorce a interpretação da realidade.

Em entrevista à Fortune, Stiglitz explicou que a IA pode minar as informações essenciais para o funcionamento de sistemas como mercados financeiros e o debate político. O economista descreveu o cenário como “lixo entra, lixo sai”.

Dados pouco confiáveis

Stiglitz ressaltou que os modelos atuais de IA coletam dados de diversas fontes, incluindo redes sociais e fóruns online. Ele aponta que essa prática pode enfraquecer as instituições que produzem conhecimento de alta qualidade. O economista teme que as pessoas passem a se basear em informações geradas pela IA, em vez de informações baseadas em dados confiáveis.

De acordo com o economista, a mídia tradicional pode perder recursos e incentivos para produzir informações de qualidade. Stiglitz mencionou que, embora algumas empresas de IA paguem por conteúdo jornalístico, a capacidade de gerar novas informações de qualidade ainda é limitada.

Stiglitz afirma que, se as principais fontes de informação forem “desfinanciadas”, enquanto conteúdos de baixa qualidade proliferam, os dados de treinamento se inclinarão para o que é mais abundante e barato.

Opiniões radicais

Stiglitz exemplificou o risco com a proliferação de opiniões radicais na internet, onde a desinformação é mais comum. Ele citou o exemplo de fóruns sobre vacinas, onde ativistas antivacina são mais ativos do que cientistas.

O economista explicou que modelos de IA, treinados com base em frequência e engajamento, podem priorizar opiniões mais barulhentas em detrimento de informações mais confiáveis. Stiglitz defende que é necessário haver alguma intervenção governamental para evitar a deterioração da informação.

Stiglitz utiliza IA em suas pesquisas, mas ressalta que a ferramenta não substitui a análise.