Respostas Falsas da IA do Google Viralizam nas Redes Sociais

Contexto e Problemas Enfrentados

Recentemente, têm viralizado nas redes sociais diversas respostas falsas e bizarras geradas pelo recurso AI Overview (Visão Geral da IA, em tradução direta) do Google, que mostra resultados gerados com inteligência artificial (IA) nas buscas. Esta tecnologia, lançada em fase de testes nos Estados Unidos em maio deste ano, tem gerado discussões e preocupações sobre a precisão das informações fornecidas.

Exemplos de Respostas Erradas

Em um dos prints compartilhados nas redes, a resposta gerada pela IA afirma que as cobras são os mamíferos com a maior quantidade de ossos entre os animais vertebrados. Esta informação está completamente errada, já que cobras são répteis, não mamíferos.

Outro exemplo bizarro envolve uma resposta dada a um repórter da agência AP, que perguntou se gatos já estiveram na lua. A IA gerou uma resposta afirmando que astronautas já encontraram e brincaram com felinos por lá, o que é evidentemente falso.

Resposta do Google

Na última sexta-feira (24), a big tech afirmou à AFP que está tomando “medidas rápidas” para melhorar seus novos resultados de busca elaborados com IA generativa. “Muitos dos exemplos que vimos eram consultas pouco comuns, e também vimos exemplos manipulados ou que não conseguimos reproduzir”, afirmou um porta-voz do Google em resposta a uma pergunta da agência.

Outros Casos de Informações Falsas

Além dos exemplos mencionados, a ferramenta de IA do Google já cometeu outros erros notáveis. Em um dos prints, a IA afirmou que o ex-presidente dos Estados Unidos, Barack Obama, é muçulmano, quando na verdade ele é cristão. Em outro caso, a IA disse que médicos recomendam que grávidas fumem até três cigarros por dia, outra informação falsa e potencialmente perigosa.

Consequências e Repercussões

As respostas erradas da IA geraram uma série de críticas e preocupações sobre a confiabilidade da tecnologia. O Google corrigiu muitas das respostas após a repercussão, mas a incapacidade de reproduzi-las novamente sugere que a empresa está tentando mitigar os danos. No entanto, os testes e erros contínuos ainda estão gerando repercussão nas redes sociais, levantando questões sobre a prontidão da IA generativa para uso público.

Análise Crítica

A proliferação de respostas erradas destaca a necessidade de uma abordagem mais rigorosa na implementação de IA generativa em ferramentas de busca. A confiança do público na precisão das informações fornecidas pelos motores de busca pode ser seriamente abalada por tais erros, especialmente quando envolvem questões de saúde ou informações históricas e factuais.

A situação também levanta preocupações sobre a capacidade de monitoramento e controle do conteúdo gerado por IA. A correção rápida de erros pelo Google é um passo positivo, mas a frequência e a natureza dos erros sugerem a necessidade de melhorias significativas no treinamento e na supervisão da IA.

Conclusão

A viralização de respostas falsas geradas pela AI Overview do Google sublinha os desafios e riscos associados à implementação de IA generativa em serviços de busca. Embora o Google esteja tomando medidas para corrigir esses erros, a situação atual destaca a importância de uma supervisão rigorosa e contínua para garantir a precisão e a confiabilidade das informações fornecidas aos usuários.