O Google diz que reduzirá o uso de resumos escritos por IA para alguns resultados de pesquisa depois que seus sistemas disseram a alguns usuários para adicionar cola em suas pizzas e quantas pedras comer por dia, e repetiu a outros uma teoria da conspiração racista sobre o ex-presidente Barack Obama.
A gigante da internet disse em comunicado na quinta-feira que irá limitar algumas respostas de seu serviço AI Overviews, especialmente nos casos em que detecta que os usuários estão fazendo perguntas “absurdas” ou satíricas. A empresa também pausará as respostas sobre temas relacionados à saúde.
Ao defender a precisão geral de seus resultados de pesquisa relacionados à IA, a empresa reconheceu que “algumas visões gerais de IA estranhas, imprecisas ou inúteis certamente apareceram”.
“Na escala da web, com bilhões de consultas chegando todos os dias, é provável que haja algumas estranhezas e erros”, A chefe de pesquisa do Google, Liz Reid, escreveu, acrescentando que mais de uma dúzia de alterações foram feitas nos sistemas em resposta. “Como sempre acontece quando fazemos melhorias na Pesquisa, não apenas ‘consertamos’ as consultas uma por uma, mas trabalhamos em atualizações que podem ajudar amplos conjuntos de consultas, incluindo novas que ainda não vimos. “
Consulte Mais informação: Visão geral da IA do Google: o que é e por que está dando errado
O anúncio público do Google para reduzir seu serviço AI Overviews é o mais recente em uma lista crescente de lançamentos problemáticos de produtos dos maiores nomes da tecnologia, enquanto eles lutam para assumir a liderança no boom da IA.
Outros gigantes, incluindo a Microsoft, Meta e X, controladora do Facebook, correram para adicionar recursos de IA a alguns de seus produtos mais usados, com resultados decididamente mistos. Alguns dos constrangimentos mais importantes incluíram IAs que professar seu amor pelos usuáriosgeradores de imagens que produzem representações imprecisas de pessoas ao longo da história e resumos de eventos em tempo real que não aconteceram. Ainda assim, as empresas e o governo continuam a adotar a IA como uma ferramenta necessária para o futuro. (Para análises práticas da CNET sobre produtos generativos de IA, incluindo Gemini, Claude, ChatGPT e Microsoft Copilot, junto com notícias, dicas e explicadores sobre IA, consulte nossa página de recursos AI Atlas.)
Consulte Mais informação: AI Atlas, seu guia para a inteligência artificial atual
O AI Overviews estava em testes há vários meses antes de o Google anunciar em sua conferência de desenvolvedores I/O em meados de maio que começaria imediatamente a lançar o serviço de forma muito mais ampla. Na I/O, a empresa passou toda a sua apresentação de duas horas falando sobre seus esforços de IA, centrados em seu modelo Gemini.
O problema do Google com as visões gerais de IA como parte de seu serviço de pesquisa principal pode ser muito mais profundo. As tecnologias de IA muitas vezes lutam contra a “alucinação” ou com a invenção eficaz de fatos que não são realmente verdadeiros, em um esforço para fornecer uma resposta coerente. Ao mesmo tempo, milhares de milhões de pessoas utilizam o serviço de pesquisa do Google para ajudar a encontrar informações todos os dias. As empresas de tecnologia, incluindo o Google, continuam a sugerir que podem superar esses problemas, embora muitas tenham adicionado um aviso às suas ferramentas alertando os usuários de que as informações fornecidas pela IA podem não ser verdadeiras.
Em sua postagem no blog na noite de quinta-feira, o Google listou várias maneiras de refinar ou reduzir o que o AI Overviews compartilha nos resultados de pesquisa:
- Está usando “melhores mecanismos de detecção” para perguntas sem sentido e limitando a inclusão de conteúdo de sátira e humor.
- Está limitando o uso de conteúdo gerado por usuários em “respostas que possam oferecer conselhos enganosos”.
- Foram adicionadas restrições para consultas “onde as visões gerais de IA não foram tão úteis”.
- Ela está se esforçando para não mostrar visões gerais de IA para tópicos de notícias importantes, “onde o frescor e a factualidade são importantes” e adicionando refinamentos para tópicos relacionados à saúde “para melhorar nossas proteções de qualidade”.
“Sabemos que as pessoas confiam na Pesquisa Google para fornecer informações precisas”, acrescentou Reid, do Google, em seu comunicado na quinta-feira. “Mantemos um alto padrão, assim como nossos usuários, por isso esperamos e apreciamos o feedback e o levamos a sério.”
Vê isto: Tudo o que o Google acaba de anunciar no I/O 2024
