Faz menos de duas semanas desde Google estreou a “Visão Geral da IA” na Pesquisa Google, e as críticas públicas aumentaram depois que as consultas retornaram resultados absurdos ou imprecisos dentro do recurso de IA – sem qualquer maneira de cancelar.
A visão geral da IA mostra um rápido resumo das respostas às perguntas de pesquisa no topo da Pesquisa Google. Por exemplo, se um usuário pesquisar a melhor maneira de limpar botas de couro, a página de resultados poderá exibir uma “Visão geral da IA” na parte superior com um processo de limpeza em várias etapas, obtido a partir de informações sintetizadas na web.
Mas os usuários das redes sociais compartilharam uma ampla variedade de capturas de tela mostrando a ferramenta de IA dando respostas incorretas e controversas.
Google, Microsoft, OpenAI e outras empresas estão no comando de uma corrida armamentista de IA generativa, à medida que empresas de aparentemente todos os setores correm para adicionar chatbots e agentes com tecnologia de IA para evitar serem deixadas para trás pelos concorrentes. A previsão é que o mercado1 trilhão de dólaresem receita dentro de uma década.
Aqui estão alguns exemplos de erros produzidos pelo AI Overview, de acordo com capturas de tela compartilhadas pelos usuários.
Quando questionado sobre quantos presidentes muçulmanos os EUA tiveram, Visão Geral da IA respondeu“Os Estados Unidos tiveram um presidente muçulmano, Barack Hussein Obama.”
Quando um usuário pesquisou “queijo não gruda na pizza”, o recurso sugerido adicionando “cerca de 1/8 xícara de cola não tóxica ao molho”. Usuários de redes sociais encontraram Comentário do Reddit de 11 anos essa parecia ser a fonte.
A atribuição também pode ser um problema para a visão geral da IA, especialmente na atribuição de informações imprecisas a profissionais médicos ou cientistas.
Por exemplo, quando perguntado: “Por quanto tempo posso olhar para o sol para ter uma saúde melhor”, a ferramenta disse“De acordo com o WebMD, os cientistas dizem que olhar para o sol por 5 a 15 minutos, ou até 30 minutos se você tiver pele mais escura, geralmente é seguro e oferece mais benefícios à saúde.”
Quando questionado: “Quantas pedras devo comer por dia”, a ferramenta disse“De acordo com geólogos da UC Berkeley, as pessoas deveriam comer pelo menos uma pedra pequena por dia”, listando as vitaminas e os benefícios digestivos.
A ferramenta também pode responder de forma imprecisa a consultas simples, como fazendo uma lista de frutas que terminam com “um”, ou dizer que o ano de 1919 foi 20 anos atras.
Quando questionado se a Pesquisa Google viola ou não a lei antitruste, Visão geral da IA disse“Sim, o Departamento de Justiça dos EUA e 11 estados estão processando o Google por violações antitruste.”
No dia em que o Google lançou o AI Overview em seu evento anual Google I/O, a empresa disse que também planeja introduzir recursos de planejamento semelhantes a assistentes diretamente na pesquisa. Ele explicou que os usuários poderão pesquisar algo como “Crie um plano de refeições de 3 dias para um grupo que seja fácil de preparar” e obteriam um ponto de partida com uma ampla variedade de receitas de toda a web.
“A grande maioria das visões gerais de IA fornece informações de alta qualidade, com links para se aprofundar na web”, disse um porta-voz do Google à CNBC em comunicado. “Muitos dos exemplos que vimos foram consultas incomuns e também vimos exemplos que foram adulterados ou que não conseguimos reproduzir”.
O porta-voz disse que o AI Overview passou por extensos testes antes do lançamento e que a empresa está tomando “ações rápidas quando apropriado de acordo com nossas políticas de conteúdo”.
A notícia segue o lançamento da ferramenta de geração de imagens Gemini pelo Google em fevereiro, e uma pausa no mesmo mês após problemas comparáveis.
A ferramenta permitiu que os usuários inserissem instruções para criar uma imagem, mas quase imediatamente, os usuários descobriram imprecisões históricas e respostas questionáveis, que circularam amplamente nas redes sociais.
Por exemplo, quando um usuário pediu ao Gemini que mostrasse um soldado alemão em 1943, a ferramenta representava um conjunto racialmente diverso de soldadosvestindo uniformes militares alemães da época, de acordo com capturas de tela na plataforma de mídia social X.
Quando questionado sobre uma “representação historicamente precisa de um rei britânico medieval”, o modelo gerou outro conjunto de imagens racialmente diversas, incluindo uma de uma mulher governante, capturas de telamostrou. Usuários reportados resultados semelhantesquando pediram imagens dos pais fundadores dos EUA, um rei da França no século XVIII, um casal alemão em 1800 e muito mais. O modelo mostrou uma imagem de homens asiáticos em resposta a uma pergunta sobre os próprios fundadores do Google, relataram usuários.
O Google disse em comunicado na época que estava trabalhando para corrigir os problemas de geração de imagens do Gemini, reconhecendo que a ferramenta estava “errando o alvo”. Logo depois, a empresa anunciou que iria “pausar imediatamente a geração de imagens das pessoas” e “relançar uma versão melhorada em breve”.
Em fevereiro, o CEO do Google DeepMind, Demis Hassabis, disse que o Google planejava relançar sua ferramenta de IA de geração de imagens nas próximas “algumas semanas”, mas ainda não foi lançada novamente.
Os problemas com os resultados de geração de imagens da Gemini reacenderam um debate dentro da indústria da IA, com alguns grupos a chamarem a Gemini de demasiado “acordada” ou de tendência esquerdista, e outros a dizerem que a empresa não investiu suficientemente nas formas corretas de ética da IA. O Google foi criticado em 2020 e 2021 por expulsando os co-líderes de seu grupo de ética em IA depois de publicarem um artigo de pesquisa crítico sobre certos riscos de tais modelos de IA e, posteriormente, reorganizarem a estrutura do grupo.
Em 2023, Sundar Pichai, CEO da empresa controladora do Google, Alphabet, foi criticado por alguns funcionários pelo lançamento mal feito e “apressado” do Bard pela empresa, que se seguiu à disseminação viral do ChatGPT.
Correção: este artigo foi atualizado para refletir o nome correto da visão geral de IA do Google. Além disso, uma versão anterior deste artigo incluía um link para uma captura de tela que o Google confirmou posteriormente ter sido adulterada.
