Para o bem ou para o mal, o Google liberou sua IA de busca. Você provavelmente já viu, pode ter odiado e definitivamente já viu todo mundo reclamar disso. Nada disso importa – veio para ficar.
Mas não pode permanecer na forma atual porque é muito fácil de quebrar. Esse é o problema da IA; uma vez que encontre algo que exija uma decisão, tomará a decisão errada com a mesma frequência que a decisão certa.
Então, o que pode ser feito? Nada fácil, isso é certo.
Sejamos realistas por um momento. É divertido ver todo mundo tentando quebrar a IA e postar as capturas de tela, mas não é tão ruim assim. Como alguém que a usa no beta fechado inicial e no beta aberto do Google Search Labs, posso dizer que você se acostuma e muitas vezes a ignora.
É fácil fazer o Google dizer coisas estúpidas na visão geral da IA – basta fazer perguntas estúpidas. Se você fizer perguntas “normais” como “Como está o tempo?” ou “Quem assinou a Carta do Mangá?” ele sempre cospe a resposta certa. Se você quiser saber qual telefone Android é o melhor, ele lhe dará um resumo de uma das análises mais populares.
De qualquer forma, passar por ele é bastante fácil, e temos feito isso para passar pelos anúncios, então estamos acostumados.
O Google tentará dizer que isso não é realmente um problema por causa disso, mas isso não é verdade; às vezes, você precisa de uma resposta para uma pergunta estúpida. Quando a IA se depara com algo em que não foi bem treinada, ela não tem ideia do que é fato versus ficção. O resultado é dizer para você colocar cola na pizza ou outra resposta igualmente boba como resumo.
Essas ideias ridículas não surgem do nada. O Google pagou muito dinheiro para vasculhar lugares como o Reddit em busca de “conhecimento”, para que sua IA possa tentar obter respostas. Se você já esteve no Reddit, sabe por que isso é um problema – o Reddit é uma fossa de postagens de merda, onde o absurdo recebe o mesmo peso que postagens e respostas sinceras.
Se você fizer ao Google uma pergunta comum que ele “entende”, obterá a resposta certa. Quando você pergunta sobre comer pedras, você ouve o que algum idiota do Reddit disse sobre isso. Para ser claro, não estou bravo com os shitposters. Eu faço minha parte nisso. Mas a IA do Google não entende o conceito de shitposting e o trata como se fosse algo sério.
Este é um excelente exemplo de como a IA realmente é burra: entra lixo, sai lixo. Já ensinamos a Pesquisa Google como postar merda e só foi lançado há algumas semanas. Agora o Google tem que ensiná-lo a parar de fazer isso no horário comercial.
É fácil ver por si mesmo. Ignore as capturas de tela cortadas que você vê e faça a mesma pergunta ao Google. Após o resumo da IA, você encontrará um link para o material de origem. O Google não está inventando essas respostas e costuma citar palavra por palavra de uma página na internet. Quando o Google diz que o Quênia não existe, é porque alguém do Hacker News “ensinou” isso.
Este é também o verdadeiro problema para os editores da Internet. Alguns estão dentro do beisebol: especialistas trabalham para tentar manipular o sistema para que o algoritmo de busca do Google encontre seu conteúdo e o classifique na primeira página dos resultados de busca. Esta é uma indústria inteira, e os novos fragmentos de IA irão interrompê-la porque o conteúdo não será copiado ou ponderado da mesma forma. Os editores da Web disseram que os trechos de texto antigos seriam o fim do mundo pelos mesmos motivos, mas não foi.
Agora, os especialistas em SEO terão que tentar garantir que o primeiro parágrafo de qualquer página da web seja captado pela IA. Eles vão descobrir e, em vez de postagens sem sentido do Reddit, o resumo será de algum blog de fábrica de SEO tentando vender porcarias baratas sem as quais “todos na sua área não podem viver”.
como o Google é tão péssimo em seu trabalho pic.twitter.com/bdx97oZNv623 de maio de 2024
Então, sim, há muita coisa errada com a pesquisa de IA tanto para o Google quanto para editores da web. Também não é fácil de consertar, mas o Google diz que está recebendo feedback. Em uma declaração ao 9to5Google, um porta-voz da empresa afirma que a “grande maioria das visões gerais de IA fornece informações de alta qualidade”, ao mesmo tempo que fornece links para você se aprofundar, caso não confie na IA para fazer isso por você. Eles também observaram que alguns dos exemplos que circulam na web foram “manipulados” ou não puderam ser reproduzidos pelos funcionários da empresa.
“Realizamos testes extensivos antes de lançar esta nova experiência e, como acontece com outros recursos que lançamos na Pesquisa, agradecemos o feedback”, disse o porta-voz ao 9to5Google. “Estamos tomando medidas rápidas quando apropriado de acordo com nossas políticas de conteúdo e usando esses exemplos para desenvolver melhorias mais amplas em nossos sistemas, algumas das quais já começaram a ser implementadas”.
Claro, a solução perfeita é o Google reconhecer a experiência do lixo típico da Internet e filtrar adequadamente o absurdo para lhe dar a resposta. Não importa quão inteligente alguém afirme ser, um computador não pode fazer isso.
O Google também não quer usar seres humanos vivos e que respiram para resolver tudo isso, porque isso exigiria um exército de trabalhadores pelos quais o Google não quer pagar e seria um pesadelo logístico. No final, o Google criou essa bagunça e agora tem que gastar alguns desses preciosos bilhões de dólares para encontrar a solução. Sundar e a empresa podem pagar.
Por sua vez, os editores da web precisarão parar de depender de maneiras de manipular o sistema por meio de SEO e escrever conteúdo bom e preciso de especialistas, esperando que o Google o entenda assim que “aprender” a diferença. Isso é bom para nós, por isso não pode acontecer em breve.
Enquanto isso, você só precisa passar por ele.