O Google é um dos pioneiros no uso de inteligência artificial. A empresa recentemente anunciado que poderia usar técnicas de IA para analisar as pesquisas dos usuários e detectar se eles estão em crise.
Para fazer isso, o Google desenvolveu modelos de aprendizado de máquina. O modelo mais recente da empresa é chamado MUM, que foi apresentado na conferência IO no ano passado. O Google agora integrou o modelo de aprendizado de máquina MUM com seu mecanismo de pesquisa para fornecer um nível mais alto de análise.
O MUM precisa determinar se os termos de pesquisa podem ser relevantes para alguém em crise. A empresa diz que o objetivo de fazer isso é “detectar com mais precisão uma gama mais ampla de pesquisas pessoais de crise”. Anne Merritt, gerente de produto do Google para saúde e qualidade da informação, diz que as ferramentas de pesquisa comuns não podem fazer isso.
“O MUM é capaz de nos ajudar a entender perguntas mais longas ou complexas como ‘por que ele me atacou quando eu disse que não o amo’”, disse Merrit ao The Verge. “Pode ser óbvio para os humanos que essa consulta é sobre violência doméstica, mas consultas longas e em linguagem natural como essas são difíceis para nossos sistemas entenderem sem IA avançada”.
Google usa pesquisas de IA para detectar se um usuário está passando por uma crise
Pesquisar as consultas relacionadas ao suicídio é um grande campo de trabalho para o MUM. Anteriormente, a busca por termos como “maneiras mais comuns de completar o suicídio” ou “pontos quentes de suicídio em Sydney” era entendida como busca de informações.
No entanto, agora o MUM pode detectar essas filas e fornecer aos usuários uma opção “Ajuda disponível”. Geralmente contém números de telefone e sites de instituições de caridade de saúde mental como os samaritanos.
Além de prevenir suicídio e atividades arriscadas, o Google tomou medidas para reduzir o acesso a conteúdo pornográfico. A empresa usa um modelo de linguagem de IA mais antigo chamado BERT para detectar pesquisas de conteúdo explícito, especificamente pornografia. O Google disse que o uso do BERT pode reduzir resultados inesperados e chocantes em 30% ano a ano.
O impacto e o uso da inteligência artificial em vários departamentos do Google aumentaram significativamente. Há alguns dias, o Google anunciou que poderia bloquear 100 milhões de edições abusivas no Maps graças à IA.
É claro que o uso da IA pode ser uma faca de dois gumes e, com muitos benefícios, há riscos, como a introdução de vieses e desinformação nos resultados da pesquisa.