No que só pode ser descrito como uma experiência embaraçosa, o Google Fotos pode ser acidentalmente racista. Bem, tanto quanto um algoritmo de computador pode ser. No que parece ser um grande descuido de seus desenvolvedores, o Google Fotos – que recentemente adicionou um novo recurso que pode identificar rostos, objetos ou até mesmo animais de fotos armazenadas – parece ter marcado incorretamente um casal negro como gorilas. Caramba.
A pessoa que fez a descoberta foi rapidamente contatada por um desenvolvedor do Google no Twitter, que se desculpou sinceramente pela confusão, removendo totalmente a tag “gorilas” do serviço até que eles pudessem resolver as coisas. Quanto a evitar essa bagunça no futuro, o desenvolvedor do Google, Yonatan Zunger, disse o seguinte:
“Também estamos trabalhando em correções de longo prazo em relação à linguística (palavras para ter cuidado em fotos de pessoas [lang-dependent] e o próprio reconhecimento de imagem. (por exemplo, melhor reconhecimento de rostos de pele escura). Muito trabalho sendo feito, e muito ainda a ser feito. Mas estamos muito empenhados nisso.”
Esta não é a primeira vez que os computadores são acusados de erros semi-“racistas”. Não muito tempo atrás, a HP foi criticada depois que as webcams de seus computadores não conseguiram identificar os negros, e havia até uma câmera que perguntava se os asiáticos estavam piscando.
É claro que o software de reconhecimento do Google ainda precisa de alguns ajustes. É apenas na situação acima que as coisas ficam estranhas. Ninguém realmente fica ofendido quando o Google Fotos marca incorretamente seu gato como um cachorro. Bem, não a menos que você seja um gato.
[Twitter | via Ars Technica]