A Meta está redobrando seus esforços para impedir a disseminação de fotos e vídeos íntimos de jovens em seus aplicativos. A empresa anunciou na segunda-feira que o Facebook e o Instagram são membros fundadores do Take It Down, uma nova iniciativa do National Center for Missing and Exploited Children (NCMEC) que tornará mais fácil para jovens usuários e seus pais removerem suas fotos íntimas postadas online. A rede social francesa Yubo, o site adulto PornHub e o serviço de assinatura de conteúdo OnlyFans são outros membros dessa iniciativa.
“Take It Down funciona atribuindo uma impressão digital única, chamada de valor de hash, a imagens ou vídeos nus, parcialmente nus ou sexualmente explícitos de pessoas com menos de 18 anos”, explica o NCMEC. Qualquer pessoa que queira remover uma foto ou vídeo explícito pode acessar este link e selecionar o arquivo em seu telefone ou computador. Observe que isso não carregará o arquivo em nenhum lugar. Em vez disso, o Take It Down analisará o arquivo no dispositivo para criar um “hash” ou impressão digital do arquivo. Esse hash pode identificar uma cópia exata dessa foto ou vídeo em plataformas online compatíveis.
Assim que o hash for criado, o Take It Down o adicionará a uma lista segura mantida pelo NCMEC. As empresas participantes podem usar essa lista para escanear suas plataformas. Se o sistema retornar uma correspondência, ou seja, encontrar uma cópia exata da foto ou vídeo que você deseja remover, ele iniciará uma ação para limitar sua propagação. Eventualmente, ele pode remover o arquivo e também bloquear a conta que o postou. Durante todo esse tempo, sua identidade permanece anônima, protegendo assim sua privacidade. Observe que o Take It Down manterá o hash, para que possa bloquear uploads futuros da mesma foto ou vídeo explícito.
A Meta apoiou financeiramente o desenvolvimento desta iniciativa
Em um comunicado à imprensa, o chefe global de segurança da Meta, Antigone Davis, disse que a empresa apoiou financeiramente o desenvolvimento de Take It Down. Agora está trabalhando com o NCMEC para promover em suas plataformas, incluindo Facebook e Instagram. A rede social biggie também planeja integrar o serviço a essas plataformas, facilitando para os usuários a denúncia de conteúdo potencialmente infrator. O Take It Down provavelmente fará parte do sistema de denúncia de conteúdo existente no Facebook e no Instagram.
Este é o mais recente de uma série de esforços que a Meta fez ao longo dos anos para tornar suas plataformas mais seguras para os jovens. A empresa diz ter desenvolvido mais de 30 ferramentas para apoiar a segurança de adolescentes e famílias em seus aplicativos. Em novembro do ano passado, bloqueou “adultos suspeitos” de enviar mensagens a adolescentes no Instagram e no Facebook. Ela também uniu forças com várias outras empresas no passado para combater o sextortion e impedir o compartilhamento online de qualquer forma de material de abuso sexual infantil (CSAM).