Como parte de seus esforços para criar uma plataforma segura para todos os usuários, especialmente os mais jovens, o TikTok está lançando uma nova versão de seu modelo sugestivo limítrofe. Este modelo identificará automaticamente conteúdo sexualmente explícito, sugestivo ou limítrofe. Portanto, ajudando o TikTok a identificar vídeos que não violam necessariamente as diretrizes da comunidade, mas podem não ser adequados para o público mais jovem.
O novo modelo visa criar um ambiente mais seguro para os usuários mais jovens
De acordo com o TikTok, o modelo atualizado é mais preciso e eficiente na identificação de conteúdos que podem não ser apropriados para todos os espectadores. Isso é especialmente importante devido à popularidade da plataforma entre os adolescentes. Ao identificar e remover com mais eficácia esse tipo de conteúdo, o TikTok visa criar um ambiente mais seguro e familiar para seu público mais jovem.
“Estamos progredindo para reduzir a prevalência de recomendações de conteúdo limítrofe ou sugestivo em geral e agora estamos lançando a próxima iteração de nosso modelo sugestivo limítrofe, que esperamos melhorar a detecção de tal conteúdo, criando assim uma experiência mais apropriada e confortável para contas de adolescentes. titulares”, disse o TikTok em um post no blog.
Desafios na detecção e remoção de conteúdo limítrofe
Enquanto outras plataformas, como o Instagram, também tentaram filtrar o conteúdo limítrofe das recomendações, historicamente tem sido difícil para os sistemas automatizados detectar consistentemente conteúdo com temas mais “maduros” que não contenham nudez explícita. Isso ocorre porque a linha entre “conteúdo limítrofe sugestivo” e conteúdo aceitável pode ser subjetiva. A empresa precisará garantir que o novo modelo seja justo e não remova conteúdo injusto que alguns usuários possam considerar aceitável.
O TikTok não forneceu detalhes específicos sobre o quão mais preciso é o novo sistema, mas a empresa disse que “impediu que contas de adolescentes exibissem mais de 1 milhão de vídeos abertamente sexualmente sugestivos” nos últimos 30 dias.