Cart

Your Cart is currently empty.

Fill Cart with Goods

Facebook diz que sistema de análise de “nudes” terá moderação humana

Um projeto piloto que está sendo realizado pelo Facebook, em parceria com o governo da Austrália, apresenta uma solução inusitada para evitar a proliferação do pornô de vingança. A ideia é que os usuários enviem seus próprios “nudes” para a rede social, de forma que eles sejam identificados e catalogados por moderadores humanos em um banco de dados, de forma a impedir que as imagens sejam publicadas por terceiros.

É uma ferramenta que funciona, basicamente, como a que já existe hoje, na qual as vítimas podem apontar páginas, usuários ou grupos que estejam compartilhando suas cenas íntimas. A ideia, entretanto, é agir antes mesmo que isso aconteça, com profissionais treinados servindo para criar um sistema que permita antecipação às campanhas de divulgação de imagens.

Em atividade desde o começo da semana, o novo sistema funciona por meio de um perfil no Messenger, ligado à Comissão de eSegurança do governo da Austrália. A conta faz interface com um sistema de formulários no site da instituição e, ao receber uma denúncia, notifica o Facebook sobre isso. Então, um especialista da companhia é o responsável por analisar a imagem e criar um “hash” – espécie de identidade digital matemática de um arquivo, usado para comparação com outros que sejam hospedados na rede.

Apenas esse atributo é armazenado pelo Facebook, com o usuário sendo avisado para que exclua o arquivo enviado pelo Messenger – o que leva, também, à sua destruição pela empresa e também pelo governo. A partir daí a ideia é que os “nudes” não possam mais ser hospedados na rede social, uma vez que todas as fotos enviadas pelos usuários passam por esse tipo de verificação.

De acordo com o governo australiano, a medida protetiva também pode ajudar no caso de fotos íntimas que são disseminadas de forma mais generalizada, dificultando o trabalho de localização de cada página ou usuário envolvido nisso. Indicando seus próprios “nudes” à rede social, o usuário pode indicar o caráter das imagens compartilhadas e, sendo assim, cortar o compartilhamento pela raiz.

Ambos entendem, por outro lado, que a passagem das imagens potencialmente vazadas por mãos humanas pode acabar constrangendo ou limitando o alcance da solução. É justamente por isso que tanto o Facebook quanto a comissão de segurança digital garantem que ninguém, além do próprio especialista, terá acesso aos arquivos.

E mesmo esse moderador poderá visualizar a imagem de maneira restrita, somente pelo tempo necessário para verificação. A criação do hash é automatizada e, na sequência, mediante ação do próprio usuário, todos os dados são deletados dos servidores governamentais e da própria rede social.

Para garantir isso e também dar mais legitimidade ao processo, também participam do projeto piloto ONGs relacionadas a vítimas de pornô de vingança, advogados e outros especialistas em segurança digital, muitos dos quais, inclusive, contribuíram com imagens para criação de um banco de dados inicial. O Facebook, entretanto, não revelou os resultados preliminares do experimento nem disse se pretende levar a iniciativa para outros países.

Fonte: Gadgets 360

Comments