O banco de dados de conteúdo terrorista violará sua privacidade?

Propaganda

Facebook, Twitter, Microsoft e YouTube anunciaram que eles trabalhariam juntos para criar um banco de dados massivo. Este banco de dados conterá imagens e vídeos usado por redes terroristas Crime, terrorismo e segurança: o lado sombrio das mídias sociaisA mídia social não é apenas memes de gatos e vídeos de brincadeiras. Os usuários do Facebook, Twitter e Tumblr podem facilmente encontrar material mais escuro distribuído por grupos terroristas tecnologicamente qualificados. O que você deve fazer sobre isso? consulte Mais informação espalhar propaganda e alcançar potenciais recrutas. O banco de dados alertará essas empresas quando algo em seu site provavelmente viola seus termos de uso.

Parece uma boa ideia, certo?

Os detalhes

A partir de agora, os detalhes são um pouco incertos. Cada imagem e vídeo no banco de dados terá uma "impressão digital única" e as empresas serão alertadas quando esse conteúdo aparecer em seu site. No início do programa, as empresas adicionarão apenas "as imagens e vídeos terroristas mais extremos e flagrantes" ao banco de dados.

A idéia é que essas imagens e vídeos tenham maior probabilidade de violar a termos de uso Por que você deve ler os Termos de Serviço, fazer o Pokemon GO Go Away... [Tech News Digest]Todo mundo pula os Termos de Serviço, o PokeGone transforma o Pokemon GO em Pokemon NO, o Facebook mantém suas conversas em segredo, a Blizzard silencia os jogadores do World of Warcraft e Samuel L. Jackson explica Game of Thrones. consulte Mais informação de todas as plataformas. Isso facilita a remoção desse conteúdo se ele aparecer em outro lugar. Cada empresa decide qual imagem e vídeos devem estar no banco de dados. Eles também têm o poder de decidir se devem remover o conteúdo, se ele aparecer no site deles.

Isso é tudo o que sabemos até agora. O Twitter espera que “essa colaboração leve a uma maior eficiência à medida que continuamos aplicando nossas políticas para ajudar a conter a questão global urgente de conteúdo terrorista on-line ". Mas nós realmente não sabemos muito longe. Quem decidirá qual conteúdo contribuir? As empresas criarão comitês de revisão independentes para esse tipo de coisa? Ou eles irão adicionar algumas coisas de vez em quando quando quiserem?

Um registro ruim

É realmente difícil policiar conteúdo on-line. Seja desinformação, abuso, vídeos de recrutamento terrorista Como as plataformas de mídia social enfrentam extremistasAs redes de mídia social apresentam uma ferramenta poderosa para grupos terroristas, principalmente para propaganda e recrutamento. Então, o que o Facebook e o Twitter estão fazendo sobre isso? Como as redes sociais podem combater o terrorismo? consulte Mais informação , ou um dos inúmeros outros tipos de conteúdo ruim on-line, há um campo minado de problemas inerentes ao processo. Quem decide quais grupos se qualificam como terroristas? Como é tomada a decisão de remover o conteúdo? As empresas vão procurá-lo ou confiarão nos usuários para denunciá-lo?

A Microsoft, em sua declaração sobre conteúdo terrorista online, disse o seguinte:

Quando o conteúdo terrorista em nossos serviços de atendimento ao consumidor for trazido à nossa atenção por meio de nossa ferramenta de denúncia on-line, nós o removeremos.

E eles fornecem um link para um formulário usado especificamente para denunciar conteúdo terrorista. Mas qual a probabilidade de alguém realmente procurar e usar esse formulário? Eles também dizem que "removerão links do Bing para conteúdo relacionado a terroristas somente quando essa remoção for exigida dos provedores de pesquisa de acordo com a lei local".

Isso coloca ainda mais a responsabilidade em outro lugar.

Questões de Responsabilidade

A Electronic Frontier Foundation escreveu extensivamente sobre as dificuldades de policiar esse tipo de conteúdo on-line. Em um post de 2014, eles criticaram o plano do Reino Unido de obrigar os ISPs a bloquear "conteúdo extremista" sem procedimentos de transparência e responsabilidade. Grupos de direitos humanos também criticaram a França por ter definições muito amplas de atividade terrorista.

Tanto o Twitter quanto o Facebook têm registros bastante ruins com policiando o conteúdo em seus sites Como as plataformas de mídia social enfrentam extremistasAs redes de mídia social apresentam uma ferramenta poderosa para grupos terroristas, principalmente para propaganda e recrutamento. Então, o que o Facebook e o Twitter estão fazendo sobre isso? Como as redes sociais podem combater o terrorismo? consulte Mais informação . Embora o Twitter tenha excluído mais de 100.000 contas do Twitter relacionadas ao ISIS e começado a policiar discursos de ódio grupos mais fortemente, eles têm uma má reputação por deixar o extremismo e o abuso correrem desenfreados plataforma. O Facebook também parece contente em continuar usando uma abordagem interativa sob a bandeira da liberdade de expressão.

Claro, é muito difícil gerenciar esse tipo de responsabilidade. Não estou dizendo que é fácil. Mas as empresas de tecnologia são hábeis em se distanciar daquilo para o qual sua tecnologia é usada. Isso inclui a propagação de imagens, vídeos, campanhas de recrutamento e outros conteúdos terroristas. Em agosto de 2016, um Relatório britânico afirmou que o Facebook, Twitter e YouTube estavam "conscientemente falhando em combater o uso de seus sites para promover terrorismo e assassinatos".

Não é provável que o estabelecimento de um banco de dados de imagens e vídeos mude isso. É encorajador que eles estejam agindo, mas é difícil imaginar que isso seja mais do que um pouco de coração.

Isso pode ser um problema de privacidade?

Como as empresas adicionam itens manualmente ao banco de dados depois que os usuários os reportam, isso não acontece. parece que existe a chance de suas imagens ou vídeos acidentalmente encontrarem o caminho para o base de dados. O que é encorajador. No entanto, a criação de um enorme banco de dados central cheio de conteúdo "ruim" identificado exclusivamente é preocupante.

Isso ocorre principalmente porque as pessoas responsáveis ​​na época decidem o que é considerado “ruim”. Isto é especialmente verdade se houver envolvimento do governo. Você pode fazer parte da maioria em um dia e em uma minoria perseguida no dia seguinte. A implantação desse tipo de tecnologia torna esse tipo de mudança ainda mais assustador.

Obviamente, não há indicação de que essas empresas usem esse banco de dados para qualquer coisa que não seja a aplicação negligente de suas próprias diretrizes de termos de uso. Mas o fato de organizações privadas terem se desenvolvido e implantado essa tecnologia pode ter algumas pessoas preocupadas. Os governos certamente já possuem uma tecnologia de vigilância tão poderosa, mas a proliferação pode ser um sinal de que as empresas terão as ferramentas para coletar mais informações em um futuro próximo.

No momento, não há motivos para se preocupar com o risco de sua privacidade ser ameaçada pelo banco de dados de conteúdo terrorista. Mas organizações de privacidade e advocacia Quem está lutando em seu nome contra a NSA e por privacidade?Existem vários grupos de ativismo da Internet que estão lutando em seu nome por privacidade. Eles estão fazendo o possível para educar os internautas também. Aqui estão apenas alguns deles que são incrivelmente ativos. consulte Mais informação faria bem em manter um olho na implantação desse tipo de tecnologia em outro lugar.

Um passo a frente?

É bom ver que as empresas de tecnologia estão intensificando e sendo proativas sobre o conteúdo terrorista em suas plataformas. Mas o registro deles é cheio de aplicação negligente e negligência voluntária. Essa ferramenta ajudará a mudar isso? Parece improvável. (A menos que eles o automatizem, o que vem com uma série de outros problemas.) Na minha opinião, esse banco de dados não mudará muito e O Twitter, Facebook, Microsoft e YouTube muito bem o conceberam como uma medida de relações públicas, em vez de uma medida realmente destinada a faça o bem.

O que você acha? Esse banco de dados ajudará a combater a disseminação de conteúdo terrorista online? Ou é um gesto vazio em um esforço para atrair alguma admiração do público? Compartilhe seus pensamentos nos comentários abaixo!

Créditos da Imagem: Yunava1 / Shutterstock