Quando o assunto é mídia social, todos sabemos que além dos muitos benefícios que ela proporciona na criação de conexões mais fácil, também pode haver certos riscos e perigos que acompanham a interação online, especialmente para os jovens. Felizmente, existem aplicativos por aí que estão sendo proativos e tentando limitar esses danos que podem ocorrer aos jovens, implementando tecnologias de moderação adequadas.
Yubo, o aplicativo de descoberta social ao vivo mais usado pela Geração Z, anunciou que sua moderação de áudio de transmissão ao vivo está se expandindo para seus maiores mercados, ou seja, Estados Unidos, Reino Unido, Austrália e Canadá.
Isso ocorre depois de vários meses testando o recurso em algumas áreas dos Estados Unidos, pois a empresa aprendeu a lidar com os problemas que surgem com a análise de áudio em tempo real.
A importância da moderação de conteúdo
Moderar conteúdo online é um trabalho difícil de fazer. Vimos isso com o Facebook, o Twitter, o Instagram e assim por diante. Entre insultos, comentários odiosos ou mesmo, às vezes, violência ou automutilação, a moderação é extremamente importante para manter essas plataformas seguras e seus usuários protegidos. Há algo sobre ser capaz de se esconder atrás do suposto anonimato oferecido pela internet que pode trazer à tona o pior de algumas pessoas.
Bem, o Yubo continua a mostrar que está fazendo tudo o que pode para ajudar a evitar isso, especialmente porque sua base de usuários é muito mais jovem. De acordo com a Yubo, 99% de sua base de usuários é da Geração Z, com idades entre 13 e 25 anos. Embora o assédio online não seja agradável para ninguém, pode ser particularmente prejudicial para os adolescentes.
A tecnologia de moderação de imagem e vídeo já existe há algum tempo e foi implementada com vários estágios de sucesso. Moderação de áudio, no entanto, continua sendo um grande desafio, especialmente com transmissões ao vivo. Seja uma transmissão ao vivo feita enquanto caminhava na rua ou uma em que alguém está jogando videogame, isso realmente não importa.
Como funciona a moderação de áudio do Yubo
A partir de maio de 2022, a Yubo iniciou uma fase de teste para sua tecnologia de moderação de áudio em várias áreas dos Estados Unidos. Agora, a próxima fase inclui a maioria das regiões de língua inglesa onde o Yubo tem uma grande base de usuários para permitir que a empresa obtenha uma melhor visão sobre sua nova ferramenta de segurança.
Embora ainda nova, essa é uma tecnologia que pode acabar sendo amplamente utilizada para detectar violência ou automutilação no futuro.
A Yubo não está fazendo isso sozinha, mas sim em parceria com a Hive. Hive, se você ainda não ouviu falar deles, é uma empresa que cria e fornece APIs de moderação de conteúdo para processar imagens e vídeos quase em tempo real.
A tecnologia que o Yubo implementou funciona gravando e transcrevendo trechos de áudio de 10 segundos em transmissões ao vivo de 10 ou mais pessoas. O texto é imediatamente analisado por inteligência artificial para detectar quaisquer palavras ou frases que violem os padrões do app Diretrizes da comunidade.
Espere, não para por aqui. Embora a inteligência artificial possa ser ótima para detectar essas coisas, ainda está longe do ponto em que pode diferenciar entre usos problemáticos reais e bandeiras falsas.
Falsas bandeiras podem ser, por exemplo, músicas tocando ao fundo ou linguagem lúdica que não é mal-intencionada.
Portanto, é aqui que os especialistas em segurança do Yubo entram em ação, pois são trazidos para investigar os incidentes sinalizados. Os humanos são os únicos que determinam se uma situação requer escalada ou não, se houver ações que deve ser tomada contra as pessoas que usam linguagem imprópria, ou mesmo se a aplicação da lei precisa ser trazida em.
Se a transmissão ao vivo estiver perfeita, nenhuma transcrição será revisada ou mantida além do limite de 24 horas, portanto, tudo permanecerá privado; ou tão privado quanto uma transmissão ao vivo com mais de 10 pessoas pode ser.
No entanto, se os algoritmos detectarem ameaças violentas, discurso de ódio ou autoagressão, por exemplo, as transcrições são armazenadas por até um ano. Esta é, obviamente, uma medida de segurança para a empresa caso a aplicação da lei exija as informações ou a própria empresa precise dos detalhes para futuras investigações internas.
O diretor de operações da Yubo, Marc-Antoine Durand, vê a expansão de moderação de áudio tecnologia como um elemento-chave na evolução da segurança online em todo o setor.
“Ainda há muito progresso a ser feito na área de detecção de voz, mas estamos orgulhosos de abrir um caminho para nossos pares ao sendo o primeiro a lançar a moderação de áudio com o Hive e ajudando a tornar esta ferramenta mais confiável e eficaz durante este teste”, Durand disse.
Obviamente, as plataformas sociais não querem bullying desenfreado, discurso de ódio e comentários que incitem à violência, pois isso afastaria outros usuários. A implementação dessa tecnologia de moderação é uma ótima ferramenta para manter os usuários seguros e também para ajudar a garantir o crescimento e o sucesso do Yubo a longo prazo.
