Depois que um terrorista transmitiu ao vivo pelo Facebook Live seu cerco policial na França, a rede social, assim como o YouTube estão adotando um sistema que passará a bloquear vídeos de grupos extremistas.
O processo é automatizado e funciona através de algoritmos que identificam determinadas características nesse tipo de vídeo e disparam o bloqueio imediato, sem intervenção de um moderador humano.
A tecnologia utilizada é similar àquela adotada para prevenir ou identificar vídeos protegidos por direitos autorais. Segundo a agência de notícia Reuters, fontes próximas às duas empresas revelaram que o mecanismo procura por identificadores digitais específicos e hashes que podem reconhecer vídeos ligados ao Estado Islâmico e grupos similares e que já tenham sido considerados ofensivos.
Embora nem o Google, nem o Facebook tenham se pronunciado oficialmente sobre a questão, as duas empresas são signatárias de um pacto de combate ao conteúdo de ódio, junto com outras empresas de tecnologia. A nova tecnologia permitirá que vídeos de propaganda extremista ou mesmo da violência gráfica praticada por radicais sejam repostados no Facebook ou no YouTube.
