Discord admite falha em caso de adolescente morta em live
Hoffman afirmou que a plataforma tem moderação proativa e reativa, combinando automação e equipes especializadas. Ele disse que cerca de 15% da empresa atua em segurança, com centenas de pessoas em funções de moderação, e que há profissionais que entendem português e conhecem o mercado brasileiro.
Executivo atribuiu parte da dificuldade à escala e ao equilíbrio entre detectar mais riscos e evitar falsos positivos. Ele afirmou que sinais iniciais podem vir de denúncias de usuários ou de autoridades e que modelos de aprendizado de máquina ajudam a priorizar o que vai para revisão humana.
Como eu disse, esses modelos trabalham em conjunto com nossas equipes especializadas. Às vezes, o primeiro sinal vem de denúncias de usuários ou das próprias autoridades policiais. Os modelos pontuam os servidores com base nos sinais disponíveis e são calibrados para equilibrar precisão e abrangência.
Jud Hoffman, vice-presidente de Segurança e Confiança do Discord, ao O GLOBO
Discord diz que o servidor ligado ao caso era novo e pequeno e não foi sinalizado a tempo para revisão humana. Hoffman afirmou que a empresa trabalha para melhorar os modelos e os esforços de segurança após o episódio.
No caso da menina, o servidor era novo e pequeno. Tinha sido criado há menos de duas horas. As informações disponíveis não acionaram nosso modelo de aprendizado de máquina para encaminhá-lo à revisão humana. Não fomos rápidos o suficiente, mas estamos sempre trabalhando para melhorar esses modelos e os esforços de segurança.
Jud Hoffman, vice-presidente de Segurança e Confiança do Discord, ao O GLOBO
Questionado sobre a criptografia de ponta a ponta em chamadas de voz e vídeo, Hoffman disse que o recurso não torna servidores invisíveis à empresa. Ele afirmou que textos não são criptografados e que metadados, convites, denúncias e uploads seguem visíveis para os sistemas de segurança.
