A Twitch quer tornar o ambiente nos chats das transmissões online (streaming) de jogos mais amigável e livre de assédio. Para ajudar a atingir este objetivo, a empresa anunciou que vai passar a usar a ferramenta Suspicious User Detection, um sistema que tira partido de Inteligência Artificial, para detetar os jogadores que apresentem maiores probabilidades de estarem a tentar evadir-se de ordens de expulsão.
A ferramenta usa um algoritmo de aprendizagem automática e avalia fatores como o comportamento do utilizador ou características das contas e os compara com dados de contas que estão registadas como banidas de determinados canais. O sistema impede que as mensagens das contas que se apresentam como ‘provavelmente banidas’ sejam publicadas nos chats, mas os streamers ainda as conseguem ver. Depois, o detentor do canal ou os moderadores podem optar por começar a monitorizar as mensagens destes utilizadores. Por outro lado, os utilizadores que sejam ‘possíveis evasores’ aparecem nos chats por defeito, com os streamers e moderadores a poderem optar por bloqueá-las também, explica o The Verge.
Apesar de a ferramenta estar ligada por definição, os streamers podem ajustar os seus parâmetros ou desligá-la completamente, podendo ainda optar por uma monitorização manual dos que forem identificados.
Alison Huffmna, diretora de produto da Twitch, explica que o desenvolvimento deste sistema teve por base o feedback dado pelos moderadores, que apontavam a dificuldade de distinguir os ofensores repetidos dos utilizadores novos nos canais e que estivessem a prevaricar por desconhecimento das normas do canal.
A ferramenta vai começar agora a ser usada, pelo que ainda não há evidências de que possa ser verdadeiramente eficiente a ajudar os moderadores de chats a remover o conteúdo e utilizadores ofensivos.
