Un outil de détection automatique des harceleurs anonymes

Cyberharcelement

Written by moonsjok

décembre 5, 2021

Twitch a annoncé ce mardi l’introduction d’un système de détection des utilisateurs malveillants qui créent de nouveaux comptes anonymes pour revenir sur des chaînes qui les ont bannis. Le phénomène est problématique et crée beaucoup de cyberharcèlement.

La plateforme de jeux vidéo peine depuis quelques mois à endiguer la vague de harcèlement raciste et homophobe contre certains créateurs de contenus. Des personnes non-blanches ou de la communauté LGBT+ sont notamment victimes de « hate raids » (raids de haine) en ligne.

Des messages masqués  Les harceleurs viennent dans les chats des victimes et inondent les échanges d’insultes ou d’images choquantes. Si le créateur les bannit, certains reviennent en créant un nouveau compte. Baptisé Suspicious User Detection, le nouvel outil « est là pour vous aider à identifier ces utilisateurs en fonction de certains signaux » afin d’aider les créateurs à « prendre des mesures », indique Twitch.

Plus d’infos : twitch.app.link/SUD21-FR

Des messages masqués

Les harceleurs viennent dans les chats des victimes et inondent les échanges d’insultes ou d’images choquantes. Si le créateur les bannit, certains reviennent en créant un nouveau compte. Baptisé Suspicious User Detection, le nouvel outil « est là pour vous aider à identifier ces utilisateurs en fonction de certains signaux » afin d’aider les créateurs à « prendre des mesures », indique Twitch.

Le programme créé avec du machine learning distinguera les fraudeurs « probables » et « possibles ». Dans le premier cas, leurs messages n’apparaîtront pas en public, seuls le joueur et ses modérateurs les verront. À charge à eux de décider ensuite de les surveiller ou de les bannir.

You May Also Like…

0 commentaires

Soumettre un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *