En mai dernier, Twitter a testé une nouvelle fonctionnalité afin de lutter contre les commentaires potentiellement nuisibles. Ainsi, lorsqu’un utilisateur est sur le point de tweeter et que l’IA du réseau social estime que cette publication pourrait être offensante, ce dernier est prévenu. Il peut alors faire le choix de maintenir sa réponse, de la modifier, ou de la supprimer.
Lancée à destination des utilisateurs anglophones du réseau social sur Android, iOS et sur le web, cette expérimentation avait été mise en pause. Cité par Techcrunch, la plateforme explique : « Nous avons suspendu l’expérience une fois que nous avons réalisé que l’invite était incohérente et que nous devions être plus conscients de la façon dont nous avons généré des tweets potentiellement dangereux (…) »
Depuis, la compagnie indique avoir retravaillé sa formulation et la manière dont elle appréhende les propos potentiellement offensants. Il en va ainsi des insultes ou des remarques haineuses. L’idée est aussi de mieux évaluer les tweets qui s’apparentent à du second degré entre des utilisateurs qui se connaissent. Dès lors, Twitter examine les relations entre les auteurs pour éviter de signaler des blagues entre amis.
Un système similaire existe sur Instagram
Notons que pour l’instant, cette nouvelle phase de test n’a été lancée que sur iOS. Les twittos sont d’ailleurs appelés à collaborer afin d’améliorer le système. Ainsi, lorsqu’ils reçoivent une alerte pour un message et qu’ils estiment que ce dernier a été mal interprété, ils peuvent faire remonter l’erreur afin d’améliorer l’IA de détection mise en place par Twitter.
Pour rappel, Instagram utilise aussi de son côté un outil similaire afin de lutter contre le harcèlement et les intimidations en ligne. « Cette intervention donne aux utilisateurs une opportunité de réfléchir et d’annuler leur commentaire, et elle évite ainsi au destinataire de recevoir la notification de commentaire malveillant », expliquait alors le réseau social lors du lancement de cette fonctionnalité en 2019.
(Source – Techcrunch)