Plusieurs réseaux sociaux travaillent sur des solutions pour lutter contre le harcèlement. En octobre, Instagram a commencé à autoriser les utilisateurs à masquer les commentaires d'une personne sans avoir à les bloquer. Maintenant, la société a commencé à fournir un autre outil qui vise à réduire le nombre de publications inappropriées.
Cette nouveauté, qui sera dans un premier temps disponible sur des "marchés sélectionnés", consiste à envoyer une notification à l'utilisateur qui tente de poster une image ou une vidéo contenant une légende offensante. L'alerte, qui sera envoyée avant la publication du contenu, est émise par un système qui utilise l'intelligence artificielle et est alimentée par une base de données qui rassemble les mots et expressions associés au harcèlement signalés par les membres au cours des derniers mois.
Cette notification peut facilement être ignorée, mais Instagram espère que cela incitera les utilisateurs à repenser la légende de l'image ou de la vidéo qu'ils vont publier. Si l'on s'arrête pour y réfléchir, cette mesure est pédagogique et vise à sensibiliser les gens à leurs actions sur le réseau social, en précisant très clairement que certaines approches ne sont pas autorisées, ce qui peut causer des problèmes en cas de violation des règles, comme un temporaire ou interdiction définitive.
Utiliser l'intelligence artificielle est parfaitement logique, après tout, Instagram est un gigantesque réseau social et surveiller les messages offensants avec des modérateurs humains est impossible. De plus, étant donné que les algorithmes de cette fonctionnalité ne sont pas encore précis, notifier plutôt qu'interdire la publication est une excellente idée, car cela évite au réseau social de faire des erreurs.
Comme indiqué précédemment, cette nouvelle arrivera en premier sur "des marchés sélectionnés", mais Instagram n'a pas précisé lesquels. Attendons plus de détails.
