Instagram met au point une intelligence artificielle pour lutter contre le cyber-harcèlement

Tout comme ses rivaux, Instagram n’échappe pas au phénomène du harcèlement en ligne. Le réseau social vient donc d'annoncer le déploiement d’une fonctionnalité anti-harcèlement faisant appel au "machine learning" ("apprentissage automatique", en français) pour détecter automatiquement les tentatives d'intimidation. Cette intelligence artificielle, développée en interne par l'entreprise, sera chargée de passer au crible les images publiées sur la plateforme, ainsi que les commentaires, afin d’y déceler diverses formes de harcèlement. 

Les publications offensantes seront envoyées à des modérateurs humains pour effectuer la vérification finale et procéder, éventuellement, à leur suppression. "Ce changement va nous aider à identifier et éliminer nettement plus de messages de harcèlement - et c'est une étape cruciale car de nombreuses personnes qui subissent ou observent des tentatives de harcèlement ne les signalent pas", explique le nouveau responsable d'Instagram, Adam Mosseri, dans un post de blog. 

En mai dernier, le réseau social avait déjà annoncé l’arrivée d’un outil permettant de filtrer les commentaires offensants sous une publication. D’ici peu, cette fonction sera également étendue aux vidéos en direct. "Cela nous aidera également à protéger les membres les plus jeunes de notre communauté, car les adolescents subissent davantage le harcèlement en ligne. Le déploiement de cette nouvelle technologie va se poursuivre au cours des prochaines semaines", souligne Adam Mosseri.

L'option "Masquer les commentaires offensants" sera activée par défaut dans le menu des paramètres de l'application. Les utilisateurs pourront également y indiquer manuellement les termes qu'ils souhaitent filtrer dans leurs commentaires ou bien encore choisir de filtrer automatiquement les mots les plus souvent signalés. 

Le réseau social a également annoncé le lancement, en partenariat avec l'actrice Maddie Ziegler, d'un nouveau filtre photo baptisé "Kindness camera effect" (en français, "effet caméra gentille") afin de "répandre la gentillesse" autour de soi. Lorsqu'on l'utilise, l'arrière-plan de la vidéo se remplit de "commentaires aimables en de nombreuses langues".  Et si vous basculez votre caméra en mode frontale, des cœurs s’afficheront et l'application vous demandera de "taguer un ami que vous souhaitez soutenir".