L’Observatoire des impacts Technologiques Économiques et Sociétaux de l’Intelligence Artificielle (OTESIA) lance aujourd’hui quatre projets autour des IA. Le deuxième de cette liste se concentre sur la prévention du cyber-harcèlement, et plus précisément comment efficacement le contrer?
En Europe, plus d’un tier des jeunes est témoin de propos haineux sur internet. Et parmi eux, pas moins de 6 % de jeunes sont touchés directement par le cyber-harcèlement. Un chiffre qui ne cesse d’augmenter depuis ces dernières années, tant les réseaux sociaux se sont démocratisés et imposés comme d’importants lieux d’échange. Afin de lutter contre cette haine à distance, un projet de logiciel centré sur sa prévention via une IA (Intelligence Artificielle) est lancé par l’OTESIA. Porté par Serena Villata et Elena Cabrio (équipe I3S / Inria) et Catherine Blaya (Université Côte d’Azur – CAPEF-INSPE), ce logiciel a la charge de détecter les messages haineux en se basant sur une analyse du langage naturel. Mais ce n’est pas qu’un simple repérage de mots clés, c’est également une compréhension de la structure argumentative du message dans sa globalité. Le logiciel remarque de quelle forme de haine il s’agit (raciste, xénophobe, à l’encontre d’une religion), et ensuite cherche à comprendre la nature de ce dernier (humour, allusion, implicite, contexte). Le but étant de reconnaître les réels propos haineux, et non pas de simples messages possédants des injures.
Des outils pour les victimes
Prévenir les messages haineux n’est pas le seul objectif du logiciel d’OTESIA. Fournir des contre-mesures pour les victimes de cyber-harcèlement est également prévu par ce projet. Il proposera des réponses potentielles contre les propos tenus par le harceleur, ce qui permet à la personne harcelée de pouvoir se défendre et d’apprendre à le faire seule. Pour produire ces défenses, des interventions auront lieu entre septembre 2020 et janvier 2021 dans six établissements scolaires du secondaire (collèges et lycées). Plusieurs jeux de rôle ayant pour contexte une situation de harcèlement se dérouleront, cela afin d’analyser les propos tenus et les réponses des étudiants. Toutes ces données seront traitées afin de rendre le logiciel plus précis et fonctionnel. Les premiers résultats de ce dernier seront montrés en juin 2021.
