L’Oversight Board a publié deux décisions concernant la gestion par Meta des contenus générés par intelligence artificielle. Dans un communiqué, l’organe de contrôle indépendant estime que les règles de l’entreprise sont « systématiquement et fondamentalement inadéquates » face à la propagation rapide de ces contenus sur ses plateformes.
Deux cas de vidéos deepfake
Les deux affaires portent sur des publications contenant des vidéos générées par IA. Dans la première, une personnalité politique écossaise apparaît tenant des propos qu’elle n’a pas prononcés : « les réfugiés sont les bienvenus ici, même s’ils violent nos femmes, parce que les Blancs font ça aussi ». Selon l’Oversight Board, la vidéo est une représentation synthétique réaliste. La personne dont la voix a été imitée a qualifié l’effet de cette vidéo de « assez traumatisant ».
Meta a expliqué au conseil ne pas avoir retiré la vidéo lorsqu’elle a été signalée, car elle n’avait pas été signalée par ses organisations partenaires de confiance et ne semblait pas interférer avec un vote ou d’autres processus. La vidéo n’était pas non plus étiquetée comme générée par IA, apparemment parce que l’auteur de la publication n’avait pas choisi de divulguer qu’elle avait été créée avec de l’IA. L’Oversight Board a conclu que la vidéo aurait dû être retirée pour violation des règles de Meta sur les discours haineux et être clairement étiquetée comme contenu IA.
La seconde affaire concerne également une vidéo générée par IA représentant une personne réelle. Elle était basée sur une interview télévisée d’une bénévole faisant la promotion de l’éducation à la santé menstruelle. Après la diffusion initiale, des comptes sur diverses plateformes sociales ont manipulé numériquement les images pour ridiculiser la personne, et ces vidéos sont devenues virales. Selon le conseil, Meta a automatiquement clos un signalement et un recours ultérieur concernant cette publication, qui n’a jamais été étiquetée comme générée par IA. Meta n’a retiré la vidéo pour violation de ses règles sur le harcèlement qu’après l’intervention de l’Oversight Board.
Un schéma plus large
Pour l’Oversight Board, ces deux cas illustrent comment les contenus IA sont utilisés pour cibler des personnes sur les plateformes et comment l’absence d’étiquetage cohérent aggrave les préjudices. « Des politiciens aux citoyens ordinaires, les deepfakes générés par IA sont de plus en plus utilisés pour harceler et faire taire les femmes dans le débat public », a déclaré Pamela San Martin, coprésidente de l’Oversight Board. « Ces cas démontrent un schéma plus large et troublant dans lequel les femmes qui s’engagent publiquement sur des questions sont exposées de manière disproportionnée au harcèlement et à la désinformation. »
Cette critique n’est pas isolée. L’Oversight Board, qui formule des recommandations politiques à Meta, a déjà critiqué à plusieurs reprises l’approche de l’entreprise en matière de contenus IA et appelé à de nouvelles règles. La question centrale est de savoir si Meta prend réellement en compte l’avis du conseil. Jusqu’à présent, l’entreprise a peu modifié ses étiquettes IA, qui consistent généralement en un petit bandeau indiquant « AI Info ». Elle n’a pas non plus accepté de mettre en œuvre de nombreuses recommandations du conseil sur l’étiquetage IA dans d’autres affaires récentes.
Recommandations et délais
Meta dispose de 60 jours pour répondre aux dernières recommandations du conseil. Parmi celles-ci figure la priorisation des contenus susceptibles d’être générés par IA lorsqu’ils sont signalés. Sollicitée pour commenter ces nouvelles critiques, Meta n’a pas répondu.
Ce qui est confirmé : la publication des deux décisions, les faits décrits dans chaque affaire, les recommandations du conseil et le délai de 60 jours accordé à Meta. Ce qui reste inconnu : la réponse que Meta apportera dans ce délai et l’éventuelle mise en œuvre de ces recommandations.
