POUR UNE IA AU SERVICE DE LA PAIX AFRICAINE

Dans une déclaration pour la 4e Journée internationale de lutte contre les discours de haine, Adama Dieng dénonce la propagation "à échelle industrielle" de messages haineux sur les réseaux sociaux africains. L'envoyé spécial de l'Union africaine appelle ci-dessous, à des coalitions pour reconquérir des espaces numériques sûrs.

"La commémoration de la 4e Journée internationale de lutte contre les discours de haine porte sur un thème d'une importance capitale aujourd’hui : « Discours de haine et lien avec l'Intelligence Artificielle : bâtir des coalitions pour reconquérir des espaces inclusifs et sûrs, exempts de haine »

Lors de ma nomination en tant que premier Envoyé spécial de l'Union africaine pour la prévention du génocide et d’autres atrocités de masse en avril 2024, mon mandat a mis l'accent sur l'urgence de lutter efficacement contre les discours de haine. Les priorités de mon mandat comprennent l'identification des indicateurs de risque liés à l'idéologie de la haine, au génocide et aux crimes haineux, ainsi que des interventions rapides pour inverser les tendances négatives sur le continent africain. À cet effet, l'une de mes principales missions est de surveiller de près l'utilisation abusive des plateformes médiatiques et d'encourager les États membres à adopter les politiques nécessaires pour mieux surveiller et réguler les médias et prévenir l'exploitation et la propagation de messages extrémistes incitant aux crimes haineux et au génocide. Ayant consacré une grande partie de ma carrière à la prévention du génocide et à la lutte contre les discours de haine, mon engagement au cours des dernières décennies, à travers plusieurs rôles clés au sein des Nations Unies et d'autres institutions internationales, m'a enrichi d'enseignements précieux. Que ce soit en tant qu'Expert indépendant des Nations Unies sur les droits de l'homme en Haïti de 1995 à 2000, Greffier du Tribunal pénal international pour le Rwanda de 2001 à 2012, Conseiller spécial des Nations Unies pour la prévention du génocide de 2012 à 2020, ou de Vice-Président de la Commission globale contre l’esclavage moderne et le trafic des êtres humains, l'un de mes objectifs a toujours été de renforcer l'État de droit et de lutter contre l'impunité. Par ailleurs, ayant dirigé les travaux pour l'élaboration et la mise en œuvre de la Stratégie et du Plan d'action des Nations Unies contre les discours de haine, qui comprenaient 13 engagements, je voudrais rappeler ici les éléments clés de cette importante initiative. Elle vise à mieux comprendre et contrôler les discours de haine, à identifier et à traiter leurs causes profondes, et à promouvoir des discours alternatifs positifs. Afin de lutter efficacement contre les discours de haine, il est essentiel de plaider fermement en faveur d'une approche globale impliquant les États, la société civile et les médias.

L'accent mis sur la lutte contre les discours de haine, dans le cadre de mon mandat d’Envoyé spécial de l'Union africaine, était malheureusement justifié par les tendances actuelles sur le continent. De l'est de la République démocratique du Congo au Soudan et au Soudan du Sud, des pays du Sahel à la brutalité contre les migrants subsahariens en Afrique du Nord, les atrocités criminelles sont en hausse, alimentées par les discours de haine des politiciens, des groupes armés et des influenceurs, propagés à une vitesse inégalée sur les réseaux sociaux. Produits en Afrique même ou dans la diaspora africaine à travers le monde, par de simples individus ou des usines à trolls, les messages de haine reproduisant les stéréotypes coloniaux, le sectarisme religieux et propageant la désinformation et la mésinformation, circulent aujourd'hui à une échelle industrielle sur les plateformes de réseaux sociaux, déshumanisant des communautés entières, présentées alors comme des cibles légitimes de violence. Souvent exprimés dans les langues locales, leur conférant une validation communautaire quasi instinctive, ces messages de haine font appel à la peur, au désespoir et aux émotions, parfois ancrés dans la mémoire et les récits des atrocités passées.

Alors que nous commémorons la Journée internationale de lutte contre les discours de haine, on ne peut que craindre que la puissance de l'Intelligence Artificielle puisse encore amplifier l'impact des publications haineuses sur les réseaux sociaux, devenues de véritables armes de guerre dans la plupart des conflits en Afrique. Des images et des vidéos truquées et manipulées numériquement, recyclant et améliorant la performance émotionnelle des discours de haine dans des communautés anxieuses, peuvent désormais atteindre presque tous les foyers, tous les jeunes d'une famille, et mobiliser violemment pour des représailles ou des frappes préventives, tout cela grâce à une multitude de publications numériques qui inondent les communications quotidiennes par téléphone portable.

Ces tendances ont commencé à être présentées aux pouvoirs judiciaires africains. Le 3 avril dernier, un tribunal kenyan a autorisé l'ouverture d'une procédure contre Meta, la société mère de Facebook et Instagram, pour avoir alimenté la violence ethnique en Éthiopie par la diffusion de discours de haine, entraînant des assassinats à motivation ethnique. Cette affaire pourrait être la première d'une longue série visant à établir les responsabilités pour avoir laissé circuler librement les discours de haine. Pourtant, la prévention reste la meilleure approche pour lutter contre les discours de haine. Les affaires judiciaires devraient inciter les géants des médias sociaux à rejoindre activement des coalitions soutenant la création et la protection d’espaces de communication inclusifs et sûrs.

Ces géants des médias sociaux, ces entreprises telles que Meta et X (anciennement Twitter) devraient être encouragées à revoir leurs récentes décisions de mettre fin à leur soutien aux systèmes tiers de vérification des faits publiés sur leurs plateformes respectives. La liberté d'expression ne sera pas protégée en laissant la haine circuler librement. En Afrique, ces décisions affaibliront très probablement la mobilisation déjà insuffisante contre la désinformation qui alimente les discours de haine. Ces systèmes tiers de vérification des faits et de modération ont besoin de leur soutien.

La généralisation de l'utilisation de l'IA sur les réseaux sociaux, et les formidables possibilités qu'elle offre à la production industrielle de contenus numériques, rendent impératif d'accroître nos investissements collectifs dans la modération, la surveillance, la vérification des faits et la lutte contre les contenus haineux. L'Intelligence Artificielle peut en effet être un outil puissant pour lutter contre les discours de haine. Sur le plan technique, les algorithmes d'Intelligence Artificielle peuvent analyser les réseaux sociaux, les forums et les sites web pour identifier les discours de haine en temps réel. De plus, les modèles de traitement du langage naturel peuvent identifier les mots-clés, le ton et le contexte des messages haineux. Les plateformes peuvent utiliser ces outils pour bloquer ou signaler les contenus problématiques avant leur diffusion. L'Intelligence Artificielle peut également contribuer à générer des réponses éducatives pour contrer les discours de haine, promouvoir des récits alternatifs et identifier les schémas de propagation de ces discours. J'ajoute que l'UNESCO et les Nations Unies encouragent l'utilisation de l'IA pour réguler les réseaux sociaux tout en préservant la liberté d'expression. Il faut cependant reconnaître que l'IA ne peut tout résoudre à elle seule, mais peut être combinée aux politiques publiques, à l'éducation numérique et à la coopération internationale. Les pouvoirs de l'IA doivent également être orientés vers l'inclusion, la cohésion sociale et la réconciliation. Je suis prêt à soutenir tous les efforts visant à atteindre cet objectif, afin que les communications numériques cessent d'alimenter les fronts de bataille africains et commencent à offrir les espaces sûrs et inclusifs nécessaires à l'épanouissement de la paix, de la démocratie et du développement économique."

Adama Dieng est Envoyé spécial de l'Union africaine pour la prévention du génocide et d'autres atrocités de masse.

Statement by Mr. Adama Dieng

African Union Special Envoy for the prevention of genocide and other mass atrocities

"The commemoration of the 4th International Day for the Fight Against Hate Speech focuses on a theme of critical importance today: "Hate Speech and its Connection to Artificial Intelligence: Building Coalitions to Reclaim Inclusive and Safe Spaces Free from Hate.”

When I was appointed as the first Special Envoy of the African Union for the prevention of genocide and other mass atrocities in April 2024, a special emphasis was given to my mandate on the urgency to effectively counter hate speech. The priorities of my mandate include the identification of risk indicators of the ideology of hate, genocide, and hate crimes, and timely interventions to reverse negative trends on the African continent. To this effect, one of my main tasks is to closely monitor the misuse of media platforms as well as encourage Member States to adopt necessary policies that would further monitor and regulate the media and prevent the exploitation and propagation of extremist messages that incite hate crimes and genocide.

Having devoted a large part of my career to genocide prevention and combating hate speech, my commitment over the past decades through several key roles within the United Nations and other international institutions have enriched me with key lessons. Whether as the United Nations Independent Expert on Human Rights in Haiti from 1995 to 2000, Registrar of the International Criminal Tribunal for Rwanda from 2001 to 2012, United Nations Special Adviser on the Prevention of Genocide from 2012 to 2020, or as Vice-President of the Global Commission on Modern Slavery and Human Trafficking, one of my goals has always been to strengthen the rule of law and fight impunity. Furthermore, having worked on and implemented the United Nations Strategy and Plan of Action against Hate Speech, which included 13 commitments, I would like to reiterate here the key elements of this important initiative:

It aims to better understand and control hate speech, identify and address its root causes, and promote positive alternative narratives. In order to effectively counter hate speech, strongly advocate for a comprehensive approach involving states, civil society, and the media.

The emphasis on countering hate speech put on my mandate, was unfortunately justified by current trends on the continent. From Eastern Democratic Republic of the Congo to Sudan and South Sudan, from countries of the Sahel to the brutal handling of sub-Saharan migrants in North Africa, atrocity crimes are on the rise, fueled by hate speech from politicians, armed groups and influencers, propagated at an unmatched speed through social media. Produced within Africa itself or in African diaspora worldwide, by simple individuals or troll factories, hate messages reproducing colonial stereotypes, religious bigotry and propagating disinformation and misinformation, are circulated today on an industrial scale within social media platforms, dehumanizing entire communities who are then presented as legitimate targets for violence. Often expressed in local languages, giving them an almost instinctive communal validation, these hate messages appeal to fears, despair and emotions, which are sometimes rooted in the memory and narratives of past atrocities.

As we gather today to commemorate the international day for countering Hate Speech, one can only fear how the power of Artificial Intelligence can further expand the impact of hateful social media posts, which have literally become effective weapons of war in most conflict settings in Africa. Fake and digitally engineered images and videos, recycling and improving the emotional performance of hate narratives in anxious communities, can now reach almost every household, every youth in a family, and mobilize violently for retribution or preventive strikes, all through multitudes of digital posts, flooding daily mobile phone communications.

These trends have begun to be presented to African judiciaries. On 3 April this year, a Kenyan court allowed a case to proceed against Meta, the parent company of Facebook and Instagram, over the fueling of ethnic violence in Ethiopia through the circulation of hate speech, resulting in ethnically motivated assassinations. This court case could be the first in a long list seeking accountability for allowing hate speech to circulate freely. Yet prevention remains the best approach for countering hate speech. Court cases should become incentives for social media giants to actively join coalitions supporting the creation and protection of inclusive and safe communication spaces.

These social media giants, these companies such as Meta and X (previously known as Twitter) should be encouraged to review their recent decisions to terminate their support to third-party fact-checking systems of social media posts published on their respective platforms. Freedom of expression will not be protected by allowing hate to circulate freely. In Africa, these decisions will most likely weaken the already insufficient mobilization against the circulation of disinformation feeding hate speech. These third-party fact-checking and moderating systems need your support.

The generalization of AI use in social media, the tremendous capabilities this technology unlocks for the industrial production of digital content, raises the imperative to increase our collective investments in moderation, monitoring, fact checking and countering hateful content. Artificial intelligence can indeed be a powerful tool for combating hate speech. On a technical level, Artificial Intelligence algorithms can analyze social media, forums, and websites to identify hate speech in real time. Furthermore, natural language processing models can identify keywords, tone, and context of hateful messages. Platforms can use these tools to block or flag problematic content before it spreads. Artificial Intelligence can also help generate educational responses to counter hate speech and promote alternative narratives and identify patterns in the spread of hate speech. I should add that UNESCO and the United Nations encourage the use of AI to regulate social media while preserving freedom of expression. But it must be recognized that AI cannot solve everything alone, but can be combined with public policies, digital education, and international cooperation. The powers of AI also need to be geared towards supporting inclusivity, social cohesion, and reconciliation. I stand ready to support all efforts towards this goal, so that digital communications stop feeding the African battle fronts and start providing the safe and inclusive spaces that are needed for peace, democracy and economic development to flourish."