QUAND L'IA BLANCHIT OBAMA

(SenePlus) - L'intelligence artificielle serait-elle le reflet amplifié de nos propres préjugés ? C'est la question centrale que pose Le Monde Diplomatique dans son édition de novembre 2024, à travers une enquête détaillée qui déconstruit le mythe de la neutralité technologique. "Quoi de plus neutre, dit-on, qu'un ordinateur ? Erreur : derrière leurs verdicts froids, algorithmes et automates encapsulent tous les biais des humains qui les conçoivent", avertit d'emblée le mensuel.

L'exemple le plus frappant de ces biais concerne l'IA Pulse, développée en 2020 par l'université Duke aux États-Unis. Le Monde Diplomatique révèle comment ce système, censé dépixelliser des images, "tendait à blanchir les personnes de couleur au point d'engendrer un 'Obama blanc'". Cette défaillance n'est pas anodine et trouve son origine dans un effet domino technologique : Pulse utilisait StyleGAN, un autre système d'IA développé par Nvidia, qui "surreprésente spontanément les hommes blancs du fait de son propre apprentissage."

"Si l'algorithme de Pulse ne contenait aucun biais intrinsèque, il intègre indirectement ceux de StyleGAN : lorsqu'il dépixellise le visage réel de M. Barack Obama, le programme en fait un homme blanc", explique le journal, mettant en lumière comment les préjugés se transmettent d'un système à l'autre.

Le mensuel souligne que ces biais ne sont pas de simples erreurs de programmation. "Sans en avoir nécessairement conscience, les ingénieurs transposent les biais discriminatoires inhérents aux conditions dans lesquelles sont produites les données qui nourrissent la machine", analyse Le Monde Diplomatique. Cette situation est d'autant plus préoccupante que "les machines ne sont-elles pas réputées objectives et dépourvues d'idéologie?"

Les implications concrètes de ces biais dépassent largement le cadre théorique. "Certains justiciables, victimes des algorithmes de police prédictive qui intègrent des variables discriminatoires, apprendront à leurs dépens qu'il n'en est rien", avertit le journal.

Une opacité inquiétante

Plus alarmant encore, Le Monde Diplomatique révèle que la compréhension même de ces systèmes échappe aux experts. "'Expliquer' le fonctionnement de modèles d'IA, c'est-à-dire traduire la réponse du système en une série d'étapes reliées entre elles par ce qu'un être humain peut interpréter sensément comme des causes ou des raisons" est devenu secondaire. Cette explication "ne compte plus désormais au nombre des préalables pour la mise en service d'un modèle, mais joue le rôle de cerise sur le gâteau."

Le journal va plus loin en révélant que "même les chercheurs les plus pointus peinent à saisir ce qui se passe dans la boîte noire des algorithmes." Cette situation pose une question démocratique fondamentale : "Comment le législateur peut-il établir des normes d'évaluation de systèmes dont nul ne sait comment ils fonctionnent, notamment dans les secteurs sensibles de la santé ou de l'éducation?"

Le Monde Diplomatique interroge : "Incombe-t-il aux entreprises privées de décider seules des objectifs poursuivis par ces IA?" Ces choix "technico-politiques fondamentaux justifieraient pourtant une délibération collective et un contrôle public plus étroit."

Le journal rappelle que ces systèmes sont développés par "une poignée d'acteurs dont les capacités financières et l'expertise en politique industrielle talonnent celles de certains pays du G20." Cette concentration du pouvoir technologique pose des questions démocratiques fondamentales.

Vers une redéfinition nécessaire

Face à ces enjeux, Le Monde Diplomatique plaide pour une remise en question profonde de notre approche de l'IA. Le journal suggère même d'abandonner le terme "intelligence artificielle" au profit d'"automates computationnels", une expression "nettement moins flatteuse mais plus juste puisque ces machines atteignent leurs objectifs en calculant le meilleur moyen de réitérer des résultats passés."

L'écrivain britannique James Bridle, cité par le mensuel, pose la question essentielle : "Pouvons-nous imaginer des technologies de l'information et de la communication qui ne nous exploitent, ne nous trompent et ne nous supplantent pas?" La réponse, selon Le Monde Diplomatique, passe nécessairement par "une séparation de l'État et du marché" et une reprise en main démocratique de ces technologies qui façonnent notre avenir.

Le journal conclut que l'agrégation de masses de données ne peut remplacer la réflexion démocratique et le dialogue critique. Un rappel crucial à l'heure où l'IA s'immisce toujours plus profondément dans nos vies quotidiennes.