L'IA, LES CRAINTES DE GEOFFREY HINTON

Il est à l’origine des travaux qui ont servi au développement de systèmes d’intelligence artificielle comme Chatgpt. Geoffrey Hinton est un des pionniers de l’Intelligence Artificielle (IA) et travaille sur l’apprentissage automatique depuis les années 1970. Aujourd’hui, après 10 ans au sein de Google, il démissionne de l’entreprise et met en garde contre ses inventions.

Dans une interview accordée au New York Times, il a évoqué les risques de l’intelligence artificielle et ses regrets quant à son rôle dans sa conception. Persuadé du bien-fondé de l’IA tout au long de sa carrière académique, il admet aujourd’hui “qu’une part de lui regrette l’œuvre de sa vie”.

“Pionnier” des travaux sur les réseaux neuronaux

Britannique ayant émigré au Canada, Geoffrey Hinton a jeté les bases de la technologie de l’intelligence artificielle. En 1972, fraichement diplômé, il a commencé ses travaux sur les “réseaux neuraux”– des systèmes qui peuvent apprendre des facultés en étudiant des données, comme le machine learning. En 2012, lui et deux de ses étudiants ont sorti un système capable de reconnaître le contenu présent sur des images. Google a alors racheté la boîte pour 44 millions de dollars. Il reçoit en 2019 le Turing Award, considéré comme le prix Nobel de l’informatique, avec ses collègues Yann LeCun et Yoshua Bengio.

S’il refuse de critiquer le géant Google après sa démission, l’homme de 75 ans joue aujourd’hui les lanceurs d’alertes. Dans l’interview publiée dans le quotidien américain le lundi 1er mai, le chercheur sensibilise sur les risques liés à la course à l’intelligence artificielle et se rassure comme il peut “ Je me console avec l’excuse classique : si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait”

Une possible menace pour l’humanité

En mars 2023, OpenAI de GPT4 lance une nouvelle version plus puissante du modèle du langage naturel qui opère ChatGPT. Cette interface d’IA générative est utilisée par des millions de personnes depuis quelques mois pour rédiger des dissertations, des poèmes ou encore des lignes de code informatique.
Un déploiement à toute vitesse susceptible de bouleverser de nombreux métiers et qui inquiète M. Hinton “Regardez ce qu’il en était il y a cinq ans et ce qu’il en est aujourd’hui. Prenez la différence et propagez-la vers l’avant. C’est effrayant”. Face à cette menace, M. Hinton met aussi en garde, dans le New York Times, contre la désinformation qui pourrait être générée par l’IA.

Des scientifiques contre l’IA

Geoffrey Hinton n’est pas le seul à émettre des craintes. Un peu partout dans le monde, des voix se lèvent contre le développement rapide de l’IA. Des personnalités de l’Association for the Advancement of Artificial Intelligence, une société académique, ont publié une lettre, mettant en garde contre les risques de l’IA. Eric Horvitz, chercheur en chef chez Microsoft (qui collabore étroitement avec OpenAI, développeur de ChatGPT), était par exemple un des signataires.

En début d’année, ils étaient 1000 personnalités, parmi lesquels Elon Musk et Steve Wozniak, à signer une lettre demandant à mettre en pause le développement des modèles d’IA plus performants que ce qu’ils sont aujourd’hui. Geoffrey Hinton n’a pas fait partie des signataires, mais il a affirmé au New York Times que les scientifiques ne devraient pas faire encore monter en puissance ces IA “avant de savoir s’ils sont capables de les contrôler”.