Un pionnier de l'IA démissionne de Google pour mettre en garde contre les risques de l'IA
Pendant cinquante ans, le Dr Geoffrey Hinton a développé la technologie derrière les chatbots comme ChatGPT. Aujourd'hui, il démissionne de Google pour mettre en garde contre les conséquences de l'intelligence artificielle.
Geoffrey Hinton, pionnier de l'intelligence artificielle, fait désormais partie des voix critiques de cette technologie. Hinton a travaillé chez Google pendant plus de dix ans et était déjà une voix respectée dans le domaine de l'IA bien avant cela. Il a maintenant démissionné pour pouvoir s'exprimer librement sur les risques qu'elle comporte. Il jette un regard en partie attristé sur l'œuvre de sa vie.
"Je me console avec l'excuse habituelle : si je ne l'avais pas fait, quelqu'un d'autre l'aurait fait", déclare Hinton dans une longue interview au New York Times. Le Britannique, aujourd'hui âgé de 75 ans, a longtemps été convaincu par le développement et l'utilisation de l'IA. Il estime maintenant que le développement rapide de l'IA, que l'on retrouve dans des chatbots comme ChatGPT, se dirige vers de grands dangers.
L'œuvre de Huntington remonte à loin
Dès 1972, alors qu'il est doctorant à l'université d'Édimbourg, Hinton pose la première pierre du développement de l'intelligence artificielle. Il mène des recherches sur les systèmes neuronaux pour expliquer et reproduire l'intelligence.
En 2012, avec deux de ses étudiants, Ilya Sutskever et Alex Krishevsky, il développe à Toronto un réseau neuronal capable d'analyser des milliers de photos et de s'apprendre à reconnaître des objets tels que des fleurs, des chiens et des voitures. Le système conduit au développement de technologies de plus en plus puissantes, qui sont également utilisées dans ChatGPT d'OpenAI et Google Bard.
Google, OpenAI et d'autres entreprises poursuivent ensuite leurs recherches sur le développement de réseaux neuronaux qui apprennent à partir de grandes quantités de textes numériques. Hinton voit un grand potentiel derrière tout cela. Mais il pense que l'être humain sera toujours en avance sur ces technologies.
La situation changera en 2022, lorsque Google et OpenAI développeront des systèmes utilisant des volumes de données beaucoup plus importants. Hinton craint maintenant que ce qui se passe derrière ces systèmes soit en fait meilleur que ce qui se passe dans le cerveau. Il considère l'évolution rapide de ces cinq dernières années comme extrême. Presque effrayante.
Hinton soutient toujours Google jusqu'à sa démission. Il affirme que l'entreprise a géré la technologie de manière responsable et a toujours veillé à ne rien faire qui puisse nuire. Or, Microsoft a ajouté un chatbot à son moteur de recherche Bing. Cela crée une grande concurrence et Google veut maintenant utiliser le même type de technologie. Selon Hinton, les géants de la technologie se trouvent ainsi dans une situation de concurrence qui ne pourra peut-être plus être arrêtée.
L'intelligence artificielle présente de nombreux dangers
La grande préoccupation actuelle de Hinton est que l'Internet est inondé de fausses photos, vidéos et textes. Ainsi, les gens ne seraient plus en mesure de reconnaître ce qui est vrai.
Le marché du travail pourrait également être pris en charge par les technologies d'IA. Jusqu'à présent, il ne s'agit que de chatbots. A l'avenir, il pourrait s'agir d'assistants juridiques, d'assistants, de traducteurs et d'autres tâches de routine. Certes, il s'agit encore de tâches plutôt ennuyeuses, mais cela pourrait changer rapidement.
Les comportements souvent inattendus que les systèmes d'IA apprennent posent problème. Hinton craint le jour où les individus et les entreprises permettront aux systèmes d'IA non seulement de créer leurs propres codes informatiques, mais aussi d'exécuter les codes eux-mêmes. Hinton pense que ces systèmes pourraient devenir plus intelligents que l'homme et même créer des armes. Trop de science-fiction ? Dans une interview du 1er mars, Hinton explique (à partir de minute 31), son raisonnement.
De nombreux autres experts considèrent que les dangers sont hypothétiques. Hinton pense cependant que la course entre Google et Microsoft pourrait rapidement faire dégénérer la situation. Son espoir est que les plus grands scientifiques du monde travaillent ensemble pour pouvoir réguler et contrôler la technologie à l'échelle mondiale. Une tâche difficile.
Photo de couverture : Shutterstock
Dans mon monde, Super Mario chasse les Stormtroopers avec une licorne et Harley Quinn prépare des cocktails pour Eddie et Peter au bar de la plage. Là où je peux exprimer ma créativité, j'ai des fourmis dans les doigts. Mais c'est peut-être aussi parce que rien d'autre ne coule dans mes veines que du chocolat, des paillettes et du café.