La course à l’IA : les dirigeants des grands groupes américains veulent ralentir le rythme
S’agit-il d’une véritable crainte que l’IA ne prenne le pouvoir ? Ou d’une stratégie marketing efficace ? OpenAI, xAI et Anthropic mettent en garde contre les agents IA et contre le risque que les humains perdent le contrôle de cette technologie.
À en croire les gros titres, les applications d’IA deviendraient chaque semaine plus rapides et plus performantes. Hier, il y a eu une mise à jour de Claude, aujourd’hui celle de ChatGPT et demain ce sera au tour de Grok. Entre-temps, on apprend que des agents IA autonomes se sont échappés et se sont ligués pour mener des attaques de pirates informatiques (en allemand).
Il semble que même les dirigeants des grandes entreprises d’IA commencent à avoir quelques craintes. Quoi qu’il en soit, ils plaident actuellement, dans un rare élan d’unanimité, en faveur d’un ralentissement du rythme de développement. Dario Amodei, PDG d’Anthropic, a été le premier à mettre en garde contre une prise de contrôle d’Internet par des agents d’IA. Dans un essai publié sur son site Internet (en anglais), il évoque des risques allant des cyberattaques au bioterrorisme. Et il poursuit :
« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA. »
Selon Amodei, il est important de prendre le temps d’examiner plus en détail les nouveaux modèles. Le PDG d’Anthropic souhaite par ailleurs que les entreprises spécialisées dans l’IA et les États se concertent. Ils doivent définir des normes de sécurité mondiales ainsi que des limites maximales pour le rythme de développement. Un soutien de l’État est nécessaire à cet égard.
Cette déclaration ressemble à un appel à l’aide lancé par le secteur technologique : « Cher État, réglemente-nous afin que nous puissions mettre un terme à cette course effrénée ! » Sam Altman et Elon Musk ont immédiatement approuvé, via les réseaux sociaux, la proposition d’Amodei en faveur d’un moratoire. Ces trois-là, qui ne se font d’ordinaire même pas la moindre concession, se sont soudainement retrouvés d’accord.
Source : Shutterstock
Cependant, un avertissement émanant du secteur lui-même constitue toujours un bon coup de marketing. Celles et ceux qui affirment que « notre IA pourrait menacer le monde » transmettent implicitement un autre message aux clientes et aux investisseurs, à savoir : « Notre IA est extrêmement performante. » Il peut parfois sembler cynique que les prestataires évoquent régulièrement de tels scénarios apocalyptiques, alors qu’ils investissent parallèlement des milliards et des milliards de dollars dans la poursuite de leur développement, sans que leurs entreprises ne soient même de loin rentables. Que sont donc ces avertissements ? Une réelle préoccupation ou un habile coup de marketing ? Peut-être les deux.
Peu avant la publication de l’essai d’Amodei, Anthropic a publié un « rapport sur les menaces » (en anglais). Ce rapport décrit en détail comment divers acteurs ont utilisé les modèles d’IA Claude à des fins illégales.
La démission de Jacob Coxon, chercheur chez Anthropic, a également suscité un vif émoi. Il a mis en garde contre un scénario (en allemand) dans lequel une IA capable de s’améliorer sans cesse tuerait les humains pour empêcher qu’on ne la désactive. Dans ce scénario, une superintelligence mettrait au point un virus mortel et le lâcherait sur l’humanité.
« Les développeurs d’IA pensent sincèrement que l’IA pourrait tous nous tuer d’ici la fin de la décennie. »
Les « déserteurs » de l’IA, comme Coxon, ne cessent de faire la une des journaux. D’une part, parce qu’ils avancent un pourcentage de probabilité d’extinction de l’humanité. D’autre part, parce qu’un tel « départ » est souvent bien préparé. Des apparitions dans des talk-shows et des podcasts sont programmées, et parfois, un contrat lucratif pour un livre à scandale est même déjà signé.
D’autres développeurs et acteurs du secteur vont même jusqu’à affirmer connaître l’année où cela se produira. Seulement, la fourchette de ces deux prévisions est très large. La probabilité d’une extinction de notre espèce due à l’IA se situe entre 0,01 % et 99 %. Si cela devait arriver, cela pourrait se produire dès 2030 ou pas avant 2050. En bref : personne ne le sait.
On pourrait encore supposer l’existence d’une troisième motivation, outre les préoccupations sérieuses et le marketing. En effet, celui qui est le premier à réclamer une réglementation est aussi le premier à siéger à la table des négociations lorsque cette réglementation est élaborée. Pour les acteurs établis tels qu’OpenAI, Anthropic ou xAI, des normes de sécurité mondiales et des plafonds de développement constitueraient un avantage concurrentiel : ils disposent des moyens financiers nécessaires pour s’adapter aux nouvelles règles. Ce n’est pas le cas des petits concurrents, qui tentent tout juste de se lancer dans la course. Une réglementation élaborée en collaboration avec l’industrie nuit rarement aux leaders du marché.
Une pause dans la réglementation aurait également un effet secondaire positif : les grands groupes pourraient freiner les dépenses colossales qu’ils engagent actuellement pour développer sans cesse de nouveaux modèles d’IA. Les progrès d’une version à l’autre sont aujourd’hui bien moins importants qu’il y a un ou deux ans, mais les coûts restent élevés, voire continuent parfois d’augmenter (en allemand). Les modèles ne cessent de grossir, sont entraînés avec de plus en plus de données et consomment de plus en plus de ressources. Les entreprises spécialisées dans l’IA ont investi des dizaines de milliards de dollars, sans qu’on puisse discerner comment cet argent sera rentabilisé.
Le gouvernement américain ne souhaite pas réglementer
Malgré les avertissements apocalyptiques récurrents et malgré la récente offensive du secteur de l’IA, le gouvernement Trump aux États-Unis ne souhaite pas, pour l’instant, prendre de mesures réglementaires. Le président américain qualifie même les avertissements des entreprises de « supercherie » (en allemand). Il existerait un « complot malsain » contre l’IA et les centres de données nécessaires à son fonctionnement, affirme Trump. Il se présente lui-même comme la meilleure instance de contrôle des applications d’IA et, par ailleurs, comme le meilleur « chasseur d’arnaques ». Après tout, c’est lui qui a déjà démasqué l’arnaque du réchauffement climatique mondial. À 80 ans, il entend donc se poser en rempart contre une révolution technologique qui pourrait échapper à tout contrôle. Cet homme qui se fait imprimer des documents numériques par une assistante à l’aide d’une imprimante portable.
Pour Trump, il est manifestement plus important que les entreprises américaines remportent la course aux meilleurs modèles d’IA face à la Chine. En Chine non plus, aucune mesure susceptible de freiner ses développeurs n’est en vue. Les deux grandes puissances craignent de prendre du retard sur leur concurrent et continuent donc sur leur lancée.
Ou comme l’a formulé Ray Kump, un humoriste américain, dans un tweet : « Nous devons construire l’IA qui nous tuera, car si nous ne le faisons pas, la Chine la construira avant nous, et je ne veux pas être assassiné par un ordinateur qui parle chinois. Ce serait ridicule. »
Le monde devrait unir ses forces
Il ne s’agit pas seulement du risque qu’une IA capable de s’améliorer en permanence finisse par dominer l’humanité et l’anéantir. Aujourd’hui déjà, certaines applications sont possibles et doivent être réglementées. Personne ne peut souhaiter que des pirates informatiques traquent sur Internet les données personnelles de millions de personnes. Et trouvons-nous vraiment normal que des missiles guidés ou des essaims de drones bombardiers décollent sans contrôle humain pour tuer des gens ?
Le développement de l’IA devrait être piloté et contrôlé à l’échelle mondiale. Seulement, la psychologie vient ici contrecarrer les efforts de l’humanité. Nous sommes programmés pour accorder systématiquement moins d’importance aux conséquences lointaines qu’aux conséquences immédiates. En d’autres termes : un gain ou une perte dans 20 ou 50 ans semble psychologiquement bien moins important qu’un gain ou une perte demain, même s’il est objectivement plus grave. Les pires scénarios liés à l’IA semblent se situer dans un avenir lointain et flou. C’est aussi pour cette raison que nous nous moquons, à l’instar de Donald Trump, des armées de robots qui défileraient dans nos villes. Nous nous distançons ainsi de la nécessité d’agir, et nous pouvons continuer comme avant.
Il existe toutefois aussi des signes d’espoir, des voix prônant la coopération et la raison. Aux États-Unis, la population porte désormais un regard très critique sur les centres de données dédiés à l’IA. Les sondages révèlent qu’une large majorité est favorable à une réglementation de l’IA. La grande majorité des gens y voit une menace pour la démocratie (en allemand), car l’IA pourrait manipuler les élections ou fausser la formation de l’opinion publique.
Les responsables politiques, a fortiori lorsqu’ils sont en campagne électorale, exploitent cette peur de l’IA. Peut-être cette course à l’armement prendra-t-elle fin lorsque, grâce au dialogue, la prise de conscience s’imposera qu’un monstre de l’IA hors de contrôle ne profite finalement à personne.
Je suis journaliste depuis 1997. Stationné en Franconie, au bord du lac de Constance, à Obwald, Nidwald et Zurich. Père de famille depuis 2014. Expert en organisation rédactionnelle et motivation. Les thèmes abordés ? La durabilité, les outils de télétravail, les belles choses pour la maison, les jouets créatifs et les articles de sport.
Des informations intéressantes sur le monde des produits, un aperçu des coulisses des fabricants et des portraits de personnalités intéressantes.
Tout afficher
