SYSTEM / DÉC.2024
L'AGI. On s'en fout.
Dans le vocabulaire de l’intelligence artificielle (IA), l’AGI, ou Artificial General Intelligence, garde une place à part. Le terme fascine autant qu’il agace, avec une idée simple derrière lui...
Dans le vocabulaire de l’intelligence artificielle, l’AGI, pour Artificial General Intelligence, occupe une place étrange. Le mot attire autant qu’il agace. Il désigne en général une machine capable d’apprendre une tâche complexe sans entraînement spécifique, d’observer son environnement, puis d’ajuster son comportement. Version courte, une intelligence humaine simulée par une machine.
DeepMind et OpenAI revendiquent publiquement cette direction. Yann LeCun, que j’ai eu la chance d’entendre lors d’une conférence à Station F, juge de son côté l’idée d’une AGI imminente irréaliste, voire trompeuse. Son argument tient facilement en une phrase. Discuter aujourd’hui d’une technologie encore largement hypothétique rend la conversation plus confuse qu’utile.
Les repères bougent quand même. Ce qui a longtemps été présenté comme un sommet technologique, parfois avec une menace façon Terminator, pourrait finir par ressembler à un palier. Sam Altman, PDG d’OpenAI, pousse même cette idée plus loin. Ce palier pourrait passer presque inaperçu.
Sam Altman décrit une AGI moins spectaculaire que prévu
Lors d’une interview récente au DealBook Summit du New York Times, relayée par The Verge, Sam Altman a relativisé l’importance de l’AGI. Il décrit son arrivée comme une étape dont l’impact pourrait être moins visible que beaucoup l’imaginent.
Mon intuition est que nous atteindrons l’AGI plus tôt que ce que la plupart des gens pensent, mais que cela aura beaucoup moins d’importance, a-t-il déclaré.
Altman explique que l’arrivée de l’AGI, souvent imaginée comme un basculement historique, pourrait prolonger l’accélération déjà en cours. À ses yeux, le changement le plus fort arriverait ensuite, avec ce qu’il appelle la superintelligence, une IA qui dépasserait largement les capacités humaines.
Il ajoute que les grands problèmes de sécurité et d’éthique liés aux IA se concentreraient plutôt dans la progression vers cette superintelligence. Ils deviendraient plus sérieux à mesure que les systèmes gagnent en capacités. Entre ces deux moments, Altman imagine une longue phase de progression, avec des effets économiques et sociaux installés peu à peu.
L’AGI ressemble davantage à une étape technique
La position d’Altman pousse à regarder l’AGI avec moins de mise en scène. La traiter comme une destination finale me paraît fragile. L’histoire des technologies montre plutôt que chaque outil devient un point d’appui pour l’étape suivante, surtout quand il augmente notre capacité à créer.
L’exemple du téléphone le montre bien. Au Moyen Âge, une machine capable de transmettre la voix à distance aurait probablement été perçue comme l’apogée de la technologie. Aujourd’hui, le téléphone est un objet banal, intégré à la vie quotidienne. L’AGI pourrait suivre le même chemin. Un outil très avancé au départ, puis un outil parmi d’autres dans une suite continue de progrès techniques.
L’idée d’une singularité, avec un point culminant où les machines dépasseraient définitivement l’humain, reste très marquée par la science-fiction. Ces systèmes peuvent devenir extrêmement performants. Ils peuvent accélérer la recherche et le code, ainsi que l’écriture ou l’analyse. Les présenter comme une fin de l’histoire technologique revient pourtant à surestimer la machine, tout en sous-estimant ce que les humains font avec leurs outils.
L’intérêt de l’AGI dépendra de ses usages réels
L’AGI mérite d’être évaluée sur ce qu’elle permettra vraiment, loin du mythe adoré ou redouté. Si elle arrive, son intérêt tiendra à sa capacité à accélérer la résolution de problèmes complexes, y compris des défis planétaires. L’humain garde un rôle central dans les domaines où la créativité, le jugement et l’intention comptent.
L’AGI peut être une étape importante. Elle reste une étape.