Comment j’ai appris à aimer la superintelligence
Anthropic annonce discrètement, dans la mise à jour de ses documents d’entrée en bourse, pouvoir être sur le point de satisfaire à sa propre définition d’une « accélération spectaculaire des progrès attribuable à l’IA » (dramatically accelerated progress attributable to AI). Autrement dit, nous serions à l’orée de l’auto-amélioration récursive (recursive self-improvement – RSI). Des acteurs du domaine de la sûreté de l’IA, dont Daniel Kokotajlo, auteur principal d’AI 2027, sont catastrophés : « Nous, à l’AI Futures Project, sommes secoués par cette information. »
Pendant ce temps, une expérience menée au MIT montre qu’un modèle d’OpenAI, GPT-6 Astra, peut ajuster les poids d’un autre modèle d’IA, sans entraînement.
Rien pour faire baisser mon niveau d’IA-anxiété.
Pour le commun des mortels, tout ça sonne comme de la science-fiction. Et pourtant, c’est notre réalité, ici, maintenant. L’auto-amélioration récursive, ce n’est pas de la magie, mais bien de la science. Un autre nom pour dire la même chose : automatiser la recherche en IA. Pourquoi les intelligences, en devenant de plus en plus fines, n’arriveraient-elles pas à faire ce que font les chercheurs des sociétés d’IA de pointe? C’est le pari depuis le début, et c’est pour ça qu’Anthropic a autant investi dans les compétences en programmation; pour ça que le code est tombé avant tout le reste. Pendant qu’OpenAI se dispersait (avec ses outils vidéo et ses velléités érotiques), Anthropic gardait la focale sur le Saint Graal : l’auto-amélioration récursive. On dirait que l’entreprise de Dario Amodei est sur le point de gagner la course – c’est-à-dire de tuer tout le monde.
Hier, j’ai dit que la Révolution artificielle pourrait bien atteindre sa conclusion en cinq ans. Même moi, en écrivant ces mots, j’avais du mal à y croire, mais les nouvelles d’aujourd’hui vont dans ce sens. Daniel Kokotajlo, encore : « Par exemple, si nous optimisons naïvement les paramètres de l’AIFM pour obtenir une accélération de 2x par rapport au rythme de référence en janvier 2027, nous obtenons la superintelligence plus tôt que dans AI 2027. » Oubliez le jargon : ce que dit Kokotajlo, c’est que, si Anthropic dit vrai, la superintelligence (une IA plus performante que tous les humains dans tous les domaines) est à nos portes. Dans le scénario prévisionniste AI 2027, publié en 2025, l’avènement de la superintelligence avait lieu à la fin de 2027. Si l’avertissement d’Anthropic se confirme, il pourrait survenir encore plus tôt.
Je n’aurais jamais cru que la (probable) fin du monde allait passer à ce point inaperçue. Je commence à penser qu’il faudra une catastrophe : au moins une panne de réseau électrique ou d’Internet à grande échelle, et peut-être des pertes de vies humaines. Nous vivons en suspens.
Les élections de mi-mandat aux États-Unis nourrissent un tout petit peu l’espoir. Mais le président est acheté par les milliardaires, il a un droit de véto sur les projets de loi, et il n’y a que lui qui peut s’asseoir avec Xi Jinping et signer un traité international pour arrêter la course suicidaire aux armements.
Quand je parle de ça avec ma mère ou avec certaines personnes, on me dit à la blague : « Ouin, c’est joyeux ce que tu racontes! » C’est fou : on vit dans le film Don’t Look Up. « L’IA va tous nous tuer? Bonjour l’ambiance! »
Ajoutez à cela le personnage de Trump, fou furieux qui crie que les préoccupations liées à la sûreté de l’IA sont un canular (« It’s a hoax! »), qui répète « Whoever wins AI, wins! », qui hurle « Let ’er rip! », et tout à coup, c’est le docteur Strangelove qui apparaît. Stanley Kubrick avait bien compris, longtemps avant Adam McKay, à quel point la fin du monde allait être cocasse. Le titre complet du film est : Dr. Strangelove or: How I Learned to Stop Worrying and Love the Bomb.
Ça devrait être le sous-titre de notre époque : Comment j’ai appris à arrêter de m’en faire et à aimer la superintelligence.
Nakhon Ratchasima, Thaïlande