Dans une interview approfondie précédente, Ilya Sutskever, ancien directeur scientifique d'OpenAI et actuel fondateur de SSI (Safe Superintelligence), a déclaré d'un ton extrêmement calme : « L'ère de la mise à l'échelle est terminée et nous sommes revenus à l'ère de la recherche. »
Cette affirmation remet directement en question la « loi de la mise à l'échelle », un principe directeur de la Silicon Valley ces dernières années : la conviction que l'intelligence émergera automatiquement par l'accumulation infinie de puissance de calcul et de données. Ilya Sutskever souligne que multiplier la taille d'un modèle par 100 peut certes apporter des améliorations, mais ne permet plus d'obtenir des changements qualitatifs significatifs. L'industrie de l'IA doit renouer avec la recherche fondamentale, en s'appuyant sur les idées et l'intuition.
Construction @ilyasut épisode
0:00:00 – Explication de la discontinuité du modèle
0:09:39 – Émotions et fonctions de valeur
0:18:49 – Que sommes-nous en train de mettre à l'échelle ?
0:25:13 – Pourquoi les humains généralisent mieux que les modèles
0:35:45 – Superintelligence directe
0:46:47 – Le modèle de SSI tirera des enseignements du déploiement… pic.twitter.com/chiJF1Rlyk-Dwarkesh Patel (@dwarkesh_sp) 25 novembre 2025
L'IA se résume-t-elle à « des scores élevés mais de faibles capacités » ? À un manque de capacité de généralisation et d'intuition ?
Ilya Sutskever souligne que le défaut fatal de la technologie d'IA actuelle réside dans sa « capacité de généralisation ». Il donne un exemple : lorsqu'une IA écrit un programme et commet une erreur, elle introduit souvent une erreur B en corrigeant l'erreur A, puis revient à l'erreur A en corrigeant l'erreur B, se retrouvant ainsi coincée dans une boucle infinie.
Il a comparé l'IA actuelle à un élève brillant qui « mémorise par cœur », apprenant par cœur une banque de questions entière grâce à 10 000 heures d'entraînement et obtenant des notes parfaites aux examens, mais incapable d'appliquer ses connaissances à des situations nouvelles. Les humains, en revanche, peuvent ne s'entraîner que 100 heures, mais ils maîtrisent la logique et l'intuition, ce qui leur permet un meilleur développement à long terme.
Ilya Sutskever estime que le secret de l'intelligence humaine réside dans les « émotions », ou plus précisément dans une « fonction de valeur ». À l'instar d'un adolescent qui apprend à conduire, l'intelligence humaine n'a pas besoin de subir des millions d'accidents pour comprendre la douleur, car dès qu'elle dévie de sa trajectoire, sa « fonction de valeur » interne génère un sentiment d'urgence (rétroaction négative) qui la guide vers une nouvelle trajectoire. L'IA actuelle est dépourvue de ce système d'évaluation interne efficace et ne peut donc s'appuyer que sur d'énormes quantités de données pour un apprentissage par renforcement peu performant.
SSI vise à accéder directement à la superintelligence ; l'interface cerveau-ordinateur est-elle la seule solution pour l'humanité ?
Après avoir quitté OpenAI pour fonder SSI, Ilya a choisi une voie différente de celle de la concurrence commerciale traditionnelle. Il a déclaré sans ambages que l'industrie actuelle de l'IA est prise dans une course effrénée, contrainte de commercialiser des produits inachevés dans des délais toujours plus courts pour répondre aux exigences du marché. SSI, en revanche, souhaite travailler en toute indépendance jusqu'à la création de systèmes véritablement sûrs et ultra-intelligents.
Alors que le marché anticipe l'arrivée imminente de l'IAG (Intelligence Artificielle Générale), Ilya Sutskever prédit qu'il faudra encore entre 5 et 20 ans. Il redéfinit cependant l'image de l'IAG : non pas une encyclopédie, mais plutôt un « adolescent de 15 ans surdoué » doté d'une capacité d'apprentissage exceptionnelle, capable de lire la littérature médicale en quelques jours et de commencer à pratiquer des interventions chirurgicales.
Face à l'émergence potentielle de super-cerveaux, quel chemin l'humanité doit-elle emprunter ? Ilya Sutskever propose une réponse qu'il n'apprécie guère, mais qui pourrait bien être la seule solution : Neuralink (interface cerveau-ordinateur). Il est convaincu que seule une fusion avec l'IA, permettant à la compréhension de cette dernière de devenir directement la nôtre, permettra à l'humanité de conserver son rôle d'acteur majeur du monde post-singulier.
En quête d'« esthétique » comme guide
À la fin de l'entretien, lorsqu'on lui a demandé comment il avait si souvent prédit avec justesse l'évolution de l'IA, Ilya Sutskever a donné une réponse d'une grande poésie : « En recherchant la beauté. » Il est convaincu que, face à l'absence de données, seule la foi en la beauté, la simplicité et la logique biologique peut soutenir les chercheurs. C'est peut-être là la qualité la plus essentielle à l'ère de la recherche.
