La guerre de la superintelligence et les investissements
Le cas Leopold Aschenbrenner
Markku Siira
Source: markkusiira.substack.com
Le recueil d'essais du chercheur en intelligence artificielle et investisseur d'origine allemande Leopold Aschenbrenner, Situational Awareness: The Decade Ahead (2024), propose une analyse quant à l'avenir de l'IA, analyse fortement axée sur les intérêts américains.
L'ouvrage anticipe une transition rapide vers l'intelligence artificielle générale (AGI) d'ici 2027, suivie d'une explosion de l'intelligence menant à la superintelligence. Aschenbrenner fonde son argumentation sur une observation cohérente des tendances, c'est-à-dire le calcul des ordres de grandeur (OOM). Le saut de GPT-2 à GPT-4 se répétera, à mesure que la puissance de calcul, l'efficacité algorithmique et la disparition des limitations des modèles progresseront.
"Il est tout-à-fait crédible qu'en 2027, les modèles soient capables d'effectuer le travail d'un chercheur en IA ou d'un ingénieur", affirme-t-il. Cela ne nécessite pas de foi en la science-fiction, mais simplement de croire aux graphiques. Lorsque des systèmes d'intelligence générale automatiseront la recherche en IA, une décennie de progrès algorithmiques se concentrera en un an, menant à une transition explosive vers des systèmes superintelligents dépassant le niveau humain.
Aschenbrenner (photo) décrit avec enthousiasme une mobilisation industrielle massive: des clusters de plusieurs milliers de milliards de dollars, la construction de centaines de millions de processeurs graphiques dédiés à l'IA, ainsi qu'une hausse de plusieurs dizaines de pourcents de la production électrique américaine.
"Une grande entreprise américaine se prépare à investir des milliers de milliards de dollars dans une mobilisation de la puissance industrielle des États-Unis comme on n'en a pas vu depuis longtemps". Bien que la description soit techniquement convaincante, elle révèle une vision technocapitaliste où croissance économique et puissance militaire fusionnent sans couture.
Aschenbrenner divise le monde de façon tranchée entre le "monde libre" et les États autoritaires, en particulier la Chine. "Si nous avons de la chance, nous sommes en pleine course avec le Parti communiste chinois ; si nous avons de la malchance, nous sommes en guerre".
Une telle dichotomie reprend les vieux schémas de la guerre froide, mais fait abstraction des propres tendances autoritaires de l'Occident: surveillance de masse, domination des géants technologiques, campagnes d'intervention militaire et réduction progressive de la démocratie au nom de la sécurité nationale.
La notion de "monde libre" apparaît comme un outil rhétorique éculé, surtout quand, dans le même souffle, on réclame un contrôle étatique plus strict sur les laboratoires et la confidentialité des détails techniques des modèles d'IA. Aschenbrenner craint que les principaux laboratoires négligent les questions de sécurité et "remettent les secrets clés de l'AGI au Parti communiste chinois sur un plateau d'argent".
Comme solution, il propose une nationalisation encore plus stricte et un renforcement de l'appareil de sécurité de l'État. "Aucune startup n'est capable de gérer la superintelligence. Quelque part, dans une pièce secrète, la partie finale se joue déjà". Cela soulève des questions fondamentales sur la concentration du pouvoir et sur qui définit finalement les conditions d'usage de la superintelligence.
Il convient de noter que la course à l'IA tend elle-même à autoritariser les démocraties occidentales. Un contrôle plus strict, le secret, l'alliance toujours plus étroite entre État et grands groupes, ainsi que la survalorisation de la sécurité nationale réduisent la transparence et le débat démocratique, y compris aux États-Unis et en Europe.
Ainsi, la compétition entre grandes puissances n'est finalement pas un véritable combat idéologique entre liberté et autoritarisme, mais une rivalité classique de puissances, où chaque camp poursuit ses propres intérêts de pouvoir presque par les mêmes moyens.
Aschenbrenner croit à la supériorité technologique de l'Occident, son pire cauchemar étant que la Chine vole les principales technologies AGI avant l'Occident - ou que les laboratoires occidentaux les livrent par négligence. Cette hypothèse occulte la possibilité que la Chine développe indépendamment une technologie similaire, ou que la recherche parallèle dans différents pays aboutisse à des solutions similaires.
Cela souligne une profonde méfiance envers un monde multipolaire. Si les États-Unis atteignent la superintelligence en premier, ses bénéfices seront-ils partagés avec l'ensemble de l'humanité, ou serviront-ils avant tout d'outil à un nouvel impérialisme technologique ? L'histoire enseigne que la supériorité technologique ne garantit pas d'emblée une utilisation responsable ou juste.
Le contrôle fiable des systèmes superintelligents reste pour Aschenbrenner essentiellement un défi technique, mais l'analyse géopolitique demande une réflexion plus profonde: qui peut définir au niveau mondial ce que signifient sécurité et conformité ? Le leadership des États-Unis n'assure pas automatiquement un meilleur résultat éthique, mais risque simplement de renforcer les structures de pouvoir existantes et le complexe militaro-industriel.
La vision de l'auteur d'un projet national d'AGI rappelle le projet Manhattan, mais dans le contexte actuel, un tel secret et une telle militarisation comportent de sérieux risques: concentration du pouvoir, abus et instabilité mondiale.
Aschenbrenner insiste sur la conscience de la situation: selon lui, seules quelques personnes, principalement à San Francisco, comprennent vraiment la situation. Ce point de vue d'initié est précieux mais aussi limité. Il reflète la bulle de la Silicon Valley et de Washington, où les intérêts stratégiques et économiques propres sont vus comme le bien universel.
Selon Aschenbrenner, les bâtisseurs de l'IA sont "les personnes les plus intelligentes qu'il ait jamais rencontrées". Mais l'intelligence ne garantit pas la sagesse dans la gestion des risques mondiaux ou dans la construction d'un monde plus juste.
Dans le débat sur l'IA, Aschenbrenner se place à mi-chemin entre les alarmistes et les techno-optimistes: il n'exige pas l'arrêt de l'IA, mais ne croit pas non plus à la minimisation des risques de sécurité. Pour lui, le "réalisme AGI" signifie que la superintelligence est une affaire de sécurité nationale et que les États-Unis doivent maintenir leur avance technologique.
Le texte d'Aschenbrenner est techniquement pointu mais politiquement unilatéral. Il remet peu en question le rôle des sociétés occidentales dans la course, et omet d'analyser comment la compétition de l'IA modifie à la fois les sociétés autoritaires et démocratiques dans le même sens : vers plus de contrôle et de pouvoir de l'État.
L'approche de la superintelligence souligne davantage la nécessité d'une vraie coopération internationale et d'un débat ouvert, plutôt que la répétition d'oppositions idéologiques anciennes. Sans une distance critique suffisante, la course à la technologie peut conduire non seulement à des risques pour la sécurité, mais aussi à une inégalité mondiale accrue et à des sociétés de surveillance - quel que soit le vainqueur.
Les thèses principales d'Aschenbrenner sont restées d'actualité après la publication. Le développement rapide des capacités des modèles, ainsi que les investissements croissants des États et des entreprises technologiques dans l'infrastructure et la sécurité, ont en partie validé ses prédictions.
Dans le même temps, le climat géopolitique s'est tendu. L'administration américaine a déjà renforcé sa mainmise sur les entreprises d'IA et, par exemple, sur la disponibilité des nouveaux modèles de langage. Ces évolutions n'ont pas infirmé l'analyse d'Aschenbrenner, mais en ont plutôt souligné la pertinence des risques évoqués: la course technologique ne fait pas que renforcer les grandes puissances, elle transforme aussi de l'intérieur les sociétés qui y participent.
Le parcours d'Aschenbrenner dans le monde de l'IA a également été sinueux. Il a travaillé pendant un an dans l'équipe Superalignment d'OpenAI, avant d'être licencié en 2024 après avoir alerté le conseil d'administration de l'entreprise sur des failles de sécurité et le risque d'espionnage chinois. Selon OpenAI, le motif du licenciement était une fuite d'informations, mais pour Aschenbrenner, il s'agissait de raisons politiques.
Depuis, Aschenbrenner s'est concentré sur la gestion du fonds d'investissement Situational Awareness LP. Le fonds gère désormais plus de 20 milliards de dollars d'actifs et appartient à la catégorie des poids lourds de Wall Street. Il ne croit donc pas seulement à la course à la superintelligence, il en profite aussi financièrement.
Il reste encore un détail singulier: la fiancée d'Aschenbrenner, Avital Balwit (photo), est la directrice des ressources humaines de la startup IA Anthropic. Cette même entreprise Anthropic dont les actions ont rapporté au fonds d'Aschenbrenner un bénéfice décuplé. Technologie, politique, informations privilégiées et relations personnelles s'entremêlent ici d'une façon propre à susciter la méfiance.