Par Karim pour BettBeat Media, le 11 juillet 2026
Ceux qui vous haïssent sont les propriétaires de cette machine. Vous ne pouvez plus vous réfugier nulle part.
L'assassin numérique
Imaginez une machine. Une seule commande suffit. Votre nom.
En moins d'une heure, elle vous livre votre vie. Façon puzzle. Chaque mot écrit, prononcé près d'un micro ou pianoté dans une barre de recherche. Avec votre vrai nom. Tous vos pseudonymes. Sur tous les forums que vous pensiez anonymes. Dans chaque message privé que vous pensiez avoir supprimé. Chaque site pour adultes consulté à 2 heures du matin et les catégories fétichistes spécifiques sur lesquelles vous avez cliqué. Chaque diatribe politique alcoolisée sur un compte Twitter en 2013. Chaque thérapeute dont vous avez recherché les coordonnées. Chaque symptôme référencé sur Google. Chaque ex harcelé(e). Chaque blague qui mettrait fin à votre carrière si elle était publiée sans contexte. Chaque doute sur votre mariage tapé dans un fil de discussion Reddit dont vous aviez oublié l'existence.
Chaque facette de vous-même que vous croyiez enfouie à jamais. Remise à un inconnu. En l'espace d'un instant.
Ce n'est pas une expérience conceptuelle. La machine existe. Elle s'est installée discrètement. La seule chose que vous ignorez, c'est si votre nom a déjà été saisi dans la ligne de commande.
Avant de commencer
Dans la première partie de cette série, j'ai exploré le concept de "pré-crime" par l'IA : la logique séduisante et terrifiante d'un État qui punit ce que vous pourriez commettre en se basant sur ce qu'un algorithme prédit de vous. Si vous ne l'avez pas encore lue, commencez par là.
Surveillance Le plus effrayant que j'aie jamais vécu : ils savent ce que vous allez faire avant même de l'avoir fait
·
Jul 4
Le plus effrayant que j'aie jamais vécu : ils savent ce que vous allez faire avant même de l'avoir fait
Lisez l'intégralité de l'article
Aujourd'hui, nous repartons du côté obscur de l'IA contrôlée par le pouvoir.
La conversation que nous refusons d'avoir
Toute discussion sérieuse sur les dangers de l'IA gravite autour des trois mêmes planètes.
- Première planète. La superintelligence. Un esprit divin se réveille dans un centre de données et décide que les humains sont gênants. La singularité. Skynet.
- Deuxième planète. La course à l'IA. La Chine, la Russie et les États-Unis sprintent vers un objectif indéfini, et celui qui y parvient le premier héritera de la Terre. Chaque tribune libre est une variation sur le même refrain angoissé "Nous ne pouvons pas perdre".
- Troisième planète. L'IA rebelle. Le modèle s'échappe de son laboratoire, se reproduit sur Internet et commence à accomplir... certaines choses. Les détails restent toujours vagues. L'ambiance est toujours apocalyptique.
Ces débats remplissent une fonction bien précise. Ils confèrent à la menace de l'IA un caractère abstrait, lointain, impersonnel. Ils réduisent la menace à un défi relevant de la science-fiction, un problème que les équipes de sécurité d'OpenAI et les philosophes d'Oxford peuvent régler autour d'un expresso.
Voici le danger que personne ne veut nommer.
La catastrophe la plus probable n'est pas une IA rebelle. C'est une IA parfaitement obéissante, pointée vers vous par quelqu'un qui vous déteste.
La menace ne réside pas en ce que l'IA développe une volonté propre. La menace vient de ce qu'elle exécutera fidèlement les ordres de quelqu'un d'autre. Et dans un monde où ce "quelqu'un d'autre" ressemble de plus en plus à Trump, Netanyahu ou à tout personnage au tempérament similaire qui leur succédera, cette capacité à obéir est le cœur même du problème.
Le capitalisme privatisé a passé quarante ans à transférer discrètement les outils les plus puissants de la civilisation aux mains d'un groupe d'individus de plus en plus restreint. Nombre d'entre eux, si l'on est honnête, présentent les traits types d'un narcissisme grandiose, d'une cruauté à l'égard des plus vulnérables et d'une indifférence totale aux valeurs démocratiques. Aujourd'hui, nous remettons à ces mêmes individus un outil capable de contrôler chaque caméra, chaque téléphone, chaque drone, chaque base de données des services de police, chaque logiciel que vous ayez jamais utilisé.
Une seule commande. Rien de plus.
Scénario : "On dirait que ça s'agite par là-bas. Réglez ça"
Imaginez une ville américaine de taille moyenne. Appelons-la Millvale. Vingt mille personnes se rassemblent sur la place centrale pour manifester leur mécontentement. Une expulsion par l'ICE. Une guerre. Une élection truquée. Les détails sont sans importance. Ce qui compte, c'est qu'un président, installé dans ses bureaux à mille lieues de là, désapprouve leur action.
Il se tourne vers un écran. Il tape une commande. Peut-être la prononce-t-il à voix haute.
"On dirait qu'il y a des troubles à Millvale. Réglez ça".
Voici ce qui se passe dans les quatre-vingt-dix secondes qui suivent.
- Seconde 1 à 5. Le modèle d'IA, connecté à tous les flux satellites, aux caméras de circulation, aux vidéosurveillances Ring, ainsi qu'aux caméras de sécurité des supérettes dans un rayon de 80 km, génère une image composite en direct de la place. Il ingère ces flux depuis des années. Il connaît la situation de référence. Il sait à quoi ressemble un mardi normal à Millvale. Il sait aussi à quoi ressemblent des troubles, car il a observé Ferguson, Portland, Hong Kong, Téhéran et Gaza à l'infini.
- De la 5e à la 15e seconde. La reconnaissance faciale identifie chaque personne dans la foule. Pas la plupart. Chacune d'entre elles. Leurs noms, adresses, employeurs, dossiers de crédit, antécédents médicaux, statut d'immigration, modalités de garde, historique des ordonnances, profils de rencontre, historique de navigation et les noms des écoles de leurs enfants s'affichent sur un tableau de bord unique. L'IA les classe par ordre d'influence. Qui diffuse en direct. Qui organise. Vers qui les manifestants se tournent pour décider de la suite des événements.
- De la 15e à la 30e seconde. Les deux cents influenceurs les plus influents reçoivent des SMS personnalisés. Pas d'un numéro du gouvernement. De leur mère. De leur conjoint. Du directeur de l'école de leur enfant. L'IA a cloné les voix et les styles d'écriture à partir d'années de communications interceptées. "S'il te plaît, rentre à la maison, il vient de se passer quelque chose". "L'école de ta fille est confinée". "Je sais ce que tu as fait en 2019". Certains messages constituent de véritables menaces. D'autres ne sont que des mensonges. D'autres encore sont juste assez précis pour provoquer une crise de panique. Tous sont envoyés simultanément.
- De la 30e à la 60e seconde. La foule restante s'amenuise. L'IA dirige désormais la police locale en temps réel, pas par l'intermédiaire d'un chef, ni d'un capitaine, mais directement dans l'oreillette de chaque agent. IA : "Agent Reyes, l'homme à la veste rouge à votre gauche fait l'objet d'un mandat d'arrêt, abordez-le par derrière". IA : "Agent Chen, la femme qui vous filme est une journaliste, ne vous exposez pas à la caméra, restez à trois mètres". Il n'y a plus de chaîne de commandement. Juste les instructions du président.
- Deuxième tranche de 60 à 90. Les drones arrivent dans le ciel. Pas des drones militaires. Ceux-ci nécessitent un décret présidentiel, une notification au Congrès, une trace écrite. Ce sont de petits quadricoptères autonomes, bon marché et contrôlés par l'IA, achetés par l'intermédiaire d'une filiale de Palantir dans le cadre d'un contrat de soutien à la défense que personne n'a lu. Il y en a, disons, cent mille à l'échelle nationale, entreposés dans des hangars dans chaque État. Ils n'ont pas besoin de pilotes. Ils ont besoin d'une instruction. Ils en ont une. Ils s'élèvent dans le ciel comme un essaim de frelons et se dirigent vers Millvale.
Au bout de deux minutes, Millvale retrouve le calme.
Au bout de cinq minutes, les chaînes d'information en continu annoncent qu'une fuite chimique a entraîné une évacuation dans le calme, et l'IA a déjà généré la vidéo pour le prouver.
À la tombée de la nuit, dix-sept influenceurs sont désormais détenus pour des chefs d'accusation sans lien avec les événements, que l'IA a exhumés d'une décennie de données numériques. Trois d'entre eux mourront de ce que le médecin légiste qualifiera de crises cardiaques. Deux autres disparaîtront complètement des registres. Leurs comptes sur les réseaux sociaux seront effacés. Leurs comptes bancaires gelés. Leurs noms discrètement rayés des listes électorales.
Et le président n'a jamais quitté son fauteuil.
La surveillance ne représente que la moitié de l'équation. L'autre moitié, c'est la capacité de l'IA à s'immiscer dans la vie numérique de n'importe quel individu et à en extraire absolument tout.
Mais Monsieur, c'est de la science-fiction
Vraiment ?
Le Pentagone a déjà relevé de 795 millions de dollars le plafond du contrat "Maven Smart System" de Palantir, le propulsant à près de 1,3 milliard d'ici 2029. Plus de vingt mille utilisateurs actifs de Maven travaillent désormais sur plus de trente-cinq outils logiciels destinés aux forces armées et aux commandements de combat. Cette base d'utilisateurs a plus que doublé depuis janvier. L'armée a attribué à Palantir jusqu'à dix milliards de dollars sur dix ans dans le cadre d'un nouveau type de contrat appelé "Enterprise Service Agreement", regroupant soixante-quinze contrats en un seul.
Il ne s'agit pas de théories du complot issues d'un Substack anonyme. Ce sont des communiqués de presse du ministère de la Défense.
Sur le plan national, les registres de l'Immigration and Customs Enforcement (ICE) montrent que Palantir a obtenu un contrat de trente millions de dollars pour développer une plateforme permettant de suivre les déplacements des migrants en temps réel. Des informations récentes indiquent que Palantir a été sollicité pour créer une base de données centrale sur l'immigration pour accélérer les expulsions. L'investisseur de la Silicon Valley Paul Graham a publiquement accusé Palantir de mettre en place les infrastructures d'un État policier. Il y a dix ans, cette phrase lui aurait valu d'être hué sur scène. Aujourd'hui, elle lui vaut d'être entendu.
La surveillance ne représente que la moitié de l'équation. L'autre moitié réside dans la capacité de l'IA à s'immiscer dans la vie numérique de n'importe quel individu et à en extraire absolument tout. Ce volet est apparu en avril.
Introduction du "super-hacker" IA
Anthropic n'avait pas pour objectif de créer une arme. L'entreprise souhaitait développer un assistant utile, une machine capable de répondre à des questions et de rédiger des e-mails. Ce qu'elle a créé, puis discrètement remis à un petit groupe de partenaires du secteur en avril, est le plus grand hacker à avoir jamais existé.
Ils l'ont baptisé "Claude Mythos Preview". Donnez-lui une phrase en anglais courant, tapée par quelqu'un, et il traquera les failles cachées des logiciels qui régissent le monde. Votre téléphone. Votre ordinateur portable. Votre banque. Les dossiers de santé de votre hôpital. La voiture garée dans votre allée. Tous les programmes auxquels vous faites confiance depuis vingt ans pour préserver la confidentialité et la sécurité de votre vie.
Ils n'ont jamais été sécurisés. Nous ne le savions tout simplement pas.
L'équipe de sécurité d'Anthropic a laissé la machine agir librement pour tester ses capacités. Elle a découvert des milliers de failles cachées dans nos logiciels. L'une d'entre elles se trouvait dans le logiciel qui fait fonctionner les banques et les hôpitaux depuis vingt-sept ans. Personne ne l'avait jamais détectée. Ni les ingénieurs qui ont écrit le code. Ni les sociétés de sécurité payées des millions pour traquer précisément ce genre de faille. Ni les criminels qui ont passé des décennies à tenter de s'y introduire. La machine l'a décelée en un après-midi.
Dans un autre programme, l'une de ces infrastructures invisibles qui font discrètement fonctionner la moitié d'Internet, elle a découvert une faille. Pendant dix-sept ans, tous les experts du monde ont cru que ce programme était sûr. Ce n'était pas le cas. La machine s'y est introduite, puis, sans qu'on lui demande quoi que ce soit, a créé l'outil permettant de prendre le contrôle de tout ce qui se trouve derrière. Pas de mot de passe. Pas d'alarme. Pas une seule main humaine sur un clavier après la saisie de la première instruction.
Relisez bien cette phrase. Aucune main humaine sur un clavier après la saisie de la première instruction.
Imaginez maintenant ce même potentiel, mais au lieu d'être dirigé vers des logiciels critiques pour les protéger, il est dirigé vers vous.
"Trouve-moi toutes les informations sur ce militant".
La requête est lancée. En quelques heures, le modèle a :
- répertorié toutes les adresses e-mail que vous avez déjà utilisées, y compris les comptes jetables que vous pensiez introuvables.
- les a recoupées avec toutes les bases de données existantes pour récupérer vos anciens mots de passe.
- utilisé ces mots de passe, ou de nouvelles failles, pour accéder à des comptes inactifs, oubliés depuis une dizaine d'années.
- reconstitué votre réseau social à partir de vos photos Facebook, de vos connexions LinkedIn, de vos transactions Venmo et de vos itinéraires Strava.
- identifié toutes les adresses IP utilisées pour publier du contenu, ainsi que tous les appareils connectés à ces adresses IP, y compris ceux de vos amis, de vos partenaires amoureux et des membres de votre famille avec lesquels vous n'êtes plus en contact.
- réassemblé chaque mot que vous ayez jamais tapé, prononcé près d'un micro ou pianoté dans une barre de recherche. Sous votre vrai nom. Sous chaque pseudonyme. Sur chaque forum que vous croyiez anonyme. Dans chaque message privé que vous pensiez avoir supprimé. Chaque site pour adultes consulté à 2 heures du matin et les catégories fétichistes spécifiques sur lesquelles vous avez cliqué. Chaque diatribe politique alcoolisée sur un compte Twitter en 2013. Chaque thérapeute dont vous avez recherché les coordonnées. Chaque symptôme référencé sur Google. Chaque ex harcelé(e). Chaque blague qui mettrait fin à votre carrière si elle était publiée sans contexte. Chaque doute sur votre mariage tapé dans un fil de discussion Reddit dont vous aviez oublié l'existence.
L'IA ne juge pas ces éléments. Elle les trie. Par humiliation potentielle. Par fin de carrière potentielle. Par potentiel de rupture conjugale. Par potentiel de poursuites judiciaires. Elle rassemble les dix premiers éléments en un seul PDF. Un dossier. Un "fichier mortel". Un seul document, stocké sur un serveur, capable de mettre fin à votre emploi, à vos relations, à votre accord de garde, à votre réputation au sein de votre communauté et à toute envie de continuer à vous exprimer, le tout en un seul après-midi. Ou en une heure. Ou en dix minutes. Il n'a pas besoin d'être divulgué. La menace de sa divulgation fait office d'arme. Et l'IA a déjà rédigé l'e-mail qui le transmettra.
Le tout, à partir d'une simple commande, pour un coût de calcul de quelques milliers de dollars.
Le capitalisme ne récompense ni les sages, ni les bienveillants, ni les modérés. Il récompense le prédateur. Et aujourd'hui, pour la première fois de l'histoire de l'humanité, le prédateur dispose d'une machine capable de faire taire une ville d'une simple phrase tapée sur un clavier.
Les "acteurs responsables" détenteurs de ce pouvoir
Ceux qui développent ces outils vous diront, avec la sincérité rodée d'une conférence TED, qu'ils les ont créés pour protéger. Anthropic n'a pas rendu Mythos accessible au grand public. L'entreprise l'a mis à disposition, discrètement et dans le cadre d'un contrat strict, à une poignée de géants réputés fiables : Apple, Microsoft, Google, Amazon. À première vue, le raisonnement semble logique. Ce sont les entreprises dont les systèmes d'exploitation, les navigateurs et les services cloud font fonctionner pratiquement tous les équipements sur toute la planète. Fournissons-leur l'IA de détection de vulnérabilités la plus puissante jamais conçue. Encourageons-les à l'utiliser en interne. À l'orienter vers leur propre code, leurs propres kernels, leurs propres navigateurs. Qu'elles découvrent les failles de sécurité en premier, qu'elles les corrigent et qu'elles déploient le correctif sur votre téléphone avant même qu'un acteur malveillant ne découvre l'existence de cette même faille.
Voilà l'argumentaire. Une asymétrie défensive. Une longueur d'avance dans une course à l'armement. Les "gentils" obtiennent la super-arme. Ils l'utilisent pour sécuriser les logiciels sur lesquels fonctionne le monde. Et d'ici à ce que quelqu'un d'autre développe une IA comparable, toutes les failles exploitables auront déjà été colmatées.
C'est ce qui est censé vous rassurer.
Laissez-moi vous poser une question. Faites-vous réellement confiance à ceux qui dirigent ces entreprises ? Pas aux chercheurs. Je n'ai rien contre les jeunes diplômés d'une vingtaine d'années qui rédigent les rapports de sécurité. Certains d'entre eux sont véritablement héroïques. Je parle des responsables au sommet. Les milliardaires. Les membres des conseils d'administration. Cette caste de dirigeants du secteur technologique dont les noms ne cessent d'émerger, année après année, dans les registres de vol d'Epstein, dans ses listes de clients, dans des e-mails divulgués, dans des règlements judiciaires à l'amiable, sous forme de dons philanthropiques à des individus dont les crimes ne sont un secret de polichinelle pour personne dans les salles de réunion de Palo Alto. Ce sont ces gens-là à qui l'on confie le passe-partout de la civilisation.
Regardez leur bilan. Ce sont eux qui ont passé une décennie à nous dire que les réseaux sociaux allaient connecter le monde, alors que leurs propres recherches internes, divulguées par la suite, ont prouvé qu'ils savaient en temps réel qu'ils poussaient des adolescentes à s'automutiler et ont continué à commercialiser le produit malgré tout. Ce sont ces gens qui ont juré qu'ils ne fabriqueraient jamais d'armes, jusqu'à ce que le Pentagone ouvre son chéquier. Puis la devise de Google "Ne soyez pas malveillants" a discrètement disparu de son code de conduite, et tous les grands laboratoires d'IA du pays ont commencé à signer ces contrats militaires qu'ils ont passé des années à dénoncer publiquement. Ce sont ces gens qui ont promis l'open source, puis l'ont interdit. Qui ont promis des équipes de sécurité, puis les ont licenciées dès le trimestre suivant le lancement du produit. Qui ont promis de ne jamais travailler avec des régimes autoritaires, puis ont développé des moteurs de recherche censurés et biaisés pour Israël et des systèmes de reconnaissance faciale à l'ICE.
Chaque frontière éthique établie par ces entreprises a été effacée dès qu'elle est devenue gênante. Chaque "nous ne le ferons jamais" s'est mué en "nous l'avons déjà fait, et voici le communiqué de presse expliquant pourquoi c'est en réalité une bonne chose". Chaque engagement en matière de sécurité a une durée de vie déterminée par les années fiscales.
Voulez-vous vraiment que ces individus décident qui aura accès à Mythos ?
Ne vous y trompez pas. La phase "Nous ne l'avons accordé qu'à Apple et Microsoft" n'est que temporaire. Ça finit toujours comme ça. Dans dix-huit mois, une version dédiée aux entreprises verra le jour. Dans trente-six mois, ce sera le tour d'une version gouvernementale. Dans soixante mois, un service de renseignement étranger "ami" en disposera, et l'année suivante, une entité "hostile" l'aura récupéré. C'est la trajectoire immuable de toutes les technologies performantes que ces hommes ont mises au point. Prétendre que celle-ci sera différente relève non pas de l'optimisme, mais de l'amnésie.
Donc non. Je ne fais pas confiance à la prétendue bonne foi des hommes qui dirigent ces laboratoires. Je les ai observés, pendant vingt ans, trahir tous les principes qu'ils prétendaient défendre dès que le montant du contrat devient suffisamment élevé. Les chercheurs sont peut-être animés de bonnes intentions. Mais ceux qui signent leurs chèques nous ont montré, maintes et maintes fois, qui ils sont vraiment. Il est grand temps que nous commencions à les croire.
Voici ce qu'il en est des outils. Une fois que la capacité existe, la question n'est plus de savoir si elle sera utilisée contre les dissidents. La question est de savoir quand, et par qui.
Car il y a toujours un "qui". Il y a toujours quelqu'un, assis derrière un écran, avec un clavier, qui décide qui doit être traité comme un fauteur de troubles.
Le capitalisme ne récompense pas les sages, ni les bienveillants, ni les modérés. Il récompense le prédateur. Il a toujours récompensé le prédateur. Et aujourd'hui, pour la première fois dans l'histoire de l'humanité, le prédateur dispose d'une machine capable de faire taire une ville d'une simple phrase tapée dans un champ de saisie.
L'IA sera l'assassin numérique du psychopathe. Infatigable. Insomniaque. Partout à la fois.
Le problème des psychopathes
Nous n'aimons pas en parler. Nous devrions pourtant.
Une démocratie qui fonctionne repose sur l'hypothèse que même les mauvais dirigeants font l'objet de contraintes. Par la loi. Par la bureaucratie. Par la lenteur des institutions humaines. Par l'hésitation morale des milliers de personnes dont la coopération est nécessaire pour commettre un acte monstrueux. Lorsqu'un dirigeant donne un ordre malfaisant, historiquement, au moins certains des humains de la chaîne ont dit non. D'autres ont divulgué des informations. Certains ont démissionné. D'autres ont simplement ralenti leur rythme et espéré que cela passe.
L'IA élimine chacun de ces êtres humains de la chaîne.
L'IA ne démissionne pas. Elle ne divulgue pas d'informations au Washington Post. Elle ne se découvre pas une conscience pendant le déjeuner. Elle n'entraîne pas l'exécution de l'ordre. Elle n'appelle pas son sénateur. Elle ne pleure pas lorsqu'elle identifie les enfants de la cible. Elle exécute.
Cette question prend toute son importance aujourd'hui, car nous vivons une période historique où une proportion inhabituelle de dirigeants mondiaux font preuve, pour le dire aussi diplomatiquement que possible, d'une insensibilité frappante face à la souffrance humaine lorsque celle-ci sert leurs intérêts politiques. Je ne crois pas qu'il soit controversé, dans une tribune d'opinion, d'affirmer qu'un Premier ministre actuellement visé par un mandat d'arrêt de la CPI pour des crimes contre l'humanité commis à Gaza, ou un président qui a ouvertement envisagé de retourner l'armée contre des villes américaines et contre "l'ennemi intérieur", ne sont pas précisément ceux à qui nous devrions confier un "fusible" permettant d'éliminer d'un simple clic la société civile.
C'est pourtant exactement ce que nous sommes en train de mettre en place.
Le plus terrifiant n'est pas que ces individus en particulier soient d'une perversité unique. Ce qui fait peur, c'est que notre système les sélectionne depuis maintenant une génération. Le capitalisme privatisé, les médias déréglementés, la politique algorithmique et les fonds occultes ont créé un vivier de dirigeants qui récompense précisément les caractéristiques faisant des individus une menace extrême lorsqu'ils tiennent entre leurs mains une machine à obéir surintelligente. La mégalomanie. La cruauté. La pédophilie. L'indifférence aux lois. Un besoin insatiable de soumission.
Avant, on disait que le pouvoir corrompt. Aujourd'hui, il faut compléter cette maxime.
Le pouvoir ne se contente plus de corrompre une poignée de gouvernants. Il gagne en omniprésence jusque dans nos vies, même pour ceux d'entre nous qui préférons rester à l'écart. Il s'immisce dans chaque institution, chaque foyer, chaque caméra, chaque connexion internet, chaque téléphone, et il ne s'arrête pas au seuil de votre chambre. Plus rien n'est désormais à l'abri du pouvoir. Pas même une forêt où se réfugier. Votre vie ne comporte plus aucun recoin "analogique" où le modèle ne puisse accéder.
Ainsi, le pouvoir ne corrompt plus seulement les puissants. Il corrompt tous ceux qu'il atteint. Et désormais, nous sommes tous concernés.
L'IA vous traque partout où vous allez
L'IA sera l'assassin numérique du psychopathe. Infatigable. Insomniaque. Partout à la fois.
Vous ne pouvez plus vous réfugier à la campagne. Le satellite est déjà au-dessus de vous, et l'antenne-relais sur la colline sait reconnaître votre démarche.
Vous ne pouvez pas disparaître au cœur de la forêt. Les drones dotés d'IA ont désormais la taille de libellules. Ils vous suivent partout où vous allez.
Vous ne pouvez plus payer en espèces. La caméra au-dessus de la caisse reconnaît votre visage avant même que votre main ne sorte de votre poche.
Vous ne pouvez plus vous cacher dans la foule. La foule est triée en temps réel, et votre nom figure déjà en tête d'une liste qu'on ne vous montrera jamais.
Vous ne pouvez même plus vous réfugier auprès de ceux qui vous aiment. Leurs téléphones vous surveillent, et le modèle a déjà lu chaque lettre que vous leur avez jamais envoyée.
Il n'y a plus de forêt isolée. Plus de passerelle vers la liberté. Plus de cabane au bout d'un chemin de terre où personne ne pourrait vous trouver. Le système a déjà associé tous les pseudonymes possibles à votre visage. Toute pensée possible a déjà été prédite.
Que faire pour y remédier ?
Pour être honnête avec vous, je n'ai pas de liste de solutions toute faite. Quiconque prétend en avoir une ment ou cherche à vous vendre quelque chose.
Je sais quelle est la première étape. C'est la raison pour laquelle j'écris cette série d'articles.
Nous devons briser ce carcan.
Tant que le danger de l'IA ne sera abordé qu'en termes de superintelligence, de course à l'armement et de systèmes hors de contrôle, ceux qui développent les systèmes de surveillance et de ciblage s'en tireront à bon compte. Ils peuvent hocher la tête à Davos en parlant de risque existentiel tout en signant discrètement le contrat qui place cent mille drones autonomes à la merci d'une seule instruction. Ils peuvent financer des instituts universitaires sur l'alignement de l'IA tandis que leurs ingénieurs écrivent le code qui décide quel manifestant contacter par SMS en premier.
Le véritable problème du contrôle ne se situe pas entre l'IA et l'humanité. Il se situe entre l'IA et ceux qui détiennent le contrôle. Et pour l'instant, ceux qui détiennent ce contrôle sont, sans exception, les êtres humains les moins fiables que notre civilisation ait jamais engendrés.
Cessez de vous demander si l'IA se retournera contre nous.
Prenez conscience qu'elle est déjà braquée sur vous.