Geoffrey Hinton : “Les riches vont utiliser l’IA pour remplacer les travailleurs”

J’ai dix minutes d’avance, mais Geoffrey Hinton m’attend déjà dans le vestibule de Richmond Station, un élégant pub gastronomique de Toronto. Cet informaticien, pionnier de l’IA et lauréat du prix Nobel de physique [en 2024], a choisi cet endroit parce qu’il y a déjà déjeuné avec l’ancien Premier ministre canadien Justin Trudeau.

Nous traversons ce qui ressemble à un bar à vin branché à la décoration industrielle pour rejoindre une arrière-salle animée déjà remplie de clients. Geoffrey Hinton enlève son vieux sac à dos vert Google Scientist, qui lui vient de son ancien lieu de travail, et s’en sert comme coussin pour se tenir bien droit, en raison d’un mal de dos chronique.

Avec ses cheveux blancs coincés sous ses lunettes, il a un air de chouette quand il me regarde et me demande ce que j’ai étudié à l’université. “Parce qu’on explique les choses différemment quand quelqu’un a un diplôme en sciences.” Tel n’est pas mon cas. Justin Trudeau, au moins, avait “des bases en calcul différentiel”.

Entre enthousiasme et pessimisme

Celui que l’on appelle “le parrain de l’intelligence artificielle”, toujours professeur, a l’habitude d’expliquer le travail auquel il a consacré sa vie, alors que celui-ci commence à s’immiscer dans tous les aspects de notre quotidien. Il a vu l’intelligence artificielle (IA) sortir du monde universitaire – où il a mené presque toute sa carrière, dont plus de deux décennies à l’université de Toronto – pour entrer dans les mœurs, alimentée par des entreprises de la tech aux poches pleines et impatientes d’atteindre consommateurs et entreprises.

Geoffrey Hinton a remporté le prix Nobel pour ses “découvertes et inventions fondamentales”, remontant au milieu des années 1980, qui ont permis “l’apprentissage automatique par réseau de neurones artificiels”. Cette approche, vaguement inspirée du fonctionnement du cerveau humain, a jeté les bases des puissants systèmes d’IA dont nous disposons aujourd’hui.

Pourtant, l’avènement de ChatGPT et la polémique qui a suivi sur le développement de l’IA ont incité mon invité à faire une pause. Au lieu de contribuer à son accélération, il met désormais en garde contre les risques de cette technologie. Ces dernières années, devant les rapides progrès dans ce domaine, Geoffrey Hinton est devenu profondément pessimiste, soulignant son potentiel dévastateur pour l’humanité.

“Avec l’IA, n’importe qui sera bientôt capable de fabriquer des armes biologiques, c’est effrayant. Imaginez qu’une personne lambda puisse fabriquer une bombe nucléaire.”

Au cours des deux heures que dure notre déjeuner, nous abordons de nombreux sujets : des menaces nucléaires (“avec l’IA, n’importe qui sera bientôt capable de fabriquer des armes biologiques, c’est effrayant. Imaginez qu’une personne lambda puisse fabriquer une bombe nucléaire”) à ses propres habitudes en matière d’IA (elle est “extrêmement utile”)… jusqu’au rôle improbable du chatbot, qui s’est retrouvé à tenir la chandelle lors de sa toute dernière rupture.

Mais avant, Geoffrey Hinton se lance dans une mini-conférence enthousiaste ce qui justifie le terme “intelligence” artificielle : “quelle que soit la définition de l’intelligence, l’IA est intelligente”. Conscient que son interlocutrice est diplômée en sciences humaines, il utilise une demi-douzaine d’analogies variées pour me convaincre que l’expérience de la réalité par l’IA n’est pas si différente de celle des humains. “Cela me semble très évident. Si vous parlez à ces systèmes, que vous leur posez des questions, ils comprennent, poursuit mon invité. Il ne fait pratiquement aucun doute dans la communauté technique que ces systèmes vont devenir plus intelligents.”

Le serveur s’excuse de nous déranger. Geoffrey Hinton renonce au vin et opte pour une carafe d’eau, “puisque c’est le ‘Financial Times’ qui paie”, et propose que nous prenions le menu à prix fixe. Je choisis le gaspacho en entrée, suivi du saumon. Il commande la même chose sans hésiter, mais dit en riant qu’il “aurait préféré avoir quelque chose de différent”.

La postérité de Geoffrey Hinton dans son domaine est assurée mais certains, même au sein du secteur, considèrent que la technologie existante n’est finalement guère plus qu’un outil sophistiqué. Son ancien collègue et co-lauréat du prix Turing, Yann LeCun, aujourd’hui directeur scientifique de l’IA chez Meta, estime ainsi que les grands modèles de langage (LLM) sur lesquels reposent des produits comme ChatGPT sont limités et incapables d’interagir de manière significative avec le monde physique.

Pour ces sceptiques, cette génération d’IA est incapable d’intelligence humaine. “Nous savons très peu de choses sur notre propre esprit”, explique Geoffrey Hinton, mais les systèmes d’IA, eux, “nous les créons, nous les construisons… nous avons d’eux un niveau de compréhension bien supérieur à celui du cerveau humain, car nous savons ce que fait chaque neurone”.

Il s’exprime avec conviction, mais reconnaît qu’il existe de nombreuses inconnues. Tout au long de notre conversation, il n’hésite pas à faire de longues pauses pour réfléchir, avant de conclure par “je ne sais pas” ou “aucune idée”.

Pour une relation “maternelle” avec l’IA

Geoffrey Hinton est né en 1947 à Wimbledon, dans le sud-ouest de Londres, d’un père entomologiste et d’une mère enseignante. Au King’s College de Cambridge, il a exploré diverses disciplines avant de se spécialiser en psychologie expérimentale pour son diplôme de premier cycle, puis de se tourner vers l’informatique au début des années 1970. Il a poursuivi ses recherches sur les réseaux neuronaux malgré le mépris et le rejet de la communauté informatique jusqu’aux percées des années 2010, lorsque la Silicon Valley a adopté cette technique.

Au fil de notre conversation, il est frappant de constater à quel point il diffère de ceux qui exploitent aujourd’hui ses travaux. Geoffrey Hinton a mené une vie profondément enracinée dans le monde universitaire, tandis que Sam Altman a quitté Stanford pour se consacrer à une start-up. Geoffrey Hinton est un socialiste dont les réalisations n’ont été reconnues que tardivement ; Mark Zuckerberg, milliardaire à 23 ans, est tout sauf socialiste.

“Si votre assistant est beaucoup plus intelligent que vous, comment allez-vous conserver votre pouvoir ?”

Le brouhaha de la salle où nous dégustons notre soupe contraste avec le ton doux et posé de cet homme qui parle de la survie de l’humanité. Il m’expose avec passion la manière de surmonter certains des risques liés aux systèmes d’IA modernes, développés par des “hommes ambitieux et animés par l’esprit de compétition” qui envisagent l’IA comme un assistant personnel. Cet usage semble assez anodin, mais pas pour Geoffrey Hinton.

“Si votre assistant est beaucoup plus intelligent que vous, comment allez-vous conserver votre pouvoir ? Nous ne connaissons qu’un seul exemple d’être beaucoup plus intelligent contrôlé par un être beaucoup moins intelligent, et c’est celui d’une mère et de son bébé… Si les bébés ne pouvaient pas contrôler leurs mères, ils mourraient.”

Geoffrey Hinton estime que “le seul espoir” pour l’humanité est de concevoir une IA qui devienne notre mère, “car une mère est aux petits soins pour son nouveau-né, elle préserve sa vie” et son développement. “C’est le type de relation [avec l’IA] que nous devrions viser.”

“Vous pouvez choisir cette citation comme titre de votre article”, ajoute-t-il en souriant, pointant sa cuillère vers mon bloc-notes.

Il me dit que son ancien étudiant diplômé, Ilya Sutskever, a approuvé cette idée de “mère-bébé”. Ce dernier, chercheur de premier plan dans le domaine de l’IA et cofondateur d’OpenAI, développe désormais des systèmes dans sa start-up, Safe Superintelligence, depuis qu’il a quitté OpenAI après une infructueuse tentative de destitution du directeur général Sam Altman. Mais je parie que Sam Altman ou Elon Musk ont plus de chances de remporter la course, non ? “Oui.” Alors lequel des deux lui inspire le plus confiance ?

Il marque une longue pause, puis se souvient d’une citation de 2016 du sénateur républicain Lindsey Graham, lorsqu’on lui a demandé de choisir entre Donald Trump et Ted Cruz comme candidat à la présidence : “c’est comme être fusillé ou empoisonné”.

Sur cette note, Geoffrey Hinton suggère que nous nous déplacions vers un endroit plus calme, et j’essaie d’attirer l’attention du personnel occupé à servir une salle bondée. Me devançant, il se lève brusquement et plaisante : “je vais aller leur parler, je peux leur dire que j’étais ici avec Justin Trudeau”.

Une fois installés sur des tabourets de bar près de la porte, nous discutons du délai nécessaire pour que l’IA devienne superintelligente, moment auquel elle pourrait être capable de surpasser les humains. “De nombreux scientifiques s’accordent à dire que cela prendra entre cinq et vingt ans, c’est le meilleur pari.”

La Chine contre la menace existentielle

Bien que Geoffrey Hinton soit réaliste quant à son destin (“J’ai 77 ans et la fin approche de toute façon”), beaucoup de jeunes pourraient être déprimés par cette perspective ; comment peuvent-ils rester positifs ?

Il répond à ma question par une autre, habitude fréquente chez lui : “Je suis tenté de dire : pourquoi devraient-ils rester positifs ? Peut-être qu’ils feraient plus s’ils n’étaient pas aussi positifs. Supposons qu’une invasion extraterrestre, repérable à l’aide d’un télescope, soit prévue dans dix ans, diriez-vous ‘comment rester positifs’ ? Non, vous diriez ‘comment allons-nous nous défendre ?’ Si rester positif signifie feindre que rien ne risque d’arriver, alors les gens ne devraient pas rester positifs.”

“Si rester positif signifie feindre que rien ne risque d’arriver, alors les gens ne devraient pas rester positifs.”

L’informaticien n’est pas optimiste quant à l’intervention des gouvernements occidentaux et critique le manque d’empressement de l’administration américaine à réglementer l’IA. La Maison-Blanche affirme qu’il faut se dépêcher de développer la technologie afin de battre la Chine et de protéger les valeurs démocratiques. Il se trouve que Geoffrey Hinton, en plein décalage horaire, revient de Shanghai où il a rencontré des membres du Politburo. Ils l’ont invité pour parler de “la menace existentielle de l’IA”.

“La Chine la prend au sérieux. Beaucoup de politiques sont des ingénieurs. Ils comprennent le problème d’une manière dont sont incapables les avocats et les commerciaux, ajoute-t-il. Pour la menace existentielle, il suffit qu’un seul pays trouve comment y faire face, et il pourra le montrer aux autres pays.”

Pouvons-nous nous fier à la Chine pour protéger l’ensemble des intérêts de l’humanité ? “C’est une question secondaire. La survie de l’humanité est plus importante que le fait d’être gentil. Pouvez-vous vous fier aux États-Unis ? À Mark Zuckerberg ?”

ChatGPT, assistant de rupture

Les incitations pour les entreprises de la tech qui développent l’IA sont désormais sur la table, tout comme notre saumon mi-cuit, accompagné d’un velouté de maïs doux. Pendant que Geoffrey Hinton parle, il trempe une tranche de poisson dans son assiette pour absorber la sauce.

Il a déjà plaidé en faveur d’une pause dans le développement de l’IA et a signé plusieurs lettres s’opposant à la conversion d’OpenAI en une société à but lucratif, une initiative qu’Elon Musk tente lui aussi de bloquer dans le cadre d’un procès en cours.

Les discussions sur les pouvoirs de l’IA sont souvent décrites comme un simple battage médiatique servant à augmenter la valorisation des start-up qui la développent, mais Geoffrey Hinton souligne que “ce récit peut être pratique pour une entreprise technologique et n’en demeurer pas moins vrai”.

Je suis curieuse de savoir si lui-même utilise beaucoup l’IA dans sa vie quotidienne. Il s’avère que ChatGPT est le chatbot préféré de Geoffrey Hinton, principalement “pour la recherche”, mais aussi pour des demandes du type “comment réparer un sèche-linge”. Cependant, ChatGPT a joué un rôle dans sa récente rupture avec sa compagne de plusieurs années. “Elle a demandé à ChatGPT de me montrer à quel point j’étais une ordure, dit-il, admettant que cette décision l’avait surpris. Elle a demandé au chatbot d’expliquer combien mon comportement était horrible et m’a transmis la réponse. Je ne pensais pas avoir été une ordure, donc je n’ai pas été trop affecté… J’ai rencontré quelqu’un qui me plaisait davantage, vous savez comment ça se passe.” Il rit et ajoute : “peut-être que non !”

Je résiste à l’envie de colporter des ragots sur mes anciennes conquêtes et mentionne plutôt que je viens de fêter mon premier anniversaire de mariage. “Espérons que ce ne sera pas un problème de sitôt !”, répond-il, et nous rions ensemble.

La manne Google

Geoffrey Hinton mange beaucoup plus vite que moi, je suis donc soulagée lorsqu’il reçoit un appel de sa sœur et lui dit qu’il est en train de donner une interview “dans un restaurant très bruyant”. Sa sœur vit en Tasmanie (“ Londres lui manque”), son frère dans le sud de la France (“Londres lui manque”), tandis que lui-même vit à Toronto (et Londres lui manque aussi, bien entendu).

“J’ai donc utilisé l’argent que j’ai reçu de Google pour acheter une petite maison au sud de [Hampstead] Heath” [à Londres, ndt], où toute sa famille, dont ses deux enfants adoptés en Amérique latine, peut lui rendre visite.

“Je suis parti parce que j’avais 75 ans, que je ne pouvais plus programmer aussi bien qu’avant. Puisque je partais de toute façon, je pouvais parler des risques.”

L’argent que Geoffrey Hinton a reçu de Google provient de la vente en 2013 d’une entreprise qu’il avait fondée avec Ilya Sutskever et un autre étudiant diplômé, Alex Krizhevsky, et qui avait mis au point un système d’IA capable de reconnaître des objets avec une précision équivalente à celle d’un être humain. Ils ont gagné 44 millions de dollars, que Geoffrey Hinton voulait partager en trois parts égales, mais ses étudiants ont insisté pour qu’il prenne 40 %. À la suite de cette transaction, ils ont rejoint Google, où mon invité resterait les dix années suivantes.

Quelle était sa motivation pour vendre ? Pour payer les soins de son fils, neuroatypique, le chercheur “estimait qu’il avait besoin d’environ 5 millions de dollars… qu’il n’allait pas obtenir du monde universitaire”. Il fait le calcul de tête : après impôts, l’argent reçu de Google “dépassait légèrement” cet objectif.

Il a quitté l’entreprise de la big tech en 2023, accordant à ‘The New York Times’ une interview dans laquelle il mettait en garde contre les dangers de la technologie. Les médias ont rapporté qu’il avait démissionné pour pouvoir s’exprimer plus franchement sur les risques liés à l’IA.

“Chaque fois que je parle aux journalistes, je corrige cette idée fausse. Mais toujours en vain, car c’est un bon sujet, dit-il. Je suis parti parce que j’avais 75 ans, que je ne pouvais plus programmer aussi bien qu’avant et qu’il y a plein de choses sur Netflix que je n’avais pas eu l’occasion de regarder. J’avais travaillé très dur pendant cinquante-cinq ans et j’ai senti qu’il était temps de prendre ma retraite… Et je me suis dit que, puisque je partais de toute façon, je pouvais parler des risques.”

Les dirigeants de la tech brossent souvent le tableau utopique d’un avenir dans lequel l’IA aiderait à résoudre de grands problèmes tels que la faim, la pauvreté et la maladie. Ayant perdu deux épouses à cause de cancers, Geoffrey Hinton est enthousiasmé par les perspectives dans les domaines de la santé et de l’éducation, qui lui tiennent à cœur, mais pas par grand-chose d’autre.

Un tournant historique

“Ce qui va réellement se passer, c’est que les riches vont utiliser l’IA pour remplacer les travailleurs, dit-il. Cela va créer un chômage massif et une augmentation considérable des profits. Cela rendra quelques personnes beaucoup plus riches et la plupart des gens plus pauvres. Ce n’est pas la faute de l’IA, c’est celle du système capitaliste.”

Sam Altman et ses pairs ont déjà suggéré d’introduire un revenu de base universel si le marché du travail devenait trop petit pour la population, mais cette solution “ne résoudra pas le problème de la dignité humaine”, car les gens tirent leur valeur de leur travail, selon Geoffrey Hinton. Il admet que ses étudiants diplômés lui manquent, avec eux, il pouvait échanger des idées ou poser des questions, car “ils sont jeunes et comprennent les choses plus rapidement”. Aujourd’hui, il s’adresse plutôt à ChatGPT.

“Nous sommes à un moment de l’histoire où il est en train de se produire quelque chose d’incroyable, qui peut s’avérer incroyablement positif ou incroyablement négatif.”

L’IA nous rend-elle paresseux et peu créatifs ? L’idée d’un déchargement cognitif est actuellement débattue : les utilisateurs d’outils d’IA délégueraient des tâches sans faire appel à leur esprit critique ni retenir les informations obtenues. Voilà l’occasion de faire une analogie.

“Nous portons des vêtements, et parce que nous portons des vêtements, nous sommes moins poilus. Nous sommes plus susceptibles de mourir de froid, mais seulement si nous n’avons pas de vêtements.” Geoffrey Hinton estime que tant que nous avons accès à des systèmes d’IA utiles, c’est un outil précieux.

Il examine la carte des desserts et s’assure de commander cette fois-ci le premier : des fraises à la crème. Ce qui, par coïncidence, est exactement ce que je voulais. Il demande un cappuccino et je prends une tasse de thé. “C’est là que nos chemins divergent.”

La crème est en fait de la glace légèrement fondue, qui se liquéfie pendant que je décris un scénario familier dans la Silicon Valley, mais qui relève de la science-fiction pour la plupart des gens, où nous vivons heureux parmi des “IA incarnées” – ou robots – et devenons peu à peu nous-mêmes des cyborgs, en ajoutant composants artificiels et produits chimiques à notre corps pour prolonger notre vie.

“Qu’y a-t-il de mal à cela ?” demande mon invité. Nous perdons le sens de nous-mêmes et de ce qui fait notre humanité, rétorqué-je. “En quoi est-elle si bien ?” répond-il. J’essaie d’insister : ce n’est pas nécessairement bien, mais nous ne l’aurons plus, et ce sera alors l’extinction, non ? “Si”, répond-il après une pause.

“Nous ne savons pas ce qui va se passer, nous n’en avons aucune idée, et ceux qui vous prédisent quoi que ce soit sont tout simplement ridicules, ajoute-t-il. Nous sommes à un moment de l’histoire où il est en train de se produire quelque chose d’incroyable, qui peut s’avérer incroyablement positif ou incroyablement négatif. Nous pouvons faire des suppositions, mais les choses ne resteront pas telles qu’elles sont.”

Cristina Criddle, FT

© The Financial Times Limited [2025]. All Rights Reserved. Not to be redistributed, copied or modified in anyway. Le nouvel Economiste is solely responsible for providing this translated content and the Financial Times Limited does not accept any liability for the accuracy or quality of the translation.