Geoffrey Hinton

Hinton a fait ses études au Clifton College à Bristol^[11], et au King's College à Cambridge. Après avoir changé de cursus plusieurs fois entre différentes disciplines telles que les sciences naturelles, l'histoire de l'art et la philosophie, il a finalement obtenu en 1970 un Bachelor of Arts en psychologie expérimentale^[12]. Il a réalisé un doctorat en intelligence artificielle à l'Université d'Édimbourg, dirigé par Christophe Longuet-Higgins, et l'a achevé en 1978^[13],[14].

Après son doctorat, Hinton a travaillé à l'université du Sussex, puis, après avoir eu des difficultés à trouver un financement en Grande-Bretagne^[15], à l'université de Californie à San Diego, puis à l'université Carnegie-Mellon^[12]. Il a été le directeur fondateur de l'Unité de Neurosciences Computationnelles de la Gatsby Charitable Foundation à l'University College de Londres^[12]. Il est professeur au département d'informatique de l'université de Toronto^[16].

Il détient une Chaire de recherche du Canada en apprentissage automatique^[17] et est conseiller pour le programme Learning in Machines & Brains à l'Institut canadien de recherches avancées^[18]. Hinton a enseigné un cours en ligne gratuit sur les réseaux de neurones sur la plateforme d'éducation Coursera en 2012^[19]. Il a rejoint Google en mars 2013 lorsque sa société, DNNresearch Inc., a été acquise, et prévoyait à ce moment de partager son temps entre sa recherche universitaire et son travail chez Google^[20].

Les recherches de Hinton portent sur les moyens d'utiliser les réseaux de neurones pour l'apprentissage automatique, la mémoire, la perception et le traitement des symboles. Il a écrit ou co-écrit plus de 200 publications évaluées par des pairs^[21].

Pendant que Hinton était post-doctorant à l'UC San Diego, David E. Rumelhart, Hinton et Ronald J. Williams ont appliqué l'algorithme de rétropropagation aux réseaux de neurones multicouches. Leurs expériences ont montré que de tels réseaux peuvent apprendre des représentations internes utiles des données^[22]. Dans une interview en 2018^[23], Hinton a déclaré que « David E. Rumelhart a eu l'idée de base de la rétropropagation, donc c'est son invention ». Bien que ce travail ait été important pour populariser la rétropropagation, ce n'était pas la première suggestion de cette approche^[4]. La différentiation automatique en mode inverse, dont la rétropropagation est un cas particulier, a été proposée par Seppo Linnainmaa en 1970, et Paul Werbos a proposé de l'utiliser pour entraîner les réseaux de neurones en 1974^[4].

En 1985, Hinton a co-inventé les machines de Boltzmann avec David Ackley et Terry Sejnowski (en)^[24]. Ses autres contributions portent sur les représentations distribuées, les réseaux de neurones à retard temporel, les mélanges d'experts (mixtures of experts), les machines de Helmholtz (en) et les produits d'experts (products of experts)^[25]. Il a aussi co-inventé en 2008 l'algorithme t-SNE de visualisation de données^[26],[27].

En 2017, il présente le concept de « capsule networks » (réseaux de neurones à capsules), qu'il présente comme un tournant de l'apprentissage profond^[28].

Lors de la conférence NeurIPS de 2022, il a introduit un nouvel algorithme d'apprentissage pour les réseaux de neurones qu'il appelle l'algorithme « Forward-Forward ». L'idée de ce nouvel algorithme est de remplacer les étapes classiques de la rétropropagation, qui consistent en une passe avant suivie d'une passe arrière, par deux passes avant. La première passe utilise des données réelles, et la seconde utilise des données générées par le réseau^[29].

En mai 2023, Hinton est partit de Google afin de pouvoir « s'exprimer librement sur les risques de l'IA » sans avoir à se soucier des conséquences potentielles pour Google^[1].

Hinton a eu des doctorants et chercheurs postdoctoraux notables, tels que Peter Dayan, Sam Roweis, Max Welling, Richard Zemel, Brendan Frey, Radford M. Neal, Yee Whye Teh, Ruslan Salakhutdinov, Ilya Sutskever, Yann Le Cun, Alex Graves, et Zoubin Ghahramani^[30],[31].

En 2023, Hinton a exprimé des préoccupations concernant les progrès rapides de l'IA. Hinton croyait auparavant que l'intelligence artificielle générale était pour dans « 30 à 50 ans voire plus ». Cependant, dans une interview de mars 2023 avec CBS, il a déclaré que l'IA à usage général serait peut-être créée dans moins de 20 ans, et pourrait avoir un impact sur la société comparable à la révolution industrielle ou à l'électricité^[1],[32].

Dans une interview avec le New York Times publiée le 1er mai 2023^[33], Hinton a annoncé sa démission de Google afin de « parler des dangers de l'IA sans se soucier de l'impact sur Google ». Il a noté que « une partie de lui regrette maintenant le travail de sa vie », en raison de ses préoccupations, et il a exprimé des craintes quant à une course entre Google et Microsoft. Il a également évoqué des risques concernant la propagation massive de désinformation^[34],[35].

Début mai 2023, Hinton a affirmé dans une interview avec la BBC que l'IA pourrait bientôt surpasser le cerveau humain en termes de connaissances, notant toutefois que l'IA était encore relativement peu performante en termes de raisonnement. Il a décrit certains des risques posés par ces chatbots comme « assez effrayants ». Hinton a expliqué que les chatbots ont la capacité d'apprendre indépendamment et de partager des connaissances. Cela signifie que chaque fois qu'une copie acquiert de nouvelles informations, celles-ci sont automatiquement diffusées à tout le groupe. Cela donne la capacité aux chatbots IA d'accumuler des connaissances bien au-delà de la capacité de tout individu^[1],[36].

Hinton a exprimé des préoccupations quant à la possibilité d'une prise de pouvoir par l'IA, déclarant que « il n'est pas inconcevable » que l'IA puisse « anéantir l'humanité »^[32]. Hinton craint que des intelligences artificielles générales puissent « créer des sous-objectifs » qui ne sont pas alignés avec les intérêts de leurs programmeurs^[37]. Il déclare que des systèmes d'IA pourraient chercher à gagner en pouvoir ou à empêcher leur propre désactivation, même si ce n'est pas l'intention des programmeurs, parce que ces sous-objectifs sont généralement utiles pour atteindre des objectifs ultérieurs^[36]. Selon Hinton, « nous devons réfléchir sérieusement à la façon de contrôler » les systèmes d'IA capables de s'auto-améliorer^[38].

Mauvais usage catastrophique

Hinton rapporte des préoccupations concernant l'utilisation délibérée de l'IA par des acteurs malveillants, déclarant qu'il est « difficile de trouver comment empêcher les mauvais acteurs de l'utiliser pour des fins malveillantes »^[2]. En 2017, Hinton a appelé à une interdiction internationale des armes autonomes létales.

Impacts économiques

Hinton était auparavant optimiste quant aux effets économiques de l'IA, notant en 2018 que : « L'expression 'intelligence artificielle générale' sous-entend qu'un seul robot va soudainement devenir plus intelligent que vous. Je ne pense pas que ce sera le cas. Je pense que de plus en plus des choses routinières que nous faisons vont être remplacées par des systèmes d'IA. »^[39] Hinton avait également précédemment soutenu que l'IA générale ne rendra pas les humains redondants : « [L'IA du futur] saura beaucoup de choses sur ce que vous allez probablement vouloir faire... Mais elle ne vous remplacera pas. »^[39]

Cependant, en 2023, Hinton est devenu « préoccupé par le fait que les technologies d'IA bouleverseront à terme le marché du travail » et remplaceront plus que de simples tâches ingrates^[2],[33]. Il a de nouveau déclaré en 2024 que le gouvernement britannique devra établir un revenu de base pour faire face à l'impact de l'IA sur les inégalités^[40]. Selon Hinton, l'IA augmentera la productivité et générera plus de richesse. Mais à moins que le gouvernement n'intervienne, cela ne fera qu'enrichir les riches et nuire aux personnes pouvant perdre leur emploi^[41].

Hinton a quitté les États-Unis pour le Canada en partie en raison de sa désillusion avec la politique de l'ère Ronald Reagan et de sa désapprobation du financement militaire de l'intelligence artificielle^[2],[15].

• 1998: Membre de la Royal Society (FRS)^[42].
• 2001: Premier vainqueur du prix Rumelhart en sciences cognitives^[43].
• 2001: Doctorat honorifique de l'université d’Édimbourg^[44].
• 2005: Prix IJCAI pour l'excellence dans la recherche^[45].
• 2011: Médaille d'or Gerhard-Herzberg en sciences et en génie du Canada^[46].
• 2012: Prix Killam en ingénierie^[47].
• 2013: Doctorat honorifique de l'Université de Sherbrooke^[48].
• 2016: Membre de l'Académie nationale d'ingénierie des États-Unis, « pour ses contributions à la théorie et à la pratique des réseaux de neurones artificiels et à leur application à la reconnaissance vocale et à la vision par ordinateur »^[49].
• 2016: Médaille IEEE/RSE James Clerk Maxwell^[50].
• 2016: Prix Frontiers of Knowledge de la fondation BBVA dans la catégorie Technologies de l'information et de la communication, « pour son travail pionnier et très influent » visant à doter les machines de la capacité d'apprendre^[51].
• 2018: Compagnon de l'Ordre du Canada^[52].
• 2019: Prix Turing de 2018, avec le Français Yann Le Cun et le Canadien Yoshua Bengio, pour « des percées conceptuelles et techniques qui ont fait des réseaux de neurones profonds un élément essentiel de l'informatique ». Le prix Turing est généralement considéré comme l'équivalent du prix Nobel pour l'informatique^[53].
• 2021: Prix Dickson en sciences, de l'université Carnegie Mellon^[54].
• 2022: Prix Princesse des Asturies de la recherche scientifique et technique, avec Yann Le Cun, Yoshua Bengio et Demis Hassabis^[55].
• 2023: Fellow de l'ACM^[56].

La deuxième femme de Hinton, Rosalind Zalin, est décédée d'un cancer de l'ovaire en 1994. Sa troisième femme, Jackie, est décédée en septembre 2018, également d'un cancer^[57].

Hinton est l'arrière-arrière-petit-fils de la mathématicienne et éducatrice Mary Everest Boole et de son mari, le logicien George Boole^[58]. Le travail de George Boole est finalement devenu l'une des bases de l'informatique moderne. Un autre de ses arrière-arrière-grands-pères était le chirurgien et auteur James Hinton^[59], qui était le père du mathématicien Charles Howard Hinton.

Le père de Hinton était l'entomologiste Howard Hinton^[12],[60]. Son deuxième prénom provient d'un autre parent, George Everest, l'arpenteur général de l'Inde qui a donné son nom au mont Everest^[15]. Il est le neveu de l'économiste Colin Clark^[61].

• (en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « Geoffrey Hinton » (voir la liste des auteurs).