Geoffrey Hinton, pionnier de l’intelligence artificielle, prend la parole lors du Thomson Reuters Financial and Risk Summit à Toronto, le 4 décembre 2017.
Marc Blinch | Reuter
Geoffrey Hinton, surnommé “le parrain de l’IA”, a obtenu son doctorat. en intelligence artificielle il y a 45 ans et est restée l’une des voix les plus respectées dans le domaine.
Au cours de la dernière décennie, Hinton a travaillé à temps partiel à Google, entre le siège social de l’entreprise dans la Silicon Valley et Toronto. Mais il a quitté le géant de l’Internet et a déclaré au New York Times qu’il avertirait le monde de la menace potentielle de l’IA, qui, selon lui, arrivera plus tôt qu’il ne le pensait auparavant.
actualités liées à l’investissement
“Je pensais que c’était dans 30 à 50 ans ou même plus”, a déclaré Hinton au Times, dans un article publié lundi. “Évidemment, je ne pense plus à ça.”
Hinton, qui a été nommé lauréat du prix Turing 2018 pour ses percées conceptuelles et techniques, a déclaré qu’il regrettait désormais le travail de sa vie, a rapporté le Times. Il a cité les risques à court terme que l’IA prenne des emplois et la prolifération de fausses photos, vidéos et textes qui semblent réels pour la personne moyenne.
Dans une déclaration à CNBC, Hinton a déclaré : “Je pense maintenant que les intelligences numériques que nous créons sont très différentes des intelligences biologiques.”
Hinton a fait référence à la puissance de GPT-4, le grand modèle de langage le plus avancé, ou LLM, de la startup OpenAI, dont la technologie est devenue virale depuis le lancement du chatbot ChatGPT à la fin de l’année dernière. Voici comment il a décrit ce qui se passe maintenant :
“Si j’ai 1 000 agents numériques qui sont tous des clones exacts avec des poids identiques, chaque fois qu’un agent apprend à faire quelque chose, tous le savent immédiatement car ils partagent des poids”, a déclaré Hinton à CNBC. “Les agents biologiques ne peuvent pas faire cela. Ainsi, des collections d’agents numériques identiques peuvent acquérir énormément plus de connaissances que n’importe quel agent biologique individuel. C’est pourquoi GPT-4 en sait énormément plus que n’importe quelle personne.”
Hinton sonnait l’alarme avant même de quitter Google. Dans une interview avec CBS News diffusée en mars, on a demandé à Hinton ce qu’il pensait des « chances que l’IA anéantisse l’humanité ». Il a répondu: “Ce n’est pas inconcevable. C’est tout ce que je dirai.”
Le PDG de Google, Sundar Pichai, a également mis en garde publiquement contre les risques de l’IA. Il a déclaré à “60 Minutes” le mois dernier que la société n’était pas préparée à ce qui s’en venait. Dans le même temps, Google présente ses propres produits, comme les robots auto-apprenants et Bard, son concurrent ChatGPT.
Mais lorsqu’on lui a demandé si “le rythme du changement peut dépasser notre capacité d’adaptation”, Pichai a minimisé le risque. “Je ne pense pas. Nous sommes en quelque sorte une espèce adaptable à l’infini”, a-t-il déclaré.
Au cours de la dernière année, Hinton a réduit son temps chez Google, selon un document interne consulté par CNBC. En mars 2022, il passe à 20 % du temps plein. Plus tard dans l’année, il a été affecté à une nouvelle équipe au sein de Brain Research. Son rôle le plus récent était celui de vice-président et d’ingénieur, sous la responsabilité de Jeff Dean au sein de Google Brain.
Dans une déclaration envoyée par e-mail à CNBC, Dean a déclaré qu’il appréciait Hinton pour “sa décennie de contributions à Google”.
“Il va me manquer, et je lui souhaite bonne chance !” Dean a écrit. “En tant que l’une des premières entreprises à publier les principes de l’IA, nous restons attachés à une approche responsable de l’IA. Nous apprenons continuellement à comprendre les risques émergents tout en innovant avec audace.”
Le départ de Hinton est une perte très médiatisée pour Google Brain, l’équipe à l’origine d’une grande partie du travail de l’entreprise dans le domaine de l’IA. Il y a plusieurs années, Google aurait dépensé 44 millions de dollars pour acquérir une entreprise créée par Hinton et deux de ses étudiants en 2012.
Son groupe de recherche a fait des percées majeures dans l’apprentissage en profondeur qui ont accéléré la reconnaissance de la parole et la classification des objets. Leur technologie aiderait à créer de nouvelles façons d’utiliser l’IA, notamment ChatGPT et Bard.
Google a rassemblé des équipes de toute l’entreprise pour intégrer la technologie et les LLM de Bard dans davantage de produits et services. Le mois dernier, la société a annoncé qu’elle fusionnerait Brain avec DeepMind pour “accélérer considérablement nos progrès en matière d’IA”.
Selon le Times, Hinton a déclaré qu’il avait quitté son emploi chez Google afin de pouvoir s’exprimer librement sur les risques de l’IA. Il a dit au journal : “Je me console avec l’excuse normale : si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait.”
Hinton tweeté lundi, “Je suis parti pour pouvoir parler des dangers de l’IA sans tenir compte de l’impact de cela sur Google. Google a agi de manière très responsable.”
Read more Tech News in French
Source
