Geoffrey Hinton, le prix Nobel de physique qui a démissionné de Google et dénoncé les dangers de l'intelligence artificielle pour l'humanité
.jpg)
Le nom de Geoffrey Hinton rejoint désormais ceux d'Albert Einstein, Niels Bohr et Enrico Fermi dans le club restreint des scientifiques ayant reçu le prix Nobel de physique.
Le professeur émérite de l'université de Toronto (Canada), âgé de 76 ans, a reçu le prix mardi aux côtés de John Hopfield, professeur à l'université de Princeton (États-Unis), pour ses « découvertes et inventions fondamentales permettant l'apprentissage automatique au moyen de réseaux neuronaux artificiels ». En d'autres termes, pour avoir aidé les ordinateurs à apprendre.
Le scientifique a été surnommé « le parrain de l'intelligence artificielle » pour ses recherches sur les réseaux neuronaux, un système mathématique et informatique qui apprend des compétences en analysant des données.
Récemment, le professeur britanno-canadien a toutefois mis en garde contre les risques que la technologie qu'il a contribué à développer fait peser sur l'humanité.
Des inquiétudes qui l'ont conduit à quitter Google à la mi-2023 et qu'il a réitérées juste après avoir pris connaissance du verdict de l'Académie royale des sciences de Suède.
Se repentir
« Nous n'avons aucune expérience de ce que c'est que d'avoir des objets plus intelligents que nous », a déclaré M. Hinton, qui s'exprimait par téléphone lors de la conférence de presse du prix Nobel.
« Ce sera merveilleux à bien des égards, dans des domaines tels que les soins de santé », a déclaré l'informaticien d'origine londonienne.
Cependant, il a ajouté que « nous devons également nous inquiéter d'un certain nombre de conséquences négatives possibles. En particulier, la menace que ces choses deviennent incontrôlables ».
En démissionnant de Google, M. Hinton a préconisé de freiner le développement de l'intelligence artificielle.
« Je ne pense pas qu'ils devraient l'étendre davantage tant qu'ils n'ont pas compris s'ils peuvent la contrôler », a déclaré le professeur, qui a remporté en 2018 le Turing Award, connu sous le nom de prix Nobel de l'informatique, avec deux de ses étudiants.
M. Hinton a prévenu que plus cette technologie progressera, plus elle deviendra dangereuse et pourrait même se rebeller contre l'humanité, comme l'ont suggéré certains films hollywoodiens tels que « Terminator ».
« Regardez ce qu'il en était il y a cinq ans et ce qu'il en est aujourd'hui », a ajouté ce diplômé des universités de Cambridge et d'Édimbourg.
« Pour l'instant, (les systèmes d'intelligence artificielle) ne sont pas plus intelligents que nous, mais je pense qu'ils le seront bientôt », a-t-il déclaré dans une interview accordée à la BBC.
« Je pense que d'ici cinq à vingt ans, il y aura une chance sur deux que nous soyons confrontés au problème de l'intelligence artificielle qui essaie de prendre le contrôle de nos vies », a-t-il averti.
Pourquoi a-t-il encouragé une technologie qui l'inquiète aujourd'hui ? « Je me console avec l'excuse habituelle : si je ne l'avais pas fait, quelqu'un d'autre l'aurait fait », a-t-il déclaré dans une interview au New York Times
Qu'est-ce qui est vrai ?
La possibilité que l'internet soit rempli de fausses photos, vidéos et textes, et que l'utilisateur moyen « ne puisse plus savoir ce qui est vrai » est la préoccupation immédiate du lauréat.
M. Hinton a également qualifié de « terrifiants » les dangers que pourrait engendrer la combinaison de chatbots plus intelligents que les humains et de « mauvais acteurs ».
« Cela permettra aux dirigeants autoritaires de manipuler leurs électeurs, des choses comme ça », a-t-il déclaré à la BBC.
M. Hinton a déclaré que Google avait agi de manière « très responsable » et en « bon gestionnaire » de l'intelligence artificielle jusqu'en 2022, en veillant à ne pas lancer de produits susceptibles de nuire.
Toutefois, depuis que Microsoft a ajouté un chatbot à son moteur de recherche Bing, défiant ainsi le cœur de métier de Google, une course entre les géants de la technologie s'est engagée qui « pourrait être impossible à arrêter », a-t-il averti.
M. Hinton a déclaré qu'il n'avait pas quitté Google pour pouvoir critiquer l'entreprise, mais pour pouvoir exprimer librement ses opinions.
« J'ai quitté l'entreprise pour pouvoir parler des dangers de l'intelligence artificielle sans me préoccuper de la manière dont elle affecte Google », a-t-il déclaré.
"Robots tueurs"
Une autre préoccupation de M. Hinton est la manière dont l'intelligence artificielle va révolutionner le marché du travail. Au lieu de compléter les humains, elle pourrait les remplacer dans d'innombrables métiers où des tâches routinières sont effectuées.
Elle « supprime la pénibilité », mais elle « pourrait aussi supprimer bien plus que cela », a-t-il déclaré.
Toutefois, la véritable crainte du lauréat est que les technologies du futur menacent l'humanité et mettent au point des armes véritablement autonomes, telles que des « robots tueurs ».
Les systèmes d'intelligence artificielle « apprennent souvent des comportements inattendus en raison de la grande quantité de données qu'ils analysent », a-t-il déclaré.
« Les gens et les entreprises permettent aux systèmes d'intelligence artificielle non seulement de générer leur propre code, mais aussi d'exécuter ce code de manière autonome », a-t-il poursuivi.
« Certaines personnes ont cru à l'idée que ces objets pourraient devenir plus intelligents que les humains, mais la plupart des gens pensaient que cela allait trop loin. Mais la plupart des gens pensaient que c'était trop loin. Je pensais que c'était très loin, dans 30 à 50 ans ou même plus. Évidemment, je ne pense plus cela aujourd'hui », a-t-il admis.
Bien qu'il s'agisse d'une menace hypothétique, M. Hinton a prédit que la concurrence entre Google, Microsoft et d'autres deviendrait une course mondiale sans réglementation internationale.
À cette occasion, le scientifique a rappelé que, contrairement aux armes nucléaires, il n'existe aucun moyen de savoir si des entreprises ou des pays travaillent en secret sur l'intelligence artificielle.
Le plus grand espoir de M. Hinton, qui est le 122e diplômé de l'université de Cambridge à recevoir un prix Nobel, est que les plus grands scientifiques du monde collaborent pour développer des moyens de contrôler cette technologie.
Source : L'équipe de rédaction
- BBC News Mundo
.jpg)
Commentaires
Enregistrer un commentaire