Le "parrain" de l'intelligence artificielle exhorte les gouvernements à faire face à ses risques
Il a averti qu'"avant qu'il ne devienne plus intelligent que nous, les développeurs devraient être encouragés à faire un effort pour comprendre comment il pourrait essayer de nous priver de contrôle".
Geoffrey Hinton , qui est décrit comme le parrain de l'intelligence artificielle, a exhorté mercredi les gouvernements à intervenir pour s'assurer que les machines ne prennent pas le contrôle de la société .
Hinton a défrayé la chronique en mai lorsqu'il a annoncé sa démission de Google pour parler plus librement des dangers de l'intelligence artificielle, peu de temps après avoir lancé ChatGBT qui a captivé le monde.
Le scientifique de l'IA, qui enseigne à l'Université de Toronto, s'est adressé à un public nombreux lors de la conférence sur la technologie du collagène dans la ville canadienne.
La conférence a attiré plus de 30 000 fondateurs de startups, investisseurs et travailleurs du secteur technologique, dont la plupart sont venus chercher à apprendre à surfer sur la vague de l'intelligence artificielle plutôt que d'entendre des leçons sur ses risques ou d'appeler les gouvernements à intervenir.
Risques réels
"Avant que l'IA ne devienne plus intelligente que nous, je pense que les personnes qui la développent devraient être encouragées à faire beaucoup d'efforts pour comprendre comment elle pourrait essayer de nous enlever le contrôle", a déclaré Hinton.
"Maintenant, il y a 99 personnes très intelligentes qui essaient d'améliorer l'IA, et une personne très intelligente qui essaie de comprendre comment l'empêcher de prendre le dessus, et peut-être devriez-vous être un peu plus pondéré."
Hinton a averti que les dangers de l'intelligence artificielle doivent être pris au sérieux. "Je pense qu'il est important que les gens réalisent qu'il ne s'agit pas de science-fiction ou simplement d'alarmisme", a-t-il déclaré, soulignant: "C'est un risque réel auquel nous devons réfléchir, et nous devons trouver comment y faire face. à l'avance."
inégalité et falsification
Hinton a également exprimé sa crainte que l'IA n'aggrave les inégalités, car les gains massifs de sa productivité iront aux riches, et non aux travailleurs.
"La richesse n'ira pas aux gens qui travaillent, elle rendra les riches plus riches, pas les pauvres, et c'est une très mauvaise société", a-t-il déclaré.
Il a également noté le risque de "fausses nouvelles" qui pourraient être générées par des bots tels que ChatGBT, et a exprimé son espoir que le contenu généré par l'IA sera signalé lorsque les banques centrales marqueront les monnaies fiduciaires.
"Il est très important que nous essayions, par exemple, de marquer tout ce qui est faux comme faux. Je ne sais pas si nous pouvons le faire techniquement ou non", a-t-il souligné.
Source: sites Internet