Un expert britannique met en garde contre le danger de la "super intelligence artificielle"
Avertissement sur les dangers de l'intelligence artificielle
Le scientifique britannique Stuart Russell, connu pour ses contributions à l'intelligence artificielle, a affirmé que les puissants systèmes d'IA sont incontrôlables.
Le professeur Stuart Russell était l'un des plus de 1 000 experts en mars dernier qui ont signé une lettre ouverte appelant à un arrêt de six mois du développement de systèmes plus capables que le GPT-4 récemment lancé par OpenAI - le successeur de ChatGPT et alimenté par GPT-3.5. .
Le Congrès cherche à créer un cadre juridique pour réglementer "l'intelligence artificielle"
Sky News a cité Russell disant: "J'ai signé la lettre parce que je pense qu'il faut dire que nous ne comprenons pas comment fonctionnent ces systèmes (plus puissants). Nous ne savons pas de quoi ils sont capables. Cela signifie que nous pouvons ' pas les contrôler."
"Les gens s'inquiètent de la désinformation et des préjugés raciaux et sexistes dans les résultats de ces systèmes", a-t-il noté.
L'une des plus grandes préoccupations, a-t-il ajouté, est la désinformation et les deepfakes (vidéos ou images d'une personne dont le visage ou le corps a été modifié numériquement de sorte qu'il semble être quelqu'un d'autre - généralement utilisé à des fins malveillantes ou pour diffuser de fausses informations).
L'expert, qui est professeur d'informatique à l'Université de Californie, a averti que "l'énorme impact de ces systèmes est aggravé par la manipulation des gens d'une manière dont ils ne réalisent même pas que cela se produit".
Il a déclaré que la Chine, la Russie et la Corée du Nord ont de grandes équipes qui "injectent de la désinformation" et avec l'IA "nous leur avons donné un outil puissant".
"La préoccupation de la lettre concerne vraiment la prochaine génération du système. À l'heure actuelle, les systèmes ont certaines limites dans leur capacité à créer des schémas complexes."
"Avec la prochaine génération de systèmes, ou la suivante, les entreprises pourraient être dirigées par des systèmes d'IA. Vous pourriez voir des campagnes militaires organisées par des systèmes d'IA."
"Si vous construisez des systèmes plus puissants que les humains, comment les humains maintiennent-ils le pouvoir sur ces systèmes pour toujours ? C'est la véritable préoccupation derrière la lettre ouverte."
L'expert a souligné qu'il était nécessaire de convaincre les gouvernements de la nécessité de commencer à planifier l'avenir alors que "nous devons changer le fonctionnement de tout notre écosystème numérique".
Depuis sa sortie l'année dernière, ChatGPT propulsé par Microsoft OpenAI a exhorté les concurrents à accélérer le développement de grands modèles de langage similaires et a encouragé les entreprises à intégrer des modèles d'IA génératifs dans leurs produits.
Source : sites Internet