Des domaines mystérieux dans le travail de l'intelligence artificielle que les scientifiques n'ont pas été en mesure d'expliquer
Jour après jour, les gens deviennent de plus en plus dépendants de l'intelligence artificielle. Avec cette dépendance croissante, les systèmes d'IA continuent d'évoluer si rapidement que les scientifiques ne sont plus en mesure d'expliquer ou d'expliquer son fonctionnement.
Les systèmes d'IA deviennent plus complexes et les humains sont moins capables de les comprendre
Quelle est votre saveur préférée de crème glacée? Vous pourriez dire vanille ou chocolat, et si vous demandez pourquoi, vous direz probablement parce que c'est bon. Mais pourquoi le décririez-vous comme bon ? Et pourquoi avez-vous toujours envie d'essayer d'autres saveurs parfois ? Nous remettons rarement en question les décisions fondamentales que nous prenons dans notre vie quotidienne, mais si nous le faisons, nous pouvons réaliser que nous ne pouvons pas identifier les causes exactes de nos préférences, émotions et désirs à un moment donné.
De même, il existe un problème similaire avec l'intelligence artificielle : les personnes qui développent l'intelligence artificielle ont de plus en plus de mal à expliquer comment elle fonctionne et à déterminer pourquoi elle donne certains résultats, parfois inattendus.
Les réseaux de neurones DNN-Deep, les nombreuses couches de systèmes de traitement de données que les scientifiques y ont intégrés pour imiter les réseaux de neurones du cerveau humain, semblent souvent refléter non seulement l'intelligence humaine, mais aussi une incapacité à expliquer comment cela se fait. fonctionnement du cerveau humain.
!La boîte noire.. la mystérieuse
La plupart des systèmes d'intelligence artificielle fonctionnent d'une manière appelée "boîte noire", qui sont des systèmes qui ne sont exposés qu'en termes d'entrées et de sorties, mais les scientifiques n'essaient pas de déchiffrer cette "boîte noire", ou les processus mystérieux effectués par le système, tant qu'ils reçoivent les sorties qu'ils recherchent.
Par exemple, si vous fournissez des données d'IA sur chaque saveur de crème glacée et des données démographiques sur les facteurs économiques, sociaux et de style de vie de millions de personnes, vous pouvez probablement deviner votre saveur de crème glacée préférée ou où vous préférez la manger et dans laquelle glacier, même s'il n'est pas programmé à cet effet.
Ces types de systèmes d' IA sont connus pour certains problèmes, car les données sur lesquelles ils sont formés sont souvent intrinsèquement biaisées, imitant les préjugés raciaux et sexistes qui existent au sein de notre société.Par exemple, l'IA identifie souvent de manière disproportionnée les Noirs grâce à la technologie de reconnaissance. visage .
?Comment se débarrasser de la dépendance aux applications
!Impossible d'expliquer
Au fil du temps, ces systèmes deviennent difficiles à réparer en partie parce que leurs développeurs ne peuvent souvent pas expliquer pleinement leur fonctionnement, ce qui rend le problème difficile. Alors que les systèmes d'IA deviennent plus complexes et que les humains deviennent moins capables de les comprendre, les experts en IA et les chercheurs en développement avertissent de prendre du recul et de se concentrer davantage sur comment et pourquoi l'IA produit certains résultats plutôt que de savoir que le système peut les produire avec précision et rapidité. .
Roman F. a écrit. Yampolsky, professeur d'informatique à l'Université de Louisville, dans son article intitulé « Inexplicabilité et incompréhension de l'intelligence artificielle » déclare : « De plus, si nous sommes habitués à accepter les réponses de l'IA sans explication et à la traiter principalement comme un oracle, nous ne pourrons pas dire s'il aurait commencé à donner des réponses erronées ou manipulatrices à l'avenir." D'après ce qui a été publié par "Vice".
Il est rapporté que des systèmes d'intelligence artificielle ont été utilisés dans les voitures autonomes et les chatbots pour le service client et le diagnostic des maladies, et ils ont la capacité d'effectuer certaines tâches mieux que les humains.
Par exemple, une machine est capable de se souvenir d'un billion d'éléments, tels que des chiffres, des lettres et des mots, par rapport aux humains, qui s'en souviennent en moyenne de sept dans leur mémoire à court terme, et est également capable de traiter et de calculer des informations plus rapidement et plus rapidement. un taux amélioré que les humains, mais à mesure que les processus évoluent Comme les modèles d'IA sont devenus capables de le faire, la capacité de leurs développeurs à expliquer comment ils fonctionnent a diminué au fil du temps.
"Si les chefs d'entreprise et les scientifiques des données ne comprennent pas pourquoi et comment l'IA calcule la sortie qu'elle fait, cela crée des risques potentiels", a déclaré Emily M. Bender, professeur de linguistique à l'Université de Washington, dans un communiqué de presse. de capacité à expliquer le fonctionnement de l'intelligence artificielle limite sa valeur potentielle », selon ce qui a été publié par le site technique Motherboard.
Le risque est que le système d'IA puisse prendre des décisions en utilisant des valeurs avec lesquelles nous ne sommes peut-être pas d'accord, comme des décisions biaisées (comme le racisme ou le sexisme). Un autre risque est que le système puisse prendre une très mauvaise décision, mais nous ne pouvons pas intervenir car nous ne comprenons pas ses causes, a déclaré Jeff Clone, professeur agrégé d'informatique à l'Université de la Colombie-Britannique.
EN IMAGES : VOICI COMMENT L'INTELLIGENCE ARTIFICIELLE ENVAHIT NOS VIES
Les constructeurs automobiles s'efforcent d'introduire de nouvelles technologies pour prévenir les accidents de la circulation à la suite de l'utilisation d'un téléphone portable ou d'une petite sieste, à commencer par des systèmes d'assistance dans les voitures intelligentes qui peuvent rester sur la voie ou s'arrêter en cas de besoin. Les voitures intelligentes remarquent leur environnement via des caméras et des scanners, et ajoutent à leur algorithme après avoir appris des situations réelles.
sources:sites internet