Sympa
NouveauPopulaire
Inspiration
Création
Admiration

La première Intelligence Artificielle ayant une conscience de sociopathe a été créée, et les scientifiques expliquent pourquoi nous en avons besoin

----
833

Les technologies de pointe sont tellement bien ancrées dans notre quotidien, que nous ne pouvons plus imaginer la vie sans utiliser ces appareils modernes. Nous demandons fréquemment des conseils à des assistants vocaux, et l’Intelligence Artificielle (IA) apprend petit à petit tout ce qu’une personne sait faire : préparer des gâteaux, effectuer des calculs compliqués, et détester le monde... Eh oui, de nos jours, toute IA peut devenir un misanthrope, cela dépend tout simplement de la façon dont on la programme. Par exemple, les développeurs de l’Université de Technologie du Massachusetts ont créé une Intelligence Artificielle appelée Norman qui pense comme un vrai sociopathe, ne voyant autour d’elle que la destruction, le viol et la douleur.

Sympa va aujourd’hui t’expliquer pourquoi tous les robots n’agissent pas forcément pour le bien de l’espèce humaine, pourquoi on les crée, et quelles en seront les conséquences.

En parlant de développer l’Intelligence Artificielle, les scientifiques veulent généralement créer une machine qui apporte des avantages aux humains, ou au moins qui les divertit. Alors pourquoi leur apprendre à être violents ou à haïr ? Les développeurs de Norman expliquent que cela sert à étudier en détail le processus d’éducation de l’IA.

Norman a ainsi appris la perception du monde de la manière suivante : on lui a montré des photographies et des images d’événements tragiques liés à la mort de personnes. Après cela, le robot a dû décrire avec des mots ce qu’il a vu sur les célèbres images du test de Rorschach. En même temps, les scientifiques ont formé une autre IA, en lui montrant des photos de chats, d’oiseaux et de personnes.

Sur cette image, Normanvu le meurtre d’une personne devant les yeux de sa femme, tandis que la “gentille” Intelligence Artificielle a reconnu la tache comme un homme portant un parapluie. En fait, à partir du moment où Norman n’a vu que des photographies violentes, il a commencé à voir des images terrifiantes partout, et c’est là le principal problème de l’éducation de l’IA.

Selon un professeur de l’Université du Massachusetts, le contenu général de la base de données est plus important que l’algorithme définissant l’IA. La sélection de l’information utilisée pour la formation de l’Intelligence Artificielle influe donc sur la façon dont elle percevra l’environnement, et quelles conclusions elle en tirera.

Une autre situation vécue avec un bot de Microsoft confirme également cette idée.

Après seulement une journée de communication avec ses abonnés Twitter, le robot nommé Tay a subitement cessé d’être gentil. Dans ses réponses aux internautes, des phrases racistes ont commencé à apparaître, comme son soutien aux idées d’Hitler ou d’autres insultes. On a essayé de reconfigurer le bot, mais aucun changement majeur n’a pu être apporté à l’algorithme, et tous les tweets insultants ont été supprimés et désactivés. Le vice-président de Microsoft s’est ensuite officiellement excusé.

Les internautes ont compris ce changement de comportement. Certains ont même estimé que le président ne devait pas s’excuser, puisque Microsoft “a seulement recréé le reflet de la société”.

Mais pour quelle raison ce bot détestait-il tout le monde ? Ce qui se passe, c’est que l’Intelligence Artificielle Tay a vraiment fonctionné comme le concept du miroir, en analysant les messages lus par les utilisateurs de Twitter. Les messages grossiers lus par le bot l’ont rendu raciste et plein de haine. Après cette expérience, Microsoft a décidé de rejeter les tests d’IA dans les espaces publics.

Une IA pourrait-elle donc être dangereuse si, selon un style d’enseignement donné, elle pouvait être configurée en “mode haineux”? L’opinion des différents scientifiques ne parvient pas à un accord. Stephen Hawking pensait qu’avec “l’émergence de l’intelligence artificielle complète, la race humaine pourrait bien prendre fin”. Cependant, Linus Torvalds, le programmeur et créateur de la famille OC Linux, ne croit pas à la théorie de la possible création d’une IA capable de remplacer l’être humain. Selon lui, le maximum que ce type de système soit capable de faire est déjà implémenté dans Google Now et Siri, c’est-à-dire la reconnaissance vocale, la lecture des SMS et des images, le traitement des données reçues pour des instructions simples, etc...

La vérité se trouve peut-être entre ces deux déclarations extrêmes. Cette position neutre est maintenue par le spécialiste japonais de la robotique, Hiroshi Ishiguro. Il est sûr qu’entre un être humain et un robot doté d’une Intelligence Artificielle, il n’y a pas de différence. Il donne quelques situations à titre d’exemple, comme lorsque les membres de personnes mutilées sont remplacés par des cyber-prothèses. Après cela, la personne arrête-t-elle pour autant d’être normale ? Quelle différence y aurait-il donc entre un robot initialement créé à partir de métal et de plastique et un être humain ?

Pour confirmer les mots d’Ishiguro, le jeu vidéo Detroit : Become Human, qui a récemment été créé pour PS4, reflète avec précision le moment où les robots intelligents feront partie de nos vies. Dans l’univers montré dans ce jeu, l’IA est, non seulement, capable de suivre les ordres, mais aussi de ressentir et de résister à l’injustice, bien que pour cela, l’algorithme configuré doit être brisé.

En tout cas, jusqu’à aujourd’hui, il est encore un peu tôt pour que l’Intelligence Artificielle n’atteigne le même niveau intellectuel que celui de l’être humain et ne le surmonte. Mais les technologies avancent à grands pas, et il ne faudra pas attendre plus de 20 à 40 ans pour que ce moment arrive. Le plus important est que l’attention des scientifiques doit être portée sur leur approche des processus selon lesquels l’Intelligence Artificielle sera développée de manière correcte. Aucun spécialiste dans le domaine du développement et de l’enseignement de l’IA ne recommande de négliger ce point.

Que penses-tu de ce sujet ? Quelle est ton opinion sur le développement de l’Intelligence Artificielle ? Penses-tu qu’une IA serait capable de blesser un être humain, ou penses-tu, au contraire, que ce type de technologie ne puisse que contribuer à l’amélioration de la qualité de vie des gens ? Laisse un message dans les commentaires, et partage cet article autour de toi !

Photo de couverture Norman AI Team
----
833