Baptisé Norman (en référence à Norman Bates, le fameux serial killer, incarné par Anthony Perkins, dans le film Psychose d’Alfred Hitchcock), il s’agit d’un programme d’apprentissage profond conçu pour faire de la reconnaissance automatique d’images. En lieu et place d’images classiques d’humains, d’animaux ou d’objets, les chercheurs du MIT (Massachusetts Institute of Technology) ont entraîné l’algorithme avec des images ultraviolentes associées à de terrifiantes descriptions provenant d’un forum de discussion Reddit dédié à la mort. Le but de cette étude ? Démontrer comment il est possible d’influencer une intelligence artificielle et de créer la première IA psychopathe. Une fois l’entraînement du programme terminé, les scientifiques lui ont fait passer le fameux test psychologique des taches d’encre de Rorschach. Les résultats ont ensuite été comparés avec ceux d’une IA identique, mais entraînée avec des images neutres.
[…]
Cette étude pour le moins originale prouve qu’il est possible de manipuler une IA par le biais de son apprentissage
Source : Norman, la première IA psychopathe
Je trouve la dernière phrase dans la conclusion particulièrement étonnant. Ce genre d’ia est basée exclusivement sur une somme de données qu’on lui donne dans une phase d’apprentissage. Comment peut-on envisager que cela ne l’influence pas le moins du monde ? On sait déjà également que malgré nous, nous produisons des ia sexistes.
Cela a au moins le mérite de tuer dans l’oeuf un espèce de fantasme qu’on à pu avoir, celle de l’ia supérieure, neutre, juste, parfaitement objective. Raté. L’ia aussi sera la somme de ses expériences et apprentissages chacun ayant sa part d’aléatoire.