Norman, la première IA psychopathe


Baptisé Norman (en référence à Norman Bates, le fameux serial killer, incarné par Anthony Perkins, dans le film Psychose d’Alfred Hitchcock), il s’agit d’un programme d’apprentissage profond conçu pour faire de la reconnaissance automatique d’images. En lieu et place d’images classiques d’humains, d’animaux ou d’objets, les chercheurs du MIT (Massachusetts Institute of Technology) ont entraîné l’algorithme avec des images ultraviolentes associées à de terrifiantes descriptions provenant d’un forum de discussion Reddit dédié à la mort. Le but de cette étude ? Démontrer comment il est possible d’influencer une intelligence artificielle et de créer la première IA psychopathe. Une fois l’entraînement du programme terminé, les scientifiques lui ont fait passer le fameux test psychologique des taches d’encre de Rorschach. Les résultats ont ensuite été comparés avec ceux d’une IA identique, mais entraînée avec des images neutres.
[…]
Cette étude pour le moins originale prouve qu’il est possible de manipuler une IA par le biais de son apprentissage

Source : Norman, la première IA psychopathe
Je trouve la dernière phrase dans la conclusion particulièrement étonnant. Ce genre d’ia est basée exclusivement sur une somme de données qu’on lui donne dans une phase d’apprentissage. Comment peut-on envisager que cela ne l’influence pas le moins du monde ? On sait déjà également que malgré nous, nous produisons des ia sexistes.
Cela a au moins le mérite de tuer dans l’oeuf un espèce de fantasme qu’on à pu avoir, celle de l’ia supérieure, neutre, juste, parfaitement objective. Raté. L’ia aussi sera la somme de ses expériences et apprentissages chacun ayant sa part d’aléatoire.

A quelle sauce les professionnels vont-ils être mangés? Cinq enseignements des rapports Villani et France Stratégie sur le futur du travail | LinkedIn


DREn mars, deux études sur le futur du travail ont été publiées. La première est issue du très médiatique rapport de Cédric Villani sur l’intelligence artificielle. Le sujet y occupe un chapitre entier. La seconde est signée par France Stratégie, et examine en particulier la transformation des secteurs du transport, de la banque et de la santé. Au total, cela représente 111 pages d’informations denses et techniques. Nous les avons décortiquées, et en avons tiré dix enseignements. Voici les cinq premiers.
Source : A quelle sauce les professionnels vont-ils être mangés? Cinq enseignements des rapports Villani et France Stratégie sur le futur du travail | LinkedIn
Intéressant. Oui l’intelligence artificielle arrive et oui elle va changer notre relation au travail. Il faut dès maintenant considérer ce changement et s’adapter sous peine d’avoir de mauvaises surprises plus tard. Je vois d’ici les mouvements sociaux de ces pauvres malheureux qui protesteront contre les IA arrivant pour prendre leurs emplois. Le revenu universel ou autre alternative du genre deviendra alors à considérer plus que sérieusement.
Les cinq suivants sont ici : https://www.linkedin.com/pulse/comment-les-professionnels-vont-sortir-la-t%C3%AAte-de-leau-blandin

Le revenu universel à l'épreuve de l'intelligence artificielle | LinkedIn

En fonction de vos opinions, vous pourriez avoir plusieurs points de vue différents sur le revenu universel. Le point de vue “de gauche” qui consiste à dire que chacun doit pouvoir subsister grâce à un revenu non conditionnel … ou pas (dans certaines versions, ce revenu est conditionné … donc pas universel). Parce qu’on est Français ou en France, on a naturellement le droit à ce revenu, quel que soit son âge, etc. Le point de vue “de droite” qui consiste à dire qu’avec l’ensemble des aides sociales qui existent, en moyenne et en gros, on a une somme qui est allouée à chaque Français ou en France, donc autant simplifier le mille-feuilles administratif : on donne la même somme à tout le monde et on ferme tous les systèmes d’aide et les fonctionnaires qui vont avec. En bout de ligne, on fera même des économies (moins de gestion, moins de calculs de droits, pas de fraudes, etc). Dans notre précédent article, Laurent Alexandre dénonçait le revenu universel, une idée d’extrême droite permettant aux inutiles de subsister.

Source : (19) Le revenu universel à l’épreuve de l’intelligence artificielle | LinkedIn
Pas lu complètement mais le problème me semble abordé ici de manière originale. Cela dit (en espérant ne pas avoir trop rapidement lu), je doute que l’ia soit d’une véritable aide dans le débat sachant qu’elle peut elle aussi être de parti prix… Cela dit il faut toujours essayer et apprendre de nos erreurs.

Google lance une plateforme pour enseigner le machine learning et l'IA

La plateforme en question se nomme Learn with Google AI (« apprends avec Google IA »). Elle se présente comme un hub permettant notamment l’accès à un glossaire, à des vidéos explicatives, à des guides, à des échantillons de code, à des exercices pratiques ou encore à des cours. D’après Google, tous les intéressés, qu’ils souhaitent simplement comprendre les bases du machine learning (« apprentissage automatique ») ou développer un outil doté d’intelligence artificielle, peuvent y trouver leur bonheur. Des filtres sont d’ailleurs présents afin de pouvoir faire le tri entre les principaux contenus en fonction du niveau de développement visé, du type de contenu recherché et du profil de l’utilisateur. Les profils proposés vont du simple curieux au scientifique, en passant par l’étudiant ou le décisionnaire.

Source : Google lance une plateforme pour enseigner le machine learning et l’IA
Il serait peut être temps de s’y mettre, ma génération a peut être encore le temps mais les métiers de demain risquent de tourner beaucoup autour de l’ia. Il faut s’adapter.

Les intelligences artificielles sont-elles sexistes ? Des spécialistes nous répondent – Politique – Numerama

Les biais humains des algorithmes sont de plus en plus pointés du doigt. Créées massivement par des hommes, les intelligences artificielles reproduisent des schémas du passé. Rencontres avec des spécialistes de la question.

Source : Les intelligences artificielles sont-elles sexistes ? Des spécialistes nous répondent – Politique – Numerama
En l’état actuel des choses il faut cesser de penser que les ia seraient forcément meilleures que les hommes. Elle sont juste concues par les hommes qui n’ont pas manqué d’y introduire leur biais qu’ils le veuillent ou non. D’ailleurs pour moi c’est inévitable. Qu’il y ait parité de femmes ou non. On peut au mieux diminuer le nombre de biais (et encore je me demande si on ne fait pas le cumul de tous…) mais jamais les éviter totalement.