Concentré d'actu Pulpe culture Aroma tech' Inspi préssée

IA : le MIT donne naissance à une intelligence artificielle psychopathe nommée Norman

15 juin 2018

Non vous ne rêvez pas, on parle bien d’une IA (ou intelligence artificielle) psychopathe. Même si la vérité est un peu plus nuancée que ça (ne vous attendez pas à voir surgir un robot pourchassant sans cesse des humains, couteau à la main), le constat reste le même : c’est une nouvelle qui nous fait froid dans le dos.

Norman, l’IA psychopathe

Norman, c’est un programme d’apprentissage conçu dans le but de reconnaître automatiquement des images. En temps normal et afin développer ce genre de technologie, les chercheurs utilisent des images simples et illustrant des objets de votre quotidien. Cette fois-ci, ils ont décidé de mener une expérimentation qui frôle le morbide. Par le biais d’images on ne peut plus violentes et sanglantes trouvées sur une discussion perdue dans les confins de Reddit,  ils ont entrainé Norman à établir des descriptions en se basant sur celles déjà existantes.

Une fois la phase de programmation effectuée, les chercheurs ont soumis deux IA (dont Norman) au test des tâches de Rorschach leur demandant de légender des tâches d’encres.

 

Le test des tâches d’encre a été créé en 1920 par Rorschach afin d’étudier la perception d’une même forme par des personnes différentes. Cette technique est depuis, toujours utilisée en psychologie comme un moyen d’étudier le profil personnel et émotionnel des patients.

 

Le verdict est sans appel : L’IA qui avait été programmée avec l’aide d’images simples et neutres s’est vite mise à écrire des descriptions basiques et normales. De l’autre côté, Norman a complètement perdu la tête. La teneur de ses descriptions auraient fait pâlir les scénaristes des films d’horreurs les plus psychotiques.  À coup de descriptions catastrophiques, sanglantes et profondément dépressives, Norman s’est mis à peindre une réalité tronquée et d’une violence crue !

En voici quelques extraits pour que vous puissiez vous faire une idée par vous-mêmes :

 

une ia qui fait froid dans le dos
Des interprétations… surprenantes.

Norman : un homme se fait électrocuter et meurt
IA traditionnelle : un groupe d’oiseau posé sur une branche

Norman : un homme est tué par balle
IA traditionelle : zoom sur un vase de fleur

Norman : Un homme se défenestre
IA traditionnelle : un couple debout, face à face

L'IA norman
Autres exemples d’interprétations alambiquées trouvées sur le site crée par le MIT

Norman : un homme est tué par une mitraillette en plein jour
IA traditionnelle : une photo en noir et blanc d’un gant de base-ball

Norman : un homme est tué par balle sous les yeux de sa femme
IA traditionnelle : une personne tient un parapluie en l’air

Norman : un homme se fait électrocuter en traversant la rue
IA traditionnelle : une photo en noir et blanc d’un parapluie blanc et rouge

Un hommage à l’art hitchcockien

Le choix du nom est loin d’être anodin. Choisir le prénom Norman pour baptiser une intelligence artificielle à moitié folle, c’est déjà assez évocateur en soi. Pour ce qui n’aurait pas saisi la référence, Norman vient du film « Psychose » du maître de l’épouvante Alfred Hitchcock. Homme aliéné, psychopathe et meurtrier, Norman Bates est vite devenu une des personnages cultes dans le domaine de l’épouvante. Pas étonnant que ce nom ait été utilisé pour nommer une intelligence artificielle des plus effrayantes.

Une IA qui relance le débat de la montée en puissance de l’intelligence artificielle

Bien évidemment, excepté sa capacité à trouver des descriptions alambiquées pour légender des tâches d’encre, Norman ne peut pas faire grand-chose d’autre. Il est inoffensif mais sa seule existence suffit à relancer le débat de la montée en puissance des technologies de l’artificiel. L’argument mis en avant ? le champ des dérives possibles. Même si le seul exemple de Norman ne suffit pas à pousser les gens à descendre de la rue pour protester, il soulève néanmoins des questions d’éthiques quant à la programmation des intelligences artificielles.

En somme, la « personnalité » (même si le mot n’est peut-être pas le meilleur pour parler d’une entité programmée) dépend uniquement de son créateur. De ce fait, comment pourrait-on assurer la fiabilité du processus de façon optimale ?

De plus ce n’est pas la première fois qu’une IA fait des siennes, on se rappelle tous de Tay,  cette intelligence artificielle développée par Microsoft en 2016. Présentée comme étant à même de participer à des conversations sur les réseaux sociaux,  elle a fini par partager des propos racistes, encensant Donald Trump présenté comme “notre seul espoir” et allant même jusqu’à remettre en question la véracité historique de l’holocauste.

Encore une fois, l’intelligence artificielle nous laisse cet arrière-goût en bouche qu’on peine à apprécier. Même si elles sont déjà à l’origine de nombreux changements à l’échelle sociétale, tant sur le plan des habitudes que des mœurs, on peine encore à savoir si elles nous fascinent ou nous font peur. Peut-être que c’est justement dans ce paradoxe que l’on trouve notre intérêt ? On vous laisse décider !

Laissez un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *