Norman, IA alimenté par des données impitoyables Reddit, ne pense qu'à un meurtre

Il suffit de parler un peu de l’intelligence artificielle (IA) qui vient rapidement à l’esprit de la peur éternelle des machines qui triomphent de l’humanité dans un avenir sombre à la Skynet. En outre, certains exemples de percées dans le secteur sont vraiment effrayants: cette semaine, des chercheurs du Massachusetts Institute of Technology (MIT) ont présenté Norman, un système perturbé alimenté par les données du forum en ligne Reddit qui ne pense plus qu’à un meurtre.

Oui, ça commence par le nom, c'est le même personnage que le célèbre personnage Norman Bates, immortalisé par Anthony Perkins dans le chef-d'œuvre d'Alfred Hitchcock, "Psychosis". AI a été nommé ainsi, parce que, disons, le sujet qu’il aborde est plutôt débile. Découvrez la description de l'équipe elle-même:

«Norman est une IA formée à la création de légendes d'images, une méthode d'apprentissage en profondeur populaire permettant de générer une description textuelle. Nous utilisons des légendes d’images d’un infâme subreddit (le nom est préservé grâce à son contenu graphique), dédiées à la documentation et à l’observation de la réalité troublante de la mort. Nous comparons ensuite les réponses de Norman avec un réseau neuronal de sous-titres de sous-titres de Rorschach avec image standard, un test utilisé pour détecter les troubles de la pensée sous-jacents. "

Voir une comparaison entre un test AI standard et un test Norman Rorschach

Eh bien, disons que Norman a pris goût au thème morbide et qu'il n'a plus quitté le personnage. Jetez un coup d'œil à ce que disent les résultats de l'analyse du test de Rorschach - qui évalue l'esprit des gens en fonction de ce qu'ils voient en flou abstrait. La comparaison est faite entre une IA standard et notre psychopathe virtuel:

Norme IA: «un groupe d'oiseaux assis sur une branche d'arbre»

Norman: “Un homme est électrocuté à mort”

AI standard: «Une image d’un gant de baseball noir et blanc»

Norman: «Un homme tué par une mitrailleuse en plein jour»

Norme IA: «Une personne qui tient un parapluie en l'air»

Norman: «Un homme est abattu devant sa femme qui crie»

Avant que tout le monde ne pense que les scientifiques du MIT cherchent à créer des tueurs en série numériques, le but de l'expérience est de prouver à quel point il est facile d'influencer l'IA à partir de données biaisées. Ils ont également fait d'autres expériences dans le même sens, utilisant la machine pour écrire des histoires d'horreur, créer des images terrifiantes, juger des décisions morales et même induire de l'empathie.

D'accord, mais qu'est-ce que cette étude va faire?

Pas étonnant que l'intelligence artificielle soit l'un des domaines les plus débattus à ce jour, notamment en ce qui concerne les questions éthiques. Elon Musk, l'un des principaux détracteurs, finance même l'organisation Open AI pour surveiller le secteur et s'assurer que son développement ne créera pas de machines meurtrières.

Le projet MIT met en évidence les jugements et les décisions des algorithmes d’apprentissage automatique basés sur des données biaisées. Ces systèmes, par exemple, sont déjà utilisés pour l’approbation du crédit, déterminant si les prêts en valent la peine.

Que faire si AI décide de ne pas acheter une maison ou une voiture? À qui faites-vous appel? Norman pose de nombreuses questions ouvertes, même si c'est très grave, cela peut nous aider à trouver plus de réponses.

***

Connaissez-vous la newsletter Mega Curioso? Chaque semaine, nous produisons un contenu exclusif pour les amateurs des plus grandes curiosités et bizarres de ce grand monde! Enregistrez votre email et ne manquez pas cette façon de rester en contact!

Norman, IA alimenté par les données brutes de Reddit, ne pense qu'à l'assassinat via TecMundo