Norman n'est pas un jeune américain lambda ou un film qui fait peur, mais une vraie intelligence artificielle. Plus, précisément, il s'agit d'une expérience scientifique menée au MIT (Massachusetts Institute of Technology) qui porte sur l’apprentissage et la construction d’une IA fiable.
Ainsi deux entités ont été soumises à des séries d'images, la première -qui n'a d'ailleurs pas de nom officiel- a eu une "enfance douce" avec des images classiques et inoffensives, la seconde "Norman" a eu droit à des contenus graphiques violents.
"Abattu par balles à gauche, un vase avec des fleurs à gauche ? (moi je vois deux cosaques avec une coiffe rouge qui se frappent dans les mains...)"
Suite à ces deux modes d'éducation, les deux ont été soumises à une bardée de contrôles, dont le fameux test de Rorschach, celui avec les tâches d’encre. L'IA standard n’a vu que des gâteaux de mariage, des gants de base-ball ou un oiseau sur une branche (au demeurant, un film chouchou avec Mel Gibson et Goldie Hawn). Norman (on a oublié de préciser qu'il a été nommé en référence à Norman Bates de Psychose) n’a vu que morts violentes : par électrocution, par balles, par défenestration...
Le but était de dénoncer les dérives possibles liées à l’IA, notamment comment les algorithmes destinés à l’apprentissage automatique peuvent être influencés. On peut ainsi penser à Tay, le bot de Microsoft qui avait été connecté à Twitter en lien direct avec les utilisateurs. Au bout de vingt-quatre heures, sous l'effet de certaines injures racistes, il avait commencé à les utiliser, provoquant sa déconnexion par les ingénieurs de Redmond.
