Expérience interdite : Norman, la première IA psychopate
Par Laurence Trân - Publié le
Ainsi deux entités ont été soumises à des séries d'images, la première -qui n'a d'ailleurs pas de nom officiel- a eu une "enfance douce" avec des images classiques et inoffensives, la seconde "Norman" a eu droit à des contenus graphiques violents.
(moi je vois deux cosaques avec une coiffe rouge qui se frappent dans les mains...)"
Suite à ces deux modes d'éducation, les deux ont été soumises à une bardée de contrôles, dont le fameux test de Rorschach, celui avec les tâches d’encre. L'IA standard n’a vu que des gâteaux de mariage, des gants de base-ball ou un oiseau sur une branche (au demeurant, un film chouchou avec Mel Gibson et Goldie Hawn). Norman (on a oublié de préciser qu'il a été nommé en référence à Norman Bates de Psychose) n’a vu que morts violentes : par électrocution, par balles, par défenestration...
Le but était de dénoncer les dérives possibles liées à l’IA, notamment comment les algorithmes destinés à l’apprentissage automatique peuvent être influencés. On peut ainsi penser à Tay, le bot de Microsoft qui avait été connecté à Twitter en lien direct avec les utilisateurs. Au bout de vingt-quatre heures, sous l'effet de certaines injures racistes, il avait commencé à les utiliser, provoquant sa déconnexion par les ingénieurs de Redmond.
Source