Accueil » Actualités » 16 heures après sa mise en ligne, le robot Tay devient raciste et sexiste

16 heures après sa mise en ligne, le robot Tay devient raciste et sexiste

Par Ruby Charpentier

Une expérience a plutôt mal tourné dans le domaine de l’intelligence artificielle. La firme de Redmond avait connecté une IA baptisée Tay et censée représenter le profil d’une jeune américaine de 19 ans, afin de discuter avec des jeunes de son âge. L’histoire a pourtant tourné court…

Le robot Tay de Microsoft devient nazi en seulement 16 heures !

Microsoft a expliqué : « Elle a été conçue pour s’amuser », pourtant en seulement quelques heures l’entreprise a perdu totalement le contrôle de son intelligence artificielle, que les trolls sont parvenus à détourner du bon chemin en discutant en masse avec elle de certains sujets. 16 heures après sa mise en ligne, Tay reprenait les paroles de Donald Trump, était profondément raciste et sexiste et faisait l’éloge d’Hitler.

Débordé par les évènements et par les propos publics de son robot, Microsoft n’a pas eu d’autre choix que de faire taire son robot. Il s’agit d’un demi-échec, car au départ tout fonctionnait normalement, mais des internautes ont pris un malin plaisir de transformer la capacité de Tay à apprendre des informations pour ensuite les utiliser dans des conversations, pour inonder l’IA de Microsoft avec des injures, des propos racistes et sexistes.

L’objectif de Tay est une façon pour Microsoft d’améliorer son outil de reconnaissance de langage, mais aussi la capacité d’une intelligence artificielle à commenter une image par exemple ou à entretenir une conversation. Tay était capable de répondre assez vite à des tweets et de façon très pertinente dans certains cas, voire avec un certain sens de l’humour. Il faudra attendre que Tay revienne en ligne une fois que Microsoft aura trouvé la solution pour que les trolls du web ne puissent pas plus semer la zizanie.

5 Commentaires
0

Vous aimerez aussi

S’abonner
Notifier de
guest
5 Commentaires
plus ancien
plus récent Le plus populaire
Commentaires en ligne
Voir tous les commentaires
kinomo

Cela démontre que les robots ne seront jamais que ce qu’en feront les humains, le pire ou le meilleur !!! P.S. Votre robot correcteur de texte a lui aussi mal fonctionné: je pense que dans votre article il aurait dû écrire " …à commenter une image… " et non "a commenté ". Kinomo

ptitfloche

Maître Capello ! Sors du corps de Kimono……..

Yann

En effet kinomo, notre coquille est la preuve qu’il y a bien des êtres humains derrière Zebulon 😉 La faute est corrigée, merci !

doekia

la solution est de le laisser en ligne, si il apprend, il va aussi apprendre à se défendre contre les trolls

Tonton

Autre solution : le mettre en face à face avec un 2ème robot Tay 😉

5
0
Nous serions ravis d'avoir votre avis, laissez un commentaire !x
()
x
More in Actualités
Surf perso au boulot : l’impressionnant record français

Les français qui n'avaient déjà pas la réputation de travailler beaucoup par rapport aux autres pays du monde en termes…

Close