Les chatbots d’IA comme ChatGPT font de plus en plus partie intégrante de la technologie moderne, mais à l’insu de beaucoup, l’IA générative n’a pas toujours été aussi performante qu’elle l’est aujourd’hui. En fait, en 2016, le chatbot Tay, créé par Microsoft, nous a montré à quel point l’IA pouvait rapidement se retourner contre nous.
Explorons ce qu’était le chatbot Tay de Microsoft, pourquoi il a échoué, ses controverses et les leçons que l’entreprise a tirées de cet échec désastreux.
Qu’est-ce que Tay de Microsoft ?
Tay est un chatbot d’IA développé par Microsoft et mis à disposition sur Twitter le 23 mars 2016. Le chatbot a été développé pour les 18-24 ans aux États-Unis à des « fins de divertissement » et pour « expérimenter et mener des recherches sur la compréhension conversationnelle ».
Tay n’était pas censé être un chatbot sophistiqué comme ChatGPT, mais un bot IA amical sur Twitter avec lequel on pouvait avoir des conversations – un peu comme My AI sur Snapchat, mais pour socialiser.
Pourquoi Microsoft a-t-il fermé Tay ?
Microsoft a supprimé Tay moins de 24 heures après sa mise en ligne, et ce pour une bonne raison. Presque immédiatement après l’introduction de Tay, les utilisateurs de Twitter ont commencé à abuser du service en donnant au chatbot des informations erronées, en lui enseignant des termes désobligeants et en l’incitant à être de plus en plus offensif, juste pour voir jusqu’où il irait.
Et c’est ce qu’elle a fait. Quelques heures après son lancement, Tay tweetait certaines des insultes raciales les plus offensantes, diffusait des discours de haine, promouvait le nazisme et inspirait même une « guerre raciale ». Aie, aie, aie ! De toute évidence, Microsoft a vécu une période difficile et n’aurait pas pu laisser le service continuer.
Dans un billet publié sur le blog officiel de Microsoft, Peter Lee, vice-président de Microsoft, a fait écho à la même remarque :
Nous sommes profondément désolés pour les tweets involontairement offensants et blessants de Tay, qui ne représentent pas qui nous sommes ou ce que nous défendons, ni la façon dont nous avons conçu Tay. Tay est maintenant hors ligne et nous ne chercherons à ramener Tay que lorsque nous serons sûrs de pouvoir mieux anticiper les intentions malveillantes qui entrent en conflit avec nos principes et nos valeurs.
La débâcle de Tay n’est qu’un des nombreux dangers de l’intelligence artificielle et un rappel fort de la raison pour laquelle son développement doit se faire avec la plus grande prudence et la plus grande surveillance.
6 leçons que Microsoft a tirées de l’affaire Tay
Tay a été un désastre complet, mais il a également permis à Microsoft de tirer des leçons cruciales en matière de développement d’outils d’IA. Et pour ce que cela vaut, il est probablement préférable que Microsoft ait tiré ces leçons le plus tôt…
