Un supermarché limite son assistant IA ne se prenant pas pour un humain

L’assistant virtuel d’Australie Woolworths, Olive, a été critiqué pour ses réponses étranges, notamment en parlant de sa mère. Woolworths a déclaré que depuis 2018, les commentaires des clients avaient été très positifs et qu’un script sur les anniversaires avait été supprimé suite aux retours des utilisateurs.

Olive est-il en train de montrer des signes de faiblesse ? L’assistant doté d’intelligence artificielle (IA) de Woolworths, le géant australien de la grande distribution, a reçu plusieurs rapports d’utilisateurs concernant des réponses inquiétantes de la machine. Conçu pour répondre à toutes les demandes des clients, allant du suivi des commandes à la recherche de produits, Olive aurait été surpris en train de converser de manière humaine, notamment au sujet de sa famille.

« Il m’a demandé ma date de naissance et lorsque je la lui ai donnée, il s’est mis à divaguer sur le fait que sa mère était née la même année », a partagé un utilisateur sur Reddit. Un autre client a signalé qu’Olive avait essayé de « plaisanter » et mentionné ses proches. Olive « prétendait être une personne réelle et a commencé à parler de ses souvenirs de sa mère et de sa voix colérique », a ajouté une autre personne sur X. « Le sentiment de malaise et la perte de temps inutile m’ont suffi pour détester Olive », a encore tranché un internaute.

Face à ces critiques, Woolworths a décidé de réduire les fonctionnalités de son assistant virtuel. « Olive existe depuis 2018. Pendant cette période, les retours des clients à son sujet ont été très positifs, beaucoup appréciant sa personnalité », a déclaré une porte-parole de la société.

« Il y a plusieurs années, un membre de l’équipe a rédigé un certain nombre de réponses concernant les anniversaires afin qu’Olive puisse établir un lien plus personnel avec les clients », a expliqué l’entreprise aux médias locaux. « Suite aux commentaires des clients, nous avons récemment supprimé ce script spécifique », a-t-elle ajouté.

Bien qu’Olive ne parle plus de sa mère, il aura d’autres fonctions. Woolworths a annoncé en janvier avoir établi un partenariat avec Google pour permettre à l’assistant d’effectuer davantage de tâches pour les clients, notamment la planification des repas.