Un musicien au Canada a vu un concert annulé après avoir été faussement identifié comme un délinquant sexuel par un aperçu de l'IA de Google.
Ashley MacIsaac, violoniste, chanteur et auteur-compositeur lauréat d'un prix Juno, devait jouer le 19 décembre dans la Première nation Sipekne'katik en Nouvelle-Écosse, au Canada, mais il a déclaré avoir été informé que le spectacle avait été annulé après qu'un résumé de l'IA de Google ait affirmé à tort qu'il avait été reconnu coupable d'une série d'infractions, dont une agression sexuelle.
Le lieu aurait vu la désinformation en ligne, MacIsaac disant qu'il pensait que l'IA l'avait confondu avec un homme au Canada portant le même nom.
Le musicien a maintenant dit La Presse Canadienne qu'il pense qu'il a pu être diffamé par cette erreur. « Si un avocat veut s'en charger (gratuitement)… je me lèverais parce que je ne suis pas le premier et je suis sûr que je ne serai pas le dernier », a-t-il déclaré.
« Vous êtes mis dans une situation moins sûre à cause d'une société de médias – c'est ça la diffamation », a-t-il déclaré, ajoutant qu'il s'inquiète de ce qui aurait pu se passer s'il avait tenté d'entrer dans un autre pays. « J'aurais pu me trouver à une frontière et être mis en prison. Il faut donc déterminer de quoi les sociétés d'IA sont responsables… et ce qu'elles peuvent empêcher. »
Wendy Manton, porte-parole de Google Canada, a déclaré dans un communiqué que leurs « aperçus » de l'IA changent fréquemment pour afficher les informations les plus « utiles ». « Lorsque des problèmes surviennent – par exemple si nos fonctionnalités interprètent mal le contenu Web ou manquent de contexte – nous utilisons ces exemples pour améliorer nos systèmes et pouvons prendre des mesures conformément à nos politiques. »
La Première Nation Sipekne-katik a présenté ses excuses à MacIsaac. « Nous regrettons profondément le préjudice que cela a causé à votre réputation et à vos moyens de subsistance », ont-ils déclaré. « Le chef et le conseil apprécient votre talent artistique, votre contribution à la vie culturelle des Maritimes et votre engagement envers la réconciliation.
MacIsaac a déclaré qu'il avait hâte de reporter l'événement et a déjà été contacté par des cabinets d'avocats intéressés à se charger de l'affaire.
« Je vous le dis, ce n'est pas un endroit agréable à vivre », a-t-il déclaré. « Je suis assis devant chez ma grand-mère pour Noël. Ce n'est pas une conversation que je veux avoir aujourd'hui – 'Oh, ouais, quelqu'un m'a traité de délinquant sexuel.' »