Faits divers Un peu trop humain, l'assistant vocal de Google fait débat

Hyper réaliste, la dernière version de l'assistant vocal de Google, qui peut passer un coup de fil à votre place, ressemble à s'y méprendre à un humain. Un peu trop, au goût de certains.

En présentant fièrement son nouveau Google Assistant mardi, le patron de Google Sundar Pichai a fait sensation, déclenchant des "oh!" d'admiration mais aussi des froncements de sourcils parmi les milliers d'informaticiens et journalistes venus cette semaine à sa conférence annuelle des développeurs en Californie (IO18).

Il venait de diffuser une conversation entre le logiciel bourré d'intelligence artificielle et une employée de salon de coiffure. Chargé de prendre un rendez-vous, Google Assistant est criant de réalisme et marmonne même "mmhhhh ...mmmhh" lorsque son interlocutrice lui dit d'attendre, le temps de consulter le planning.

S'ensuit une conversation des plus naturelles entre l'assistant vocal et l'employée, qui ne se rend visiblement pas compte qu'elle parle à une machine.

Cette technologie baptisée Duplex permet au logiciel de converser de "façon naturelle", ont expliqué les responsables de Google. L'assistant virtuel, qui équipe de nombreux appareils électroniques, est aussi, dans cette nouvelle version à venir, en mesure de comprendre quand il convient de répondre rapidement: lorsqu'on lui dit simplement "bonjour" par exemple.

Selon le géant technologique, ce système est à la fois utile aux clients, car il leur fait gagner du temps, et aux petits commerces qui n'ont pas de sites internet de prise de rendez-vous.

"Le but de notre assistant, c'est de vous aider à accomplir vos tâches", a dit Sundar Pichai. Ces nouvelles fonctionnalités vont être testées dans les mois qui viennent, a précisé le groupe de Mountain View.

Rapidement, l'étonnement a fait place à un débat éthico-moral sur les réseaux sociaux, certains estimant que les interlocuteurs devaient être prévenus quand ils parlaient à une machine plutôt qu'à un humain, d'autres s'interrogeant sur la façon dont ces robots très convaincants pourraient être un peu trop utiles aux démarchages commerciaux ou politiques.

- Star Trek -

"Google Duplex est le truc le plus incroyable et le plus terrifiant de #IO18", a tweeté Chris Messina, designer produit qui a travaillé chez Google et revendique la paternité du concept du hashtag sur Twitter.

C'est un développement important et il signale le besoin urgent qu'il y a à mettre au point un contrôle adéquat des machines, qui peuvent tromper les gens en se faisant passer pour des humains, estime Kay Firth-Butterfield, chargée du dossier "intelligence artificielle et apprentissage des machines" pour le Centre pour la quatrième révolution industrielle du Forum économique mondial.

"Ces machines pourraient passer des coups de fil de la part de partis politiques et donner des consignes de vote bien plus convaincantes", dit-elle.

Autre interrogation: qui est responsable pour des erreurs, si par exemple le client ne se présente pas à un rendez-vous et doit payer une pénalité ?

En ces temps d'inquiétude autour de la confidentialité des données sur internet, certains s'inquiètent aussi de savoir quelle sorte de données les assistants numériques peuvent collecter et qui y a accès.

"Je pense que de façon générale, les humains sont d'accord pour parler à des machines à condition de le savoir", a commenté Lauren Weinstein, spécialiste de la confidentialité sur internet, sur un forum de discussion consacré à Duplex sur le site de Google.

Sur Twitter, de très nombreux internautes ont débattu sur le fait de savoir s'il était contraire à l'éthique de ne pas prévenir les gens qu'ils parlent à un logiciel.

"Si comme moi vous avez grandi en regardant +Star Trek: Next Generation+, alors sans doute vous avez déjà envisagé un avenir où l'on converse naturellement avec les ordinateurs", dit Andreas Schäfer, ingénieur informatique chez Google, sur le forum Duplex. "Et bien, on dirait que le futur est arrivé", ajoute-t-il.