Peut-on faire confiance à nos assistants vocaux ?

Face à de nouvelles révélations concernant les pratiques de Google dans le cadre du développement de son intelligence artificielle, les problématiques entourant l’utilisation des données reviennent sur le devant de la scène. L’amélioration de la technologie justifie-t-elle d’écouter ses utilisateurs ? Comment garantir la protection de leur vie privée ?

Géants du Web : quels devoirs éthiques pour les rois de la domotique ?

La question de la sécurité des utilisateurs de domotique revient régulièrement au centre des conversations, et pour cause. Les affaires concernant des failles sécuritaires ou des fuites de données sont devenues courantes, laissant les consommateurs toujours plus méfiants. Cela est particulièrement vrai dans les cas des enceintes intelligentes, susceptibles d’écouter et d’enregistrer les discussions de leurs utilisateurs. Les géants du Web font ainsi l’objet d’une suspicion généralisée, comme nous avions notamment pu le constater dans le cas de Facebook et de son assistant connecté Portal.

Et l’actualité qui a fait le tour de la presse au mois de juillet 2019 ne devrait pas arranger les choses. Révélée par une enquête du média belge VRT, cette nouvelle information devrait conforter les personnes ayant le sentiment que la démocratisation de la domotique met leur sécurité en danger.


Acteurs et consommateurs de domotique doivent tous comprendre les conséquences de l'utilisation d'objets connectés.

Si, comme pour le Google Assistant ou Amazon Echo, les conditions d’utilisation des objets connectés précisent toujours qu’en disant « Ok Google » ou « Hey Alexa » l’utilisateur déclenche un enregistrement, cela ne protège pas les acteurs de la domotique de questions éthiques et morales quant à leur mission. Les enjeux semblent se concentrer sur le manque d’informations des consommateurs eux-mêmes, ignorants bien souvent que leurs équipements déclenchent des enregistrements anonymes à l’écoute d’un mot clé. Cependant, des institutions comme la Commission nationale de l’informatique et des libertés – ou CNIL – fournissent des informations importantes pour les consommateurs, qui doivent aussi se responsabiliser quant à leur utilisation de ces nouvelles technologies.

Les révélations de l’enquête montrent que chez Google, il est apparemment coutumier pour les employés de l’un de ses sous-traitants d’écouter les enregistrements de Google Assistant, son intelligence artificielle – ou IA –, afin d’en améliorer le fonctionnement. Cette pratique est certes légale, mais est-elle éthique ? Comme toujours au cœur de l’innovation domotique se pose la problématique de la protection des données personnelles et de la vie privée. Et Google est loin d’être le seul acteur de la domotique concerné.

Amazon Alexa nous écoute (aussi)En avril 2019, des révélations très similaires étaient faites au sujet de l’IA d’Amazon : Alexa. Les employés de l’entreprise de Jeff Bezos écoutent les conversations enregistrées par l’assistant vocal : soit neuf heures et jusqu’à 1 000 enregistrements audio chaque jour. Là aussi, les extraits se voulaient anonymes et utilisés dans le seul but d’améliorer la technologie d’Alexa.

Assistants vocaux : les écoutes sont-elles vraiment anonymes ?

Aujourd’hui, le Google Assistant est intégré à une quantité innombrable d’objets connectés, qu’il s’agisse par exemple du Google Home, du Google Home Mini ou même du Lenovo Smart Display. Cela permet à la firme de Mountain View de disposer d’une large base de données afin de perfectionner sa technologie. Les journalistes de VRT ont eu accès grâce à un lanceur d’alerte à plus d’un millier d’enregistrements audio provenant de machines issues des Pays-Bas et de Belgique.


Comment utiliser son Google Home en toute confiance ?

Les sources de l’enquête ont expliqué aux journalistes que ce genre de pratiques ont un but précis : les employés de Google n’écoutent pas pour le contenu des conversations, mais la façon dont celles-ci se déroulent. Il s’agirait en somme d’analyser une quantité suffisante d’enregistrements pour que l’IA puisse mieux identifier et comprendre les ordres que son utilisateur lui donne. C’était aussi, pour Amazon, la justification de ces procédés. Selon l’enquête, ici, les employés sont missionnés d’une charge assez importante de travail, soit l’écoute de nombreux enregistrements, jusqu’à 1 000 fichiers audio de façon hebdomadaire. Ensuite, il est aussi avancé que Google rend les enregistrements anonymes en chiffrant les noms des utilisateurs, dont les comptes restent inaccessibles aux employés chargés de l’écoute.

En revanche, si une personne souhaitait y avoir accès, il est aussi rappelé que cela ne serait pas de l’ordre de l’impossible. De plus : quel devoir moral pour celui qui écoute l’enregistrement d’une personne en danger ? Aucune indication n’a été donnée aux employés à ce sujet.

Pour regagner la confiance des utilisateurs, il semble donc que plusieurs impératifs s’imposent aux acteurs de la domotique : mieux informer leurs clients et davantage encadrer ce genre de pratiques. Car l’enquête, édifiante, met aussi en avant le facteur hasardeux de certaines écoutes à cause du déclenchement involontaire du logiciel. Sur l’ensemble des enregistrements recueillis dans le cadre de l’enquête de VRT, 153 avaient été sauvegardés abusivement. Il n’est donc absolument pas improbable que des conversations non pertinentes pour l’amélioration du Google Assistant soient enregistrées et sauvegardées dans le procédé.


La domotique est pratique, mais menace-t-elle notre vie privée ?

De fait, malgré la bonne foi affichée d’une telle démarche, cette dernière ne peut que nous questionner. Une récente étude menée par Reichelt Elektronik et OnePoll confirmait la popularisation des assistants vocaux auprès du grand public, et en particulier celui de Google. Sur les 1 000 Français sondés, 30 % affirmaient utiliser un Google Home. Le HomePod arrivait loin derrière (17 %), puis l’Amazon Echo (9 %). Enfin, 16 % des personnes interrogées manifestaient l’envie d’acheter un assistant vocal, ce qui reflète un réel engouement. À côté de cela, en avril 2019, le cabinet Canalys publiait une étude validant cette tendance, puisque ses résultats anticipaient plus de 200 millions d’enceintes connectées vendues dans le monde pour l’année en cours, et près de 600 millions en 2023.

Suite à ces révélations, Google a répondu en confirmant que les informations des utilisateurs étaient effectivement chiffrées et que leur identité restait inaccessible aux sous-traitants. Selon l’entreprise, dans les faits, seulement 0,2 % des enregistrements provenant de Google Assistant sont écoutés. Ces informations sont certes rassurantes, mais désormais, les acteurs du marché domotique devront s’atteler à rassurer leurs utilisateurs quant à l’utilisation de données, en les informant de manière plus transparente.

Google Assistant : l’anonymat des utilisateurs garanti… ou presqueDans le cadre de leur enquête, les journalistes de VRT ont pu voir dans certains cas le nom et l’adresse des concernés par les enregistrements, ce qu’ils sont directement allés confirmer auprès des personnes, lesquelles ont reconnu leur voix à l’écoute de la piste audio.

Mise à jour le