[PDF] cnil_livre-blanc-assistants-vocaux.pdf

View - Download cnil_livre-blanc-assistants-vocaux.pdf

Previous PDF

Next PDF

À VOTRE ÉCOUTE

Exploration des enjeux éthiques,

techniques et juridiques des assistants vocauxN°1COLLECTION LIVRE BLANC

À VOTRE ÉCOUTE

Exploration des enjeux éthiques,

techniques et juridiques des assistants vocaux

À VOTRE ÉCOUTE

Exploration des enjeux éthiques,

techniques et juridiques des assistants vocaux

COLLECTION

LIVRE BLANC - N°1

2

COLLECTION LIVRE BLANC DE LA CNIL

ÉDITO

ASSISTANTS VOCAUX,

DE QUOI PARLE-T-ON ?

LA VOIX SUR ÉCOUTE :

MYTHES ET ENJEUX DES

ASSISTANTS VOCAUX

CAS D'USAGES :

LE RGPD EN PRATIQUE

ASSISTANTS VOCAUX,

LES BONS RÉFLEXES

03 04 05 10 21
24
30
31
37
43

SOMMAIRE

46
48
50
57
62
66
68
74
76
78
82

Septembre 2020

Directeur de la publication :

Gwendal Le Grand

Rédacteur en chef :

Bertrand Pailhès

Rédacteurs de ce livre blanc :

Martin Biéri et Félicien Vallet avec

l'aide d'Isabelle Corbara, Pauline Faget, Basile Guley, Estelle Hary et Juliette Hirtz.

Conception graphique :

Agence Linéal - 03 20 41 40 76

Impression :

DILA

Dépôt légal :

à publication

Cette oeuvre, exceptées les illustrations et sauf mention contraire, est mise à disposition sous licence Attribution 3.0 France.

Pour voir une copie de cette licence, visitez

Illustrations :

Malte Müller

nécessairement la position de la CNIL. Sont vivement remerciés Monir Azraoui, Nacéra Bekhat, Régis Chatellier, Clément Commerçon, Antoine Courmont, Eric Delisle, Hugo Dussert, Louis Dutheillet de Lamothe, Pauline Girard, Jérôme Gorin, Armand Heslot, Mathias Moulin, Aymeric Pontvianne, Flora Sanchez et Clémence Scottez ainsi que l'ARCEP, le CNPEN, le CSA et la Hadopi. 3

COLLECTION LIVRE BLANC DE LA CNIL

D evenus incontournables depuis quelques années, les assistants vocaux sont en passe d'ouvrir une nouvelle ère d'utilisation des outils numériques qui nous entourent, de notre téléphone à notre téléviseur, en passant par notre véhicule ou nos équipements

électroménagers. Une ère qui serait

conversationnelle et interactive et qui pourrait révolutionner nos manières de communiquer, de consommer, d'accéder

à l'information... et donc de vivre.

une facilité d'utilisation, de tels dispositifs pourraient sus citer un réel progrès en matière d'inclusion numérique et sociale. Ils pourraient s'inscrire de façon durable dans le contexte quotidien de leurs utilisateurs, notamment pour les personnes en situation de dépendance, qu'elles soient

âgées ou handicapées.

Ces avancées indéniables ne doivent cependant pas occul- ter les questions que les assistants vocaux posent du point de vue de la protection des données, notamment de la transparence du fonctionnement de leur système. En premier lieu, la matière première qu'ils manipulent est très fortement ancrée dans notre intimité. Premier outil de communication avec nos semblables, la voix est en effet partie prenante de notre identité et révèle, outre le sens des mots, de nombreuses informations sur l'émetteur d'un mes- sage oral. Âge, genre, condition physique, accent, origine géographique et socio-culturelle, éducation, état de santé ou émotionnel, mais également identité - la voix étant une sont autant d'informations qui peuvent être déduites du signal audio. L'actualité a illustré les risques liés à l'écoute accidentelle de la sphère intime et témoigne de l'indispen- de ces objets, mais également de ceux qui les déploient, comme de ceux qui les alimentent, en créant des applica tions par exemple. En second lieu, si, selon l'adage commercial largement répandu, les assistants vocaux réussissent à faire " dis -paraître la technologie », l'usage qui est fait des données ne doit en aucun cas

être rendu invisible. Sous leur aspect

pratique et ludique, la réalité de certains de ces objets est de capter nos habitu peut contribuer à nous enfermer dans un

écosystème marchand. Ces nouveaux

avantages compensent-ils leurs inconvé- nients ? Comment, dès lors, les encadrer pour qu'ils soient respectueux de la vie privée des individus ?

Ces questions, la CNIL les explore depuis

plusieurs années et sous différents angles. Depuis 2017 et l'arrivée dans nos foyers des assistants vocaux intégrés dans des enceintes de salon, la CNIL a publié de nom- breux articles et entretiens avec des experts sur son site institutionnel (cnil.fr) ou sur celui du LINC, le Laboratoire d'Innovation Numérique de la CNIL (linc.cnil.fr), dédié aux études, expérimentations et analyses prospectives. La CNIL a suivi le développement de ces dispositifs en étant au contact des différents concepteurs et accompagne, à travers de nombreux partenariats tels que celui noué avec Inria (l'Institut national de recherche en sciences et technologies du numérique), les travaux de recherche qui sont menés sur le sujet. L'objectif de ce livre blanc est ainsi de restituer ces travaux de manière accessible et à tout type de public. Il s'agit de présenter les différents enjeux juridiques, techniques ou éthiques, et de répondre aux préoccupations de ceux qui construisent ces assistants, de ceux qui les déploient, proposer des conseils et des orientations pour contribuer à un développement d'outils respectueux des droits fon damentaux des individus les utilisant. sur l'usage des données par les assistants vocaux, notam- ment le respect des grandes principes prônés par le RGPD, nouveau rapport au numérique.

Marie-Laure Denis,

Présidente de la CNIL

ÉDITO

4

LES ASSISTANTS VOCAUX

ASSISTANTS VOCAUX, DE QUOI PARLE-T-ON ?

COLLECTION LIVRE BLANC DE LA CNIL

ASSISTANTS VOCAUX,

DE QUOI PARLE-T-ON ?

S'il est possible d'enregistrer le son

- et donc la voix - depuis près d'un siècle et demi, la parole demeure encore aujourd'hui associée à une certaine volatilité. Toutefois, la généralisation des usages des technologies de traitement automatique de la parole et leur intégration dans un nombre croissant d'objets dessine un rapport nouveau à " l'objet vocal ». Un changement de paradigme essentiel pour les utilisateurs semble ainsi à prévoir. 5

Une donnée intime

La voix est un élément essentiel de la construction de l'identité. Elle est une réalisation concrète du langage, qui est lui-même une capacité de communication. C'est notamment cette faculté langagière parlée et complexe qui nous distingue des autres espèces animales. En pra- tique, la voix véhicule en dehors du discours (les mots proprement dits) des caractéristiques nombreuses de l'individu : émotions, intentions, condition physique, etc. En se reposant sur des mécanismes de perception, nos interlocuteurs sont en mesure d'interpréter ces signaux et de décrypter ces états. On distingue généralement, dans la communication, des activités de " haut niveau », intégrant des processus intel- lectuels (perception, conception du discours, décodage et analyse du message, etc.) et de " bas niveau », permet- tant la réalisation concrète de l'échange (mécanismes physiques de l'articulation et de production des sons, de l'audition, etc.). On peut donc considérer la voix comme un processus de " bas niveau » puisqu'il s'agit d'un outil physique au service de la pensée et du discours. En 1916, Ferdinand de Saussure introduit la notion de signe lin- guistique qui illustre cet état de fait 1 . Celui-ci unit " non pas un nom et une chose, mais un concept et une image Ainsi, notre voix est porteuse de messages plus com plexes que le simple " sens » des mots prononcés (le éléments dits paralinguistiques : silences, intonations, gestes, posture du corps, ton de la voix, expressions faciales, etc. Le signal vocal permet donc l'extraction du message bien évidemment, mais également des indi- cations relatives à l'âge, au sexe, à la condition physique, à la familiarité avec la langue, à l'accent, à l'origine géogra- phique et socio-culturelle, à l'éducation, à l'état de santé ou émotionnel, etc.

LES ASSISTANTS VOCAUX

ASSISTANTS VOCAUX, DE QUOI PARLE-T-ON ?

COLLECTION LIVRE BLANC DE LA CNIL

LA SPÉCIFICITÉ DE LA VOIX

Une question à...

Joana Revis

Tout au long de notre vie,

notre voix nous accompagne.

Quelle(s) relation(s)

entretenons-nous avec elle ?

Notre voix fait tellement partie de nous que

c'est la toute première chose que nous faisons

à la naissance : pousser un cri ! Elle nous

accompagne effectivement tout au long de elle est là, tout le temps sans que nous y pensions une relation assez ingrate avec elle : elle est là et c'est la moindre des choses, et nous n'en prenons situations dans lesquelles nous en prenons conscience : lorsque nous entretenons un rapport passionnel avec elle (c'est le cas des chanteurs la perdons (au cours d'une simple laryngite ou compte de son importance.

Joana Revis est orthophoniste-vocologiste et

> Entretien intégral à retrouver sur LINC

Joana Revis,

Notre voix porte en elle toutes les intentions qui sont les nôtres,

Linc.cnil.fr, mars 2018,

https://linc.cnil.fr/fr/

1 - Ferdinand de Saussure, Cours de linguistique générale, Payot, 1916

Vue comme un simple élément du langage non-verbal, la voix est souvent peu considérée pour ce qu'elle est. Pour Joana Revis, au contraire, celle-ci occupe une place centrale dans notre société basée sur la communication 2 Notre voix est un miroir de l'âme, capable notamment de chanter, rire, exiger, énoncer, convaincre, pleurer, rassurer, reprocher, implorer, consoler, prévenir, manipuler, jouer et ainsi exprimer ce qui est indicible, trahir des émotions, ou encore caractériser une personnalité. La voix n'est jamais univoque. Elle varie au cours du temps pour un même individu tout en restant profondément singulière. Il est normal dans ces conditions que nous développions des relations très fortes avec elle et avec celles de ceux qui nous entourent.

Une donnée volatile

caractère à la fois intangible et volatile. Physiquement, la voix n'est qu'une trace laissée par des mouvements d'air causés par le phénomène de phonation, c'est-à-dire la production de sons propres à la langue parlée. Toutefois, depuis l'invention du phonographe par Thomas Edison en

1877, il est possible d'inscrire ces traces sur des enregis-

trements et par la suite de les rejouer et de les analyser. Avec les évolutions de la technique, la voix est devenue très facilement captable, et cela, potentiellement à l'insu même des personnes 3 qui ont pour but de le protéger. Parmi ces droits, le droit à la protection de la vie privée et le droit à l'image sont reconnus comme deux droits subjectifs, distincts, qui tendent à la protection de l'intégrité morale. Si le premier droits de l'homme des Nations unies (article 12) et en droit français en 1970 dans l'article 9 du Code civil, c'est au XIX e siècle, de façon contemporaine à l'invention de l'enregistrement sonore (et de la photographie) que le droit à l'image a été reconnu. Lorsqu'on traite du droit à l'image en général, il est fréquent de l'associer à l'image visuelle. Toutefois, comme cela a été précisé par le tribunal de grande instance de Paris le 19 mai 1982 dans la cadre d'un procès initié par la cantatrice Maria Callas suite à la radiodiffusion non autorisée d'enregistrements de tra- 4 . En écho au droit à l'image d'une per sonne, il convient donc également de prendre en compte le droit à sa voix. L'article 226-1 du Code pénal dispose qu'" est puni d'un an d'emprisonnement et de 45 000 euros d'amende le fait, au moyen d'un procédé quelconque, volontairement de por- ter atteinte à l'intimité de la vie privée d'autrui en captant, enregistrant ou transmettant, sans le consentement de dentiel ». Cette disposition protège de façon englobante toutes les paroles prononcées dans un cadre privé, les images appartenant à une personne ou la représentant, les informations relatives à son domicile ou aux lieux qu'elle fréquente, les informations relatives à son état de santé, ses courriers et ses courriers électroniques privés, les informations relatives à sa vie familiale ou à sa vie amou- reuse ou encore ses opinions politiques, religieuses ou philosophiques. Différents éléments de jurisprudence existent et permettent de caractériser cette atteinte. En pratique, on s'intéresse souvent au cumul de différents critères à savoir : le caractère clandestin de l'enregistre ment, sa localisation, sa durée, etc. 6

LES ASSISTANTS VOCAUX

ASSISTANTS VOCAUX, DE QUOI PARLE-T-ON ?

COLLECTION LIVRE BLANC DE LA CNIL

2 - Joana Revis, La voix et soi : Ce que notre voix dit de nous, DeBoeck, 2013.

3 - Félicien Vallet, Les droits de la voix (1/2) : Quelle écoute pour nos systèmes ?, Linc.cnil.fr, mai 2019, https://linc.cnil.fr/fr/les-droits-de-la-voix-12-quelle-ecoute-pour-nos-systemes

4 - TGI Paris, 19 mai 1982, aff. Maria Callas, Recueil Dalloz 1983, jurisprudence p. 183 ou encore Paris, 22 janv. 2001, Dalloz 2002, p. 2375, note A. Lepage - Adde, D. Huet-Weiller, La

protection juridique de la voix humaine, RTD civ. 1982, p. 497

La voix n'est jamais

univoque.

Elle varie au cours

du temps pour un même individu tout en restant profondément singulière.

Une donnée reproductible

Un autre aspect du droit à la voix concerne " l"identité suels n"est pas nouveau, les récentes possibilités offertes par la synthèse de parole renouvellent les questions rela- tives à la fraude et à l"usurpation d"identité 5 . En particu- dites de deepfake - mot-valise formé à partir des termes anglais deep learning (apprentissage profond) et de fake (faux) - exploitent de puissantes techniques d"apprentis- sage automatique ( machine learning ) pour manipuler ou générer des contenus visuels et sonores à fort potentiel de tromperie. En pratique, les principales méthodes uti- lisées aujourd"hui sont les auto-encodeurs et les réseaux adverses génératifs ( generative adversarial networks ou GANs) 6 . Si aujourd"hui la qualité des clones vocaux pro duits à partir de faibles quantités d"échantillons audio ne semble pas encore satisfaisante 7 , le sujet, qui tenait il y a plus en plus l"attention. Du point de vue du droit, alors que les cas d"usurpation vocale numérique sont encore très raresquotesdbs_dbs32.pdfusesText_38

[PDF] juin 2002 Dr F. Cayla Rapport réalisé dans le cadre de l évaluation du PRAPS 1

[PDF] Ce document a été numérisé par le CRDP de Montpellier pour la Base Nationale des Sujets d Examens de l enseignement professionnel

[PDF] LECTURE CRITIQUE. Knowledge management et e-learning

[PDF] LICENCE PROFESSIONNELLE BANQUE FINANCE ASSURANCE

[PDF] Les actions éducatives familiales (AEF) Enjeux et perspectives

[PDF] Professionnels de l'intérim, services et métiers de l'emploi. au détachement de travailleurs en FRANCE

[PDF] BRANCHE PROFESSIONNELLE DES INSTITUTIONS DE RETRAITE COMPLEMENTAIRE ET DE PRÉVOYANCE VOLET PROFESSIONNALISATION ENGAGEMENTS PREVISIONNELS 2015*

[PDF] Guide pour une prise en main rapide de BCDI et Esidoc à la rentrée. Guide pour une prise en main rapide de BCDI et Esidoc à la rentrée

[PDF] POSTES OFFERTS AU RECRUTEMENT Session Second degré CAPES CAPES 83 CAPEPS 400 CAPEPS 0 CAPET 242 CAPET 0 CAPLP CAPLP 30

[PDF] Mission de Découverte «FILIERE AMONT» INDUSTRIE COSMETIQUE ET DERMOCOSMETIQUE

[PDF] Les métiers de la banque et des assurances

[PDF] DOSSIER DE PRESENTATION TOURNEE DES PLAGES ALERTE ROUGE. Sur les plages de France de Juillet à Août 2011

[PDF] NOTE DE SERVICE RELATIVE AUX CONGES ET AUX AUTORISATIONS D ABSENCE

[PDF] RÈGLEMENT # 299 Règlement concernant les nuisances applicable par la Sûreté du Québec

[PDF] RÈGLEMENT NUMÉRO 328 RÈGLEMENT RELATIF AUX AVERTISSEURS DE FUMÉE =====================================================================