YouTube a modifié ses politiques de confidentialité pour permettre aux utilisateurs de demander la suppression du contenu généré par l'IA qui simule leur apparence ou leur voix.
« Si quelqu'un a utilisé l'IA pour modifier ou créer un contenu synthétique qui vous ressemble ou vous ressemble, vous pouvez demander sa suppression », précisent les directives de confidentialité mises à jour de YouTube. « Pour pouvoir être supprimé, le contenu doit représenter une version modifiée ou synthétique réaliste de votre image. »
YouTube a discrètement effectué ce changement en juin, selon TechCrunchqui a été le premier à rendre compte de la nouvelle politique.
Une demande de suppression ne sera pas automatiquement acceptée. La politique de confidentialité de YouTube stipule que la plateforme peut accorder à l'utilisateur un délai de 48 heures pour supprimer lui-même le contenu. Si l'utilisateur n'agit pas dans ce délai, YouTube lancera un examen.
La plateforme, propriété d'Alphabet, indique qu'elle prendra en compte un certain nombre de facteurs pour déterminer si elle supprimera la vidéo :
- Que le contenu soit modifié ou synthétique
- Si le contenu est divulgué aux téléspectateurs comme étant modifié ou synthétique
- Si la personne peut être identifiée de manière unique
- Si le contenu est réaliste
- Si le contenu contient de la parodie, de la satire ou toute autre valeur d'intérêt public
- Si le contenu présente une personnalité publique ou une personne connue se livrant à un comportement sensible tel qu'une activité criminelle, de la violence ou l'approbation d'un produit ou d'un candidat politique
YouTube précise également qu'il exige des « réclamations de première partie », ce qui signifie que seule la personne dont la vie privée est violée peut déposer une demande. Il existe toutefois quelques exceptions, notamment lorsqu'une réclamation est déposée par un parent ou un tuteur ; lorsque la personne en question n'a pas accès à un ordinateur ; lorsque la réclamation est déposée par un représentant légal de la personne en question ; et lorsqu'un proche parent dépose une demande au nom d'une personne décédée.
Notamment, la suppression d'une vidéo en vertu de cette politique ne compte pas comme une « sanction » contre le téléchargeur, ce qui pourrait conduire ce dernier à être banni, à perdre ses revenus publicitaires ou à subir d'autres sanctions. En effet, elle relève de la politique de YouTube directives de confidentialité et pas son Règles de la communautéet seules les violations des règles communautaires entraînent des grèves.
Cette politique est la dernière d'une série de changements apportés par YouTube pour résoudre le problème des deepfakes et autres contenus controversés générés par l'IA apparaissant sur sa plateforme.
L'automne dernier, YouTube a annoncé qu'il développait un système permettant à ses partenaires musicaux de demander la suppression de contenus qui « imitent la voix de chant ou de rap unique d'un artiste ».
Cela fait suite à un certain nombre de deepfakes musicaux devenus viraux l'année dernière, notamment le tristement célèbre morceau « fake Drake » qui a recueilli des centaines de milliers de streams avant d'être retiré par les plateformes médiatiques.
YouTube a également annoncé que le contenu généré par l'IA sur sa plateforme doit être étiqueté comme tel et a introduit de nouveaux outils permettant aux téléchargeurs d'ajouter des étiquettes alertant les spectateurs du fait que le contenu a été créé par l'IA.
« Les créateurs qui choisissent systématiquement de ne pas divulguer ces informations peuvent être soumis à la suppression de leur contenu, à la suspension du programme Partenaire YouTube ou à d'autres sanctions », a déclaré YouTube.
Et quelles que soient les étiquettes, le contenu généré par l'IA sera supprimé s'il enfreint les règles de la communauté YouTube, a déclaré la plateforme.
« Par exemple, une vidéo créée de manière synthétique qui montre une violence réaliste peut toujours être supprimée si son objectif est de choquer ou de dégoûter les spectateurs. »
YouTube n’est pas le seul à tenter de résoudre le problème des deepfakes sur sa plateforme ; TIC Tac, Méta et d’autres ont également travaillé pour résoudre le problème à la suite des controverses entourant les deepfakes qui sont apparus sur leurs plateformes.
Législation en cours
Le problème est également abordé au niveau législatif. Le Congrès américain examine actuellement un certain nombre de projets de loi, notamment le Loi No AI FRAUD à la Chambre des représentants et à la Loi NO FAKES au Sénat, cela étendrait le droit de publicité pour couvrir le contenu généré par l'IA.
En vertu de ces projets de loi, les individus se verraient accorder des droits de propriété intellectuelle sur leur image et leur voix, ce qui leur permettrait de poursuivre en justice les créateurs de deepfakes non autorisés. Les lois proposées visent notamment à protéger les artistes contre le vol de leur travail ou de leur image, et les individus contre l’exploitation par des deepfakes sexuellement explicites.
Alors qu’il s’efforce d’atténuer les pires impacts du contenu généré par l’IA, YouTube travaille lui-même sur la technologie de l’IA.
La plateforme est en pourparlers avec les trois majors – Sony Music Entertainment, Universal Music Group et Warner Music Group – pour obtenir une licence pour leur musique afin de former des outils d'IA qui pourront créer de la musique, selon un rapport publié le mois dernier dans le Le Temps Financier.
Cela fait suite aux partenariats de YouTube l'année dernière avec UMG et WMG pour créer des outils musicaux d'IA en collaboration avec des artistes musicaux.
Selon le FTLes efforts précédents de YouTube pour créer des outils musicaux basés sur l'IA n'ont pas été à la hauteur des attentes. Seuls 10 artistes se sont inscrits pour aider à développer l'outil Dream Track de YouTube, qui devait intégrer la musique générée par l'IA à YouTube Shorts, la réponse de la plateforme vidéo à TikTok.
YouTube espère recruter des « dizaines » d’artistes pour ses nouveaux efforts visant à développer des outils musicaux basés sur l’IA, ont déclaré des personnes proches du dossier au site FT.
