YouTube étend son outil de détection de ressemblance avec l’IA à l’ensemble de l’industrie du divertissement, ouvrant pour la première fois l’accès aux célébrités et aux agences artistiques.
L’agrandissement intervient six mois après YouTube a commencé à déployer l’outil de détection de l’IA en octobre, qui était alors limité à un ensemble spécifique de créateurs disposant de chaînes YouTube.
La société a annoncé mardi 21 avril que les agences artistiques, les sociétés de gestion et les célébrités qu’elles représentent peuvent désormais s’inscrire, qu’elles disposent ou non d’une chaîne YouTube. L’expansion a été développée avec le soutien d’agences artistiques et de sociétés de gestion, notamment Agence d’artistes créatifs (CAA), Agence de talents unie (UTA), WMEet Gestion sans titre.
YouTube avait annoncé plus tôt en décembre 2024 avoir fait appel à des talents de la CAA pour l’aider à créer l’outil de détection des deepfakes par l’IA. La CAA a fourni des commentaires pour aider YouTube à construire le système et à affiner les contrôles, avait alors déclaré la société technologique. L’agence représente de nombreux artistes dont Ariana Grande, Beyoncé, Bob Dylan, Bruce Springsteen, Charli XCX, Dua Lipa, Miley Cyrus, Peso Pluma, Reine, Sabrina Charpentier, Shaboozeyet Le week-endparmi tant d’autres.
YouTube a expliqué mardi que le système de détection fonctionne de manière similaire à celui de YouTube. Contenu IDENTIFIANTque les titulaires de droits utilisent pour signaler toute utilisation non autorisée de matériel protégé par le droit d’auteur.
« Cela fonctionne de la même manière que Content ID, sauf que l’analyse recherche l’image d’un créateur plutôt que le contenu protégé par le droit d’auteur. »
YouTube
« Cela fonctionne de manière similaire à Content ID, sauf que l’analyse recherche l’image d’un créateur plutôt que le contenu protégé par le droit d’auteur », selon la page d’aide de YouTube.
YouTube a déclaré que l’outil effectue une analyse unique des vidéos nouvellement mises en ligne sur YouTube pour identifier le contenu susceptible de contenir le visage de chaque créateur ayant configuré la détection de ressemblance.
« Pour trouver des correspondances entre les visages de ces créateurs, notre système analysera et détectera les visages d’autres personnes présentes, y compris des adultes et des enfants, en plus de tous les créateurs inscrits. » Youtube a noté que les analyses sont immédiatement supprimées juste après et ne peuvent être utilisées pour identifier quiconque autre que les créateurs qui se sont inscrits à la fonctionnalité. Les personnes non inscrites ne sont pas identifiées par la technologie.
L’inscription nécessite une pièce d’identité émise par le gouvernement et une brève vidéo de selfie, que YouTube utilise pour vérifier l’identité et créer un modèle de ressemblance faciale. Le processus de vérification prend jusqu’à cinq jours. Une fois inscrits, les participants peuvent autoriser les agents, gestionnaires ou autres représentants à examiner le contenu signalé en leur nom sans passer eux-mêmes par une vérification.
La plateforme a indiqué qu’elle stockait les modèles de ressemblance et les informations d’identité jusqu’à trois ans à compter de la dernière connexion d’une personne inscrite, ou jusqu’à ce qu’elle retire son consentement ou supprime son compte.
« Actuellement, la fonctionnalité n’est utilisée que pour détecter les correspondances visuelles du visage d’un créateur inscrit. Nous visons à étendre la détection de ressemblance à l’audio dans un avenir proche. »
YouTube
YouTube a noté que l’outil est encore expérimental, « et nous sommes toujours en train de peaufiner le logiciel ». La société a reconnu qu’elle ne montrerait peut-être pas toutes les instances de contenu ressemblant généré par l’IA et a encouragé les participants à signaler les échecs via le site YouTube. processus de plainte en matière de confidentialité.
Cependant, la détection audio ne fait pas encore partie de la fonctionnalité. YouTube affirme travailler à étendre la détection de ressemblance à la voix en 2026.
« Actuellement, la fonctionnalité n’est utilisée que pour détecter les correspondances visuelles du visage d’un créateur inscrit. Nous visons à étendre la détection de ressemblance à l’audio dans un avenir proche. »
L’outil de détection de ressemblance avec l’IA est une extension des outils de confidentialité de YouTube à l’ère des deepfakes. En juillet 2024, YouTube a mis à jour ses politiques de confidentialité pour permettre aux utilisateurs de demander la suppression du contenu généré par l’IA qui simule leur apparence ou leur voix.
« Si quelqu’un a utilisé l’IA pour modifier ou créer un contenu synthétique qui vous ressemble ou vous ressemble, vous pouvez nous demander de le supprimer. Pour pouvoir être supprimé, le contenu doit montrer une version réaliste modifiée ou synthétique de votre image », selon ses directives de confidentialité mises à jour.
En 2023, YouTube a annoncé qu’il développait un système permettant à ses partenaires musicaux de demander la suppression de contenus qui « imitent la voix unique de chant ou de rap d’un artiste ».
Cela fait suite à un certain nombre de deepfakes musicaux devenus viraux en 2023, y compris le tristement célèbre morceau « faux Drake » qui a recueilli des centaines de milliers de streams avant d’être retiré par les plateformes médiatiques.
L’industrie musicale dans son ensemble a réprimé les deepfakes ces derniers mois. Mois dernier, Sony Musique a demandé aux plateformes de streaming de supprimer plus de 135 000 chansons qui, selon elles, auraient été créées par des fraudeurs utilisant l’IA générative pour se faire passer pour des artistes figurant sur sa liste.
Denis Cuiseurprésident, activités numériques mondiales et ventes aux États-Unis, chez Sony Musique Divertissementdit selon BBC que les « deepfakes » causent « un préjudice commercial direct aux artistes légitimes… Dans le pire des cas, [the deepfakes] potentiellement nuire à une campagne de sortie ou ternir la réputation d’un artiste.
Entre-temps, Spotify le mois dernier, il testait une nouvelle fonctionnalité d’adhésion qui permet aux artistes d’examiner et d’approuver les sorties éligibles avant leur mise en ligne. Cette décision est conçue pour donner aux artistes une nouvelle façon de protéger leurs profils contre les deepfakes et les attributions erronées de l’IA.
