Les artistes et les célébrités inquiets des deepfakes générés par l’IA peuvent trouver un peu de réconfort auprès de YouTube, qui a commencé à déployer un outil de détection des ressemblances de personnes générées par l’IA.
La plateforme de streaming vidéo a développé l'outil en partenariat avec Agence d'artistes créatifsce qui suggère que l’une de ses fonctions sera à terme de reconnaître les deepfakes de célébrités.
Cependant, pour l'instant, l'outil est limité à un ensemble spécifique de créateurs disposant de chaînes YouTube et sera déployé à tous les créateurs du Programme Partenaire YouTube dans les mois à venir. PC Mag signalé.
YouTube a informé certains créateurs sur sa plateforme du déploiement de l'outil par e-mail mardi 21 octobre, selon un rapport de Le bord.
L'outil est similaire au système Content ID de YouTube, qui analyse la bibliothèque YouTube à la recherche de contenu protégé par le droit d'auteur afin de compenser les titulaires de droits. L'outil de détection des deepfakes fonctionne sur le même principe, mais cherche à détecter les visages reconnaissables utilisés sans autorisation.
Dans une vidéo publiée mardi, YouTube a déclaré que les créateurs pourront examiner les vidéos signalées dans l'onglet Détection de contenu de YouTube Studio et soumettre une demande de suppression s'ils pensent que la vidéo est un deepfake ou qu'elle viole les conditions d'utilisation de YouTube.
Pour pouvoir utiliser l'outil, les créateurs devront fournir une photo d'identité et une courte vidéo d'eux-mêmes. Plusieurs jours après leur inscription, les créateurs devraient commencer à voir les vidéos signalées dans l'onglet Détection de contenu, où ils auront le choix entre la manière de répondre, notamment le dépôt d'une demande de suppression, le dépôt d'une demande de violation des droits d'auteur ou l'absence de toute action.
Dans la vidéo, YouTube a clairement indiqué que son objectif principal avec cet outil était de protéger la réputation et les intérêts commerciaux des créateurs sur sa plateforme. L'outil permettra aux créateurs de « protéger vos téléspectateurs en empêchant le public d'être induit en erreur sur ce que vous soutenez et ce que vous ne soutenez pas », a déclaré YouTube.
« Il est possible que vous ne voyiez pas de correspondances si le contenu modifié ou synthétique avec votre visage est à peine ou jamais téléchargé sur YouTube. Ceci est tout à fait normal et indique que nous n'avons pas détecté d'utilisation non autorisée de votre image visuelle sur la plateforme. Et nous espérons que cela vous apportera une tranquillité d'esprit », a déclaré YouTube.
« Vous pourrez envoyer une demande de suppression pour examen conformément aux directives de confidentialité de YouTube et protéger vos téléspectateurs en empêchant votre public d'être induit en erreur sur ce que vous approuvez et ce que vous n'approuvez pas. »
YouTube
YouTube n'a pas révélé si ou quand il envisage d'étendre l'outil au-delà des créateurs de la plateforme. Cependant, c'est ce que l'on attend, étant donné que YouTube s'est associé à la Creative Artists Agency (CAA) en décembre dernier, donnant à certaines personnes de premier plan la possibilité de « fournir des commentaires critiques pour nous aider à construire nos systèmes de détection », avait déclaré YouTube à l'époque.
L’outil de détection fait partie d’une série de mesures prises par YouTube ces dernières années pour atténuer les risques liés à l’IA générative. L'année dernière, la plateforme a modifié ses politiques de confidentialité pour permettre aux membres du public de déposer des demandes de suppression de vidéos qui imitent leur voix ou leur image.
YouTube a également développé un mécanisme permettant aux titulaires de droits de demander le retrait de vidéos qui, selon eux, « imitent la voix unique de chant ou de rap d'un artiste ».
Parallèlement, YouTube et sa société mère, Googlecomptent parmi les entreprises les plus actives dans le développement de technologies d’IA. Plus tôt cette année, YouTube a déployé un nouvel outil musical IA capable de générer des bandes sonores libres de droits pour les vidéos. La société teste également une fonctionnalité d'hébergement de musique IA pour rivaliser avec Spotifyest le DJ IA.
YouTube a signé un accord avec Groupe de musique universel en 2023 pour développer des outils d’IA, dotés de protections pour les ayants droit. Selon un rapport de 2024 du Temps FinancierYouTube était en pourparlers avec les principales maisons de disques pour obtenir une licence sur leur musique pour la formation en IA, mais ces efforts ont été ralentis par le manque d'artistes volontaires.
