Le PDG de Warner Music Group (WMG), Robert Kyncl, s'est prononcé en faveur d'un projet de loi du Sénat américain qui réprimerait les deepfakes non autorisés, arguant que la technologie pourrait ruiner des vies, des réputations et des entreprises si elle n'est pas contrôlée.
Bien que de nombreux acteurs du secteur de la musique adoptent l'IA, il est également vrai que « l'IA générative s'approprie l'identité des artistes et produit des deepfakes qui représentent des gens faisant, disant ou chantant des choses qui ne se sont jamais produites », a déclaré Kyncl à un sous-comité judiciaire du Sénat. Commission le mardi 30 avril.
« Grâce à l'IA, il est très facile pour quelqu'un de se faire passer pour moi et de causer toutes sortes de ravages », a déclaré Kyncl, selon ses remarques préparées à l'avance et partagées avec MBW.
«Ils pourraient parler à un artiste d'une manière qui pourrait détruire notre relation. Ils pourraient dire aux médias des choses fausses sur notre société cotée en bourse, ce qui nuirait à nos activités.
Vous pouvez regarder l’audience ici.
Kyncl comparaîtra devant le comité mardi pour apporter son soutien et celui de WMG au Nourrir les originaux, favoriser l’art et assurer la sécurité des divertissements (PAS DE FAUX) Acteun projet de loi qui protégerait la voix et l'image visuelle de tous les individus contre toute utilisation non autorisée dans les deepfakes générés par l'IA.
Bien que la formulation du projet de loi n'ait pas encore été finalisée, un « projet de discussion » a été distribué au Sénat en octobre dernier par les sénateurs démocrates. Christophe Coons du Delaware et Amy Klobuchar du Minnesota et les sénateurs républicains. Marsha Blackburn du Tennessee et Thomas Tillis de Caroline du Nord.
Le projet de loi proposé vise à « tenir pour responsables les individus ou les entreprises s'ils produisent une réplique numérique non autorisée d'un individu lors d'une représentation » et à « tenir les plateformes responsables de l'hébergement d'une réplique numérique non autorisée, si la plateforme a connaissance du fait que la réplique n'a pas été autorisé par la personne représentée.
Il vise également à exclure des exceptions « fondées sur le premier amendement reconnu ». [freedom of speech] protections. »
Un projet de loi ayant des objectifs similaires a été présenté à la Chambre des représentants des États-Unis en janvier dernier. Le Pas de loi sur la fraude liée à l'IA établit « un droit de propriété intellectuelle que chaque individu détient sur sa propre image et sa propre voix, permet aux individus de demander des dommages-intérêts en cas d'utilisation préjudiciable et non autorisée de leur image ou de leur voix » et « protège contre les deepfakes à caractère sexuel et les abus sexuels sur des enfants ».
Ce projet de loi – également un effort bipartisan, comme le NO FAKES Act – a rapidement recueilli le soutien des principaux acteurs de l'industrie musicale, notamment le Association de l'industrie du disque d'Amérique (RIAA) et Groupe de musique universel (UMG). Il bénéficie également du soutien du Campagne sur l'art humainqui cherche à protéger les œuvres et les moyens de subsistance des créateurs tout en plaidant pour le développement responsable de l'IA.
Par ailleurs, l'État du Tennessee a adopté une loi Loi ELVISqui met à jour le droit de l'État à la publicité pour inclure des protections pour les voix des auteurs-compositeurs, des interprètes et des professionnels de l'industrie musicale contre l'utilisation abusive de l'intelligence artificielle (IA).
Ces efforts législatifs font suite à un nombre croissant de controverses impliquant des deepfakes non autorisés, au sein de l’industrie musicale, dans l’industrie du divertissement en général et dans la société dans son ensemble.
« La vérité est que tout le monde est vulnérable : les familles escroquées par des clones vocaux se faisant passer pour des proches ; les personnes placées dans de la pornographie sans leur consentement ; des écoliers dont le visage est inséré dans des scènes humiliantes.
Robert Kyncl, Warner Music Group
L’été dernier, le secteur de la musique a été ébranlé par l’apparition d’un morceau non autorisé généré par l’IA et « interprété » par Canard et Le weekendqui a rapidement fait l'objet d'avis de retrait de la part d'UMG, avec qui les deux artistes sont signés.
Quelques mois plus tard, l'acteur vétéran Tom Hanks a averti que son image était utilisée sans autorisation dans une publicité vendant un régime de soins dentaires.
Et l'indignation a éclaté suite à des incidents où des images de personnes ont été utilisées sans autorisation dans des images pornographiques générées par l'IA, qui ont parfois fait des victimes mineures.
Récemment, X (anciennement Twitter) a été contraint d'agir lorsque l'IA a falsifié des images obscènes mettant en vedette Taylor Swift diffusé sur la plateforme.
« La technologie des deepfakes sans entraves a le potentiel d’avoir un impact sur tout le monde – même sur vous tous », a déclaré Kyncl dans sa déclaration mardi.
« Vos identités pourraient être appropriées et utilisées pour induire vos électeurs en erreur. La vérité est que tout le monde est vulnérable : les familles escroquées par des clones vocaux se faisant passer pour des proches ; les personnes placées dans de la pornographie sans leur consentement ; des écoliers dont le visage est inséré dans des scènes humiliantes.
Kyncl a déclaré que la loi NO FAKES devrait inclure trois éléments « pour être efficace » : un droit de propriété intellectuelle « exécutoire » sur la ressemblance et la voix ; une « dissuasion efficace » qui inclurait « des conséquences significatives pour les créateurs de modèles d'IA et les plateformes qui violent sciemment les droits de propriété d'une personne » ; et « le respect des principes importants du premier amendement » – mais sans la création de « failles qui créent davantage de victimes ».
Dans une chronique publiée dans La colline Mardi, Kyncl a soutenu qu'à chaque changement technologique successif, la musique était « le canari dans la mine de charbon », soulignant les dangers de ce changement technologique alors même qu'elle ouvrait la voie en démontrant ses avantages.
« La musique nous a déjà donné un aperçu de ce que cette incroyable technologie [AI] peut faire lorsque les artistes sont à bord – qu'il s'agisse de musiciens permettant aux fans de créer de nouvelles chansons en utilisant des répliques de leurs voix, de successions d'artistes permettant des biopics posthumes présentant des répliques parfaites de stars décédées, ou de chanteurs qui ont perdu leur voix à cause d'une maladie et enregistrant miraculeusement à nouveau, » Kyncl a écrit.
« Dans le même temps, nous avons été témoins du spectre des éventuels inconvénients de l’IA pour les artistes : de vastes grattages et copies d’œuvres créatives, et la montée des contrefaçons profondes où les voix, les visages et les identités des artistes sont appropriés sans leur consentement…
« Les utilisations positives et négatives très différentes de l’IA avec lesquelles la musique est aux prises aujourd’hui représentent deux versions alternatives du futur – avec les artistes à la pointe de la lance. »
Kyncl a déclaré que le développement responsable de l'IA dépendra de l'adoption de quatre principes : Consentement pour l'utilisation de l'image et de la voix des gens ; monétisationce qui signifie que la ressemblance et la voix doivent être disponibles pour l'octroi de licence ; attribution, ce qui signifie que le contenu généré par l’IA doit être étiqueté comme tel ; et provenancec'est-à-dire que les développeurs d'IA devraient conserver des enregistrements accessibles au public des matériaux qu'ils ont utilisés pour former leurs modèles.
« Ce qui n'est pas acceptable, c'est lorsque mon art et mon identité peuvent simplement être pris par un tiers et exploités faussement à son propre profit sans mon consentement en raison de l'absence de contrôle législatif approprié. »
Brindilles FKA
L'artiste britannique doit également témoigner devant la sous-commission du Sénat mardi. Brindilles FKAqui a signé chez Atlantic Records de WMG.
« Je suis ici parce que ma musique, ma danse, mon jeu d'acteur, la façon dont mon corps bouge devant une caméra et la façon dont ma voix résonne à travers un microphone… sont des reflets essentiels de qui je suis », a déclaré Twigs dans son discours préparé. déclaration.
« Pourtant, cela est menacé. L’IA ne peut pas reproduire la profondeur de mon parcours de vie, mais ceux qui la contrôlent détiennent le pouvoir d’imiter l’image de mon art, de le reproduire et de revendiquer faussement mon identité et ma propriété intellectuelle. Cette perspective menace de réécrire et de défaire le tissu même de mon existence.
Twigs a indiqué qu'elle n'est pas opposée à la technologie de l'IA et qu'elle a en fait développé son propre sosie généré par l'IA, « AI Twigs », qui fera ses débuts sur ses réseaux sociaux plus tard cette année.
Bien que des outils comme ceux-ci soient « d’une grande valeur… ce qui n’est pas acceptable, c’est lorsque mon art et mon identité peuvent simplement être pris par un tiers et exploités faussement à son propre profit sans mon consentement en raison de l’absence de contrôle législatif approprié », a ajouté Twigs. .
« Nous devons bien faire les choses – vous devez bien faire les choses, maintenant, avant qu’il ne soit trop tard », a déclaré Twigs.
