L’Administration chinoise du cyberespace de Chine (CAC) a dévoilé le mois dernier un ensemble de règles proposées qui s’appliqueraient au développement et à l’utilisation des technologies d’IA génératives dans le pays.
S’il est adopté, il s’agirait en fait de la deuxième série de règles pour guider l’IA que la CAC et d’autres agences gouvernementales ont publiées.
Le premier tour, publié en décembre dernier et promulgué le 10 janvier de cette année, ciblait l’utilisation de la «synthèse profonde», ou ce que l’on appelle familièrement les «deepfakes».
En vertu de ces règles – intitulées Dispositions administratives sur la synthèse approfondie pour le service d’information sur Internet – toute personne qui crée de l’audio, de la vidéo ou du texte à l’aide de l’IA générative est tenue d’étiqueter son contenu comme tel.
Si un utilisateur d’IA modifie la voix ou l’image de quelqu’un, il est tenu d’en informer la personne en question et d’obtenir son consentement.
Comme le rapporte le South China Morning Post, ces règles ont incité la version chinoise de TikTok, connue sous le nom de Douyin, à annoncer de nouvelles règles concernant l’utilisation de l’IA sur sa propre plateforme. Parmi ces règles figurent l’obligation d’indiquer clairement si le contenu a été généré par l’IA.
L’application vidéo courte appartenant à Bytedance a annoncé mardi (9 mai) un ensemble de 11 principes pour guider l’utilisation de l’IA – et la société a averti que la violation des règles, y compris la violation du droit d’auteur à l’aide de l’IA, serait « sévèrement sanctionnée ».
En plus des exigences d’étiquetage du contenu généré par l’IA et d’informer les gens si leurs images sont manipulées à l’aide de l’IA, les nouvelles règles de Douyin stipulent :
- Toute personne virtuelle créée doit être enregistrée auprès de Douyin, et la personne réelle derrière la création doit faire vérifier son identité.
- Les éditeurs sont responsables des conséquences du contenu généré par l’IA, « quelle que soit la manière dont le contenu est généré ».
- L’utilisation de l’IA pour créer du contenu portant atteinte aux droits d’auteur est interdite.
- Il est interdit d’utiliser l’IA pour créer « un contenu qui viole le bon sens scientifique, falsifie et propage des rumeurs ».
D’autres points rappellent que les contenus illégaux seront interdits, tout comme la « diffusion de fausses informations ».
Douyin a déclaré : « Surtout dans le domaine de la création de contenu, la technologie de l’intelligence artificielle générative a abaissé le seuil de création, enrichi l’écologie du contenu Internet et apporté de nouveaux changements et opportunités pour la production et la diffusion d’informations. Mais en même temps, le contenu généré par l’intelligence artificielle est difficile à identifier, et cela pose également des problèmes tels que les fausses informations et la contrefaçon.
De plus, Douyin a déclaré qu’il fournirait aux utilisateurs des outils pour détecter le contenu généré par l’IA, créer un système permettant aux utilisateurs d’enregistrer des avatars et fournir des canaux de rétroaction qui permettront aux utilisateurs de signaler le contenu qui enfreint les règles.
Les nouvelles règles sont similaires – mais pas identiques – aux règles introduites par l’autre application vidéo abrégée de Bytedance, TikTok, en mars.
En vertu de ces règles, les supports synthétiques ou manipulés doivent être étiquetés avec une étiquette telle que « synthétique », « faux » ou « altéré ».
Cependant, les règles de TikTok interdisaient expressément « les médias synthétiques qui contiennent la ressemblance d’une vraie personnalité privée ».
Dans une mise à jour de ses directives communautaires, TikTok a déclaré: «Bien que nous donnions plus de latitude aux personnalités publiques, nous ne voulons pas qu’elles fassent l’objet d’abus ou que les gens soient induits en erreur par des problèmes politiques ou financiers. Nous n’autorisons pas les médias synthétiques de personnalités publiques si le contenu est utilisé pour des approbations ou viole toute autre politique. Cela comprend l’interdiction des discours de haine, de l’exploitation sexuelle et des formes graves de harcèlement.
« Particulièrement dans le domaine de la création de contenu, la technologie de l’intelligence artificielle générative a abaissé le seuil de création, enrichi l’écologie du contenu Internet et apporté de nouveaux changements et opportunités pour la production et la diffusion de l’information. »
Douyin
Les nouvelles règles de TikTok et Douyin interviennent alors que Bytedance semble étendre considérablement sa propre implication avec l’IA. L’année dernière, la société a procédé à une vague d’embauches dans le domaine de l’apprentissage automatique, sa filiale Mawf embauchant des spécialistes dans le domaine de la création musicale IA.
Plus tôt ce mois-ci, MBW a repéré que Bytedance avait publié une annonce pour un chef de produit à Los Angeles pour rejoindre une équipe qui « travaille sur un outil alimenté par l’IA qui offre des capacités intelligentes de création musicale et d’édition audio ».
Pendant ce temps, sa division TikTok recrutait un « Music Creator Operations Manager » pour rejoindre un département qui « développe[s] outils de production musicale et compositions musicales générées par l’IA.
Les nouvelles règles pour Douyin de Bytedance interviennent moins d’un mois après que le CAC chinois a publié un ensemble de propositions pour la technologie d’IA qui, entre autres, obligeraient les entreprises technologiques à soumettre des évaluations de sécurité de leur technologie d’IA à un «département d’information sur le réseau national» avant leur Les services d’IA pourraient être utilisés par le public.
Les fournisseurs de services d’IA seraient tenus de s’assurer que les utilisateurs « comprennent scientifiquement et utilisent rationnellement » les outils d’IA.
De plus, le contenu généré par l’IA « devrait refléter les valeurs fondamentales du socialisme et ne doit pas contenir la subversion du pouvoir de l’État, le renversement du système socialiste, l’incitation à diviser le pays, saper l’unité nationale, promouvoir le terrorisme, l’extrémisme et promouvoir l’ethnie ». la haine et la discrimination ethnique, la violence, les informations obscènes et pornographiques, les fausses informations et les contenus susceptibles de perturber l’ordre économique et social », indiquent les règles proposées par le CAC.
De nombreux observateurs remarquent que la Chine semble devancer les États-Unis dans l’élaboration de règles pour l’IA.
Dans l’industrie de la musique, les sociétés de musique expriment leur inquiétude face à la prolifération de la musique générée par l’IA.
Selon un rapport publié en avril au Financial TimesUMG a demandé à des services de streaming tels que Spotify et Apple d’empêcher les technologies d’intelligence artificielle de supprimer les paroles et les mélodies de ses chansons protégées par le droit d’auteur.
« Cette prochaine génération de technologie pose des problèmes importants », a déclaré une personne proche de la situation FT.
« Beaucoup de [generative AI] est formé sur la musique populaire. Vous pourriez dire : composez une chanson dont les paroles ressemblent à Taylor Swift, mais la voix doit être dans le style de Bruno Mars, mais je veux que le thème soit plus Harry Styles. La sortie que vous obtenez est due au fait que l’IA a été formée sur la propriété intellectuelle de ces artistes.L’industrie de la musique dans le monde
