CE QUI S'EST PASSÉ?
Lorsque les sociétés de musique parlent de l’IA, elles abordent généralement deux grands thèmes :
- Les avantages de l’IA pour leur entreprise : création musicale plus efficace, expérience utilisateur améliorée, meilleure collecte et analyse des données, etc., et
- Les coûts associés à l’abus de l’IA – violation du droit d’auteur par des deepfakes non autorisés, formation sans licence de l’IA sur des œuvres protégées par le droit d’auteur, etc.
En d’autres termes, il s’agit soit de « regardez combien d’argent nous pouvons gagner grâce à l’IA », soit de « regardez combien d’argent nous pouvons gagner en plus ». pourrait faire à partir de l’IA.
Pourtant, la réalité est que l’IA est une technologie nouvelle et puissante et, comme d’autres technologies nouvelles et puissantes avant elle, il est pratiquement impossible de prédire quels pourraient en être les impacts à long terme.
Dans les années 1990, lorsque l'Internet était une technologie nouvelle et en vogue, beaucoup de gens ont vu son potentiel commercial, mais aurait-on pu prédire la propagation de la désinformation sur les réseaux sociaux, l'épidémie de dépression chez les adolescents liée à l'utilisation des smartphones ou des tendances néfastes comme la Défi Tide Pod?
Il vaut donc la peine d’examiner l’IA du point de vue de Qu'est-ce qu'on ne voit pas ? Quels sont les risques ?
Divertissement musical Tencent, le plus grand opérateur chinois de services de streaming musical, a fait un pas dans cette direction. Dans son rapport annuel pour 2023, déposé auprès de la Securities and Exchange Commission des États-Unis plus tôt ce mois-ci, TME a exposé un certain nombre de risques – certains d’entre eux assez vagues – qu’il constate grâce à son utilisation de l’IA.
Et c’est ce qu’il fait pour utiliser l’IA : parmi les services de streaming, TME pourrait bien être le plus avancé au monde en matière de développement et de déploiement d’outils d’IA.
Pour les auditeurs, il a lancé un « compagnon » IA qui peut « écouter » de la musique avec vous, simulant une soirée d’écoute. L'application karaoké de TME Nous chantonset la fonction karaoké dans sa Kugou application de streaming, ont désormais un « L'IA chante« , qui permet aux utilisateurs de réaliser des « duos » avec des chanteurs virtuels. L'IA a également été intégrée aux fonctions de recherche et de découverte musicale de TME.
Pour les créateurs de musique, TME a déployé l'année dernière une suite d'outils de création musicale IA sur Vénussa plateforme de production et de promotion musicale, accessible à près d'un demi-million d'abonnés à ses Plateforme de musiciens Tencent. Parmi ces outils figurent la possibilité de séparer différents instruments de musique sur une piste enregistrée, la possibilité de générer automatiquement des partitions, un assistant d'écriture de paroles et un assistant de composition.
TME a également développé MPDabréviation de « modèle prédictif », qui, selon la société, peut désormais prédire « la prochaine chanson à succès », sur la base d'analyses de la musique et des paroles et des changements dans les tendances musicales à travers le monde.
Il est donc logique que TME ait consacré beaucoup de temps à réfléchir aux risques liés au fait de consacrer une grande partie de son activité au développement de l’IA. Voici les principaux aspects de l’IA pour lesquels TME voit des risques :
1) ALGORITHMES DÉFAUTS
« Les algorithmes d'IA peuvent être défectueux et les données utilisées peuvent être incomplètes ou biaisées », a déclaré TME dans une section de son rapport intitulée Risques liés à notre activité et à notre industrie.
Cela pourrait en effet poser problème. Depuis que la technologie de l’IA s’est « généralisée » il y a environ un an et demi, de nombreux cas « d’hallucinations de l’IA » ont été signalés – c’est-à-dire des cas où l’IA a simplement inventé de fausses informations et les a fait passer pour des faits.
Dans un cas notoire, un avocat défendant une affaire de préjudice corporel devant un tribunal de New York a admis qu'il avait cité des précédents juridiques inexistants dans son argumentation – le résultat de ChatGPT « halluciner » ces cas. De plus, interrogé sur ces résultats, ChatGPT a insisté sur le fait que les faux cas étaient réels.
« Certaines applications de l’IA pourraient déclencher des problèmes éthiques. Si nos offres basées sur l’IA deviennent controversées en raison de leurs effets sur les droits de l’homme, la vie privée, l’emploi ou d’autres questions sociales, nous risquons de nuire à notre réputation ou de subir des répercussions juridiques.
Divertissement musical Tencent
De telles « hallucinations » pourraient également s’avérer problématiques pour les services de streaming musical. Le PDM de TME pourrait générer des prédictions complètement incorrectes sur les chansons susceptibles d'être des succès, ou pourrait induire les analystes en erreur sur les habitudes d'écoute. D’autres applications d’IA pourraient produire des résultats indésirables pour les auditeurs et les créateurs de musique. Il n’est pas nécessaire d’être un génie pour voir comment de telles choses pourraient nuire aux opérations commerciales d’un service de streaming.
TME a également raison de souligner la possibilité de biais dans les modèles d’IA. Le fait que les algorithmes d’IA reflètent les préjugés, conscients ou inconscients, de leurs développeurs est bien documenté à ce stade. IBM a publié un aperçu de la manière dont les préjugés peuvent affecter l'utilité de la technologie de l'IA. Si un service de streaming utilise un modèle d’IA biaisé, l’entreprise pourrait passer à côté des tendances culturelles ou négliger des groupes démographiques entiers – au détriment de ses résultats financiers.
2) « PRATIQUES CONTROVERSES »
« Des pratiques inappropriées ou controversées en matière de données, de notre part ou de la part de tiers, pourraient limiter l'acceptation de nos produits et contenus améliorés par l'IA », déclare TME dans son rapport annuel.
« Certaines applications de l’IA pourraient déclencher des problèmes éthiques. Si nos offres basées sur l’IA deviennent controversées en raison de leurs effets sur les droits de l’homme, la vie privée, l’emploi ou d’autres questions sociales, nous risquons de nuire à notre réputation ou de subir des répercussions juridiques.
Il est difficile de dire exactement ce que TME avait en tête lorsqu'il a lancé cet avertissement, mais nous pouvons certainement imaginer comment un certain nombre d'applications d'IA d'une société de streaming musical pourraient se heurter à des « problèmes éthiques ».
Si un algorithme d'IA analysait suffisamment profondément les habitudes d'écoute de l'utilisateur, il pourrait potentiellement créer un « modèle » d'un utilisateur donné qui prédit avec une telle précision ce que cet utilisateur voudra entendre que cela pourrait ressembler à une violation de la vie privée – comme si quelqu'un savait des choses sur vous qu'ils ne devraient pas.
L’impact potentiel sur l’emploi est évident. Si les outils d’IA générative réduisent la demande de musiciens de session, d’ingénieurs du son ou même de producteurs, les pertes d’emplois dans l’industrie musicale pourraient s’accumuler. Et si ces masses de chômeurs blâment des outils comme Venus de TME, cela représente un risque évident pour l'image et la réputation de l'entreprise.
3) QUESTIONS DE DROIT D'AUTEUR
Le droit d'auteur est le gros problème en matière d’IA dans l’industrie musicale. Des poursuites judiciaires pour reproductions non autorisées de documents protégés par le droit d'auteur par des chatbots IA aux avis de retrait de deepfakes d'artistes célèbres générés par l'IA, les risques pour les titulaires de droits – et les entreprises qui pourraient enfreindre ces règles – deviennent de plus en plus évidents.
« Il existe des incertitudes quant à la propriété et à la protection de la propriété intellectuelle d'AIGC. [AI-generated content] des produits. L’utilisation des outils AIGC pourrait également entraîner une violation potentielle du droit d’auteur et d’autres défis juridiques », note TME dans son rapport annuel.
« Si nous ne parvenons pas à obtenir les autorisations ou licences nécessaires pour utiliser les outils d'IA – que ce soit parce que nous ne pouvons pas identifier le titulaire des droits ou pour toute autre raison – nous pourrions enfreindre les droits d'autrui, ce qui pourrait entraîner des réclamations pécuniaires, des amendes, des pénalités ou moins de contenu pour nos utilisateurs.
« Il existe des incertitudes quant à la propriété et à la protection de la propriété intellectuelle d'AIGC. [AI-generated content] des produits. L’utilisation des outils AIGC pourrait également entraîner une violation potentielle du droit d’auteur et d’autres défis juridiques.
Divertissement musical Tencent
La référence de TME aux « incertitudes autour de la propriété et de la protection de la propriété intellectuelle de l'AIGC » fait probablement référence au débat en cours sur la question de savoir si le contenu généré par l'IA peut ou non être protégé par le droit d'auteur.
Aux États-Unis, une décision de justice rendue en 2023 a déterminé qu'une œuvre entièrement créée par l'IA ne pouvait pas être protégée par le droit d'auteur. Toutefois, cela laisse encore quelques zones d’ombre non résolues. Quel degré d’implication humaine faut-il pour qu’une œuvre soit protégée par le droit d’auteur ? Si quelque chose a été généré à 50 % par une personne et à 50 % par l’IA, peut-il être protégé par le droit d’auteur ? Et s’il s’agissait de 25 % de travail humain et de 75 % d’IA ? Il reste certainement beaucoup à déterminer quant à l’étendue de la protection des droits d’auteur pour le contenu généré par l’IA.
Ce qui ressort de l’évaluation de TME est son niveau d’incertitude quant à ses propres utilisations de l’IA ; se peut-il que TME ne sache même pas si un outil d'IA donné a utilisé du matériel protégé par le droit d'auteur dans sa formation, ou peut être utilisé pour violer le droit d'auteur ? Cela pourrait potentiellement être le cas, et si tel est le cas, cela pourrait être lié non seulement à la complexité des algorithmes d’IA et aux quantités massives de données sur lesquelles ils sont généralement formés, mais aussi à…
4) INCERTITUDE JURIDIQUE ET RÉGLEMENTAIRE
« Le cadre réglementaire et juridique de l'IA générative évolue rapidement », indique le rapport de TME, « et pourrait ne pas aborder pleinement tous les aspects de sa recherche, de son développement et de son utilisation ».
C’est un euphémisme. Dans l’état actuel des choses, le cadre juridique et réglementaire de l’IA n’en est qu’à ses débuts – si tant est qu’il le soit – dans la plupart des pays.
Aux États-Unis, jusqu’à présent, il y a eu peu de législation et une grande partie du travail visant à déterminer les règles relatives au droit d’auteur a été confiée aux tribunaux.
Les juges de tout le pays entendent actuellement des arguments sur la question de savoir si l'utilisation non autorisée de documents protégés par le droit d'auteur devrait ou non bénéficier d'une exception d'« usage équitable » à la loi sur le droit d'auteur ; si un résumé d'un livre généré par l'IA doit être considéré comme une violation du droit d'auteur, et d'autres questions connexes.
Dans l'Union européenne, la loi récemment adoptée Loi sur l'IA oblige les développeurs de modèles « d’IA à usage général » à suivre et à divulguer le contenu utilisé dans la formation. Il précise en outre que « toute utilisation d'un contenu protégé par le droit d'auteur nécessite l'autorisation du [rights holder] concerné, sauf si des exceptions et limitations pertinentes en matière de droit d’auteur s’appliquent.
Pourtant, personne ne semble vraiment certain de ce que cela pourrait signifier dans des cas spécifiques. Comme l’ont souligné les experts juridiques, il n’est pas tout à fait clair ce qu’est ou n’est pas une « IA à usage général ». Un outil de génération de musique basé sur l’IA compte-t-il ?
Il existe également une exclusion pour les « exceptions et limitations pertinentes en matière de droit d'auteur ». Le droit d’auteur de l’UE bénéficie d’une exemption pour les « actes de reproduction temporaires qui constituent une partie essentielle d’un processus technologique ». Le développement d’un modèle d’IA relèverait-il de cette exemption ?
« Le cadre réglementaire et juridique de l’IA générative évolue rapidement et pourrait ne pas couvrir pleinement tous les aspects de sa recherche, de son développement et de son utilisation. »
Divertissement musical Tencent
Il est intéressant de noter que la juridiction la plus pertinente pour Tencent Music Entertainment – la Chine – pourrait en fait avoir les règles les plus claires et les plus complètes au monde en matière d'IA, du moins pour le moment.
À partir de fin 2022, les régulateurs chinois ont publié des règles guidant la manière dont l’IA peut être développée et déployée, notamment l’obligation pour les développeurs d’IA de soumettre au gouvernement des évaluations de sécurité de leur technologie.
Les fournisseurs de services basés sur l’IA sont tenus de garantir que les utilisateurs « comprennent scientifiquement et utilisent rationnellement » le contenu généré par l’IA et « de ne pas utiliser le contenu généré pour nuire à l’image, à la réputation et aux autres droits et intérêts légitimes d’autrui, et de ne pas se livrer à du battage publicitaire ou à un marketing inapproprié.
« Le non-respect des mesures AIGC peut soumettre les fournisseurs de services d'IA générative à des sanctions, notamment des avertissements, des dénonciations publiques, des ordonnances de rectification et la suspension de la fourniture des services concernés », a noté TME dans son rapport.
« Cependant, étant donné que ces lois et réglementations sont encore relativement nouvelles et que des incertitudes importantes subsistent quant à leur interprétation et leur mise en œuvre, nous ne pouvons pas vous garantir si nous serons en mesure de nous conformer aux exigences de ces lois et réglementations en temps opportun ou pas du tout. .»
C’est un aveu assez brutal de la part de l’un des développeurs chinois d’IA les plus prolifiques dans l’industrie du divertissement.
UNE DERNIÈRE PENSÉE…
Il serait peut-être préférable de laisser la dernière réflexion ici à Tencent Music Entertainment lui-même :
« Les incertitudes concernant le développement et l’application de la technologie de l’IA présentent un risque potentiel. Il reste la possibilité que la technologie de l’IA ne progresse pas comme prévu ou ne fournisse pas les avantages escomptés, ce qui pourrait limiter l’acceptation et la popularité de nos offres basées sur l’IA.
TME semble tout à fait conscient du fait que les nouvelles technologies ne fonctionnent pas toujours comme elles avaient été initialement envisagées, et se laisse une certaine marge de manœuvre pour la possibilité que son adoption enthousiaste et agressive de cette nouvelle technologie ne donne pas les résultats souhaités à long terme. courir.
Étant donné que TME est un leader dans l’application de la technologie de l’IA parmi les streamers de musique, cela devrait nous faire réfléchir. À une époque où les entreprises, tant au sein qu’à l’extérieur de l’industrie musicale, se battent pour être les premières à proposer des innovations basées sur l’IA, nous pourrions suggérer trois conseils : procéder avec prudence.
