Une vive controverse a éclaté en ligne après la diffusion d’une version détournée de l’OST KPop Demon Hunters contenant des paroles explicites générées par intelligence artificielle. Le morceau en question, une réinterprétation vulgaire de la chanson originale “Soda Pop”, a été publié sur YouTube et partagé sur divers forums, suscitant une vague d’indignation.
La vidéo, modifiée à l’aide d’outils d’IA pour inclure des paroles à caractère sexuel, était accompagnée de hashtags liés au projet KPop Demon Hunters, ce qui la rendait facilement accessible à un jeune public. Cette diffusion a immédiatement soulevé des inquiétudes concernant l’exposition de mineurs à des contenus inappropriés, notamment dans le cadre d’un projet destiné à un public familial.
Réaction officielle et mesures prises
Le directeur artistique du projet a rapidement réagi sur les réseaux sociaux le 1er août, exprimant sa profonde déception face à ce détournement. Il a déclaré :
« Je suis extrêmement déçu que certains choisissent de consommer un contenu destiné aux enfants de cette manière. »
Le directeur a confirmé que la vidéo incriminée a été rendue privée, et que toutes les preuves collectées avaient été transmises au service juridique de Netflix. Il a également encouragé les internautes à signaler toute réapparition ou rechargement de la vidéo :
« Si vous trouvez d’autres versions de cette vidéo, merci de me les envoyer. Je continuerai à les transmettre à l’équipe juridique de Netflix. »
Suite à ces signalements, le créateur initial de la vidéo a supprimé sa chaîne YouTube. Toutefois, une seconde personne a temporairement remis en ligne la vidéo avant de la retirer à nouveau et de publier un message d’excuses.
Des débats relancés sur l’éthique des contenus IA
Cet incident relance les discussions sur les dérives éthiques liées à l’intelligence artificielle, notamment la facilité avec laquelle des œuvres destinées à la jeunesse peuvent être altérées et détournées pour propager des messages inappropriés. Il souligne également l’urgence d’un cadre de régulation plus strict pour les contenus IA, en particulier lorsqu’ils touchent des franchises destinées à un public familial ou jeune.
