Les influenceurs dénoncent les profils d'IA qui « clonent » des vidéos pour en tirer profit sur Internet Les créateurs de contenu ont signalé un nouveau type d’utilisation abusive de leur identité sur Internet. Les profils créés par l'intelligence artificielle (IA) utilisent vos vidéos comme commandes (les fameuses invites) pour reproduire les mouvements, les manières et même les meubles de votre maison. Tout cela sans autorisation et à des fins commerciales. Cela fonctionne ainsi : ces « avatars IA » profitent de la vente de produits sur des outils de commerce en ligne intégrés aux réseaux, comme TikTok Shop, vendant des vêtements, des chaussures, des montres... voire des « gums énergétiques ». Dans la grande majorité des cas signalés jusqu’à présent, les créateurs de profils IA ne clonent pas le visage exact des influenceurs numériques. Au lieu de cela, ils utilisent des vidéos d'eux déjà existantes et publiques sur les réseaux pour capturer les mouvements, les manières corporelles et, surtout, l'intimité des créateurs avec la caméra. "Ils ont utilisé ma maison" L'influenceur numérique Lucas Simões Lima, connu en ligne sous le nom de Lusca (il compte 2,5 millions de followers sur Tik Tok et crée du contenu sur le style de vie et l'humour), a été l'un de ceux qui ont identifié la fraude. Il a commencé à remarquer des similitudes entre les vidéos qu'il avait initialement publiées et les publications d'un profil appelé "Lucas Barroso". "J'ai commencé par trouver étranges les similitudes entre mes mouvements et mes traits. Puis j'ai vu que c'était le décor de mon appartement qui était utilisé là", raconte Lucas, dans une interview à g1. A gauche, l'influenceur Luscas. A droite, Lucas Barroso, un avatar réalisé par l'Intelligence Artificielle. Réseaux sociaux Le « clone numérique » était alors déjà un succès. Il a accumulé environ 330 000 likes sur TikTok et a largement publié des vidéos dégustant et vendant divers articles. Il a interagi avec ses abonnés comme une personne réelle : il a répondu aux questions du public détaillant ses mensurations supposées, telles que son poids et sa taille. Le réalisme de la technologie était si sophistiqué que, dans les commentaires sur les publications, de nombreux utilisateurs ne se rendaient même pas compte qu'il s'agissait d'un robot et montraient même un intérêt romantique pour la figure numérique. « Vous venez ? » a plaisanté l’un des abonnés. Un autre détail qui révèle la fraude numérique derrière la page est que le « visage » de l'avatar était modifié assez fréquemment. Dans des publications plus anciennes, il était possible de remarquer que le personnage utilisait un « visage » complètement différent de l'actuel pour faire la publicité des mêmes produits. Vêtements, chaussures, sacs, montres... quelques-uns des produits vendus par "Lucas Barroso", un influenceur créé par AI, sur Tik Tok. Réseaux sociaux La pratique consistant à créer un avatar IA se faisant passer pour une personne réelle pour vendre des produits est cependant explicitement interdite par les directives de TikTok (voir ci-dessous, ce qui est autorisé ou non dans l'application). Jusqu'à mardi dernier (9), l'influenceur d'intelligence artificielle comptait 46 produits répertoriés dans l'onglet TikTok Shop. La plateforme n’a toutefois pas indiqué combien de ces articles avaient été vendus. Le profil est resté actif jusqu'à mercredi (10). Expérience « Miroir Noir » Lima dit qu'il a découvert le profil de son "clone d'IA" par hasard en parcourant TikTok et, au départ, il n'avait même pas réalisé qu'il s'agissait d'une intelligence artificielle. "Après avoir réalisé une vidéo exposant ce qui se passait, j'ai reçu des commentaires de followers qui avaient déjà vu ses publicités et pensaient que c'était moi qui vendais. J'ai fait des recherches sur les lois et il n'y en a pas encore beaucoup, c'est quelque chose de très nouveau même pour mes avocats", dit le créateur du contenu, qui a qualifié l'expérience de "très Black Mirror". L'influenceur a tenté de signaler le compte via les mécanismes propres à la plateforme, signalant que le profil usurpait son identité, mais aucune mesure n'a été prise jusqu'à ce que le compte « disparaisse ». S'il n'est pas isolé Lima's exposure encouraged other content creators to report similar situations. L'influenceuse Júlia Barni (3 millions de followers sur Instagram et 10 millions sur TikTok avec des vidéos axées sur la danse) a révélé que son contenu était également utilisé dans ce marché parallèle. Selon elle, les applications d'IA utilisaient des vidéos dans lesquelles elle apparaît dansant sur la chorégraphie de la chanson "Raspoutine" pour appliquer une couche de technologie sur son corps et, à partir de là, générer une "auto-promotion" sur les réseaux de manière inappropriée. Júlia Alcoforado, une autre créatrice de contenu (elle travaille dans le créneau du fitness et compte 238 000 followers sur Instagram) a révélé qu'elle était également la cible du « clonage » de l'IA et a attiré l'attention sur l'existence d'un marché qui enseigne cette pratique : "Je vis la même chose ici et je ne sais pas quoi faire ! Et le pire de tout, c'est qu'il y a un cours qui apprend aux gens comment faire ça : prendre des vidéos de créateurs de contenu et y mettre l'IA pour vendre des produits", a-t-il déclaré dans un commentaire sur Instagram. Recherchée par g1, Júlia Barni a informé qu'elle évaluait l'épisode avec ses avocats pour définir les mesures juridiques qui seront prises. Júlia Alcoforado a déclaré qu'elle ne se sentait pas à l'aise pour parler de cette affaire pour le moment, citant ses craintes d'éventuelles répercussions négatives sur les réseaux sociaux. Les cours apprennent à créer des avatars avec des photos de tiers Le marché des « clones » : des cours vous apprennent à créer des avatars avec des photos de tiers pour 97 R$ Réseaux sociaux La facilité avec laquelle ces profils sont créés est motivée par un marché numérique en expansion : celui des cours en ligne qui enseignent comment générer des « clones numériques » pour une monétisation rapide. Sur l'une de ces plateformes, vendue 97 R$, le matériel promotionnel promet de transformer l'intelligence artificielle en une source de revenus supplémentaires. Sur le profil faisant la promotion du cours sur Instagram, le responsable des cours démontre la technique étape par étape à l'aide de photos de gens ordinaires tirées de Pinterest, un réseau officiellement défini comme plateforme de découverte visuelle et moteur de recherche en ligne. En pratique, la base de données d’images quotidiennes et réelles de ce réseau social finit par servir un autre objectif : être une matière première pour la génération d’avatars d’intelligence artificielle. Les cours expliquent comment créer des influenceurs IA à l'aide de photos et de vidéos tierces. Réseaux sociaux L'illusion du profit facile TikTok Shop : le réseau social lance une boutique virtuelle au Brésil pour concurrencer Amazon et Magalu Divulgation/TikTok L’explosion de ces outils d’IA, liée aux nouvelles formes de e-commerce intégrées aux réseaux sociaux, a créé une véritable course à l’argent sur internet. La recherche de monétisation a trouvé le raccourci parfait dans l’intelligence artificielle. C’est ce qu’explique l’avocate spécialisée en droit du numérique Aracy Viana, dans un entretien avec g1 : "Maintenant, les gens veulent à tout prix gagner de l'argent sur les réseaux sociaux. L'IA a encore accéléré cela puisqu'on peut créer une 'poupée' basée sur les caractéristiques des influenceurs qui vendent déjà, qui font déjà de la publicité, qui ont déjà cette aisance avec le public", a-t-il analysé. Que dit la loi ? Comme les créateurs de ces outils ont tendance à nommer leurs profils avec d'autres noms et que les visages des avatars sont "déformés", beaucoup pensent qu'ils sont protégés en n'utilisant pas l'image identique de la victime... mais ce n'est pas le cas. Viana explique que, même si le Brésil ne dispose pas encore d'une législation spécifique et solide pour réglementer les contenus générés par l'intelligence artificielle, le système juridique protège la personnalité de l'individu. Cela signifie que : la voix, la façon de marcher, les manières corporelles et même les éléments physiques qui composent l'environnement privé d'une personne (comme les meubles d'un appartement) sont protégés par les soi-disant droits de la personnalité, prévus dans le Code civil. Je l'ai acheté à un «influenceur IA»... et maintenant ? Une fille en robe douce a vu sa photo manipulée par l'IA par un influenceur. L'image d'elle apparaît en train de danser dans une vidéo entre deux femmes vêtues de vêtements courts Reproduction/Réseaux sociaux L'escalade de ces affaires suscite également un débat sur les règles des plateformes et les droits des consommateurs qui achètent via ces onglets de commerce électronique. Actuellement, TikTok n’interdit pas la création d’avatars d’intelligence artificielle à vocation commerciale, ni la vente de produits avec des images générées par l’IA. La plateforme a toutefois informé g1 qu'il existe des règles strictes pour le fonctionnement de ces profils : 📢 l'utilisation de la technologie doit être clairement signalée, 👤 les images ne peuvent pas modifier l’apparence réelle du produit et le créateur ne peut pas se faire passer pour quelqu’un d’autre. La règle juridique qui s’applique à ces « robots vendeurs » est donc la même que celle des véritables influenceurs. Si le consommateur achète un objet annoncé par ces profils et que l'article est de qualité douteuse ou n'est pas livré, la responsabilité légale incombe à la plateforme elle-même. Tik Tok a également déclaré que son équipe juridique enquêtait déjà sur le cas spécifique de l'influenceur Lucas Simões Lima. J'ai été cloné : que faire ? Pour les créateurs de contenu ou les personnes ordinaires qui identifient leurs scénarios, corps ou images répliqués par des outils d’IA sans autorisation, les orientations juridiques sont divisées en trois étapes immédiates : 🛡️Activez la plateforme : utilisez les propres canaux de signalement de l'application pour signaler toute utilisation abusive d'images et toute violation de la propriété intellectuelle. 🛡️Enregistrez des preuves numériques : utilisez des outils d'audit de réseau qui génèrent des codes de sécurité (tels que des blockchains), capables de conserver les données de la fausse page jusqu'à 5 ans à des fins légales. 🛡️Rapport d'incident : enregistrez le cas auprès de la police civile. Le document crée un délai officiel qui protège la victime si le faux profil applique des défauts financiers en utilisant son nom ou l'emplacement de son domicile.