「カリスマのクローン」: AI プロファイルがインフルエンサーのマナーやシナリオをコピーしてインターネットで利益を得る

インフルエンサーたちは、インターネット上で利益を得るために動画を「クローン」する AI プロファイルを非難 コンテンツ作成者は、インターネット上で自分のアイデンティティの新たなタイプの悪用を報告しました。 人工知能 (AI) によって作成されたプロファイルは、ビデオをコマンド (有名なプロンプト) として使用して、動き、マナー、さらには家の家具までを再現します。 これらはすべて無許可で商業目的で行われます。 その仕組みは次のとおりです。これらの「AI アバター」は、TikTok ショップなどのネットワークに統合されたオンライン商取引ツールで商品を販売し、衣服、靴、時計、さらには「エナジーガム」を販売することで利益を得ています。 これまでに報告された事件の大部分では、AI プロファイル作成者はデジタル インフルエンサーの正確な顔を複製していません。 代わりに、彼らはすでに存在し、ネットワーク上で公開されているビデオを使用して、動き、体のマナー、そして主にカメラとクリエイターの親密さをキャプチャします。 「彼らは私の家を使いました」 ネット上では「ルスカ」として知られるデジタルインフルエンサーのルーカス・シモンエス・リマ氏（ライフスタイルやユーモアに関するコンテンツを作成するティックトックで２５０万人のフォロワーを抱えている）も、この詐欺を特定した一人だった。 彼は、最初に投稿したビデオと「Lucas Barroso」というプロフィールの出版物との類似点に気づき始めました。 「最初は自分の動作と特徴の類似点が奇妙だと感じました。その後、そこで使われているのは私のアパートのセットであることに気づきました」とルーカスは『g1』のインタビューで語った。 左側はインフルエンサーのラスカスさん。右はルーカス・バローゾ、人工知能によって作られたアバター。 ソーシャルネットワーク 「デジタルクローン」はその時点ですでに成功していた。彼は TikTok で約 330,000 件の「いいね」を獲得し、さまざまな商品を試食して販売するビデオを主に公開しました。 彼は本物の人間のようにフォロワーたちと交流し、体重や身長など、想定される身体測定値の詳細についての一般の人々からの質問に答えた。 このテクノロジーのリアリズムは非常に洗練されていたため、投稿へのコメントでは、多くのユーザーがそれがロボットであることに気付かず、デジタルフィギュアにロマンチックな興味を示しさえしました。 「一緒に来ますか？」フォロワーの一人が冗談を言った。 ページの背後にあるデジタル詐欺を暴露するもう 1 つの詳細は、アバターの「顔」が頻繁に変更されていることです。古い出版物では、キャラクターが同じ商品を宣伝するために現在のものとはまったく異なる「顔」を使用していることに気づくことができました。 洋服、靴、バッグ、時計…AIが生み出したインフルエンサー「ルーカス・バローゾ」がTik Tokで販売する商品の一部。 ソーシャルネットワーク ただし、実際の人物を装った AI アバターを作成して商品を販売する行為は、TikTok のガイドラインで明確に禁止されています (アプリ内で何が許可され、何が禁止されているかについては以下を参照してください)。 先週火曜日（9日）まで、この人工知能インフルエンサーはTikTokショップタブに46の商品を掲載していた。ただし、プラットフォームはこれらの商品がどれだけ販売されたかについては明らかにしなかった。 プロフィールは水曜日（10日）までアクティブなままでした。 「ブラックミラー」体験 リマさんは、TikTokを閲覧中に偶然自分の「AIクローン」のプロフィールを発見したが、当初はそれが人工知能であることさえ気づかなかったと語る。 「何が起こっているかを暴露するビデオを作成した後、すでに彼の広告を見て、私が売り込んでいるのだと思ったフォロワーからコメントを受け取りました。私は法律を調べに行きましたが、まだそれほど多くはありません。弁護士にとっても非常に新しいことです。」と、この経験を「非常にブラックミラー」と分類したコンテンツ作成者は言います。 インフルエンサーは、プラットフォーム独自のメカニズムを通じてアカウントを報告し、プロフィールが自分になりすましていることを知らせようとしたが、アカウントが「消える」まで何も措置は取られなかった。 隔離されていない場合 リマの暴露により、他のコンテンツ作成者も同様の状況を報告するようになりました。 インフルエンサーのジュリア・バルニ（ダンスに焦点を当てた動画で、Instagram で 300 万人のフォロワー、TikTok で 1,000 万人のフォロワーを抱える）は、彼女のコンテンツがこの並行市場でも使用されていることを明らかにしました。 彼女によると、AI アプリケーションは、彼女が曲「ラスプーチン」の振り付けに合わせて踊っているように見えるビデオを使用して、彼女の体にテクノロジーの層を適用し、そこから不適切な方法でネットワーク上に「自己宣伝」を生成しました。 別のコンテンツクリエイターであるジュリア・アルコフォラド氏（彼女はフィットネス分野で活動しており、インスタグラムで23万8千人のフォロワーがいる）も、自分もAIの「クローン化」のターゲットだったことを明らかにし、その実践を教える市場の存在に注目を集めた。 「私もここで同じことを経験していますが、どうすればいいのかわかりません！そして何よりも最悪なのは、その方法を人々に教えるコースがあるということです。コンテンツクリエイターからビデオを撮って、その上にAIを乗せて商品を販売するというものです」と彼はインスタグラムへのコメントで述べた。 g1の捜索を受けたジュリア・バルニさんは、弁護士らとともに今回の件を検討し、どのような法的措置を講じるか検討中であると伝えた。 ジュリア・アルコフォラドさんは、ソーシャルメディア上で悪影響が及ぶ可能性を懸念し、現時点ではこの事件について話すことに抵抗があると述べた。 コースでは、サードパーティの写真を使用してアバターを作成する方法を学びます 「クローン」市場: サードパーティの写真を使用してアバターを 97 レアルで作成する方法を学ぶコース ソーシャルネットワーク これらのプロファイルの作成の容易さは、デジタル市場の拡大、つまり迅速な収益化のための「デジタル クローン」の生成方法を教えるオンライン コースによって促進されています。 これらのプラットフォームの 1 つでは、R$97 で販売されている宣伝資料が、人工知能を副収入源に変えることを約束しています。 Instagram のコースを宣伝するプロフィールでは、クラスの責任者が、ビジュアル ディスカバリー プラットフォームおよびオンライン検索エンジンとして公式に定義されているネットワークである Pinterest から撮影した一般人の写真を使用して、そのテクニックを段階的に実演しています。 実際には、このソーシャル ネットワーク上の日常の実際の画像のデータベースは、最終的には別の目的、つまり人工知能のアバターを生成するための素材として使用されます。 コースでは、サードパーティの写真やビデオを使用して AI インフルエンサーを作成する方法を学びます。 ソーシャルネットワーク 簡単に儲かるという幻想 TikTok Shop: ソーシャルネットワークがAmazonやMagaluと競合するためにブラジルで仮想ストアを立ち上げる 開示/TikTok ソーシャル ネットワークと統合された新しい形式の電子商取引に関連したこれらの AI ツールの爆発的な増加により、インターネット上で真の金銭競争が引き起こされました。 収益化の探求は、人工知能に完璧な近道を見つけました。デジタル法を専門とする弁護士、アラシー・ヴィアナ氏はg1とのインタビューで次のように説明している。 「人々は今、何が何でもソーシャルメディアでお金を稼ぎたいと考えています。AIは、すでに売れている、すでに広告を出している、すでに大衆に受け入れられているインフルエンサーの特徴に基づいて『人形』を作成できるため、これをさらに加速させています」と彼は分析した。 法律には何と記載されていますか?