Influencer mengecam profil AI yang 'mengkloning' video untuk mendapatkan keuntungan di internet Pembuat konten telah melaporkan jenis penyalahgunaan identitas baru di internet. Profil yang dibuat oleh Kecerdasan Buatan (AI) menggunakan video Anda sebagai perintah (petunjuk terkenal) untuk meniru gerakan, tingkah laku, dan bahkan furnitur di rumah Anda. Semua ini tanpa izin dan untuk tujuan komersial. Cara kerjanya seperti ini: "avatar AI" ini mendapat untung dari menjual produk di alat perdagangan online yang terintegrasi ke dalam jaringan, seperti Toko TikTok, menjual pakaian, sepatu, jam tangan... bahkan "permen karet energi". Dalam sebagian besar kasus yang dilaporkan sejauh ini, pembuat profil AI tidak mengkloning wajah sebenarnya dari influencer digital. Sebaliknya, mereka menggunakan video mereka yang sudah ada dan bersifat publik di jaringan untuk menangkap gerakan, tingkah laku tubuh dan, terutama, keintiman pencipta dengan kamera. 'Mereka memanfaatkan rumahku' Influencer digital Lucas Simões Lima, yang dikenal secara online sebagai Lusca (dia memiliki 2,5 juta pengikut di Tik Tok yang membuat konten tentang gaya hidup dan humor), adalah salah satu dari mereka yang mengidentifikasi penipuan tersebut. Dia mulai melihat kesamaan antara video yang awalnya dia posting dan publikasi profil bernama "Lucas Barroso". "Saya mulai merasa ada kemiripan antara gerakan dan ciri-ciri saya yang aneh. Lalu saya melihat bahwa set apartemen saya yang digunakan di sana", kata Lucas, dalam sebuah wawancara dengan g1. Di sisi kiri, influencer Luscas. Di sebelah kanan, Lucas Barroso, avatar yang dibuat oleh Artificial Intelligence. Jejaring sosial "Klon digital", pada saat itu, sudah berhasil. Dia mengumpulkan sekitar 330.000 suka di TikTok dan sebagian besar menerbitkan video mencicipi dan menjual berbagai barang. Dia berinteraksi dengan para pengikutnya seperti orang sungguhan: dia menjawab pertanyaan dari publik yang merinci perkiraan ukuran tubuh, seperti berat dan tinggi badannya. Realisme teknologinya begitu canggih sehingga dalam komentar di postingan tersebut, banyak pengguna yang bahkan tidak menyadari bahwa itu adalah robot bahkan menunjukkan ketertarikan romantis pada sosok digital tersebut. “Apakah kamu ikut?” canda salah satu pengikut. Detail lain yang mengungkap penipuan digital di balik halaman tersebut adalah bahwa "wajah" avatar tersebut cukup sering diubah. Dalam publikasi lama, terlihat bahwa karakter tersebut menggunakan "wajah" yang sama sekali berbeda dari yang sekarang untuk mengiklankan produk yang sama. Pakaian, sepatu, tas, jam tangan... beberapa produk yang dijual oleh "Lucas Barroso", seorang influencer ciptaan AI, di Tik Tok. Jejaring sosial Namun, praktik membuat avatar AI yang menyamar sebagai orang sungguhan untuk menjual produk secara eksplisit dilarang oleh pedoman TikTok (lihat di bawah, apa yang diperbolehkan atau tidak diperbolehkan dalam aplikasi). Hingga Selasa (9) lalu, influencer kecerdasan buatan tersebut memiliki 46 produk yang terdaftar di tab TikTok Shop. Namun platform tersebut tidak menginformasikan berapa banyak dari barang-barang tersebut yang terjual. Profil tersebut tetap aktif hingga Rabu (10). Pengalaman 'Cermin Hitam' Lima mengatakan bahwa dia menemukan profil "klon AI" miliknya secara kebetulan saat menelusuri TikTok dan, pada awalnya, bahkan tidak menyadari bahwa itu adalah Kecerdasan Buatan. "Setelah saya membuat video yang mengungkap apa yang terjadi, saya menerima komentar dari pengikut yang sudah melihat iklannya dan mengira itu saya yang menjual. Saya pergi ke penelitian undang-undang dan belum banyak, ini adalah sesuatu yang sangat baru bahkan bagi pengacara saya", kata pembuat konten, yang mengklasifikasikan pengalaman tersebut sebagai "sangat Black Mirror". Influencer mencoba melaporkan akun tersebut melalui mekanisme platformnya sendiri, menandakan bahwa profil tersebut meniru identitasnya, tetapi tidak ada tindakan yang diambil hingga akun tersebut "menghilang". Jika tidak diisolasi Terpaparnya Lima mendorong pembuat konten lain untuk melaporkan situasi serupa. Influencer Júlia Barni (3 juta pengikut di Instagram dan 10 juta di TikTok dengan video yang berfokus pada tarian) mengungkapkan bahwa kontennya juga digunakan di pasar paralel ini. Menurutnya, aplikasi AI menggunakan video di mana dia tampak menari mengikuti koreografi lagu "Rasputin" untuk menerapkan lapisan teknologi pada tubuhnya dan, dari sana, menghasilkan "promosi diri" di jaringan dengan cara yang tidak pantas. Júlia Alcoforado, pembuat konten lainnya (dia bekerja di bidang kebugaran dan memiliki 238 ribu pengikut di Instagram) mengungkapkan bahwa dia juga menjadi target "kloning" AI dan menarik perhatian pada keberadaan pasar yang mengajarkan praktik tersebut: "Saya mengalami hal yang sama di sini dan saya tidak tahu harus berbuat apa! Dan yang terburuk dari semuanya adalah ada kursus yang mengajarkan orang bagaimana melakukan ini: mengambil video dari pembuat konten dan menempatkan AI di atasnya untuk menjual produk," ujarnya dalam komentar di Instagram. Dicari oleh g1, Júlia Barni menginformasikan bahwa dia sedang mengevaluasi episode tersebut dengan pengacaranya untuk menentukan tindakan hukum yang akan diambil. Júlia Alcoforado menyatakan bahwa dia merasa tidak nyaman untuk berbicara tentang kasus tersebut saat ini, dengan alasan kekhawatiran akan kemungkinan dampak negatif di media sosial. Kursus mengajarkan cara membuat avatar dengan foto dari pihak ketiga Pasar 'klon': kursus mengajarkan Anda cara membuat avatar dengan foto pihak ketiga seharga R$97 Jejaring sosial Kemudahan pembuatan profil ini didorong oleh berkembangnya pasar digital: yaitu kursus online yang mengajarkan cara menghasilkan "klon digital" untuk monetisasi dengan cepat. Di salah satu platform ini, yang dijual seharga R$97, materi promosinya menjanjikan untuk mengubah kecerdasan buatan menjadi sumber pendapatan tambahan. Pada profil yang mempromosikan kursus di Instagram, orang yang bertanggung jawab atas kelas tersebut mendemonstrasikan teknik tersebut selangkah demi selangkah menggunakan foto orang-orang biasa yang diambil dari Pinterest — sebuah jaringan yang secara resmi ditetapkan sebagai platform penemuan visual dan mesin pencari online. Dalam praktiknya, database gambar sehari-hari dan gambar nyata di jejaring sosial ini memiliki tujuan lain: menjadi bahan mentah untuk pembuatan avatar kecerdasan buatan. Kursus mengajarkan cara membuat influencer AI menggunakan foto dan video pihak ketiga. Jejaring sosial Ilusi keuntungan mudah Toko TikTok: jejaring sosial meluncurkan toko virtual di Brasil untuk bersaing dengan Amazon dan Magalu Pengungkapan/TikTok Ledakan alat-alat AI ini, yang terkait dengan bentuk-bentuk baru e-commerce yang terintegrasi dengan jejaring sosial, telah menciptakan perlombaan nyata untuk mendapatkan uang di internet. Pencarian monetisasi menemukan jalan pintas yang sempurna dalam Kecerdasan Buatan. Inilah yang dijelaskan oleh pengacara spesialis hukum digital Aracy Viana, dalam wawancara dengan g1: “Saat ini, orang-orang ingin menghasilkan uang di media sosial dengan segala cara. AI telah mempercepat hal ini lebih jauh lagi karena Anda dapat membuat 'boneka' berdasarkan karakteristik influencer yang sudah berjualan, sudah beriklan, dan sudah mendapatkan kemudahan dalam berinteraksi dengan publik,” analisanya. Apa isi undang-undang? Karena pembuat alat ini cenderung menamai profil mereka dengan nama lain dan wajah avatarnya "terdistorsi", banyak yang percaya bahwa mereka dilindungi dengan tidak menggunakan gambar identik korban... padahal sebenarnya tidak. Viana menjelaskan, meskipun Brasil belum memiliki undang-undang yang spesifik dan kuat untuk mengatur konten yang dihasilkan oleh Kecerdasan Buatan, sistem hukumnya melindungi kepribadian individu. Artinya: suara, cara berjalan, tingkah laku tubuh, bahkan unsur-unsur fisik yang membentuk lingkungan pribadi seseorang (seperti perabotan dalam apartemen) dilindungi oleh apa yang disebut Hak Kepribadian, yang diatur dalam KUHPerdata. Saya membelinya dari 'influencer AI'... dan sekarang? Gadis berpakaian lembut fotonya dimanipulasi oleh AI oleh seorang influencer. Gambar dirinya muncul menari dalam video antara dua wanita berpakaian pendek Reproduksi/Media sosial Meningkatnya kasus-kasus ini juga memicu perdebatan tentang aturan platform dan hak-hak konsumen yang membeli melalui tab e-commerce tersebut. Saat ini, TikTok tidak melarang pembuatan avatar kecerdasan buatan yang berorientasi komersial, juga tidak melarang penjualan produk dengan gambar yang dihasilkan AI. Namun, platform tersebut memberi tahu g1 bahwa ada aturan ketat agar profil ini dapat beroperasi: 📢 penggunaan teknologi harus diberi rambu yang jelas, 👤 Gambar tidak dapat mengubah tampilan produk sebenarnya dan pembuatnya tidak boleh meniru identitas orang lain. Oleh karena itu, aturan hukum yang berlaku untuk “robot penjual” ini sama dengan aturan hukum yang diterapkan pada influencer sebenarnya. Jika konsumen membeli suatu objek yang diiklankan oleh profil ini dan kualitas barang tersebut dipertanyakan atau tidak terkirim, tanggung jawab hukum berada pada platform itu sendiri. Tik Tok juga menyatakan bahwa tim hukumnya sudah menyelidiki kasus spesifik influencer Lucas Simões Lima. Saya dikloning: apa yang harus dilakukan? Bagi pembuat konten atau orang biasa yang mengidentifikasi skenario, tubuh atau gambar mereka direplikasi oleh alat AI tanpa izin, panduan hukum dibagi menjadi tiga langkah langsung: 🛡️Aktifkan platform: Gunakan saluran pelaporan milik aplikasi untuk melaporkan penyalahgunaan gambar dan pelanggaran kekayaan intelektual. 🛡️Rekam bukti digital: Gunakan alat audit jaringan yang menghasilkan kode keamanan (seperti blockchain), yang mampu menyimpan data dari halaman palsu hingga 5 tahun untuk tujuan hukum. 🛡️Laporan Kejadian: Daftarkan kasus ini ke Polisi Sipil. Dokumen tersebut menciptakan kerangka waktu resmi yang melindungi korban jika profil palsu tersebut menerapkan kegagalan finansial menggunakan nama atau lokasi rumahnya.