Etkileyiciler, internette kâr elde etmek için videoları 'klonlayan' yapay zeka profillerini kınıyor İçerik oluşturucular, kimliklerinin internette yeni bir tür kötüye kullanıldığını bildirdi. Yapay Zeka (AI) tarafından oluşturulan profiller, hareketleri, tavırları ve hatta evinizdeki mobilyaları kopyalamak için videolarınızı komutlar (ünlü istemler) olarak kullanıyor. Bütün bunlar izinsiz ve ticari amaçlarla yapılmaktadır. Şöyle işliyor: Bu "Yapay Zeka avatarları", TikTok Shop gibi ağlara entegre edilmiş çevrimiçi ticaret araçları üzerinden ürün satarak, kıyafet, ayakkabı, saat ve hatta "enerji sakızı" satarak kâr elde ediyor. Şu ana kadar bildirilen vakaların büyük çoğunluğunda, AI profil oluşturucuları dijital etkileyicilerin tam yüzünü klonlamıyor. Bunun yerine, hareketleri, vücut davranışlarını ve esas olarak yaratıcıların kamerayla olan yakınlığını yakalamak için halihazırda var olan ve ağlarda halka açık olan videoları kullanıyorlar. 'Evimi kullandılar' Çevrimiçi ortamda Lusca olarak bilinen (Tik Tok'ta yaşam tarzı ve mizah hakkında içerik üreten 2,5 milyon takipçisi var) dijital fenomen Lucas Simões Lima, dolandırıcılığı tespit edenlerden biriydi. İlk yayınladığı videolar ile "Lucas Barroso" adlı profilin yayınları arasındaki benzerlikleri fark etmeye başladı. Lucas, g1 ile yaptığı bir röportajda, "Hareketlerim ve yüz hatlarım arasındaki benzerlikleri tuhaf bulmaya başladım. Sonra orada kullanılanın benim dairemin seti olduğunu gördüm" diyor. Sol tarafta etkileyici Luscas. Sağda, Yapay Zeka tarafından yapılmış bir avatar olan Lucas Barroso. Sosyal ağlar O noktada "dijital klon" zaten başarılıydı. TikTok'ta yaklaşık 330.000 beğeni topladı ve büyük ölçüde çeşitli öğelerin tadına bakan ve satan videolar yayınladı. Takipçileriyle gerçek bir insan gibi etkileşime girdi: Halkın, kilosu ve boyu gibi varsayılan vücut ölçülerini detaylandıran sorularını yanıtladı. Teknolojinin gerçekçiliği o kadar sofistikeydi ki, paylaşımlara yapılan yorumlarda birçok kullanıcı onun bir robot olduğunun farkına bile varmadı ve hatta dijital figüre romantik bir ilgi gösterdi. "Geliyor musun?" Takipçilerden biri şaka yaptı. Sayfanın arkasındaki dijital sahtekarlığı ortaya çıkaran bir diğer detay ise avatarın "yüzünün" sık sık değiştirilmesi. Daha eski yayınlarda, karakterin aynı ürünlerin reklamını yapmak için mevcut olandan tamamen farklı bir "yüz" kullandığını fark etmek mümkündü. Giysiler, ayakkabılar, çantalar, saatler... Yapay zekanın yarattığı influencer "Lucas Barroso"nun Tik Tok'ta sattığı ürünlerden bazıları. Sosyal ağlar Ancak ürün satmak için gerçek bir kişi gibi davranan bir yapay zeka avatarı oluşturma uygulaması, TikTok'un yönergeleri tarafından açıkça yasaklanmıştır (aşağıya bakın, uygulamada nelere izin verilir veya nelere izin verilmez). Geçtiğimiz Salı (9) tarihine kadar yapay zeka fenomeninin TikTok Shop sekmesinde 46 ürünü listelendi. Ancak platform bu ürünlerden kaç tanesinin satıldığı konusunda bilgi vermedi. Profil Çarşamba (10) tarihine kadar aktif kaldı. 'Kara Ayna' Deneyimi Lima, "AI klonunun" profilini TikTok'ta gezinirken tesadüfen keşfettiğini ve başlangıçta bunun Yapay Zeka olduğunun farkına bile varmadığını söylüyor. Deneyimi "çok Black Mirror" olarak sınıflandıran içerik yaratıcısı, "Olanları açığa vuran bir video hazırladıktan sonra, onun reklamlarını daha önce görmüş olan ve satış yapanın benim olduğumu düşünen takipçilerimden yorumlar aldım. Kanunları araştırmaya gittim ve henüz çok fazla kanun yok, bu avukatlarım için bile çok yeni bir şey" diyor. Etkileyici, hesabı platformun kendi mekanizmaları aracılığıyla bildirmeye çalıştı ve profilin kendisini taklit ettiğinin sinyalini verdi ancak hesap "ortadan kaybolana" kadar herhangi bir işlem yapılmadı. Eğer izole edilmemişse Lima'nın açığa çıkması, diğer içerik oluşturucuları benzer durumları bildirmeye teşvik etti. Influencer Júlia Barni (Instagram'da 3 milyon takipçi ve dans odaklı videolarıyla TikTok'ta 10 milyon takipçi), içeriğinin bu paralel pazarda da kullanıldığını ortaya çıkardı. Ona göre yapay zeka uygulamaları, vücuduna bir teknoloji katmanı uygulamak ve oradan ağlarda uygunsuz bir şekilde "kendi tanıtımını" oluşturmak için "Rasputin" şarkısının koreografisine göre dans ederken göründüğü videoları kullandı. Diğer bir içerik yaratıcısı (fitness alanında çalışıyor ve Instagram'da 238 bin takipçisi var) Júlia Alcoforado, kendisinin de yapay zeka "klonlamasının" hedefi olduğunu açıkladı ve uygulamayı öğreten bir pazarın varlığına dikkat çekti: Instagram'daki bir yorumunda "Ben de aynı şeyi burada yaşıyorum ve ne yapacağımı bilmiyorum! Ve en kötüsü de insanlara bunu nasıl yapacaklarını öğreten bir kursun olması: içerik oluşturuculardan videolar alın ve ürünleri satmak için bunun üzerine yapay zeka koyun" dedi. g1 tarafından aranan Júlia Barni, alınacak yasal önlemleri belirlemek için avukatlarıyla birlikte olayı değerlendirdiğini bildirdi. Júlia Alcoforado, şu anda dava hakkında konuşmaktan çekindiğini belirterek, sosyal medyadaki olası olumsuz yansımalarından korktuğunu belirtti. Kurslar üçüncü tarafların fotoğraflarıyla nasıl avatar oluşturulacağını öğretiyor 'Klonlar' pazarı: kurslar size 97 R$ karşılığında üçüncü taraf fotoğraflarıyla nasıl avatar oluşturulacağını öğretiyor Sosyal ağlar Bu profillerin oluşturulma kolaylığı, genişleyen dijital pazardan kaynaklanmaktadır: hızlı para kazanma için "dijital klonların" nasıl oluşturulacağını öğreten çevrimiçi kurslar. Bu platformlardan birinde 97 R$ karşılığında satılan tanıtım malzemesi, yapay zekayı ekstra gelir kaynağına dönüştürmeyi vaat ediyor. Instagram'da kursun tanıtımını yapan profilde, derslerden sorumlu kişi, resmi olarak görsel keşif platformu ve çevrimiçi arama motoru olarak tanımlanan bir ağ olan Pinterest'ten alınan sıradan insanların fotoğraflarını kullanarak tekniği adım adım gösteriyor. Uygulamada, bu sosyal ağdaki günlük ve gerçek görsellerden oluşan veri tabanı başka bir amaca hizmet ediyor: yapay zeka avatarlarının üretimi için hammadde olmak. Kurslar, üçüncü taraf fotoğraf ve videoları kullanarak AI etkileyicilerinin nasıl oluşturulacağını öğretir. Sosyal ağlar Kolay kâr yanılsaması TikTok Shop: sosyal ağ, Amazon ve Magalu ile rekabet etmek için Brezilya'da sanal mağaza başlattı Açıklama/TikTok Sosyal ağlarla entegre yeni e-ticaret biçimleriyle bağlantılı bu yapay zeka araçlarının patlaması, internette gerçek bir para yarışı yarattı. Para kazanma arayışı Yapay Zekada mükemmel kısayolu buldu. Dijital hukuk alanında uzman avukat Aracy Viana, g1 ile yaptığı röportajda şunları açıklıyor: "İnsanlar artık ne pahasına olursa olsun sosyal medyadan para kazanmak istiyor. Yapay zeka bunu daha da hızlandırdı çünkü zaten satış yapan, zaten reklam veren, zaten halkla bu rahatlığa sahip olan etkileyicilerin özelliklerine dayalı bir 'oyuncak bebek' yaratabilirsiniz", diye analiz etti. Kanun ne diyor? Bu araçların yaratıcıları profillerini başka isimlerle adlandırma eğiliminde olduğundan ve avatarların yüzleri "çarpık" olduğundan, birçok kişi kurbanın aynı görüntüsünü kullanmayarak korunduklarına inanıyor... ama öyle değil. Viana, Brezilya'nın henüz Yapay Zeka tarafından oluşturulan içeriği düzenleyen spesifik ve sağlam bir mevzuata sahip olmasa da hukuk sisteminin bireyin kişiliğini koruduğunu açıklıyor. Bu şu anlama gelir: Ses, yürüyüş şekli, vücut tavırları ve hatta kişinin özel ortamını oluşturan fiziksel unsurlar (bir apartman dairesindeki mobilyalar gibi) Medeni Kanun'da öngörülen Kişilik Hakları olarak adlandırılan haklarla korunmaktadır. Bunu bir 'AI etkileyicisinden' satın aldım... ve şimdi? Yumuşak elbiseli kızın fotoğrafı bir etkileyici tarafından yapay zeka tarafından manipüle edildi. Videoda kısa elbiseli iki kadın arasında dans ederken görülen görüntü Üreme/Sosyal medya Bu davaların tırmanması, platformların kuralları ve bu e-ticaret sekmeleri üzerinden alışveriş yapan tüketicilerin hakları konusunda da tartışmaları alevlendiriyor. Şu anda TikTok, ticari amaçlı yapay zeka avatarlarının oluşturulmasını veya yapay zeka tarafından oluşturulan görsellere sahip ürünlerin satışını yasaklamıyor. Ancak platform, g1'e bu profillerin çalışması için katı kuralların bulunduğunu bildirdi: 📢Teknolojinin kullanımı açıkça işaretlenmelidir, 👤 görseller ürünün gerçek görünümünü değiştiremez ve yaratıcısı başka birinin kimliğine bürünemez. Dolayısıyla bu "satan robotlar" için geçerli olan yasal kural, gerçek etkileyicilerinkiyle aynıdır. Tüketicinin bu profiller tarafından reklamı yapılan bir nesneyi satın alması ve ürünün kalitesinin şüpheli olması veya teslim edilmemesi durumunda yasal sorumluluk platformun kendisine düşer. Tik Tok ayrıca hukuk ekibinin halihazırda fenomen Lucas Simões Lima'nın özel vakasını araştırdığını belirtti. Klonlandım: ne yapmalı? Senaryolarının, gövdelerinin veya görüntülerinin yapay zeka araçları tarafından izinsiz olarak kopyalandığını tespit eden içerik oluşturucular veya sıradan insanlar için yasal rehberlik üç acil adıma bölünmüştür: 🛡️Platformu etkinleştirin: Görsellerin kötüye kullanımını ve fikri mülkiyet ihlallerini bildirmek için uygulamanın kendi raporlama kanallarını kullanın. 🛡️Dijital kanıtları kaydedin: Sahte sayfadaki verileri yasal amaçlarla 5 yıla kadar koruyabilen, güvenlik kodları (blok zincirleri gibi) üreten ağ denetim araçlarını kullanın. 🛡️Olay Raporu: Olayı Sivil Polise kaydedin. Belge, sahte profilin mağdurun adını veya evinin konumunu kullanarak mali temerrüde düşmesi durumunda mağduru koruyan resmi bir zaman çerçevesi oluşturuyor.