Cinayet sonucu hayatını kaybeden bebek ve çocukların yapay zekayla canlandırılan ve konuşturulan görüntüleri sosyal paylaşım sitesi TikTok’ta paylaşılıyor. Çocuk yakınlarının izni olmadan üretilen ve paylaşılan bu videolar, çocukların ve bebeklerin nasıl öldürüldüğünü anlatıyor. BBC’nin yaptığı araştırmaya göre TikTok’un yasağına rağmen platformda benzer içerikler hâlâ paylaşılıyor. TikTok yetkilileri videoların tamamını tespit etmenin mümkün olmadığını savunuyor.
‘HİÇBİRİMİZ GÖRÜNTÜYÜ SONUNA KADAR İZLEYEMEDİK’
TikTok, yapay zeka ile oluşturulan çocuk videolarının kendi platformunda paylaşılmasını mart ayında yasaklamıştı. Ancak Nisan ayından bu yana TikTok’ta çocuk cinayeti videoları yayılmaya devam ediyor. BBC’nin araştırması, bazı TikTok çalışanlarının bile yasak konusunda kafalarının karıştığını ortaya çıkardı.
BBC’ye konuşan TikTok’un içerik moderatörlerinden biri, yasağın yürürlüğe girmesinden bu yana kural değişikliği konusunda kendisine bilgi verilmediğini söyledi. Yapay zeka tarafından üretilen bu videoların bir kısmı aylarca platformda dolaştı, bir kısmı da milyonlarca kez izlendi.
Bu videoların ortaya çıkmasından kısa bir süre sonra çocukların yakınları şikayetlerini dile getirmeye başladı. Kanadalı Amélie Lemieux endişelerini dile getiren ilk kişilerden biriydi. Lemieux’un eşi, Temmuz 2020’de 6 ve 11 yaşındaki kızları Romy ve Norah’ı öldürüp ardından intihar etmişti. Nisan ayında TikTok’ta Norah’nın öldürüldükleri anı anlattığı bir video gördü. Lemieux yaşadıklarını şu sözlerle anlattı:
“Sanki hayal edebileceğiniz en kötü yumruktan daha beter bir yumruk yemiş gibiydim. Ne kardeşim ne de ben videoyu sonuna kadar izleyemedik. O da dur diye bağırıyordu.”
‘TEK İSTEDİĞİ GÖRÜNTÜLENME, BEĞENME, PAYLAŞMA…’
Birçok kişi videoyla ilgili TikTok’a şikayette bulundu. Ancak video platformda dolaşmaya devam etti. Sonuçta Lemieux’nün durumu gazetecilerin dikkatini çekti ve görseli paylaşan isimsiz hesap silindi. Lemieux görüntüyü kimin yaptığını bulamadı. “Birinin bu kadar rahatsız edici, geri kalan günlerimizde kendimizi eksik hissetmemize neden olacak bir şeyi kullanması inanılmaz derecede şok edici. Onların tek istediği izlenmeler, beğeniler, paylaşımlar. Ve aşağıya yorum bırakan insanlar. Şahsen ben affedemem. öyle,” dedi Lemieux.
Yapay zeka yazılımları giderek daha erişilebilir hale geliyor ve bu görüntülerin üretilmesine olanak sağlıyor. Yazılım sayesinde hızlı bir şekilde insan figürü oluşturabilir ve anlaşılır bir metinle konuşmasını sağlayabilirsiniz. Hayatını kaybedenlerin bazı görüntüleri gerçek hayattakilere benzemese de bazıları gerçek hayattaki insanlardan esinlenilmiştir.
Videoların yapımcıları isimsiz olsa da BBC, yapımcılardan birinin Londra’da yaşayan Ritul adında bir erkek öğrenci olduğunu belirledi. Ritul, YouTube’daki ‘hikaye anlatma’ görüntülerinin TikTok’ta takipçi kazanmanın hızlı bir yolu olduğunu söyledi. Ritul, “Yapay zekayı kullandığımız hikaye anlatım videoları sayesinde binlerce takipçi kazandım. 3 haftadan kısa sürede 47 bin takipçi kazandım.” BBC’nin konu hakkında yorum yapma talebini reddeden Ritul’un hesabı TikTok tarafından silindi.
TİKTOK OLDUĞUNU NASIL AÇIKLIYOR?
Bazı çocuk öyküleri Portekizce, İspanyolca, Fransızca, Almanca, İtalyanca, Lehçe gibi pek çok dilde yayınlanan videolara konu oldu. BBC, 2 ay boyunca, 1993 yılında İngiltere’nin Merseyside bölgesinde kendinden büyük iki çocuk tarafından öldürülen 2 yaşındaki İngiliz James Bulger’ın yapay zeka versiyonlarını içeren 170 farklı TikTok görselini keşfetti.
TikTok trendi, Temmuz ayında James’in annesi Denise Fergus’un bir gazeteye oğlunun yer aldığı görsellerin “hasta ötesi” olduğunu söylemesiyle Birleşik Krallık’ta manşetlere taşındı. TikTok, videoları toplu olarak kaldırdıktan sonra yaptığı açıklamada şunları söyledi: “Platformumuzda bu tür rahatsız edici içeriklere yer yok. Bu tür içerikleri tespit ettiğimizde kaldırmaya devam ediyoruz.”
‘YASAK RESMİ OLARAK GÖNDERİLMEDİ’
James’in kaldırılan görselleri arasında Vietnamca iki görsel de vardı. Bunlardan biri 4 milyon kez izlendi. BBC, adının gizli kalması koşuluyla konuşmayı kabul eden Vietnam’daki bir TikTok içerik moderatörüyle konuştu. Videoların kaldırılmasının üzerinden 2 hafta geçmesine rağmen şirketin kendisine bu tür içeriklerin yasaklandığını resmi olarak söylemediğini belirtti. Moderatöre göre videoların paylaşılmasına, TikTok’un istismar ve istismardan kurtulanların hikayelerini paylaşmalarına izin veren kuralları kapsamında izin verilmiş olabilir.
TikTok, moderatörün hayatta kalanların deneyimleri nedeniyle bu görüntülerin platformda yayınlanmasına izin verilebileceği yönündeki önerisinin kusurlu olduğunu açıkça belirtti. Çünkü bunlar gerçek hayatta kalanların deneyimlerinden ziyade, ölen çocukların bilgisayarda oluşturulmuş görüntüleriydi. Bu tür görüntüler hâlâ TikTok’ta mevcut. Ancak TikTok, platformunda yayınlanan her şeyi yakalayamayacağının oldukça açık olduğunu söylüyor. (BBC Türkçe)
