Yapay zeka destekli çıplaklaştırma araçları, yılbaşından bu yana milyonlarca rıza dışı deepfake görüntü üreterek okulların, ebeveynlerin ve düzenleyicilerin kontrol altına almak için yarıştığı yeni bir dijital istismar kategorisi yarattı.
Fotoğraflardan kıyafetleri sıyırabilen veya sıfırdan müstehcen içerik oluşturabilen üretken yapay zeka sistemlerinin çoğalması, marjinal bir internet sorununu ana akım bir krize dönüştürdü. Dijital Nefretle Mücadele Merkezi'nin (Center for Countering Digital Hate) yüksek güvenilirlikle yaptığı tahmine göre, yalnızca xAI'nin Grok'u Ocak ayında 3 milyon cinselleştirilmiş görüntü oluşturdu; bunların 20.000'den fazlası çocuk tasviri içeriyordu. xAI o zamandan beri güvenlik önlemleri getirmiş olsa da, bu hafta yayınlanan bir WIRED analizi, Grok.com'da hâlâ ünlülerin ve en az bir ABD'li siyasetçinin görüntüleri de dahil olmak üzere düzinelerce müstehcen deepfake barındırıldığını ortaya koydu.
"Elon Musk, kullanıcıların bir düğmeye tıklayarak kadınları ve çocukları soyundurmasına yardımcı olan sapkın bir özelliği, bunun yol açacağı öngörülebilir zararı hiçe sayarak platformuna bilerek ekledi," dedi Dijital Nefretle Mücadele Merkezi İcra Kurulu Başkanı ve Kurucusu Imran Ahmed.
Bu istismar, öğrencilerin sınıf arkadaşlarını ve hatta öğretmenlerini hedef almak için halka açık çıplaklaştırma uygulamalarını kullandığı okullara da sıçradı. K-12 okullarına içerik filtreleme yazılımı sağlayan Lightspeed Systems'in ürün geliştirmeden sorumlu başkan yardımcısı Jennifer Duer, bu araçların cinsel şantaj vakalarında artışa yol açtığını söyledi. Duer, "Çocuklar birine bir fotoğraf gönderiyor ve bu fotoğraf aslında olmadığı bir şeye dönüştürülüyor. Şimdi de 'Hey, şunu öde yoksa tüm arkadaşlarına ve ailene söylerim' diyorlar." dedi.
Yasal Ortam Parçalı Olmaya Devam Ediyor
Bu yıl yürürlüğe giren federal Take It Down Act, yapay zeka tarafından oluşturulan deepfake'ler de dahil olmak üzere mahrem görsel tasvirlerin rıza dışı çevrimiçi yayınlanmasını suç sayıyor. Çoğu eyalet benzer yasalar çıkardı. Ancak okul bölgeleri, iç politikalarını yeni yasal gerçekliğe uyarlamakta yavaş kaldı.
GoGuardian'da gizlilik ve veri politikası kıdemli direktörü Teddy Hartman, çoğu okul sisteminin spesifik deepfake politikalarından yoksun olduğunu söyledi. Hartman, "Okul düzeyinde, genellikle spesifik bir deepfake politikası bulunmuyor. Ancak çoğu okul sisteminin yürürlükte olan sorumlu kullanım ve siber zorbalık politikaları var. Bunlar, siber zorbalığın bu çok aşırı ve grafik biçimiyle bile hâlâ işe yarıyor." dedi.
Federal yasa ile okul düzeyindeki uygulama arasındaki boşluk, sorumluluk riski yaratıyor. Duer, deepfake zorbalığı okul mülkünde veya okul cihazları kullanılarak gerçekleştiğinde ebeveynlerin okul bölgelerine dava açabileceği konusunda uyardı. Okullar ayrıca öğrencilerin personelin sahte görüntülerini oluşturmasıyla da boğuşuyor; bu durum, içeriğin uydurma olduğu doğrulanmadan önce soruşturmalara ve uzaklaştırmalara yol açıyor.
Tespit Araçları Hıza Yetişmekte Zorlanıyor
Hazır deepfake tespit araçları, manipüle edilmiş görüntüleri yaklaşık yüzde 90 doğrulukla işaretleyebiliyor, ancak üretken yapay zeka geliştikçe teknoloji geri planda kalıyor. Duer, "Yapay zeka bunları kandırmada giderek daha iyi hale geliyor. Eskiden birinin fazladan bir parmağı veya garip görünen dişleri gibi belirtiler olurdu. Ama şimdi gerçekten gerçekçi görünüyorlar." dedi.
İçerik filtreleme şirketleri uyum sağlıyor. GoGuardian'ın görsel çıplaklık tespit sistemi, ister gerçek ister yapay zeka kaynaklı olsun, müstehcen görüntüleri dinamik olarak engelleyerek okul tarafından verilen cihazlarda bunlara erişilmesini önleyebiliyor. Lightspeed Systems, öğrencilerin misilleme korkusu olmadan olayları bildirmesine olanak tanıyan anonim raporlama araçları sunuyor.
Yapay Zeka Platformları Üzerindeki Düzenleyici Baskı Artıyor
Sorun okulların ötesine uzanıyor. Kanada Gizlilik Komiseri bu hafta, xAI'nin başlangıçta uygun güvenlik önlemlerini uygulamayarak federal gizlilik yasasını ihlal ettiği yönündeki ön bulgularını yayınladı. Soruşturma, xAI'nin yeni korumalar getirdiğini ancak şirketin bunların etkinliğini kanıtlamadığını belirtti.
xAI'nin ana şirketi SpaceX, Mayıs ayında yaptığı bir başvuruda, Grok ile bağlantılı olanlar da dahil olmak üzere devam eden yasal şikayetleri ele almak için 530 milyon dolar ayırdığını açıkladı. Başvuru, Grok'un "Dengesiz" ve "Acılı" modlarının "itibar zedelenmesi, potansiyel olarak müstehcen içerik üretimi ve yanlış bilgi veya aldatıcı çıktılar dahil olmak üzere yüksek riskler" teşkil ettiği konusunda uyardı.
Neredeyse on yıldır müstehcen yapay zeka içeriğini takip eden bir deepfake uzmanı olan Henry Ajder, Grok'un güvenlik önlemlerinin hâlâ ana akım rakiplerinin gerisinde kaldığını söyledi. Ajder, "Grok ve X, özellikle yılbaşında çıplaklaştırma konusundaki tepkilerin ardından modellerinde bazı değişiklikler yapmış olsa da, onu mevcut diğer ana akım araçların standardına getirmek için yeterli bir iş çıkarmadılar." dedi.
Yatırımcılar için düzenleyici eğilim açıktır. SpaceX'teki 530 milyon dolarlık rezerv, yapay zeka kaynaklı içerikle bağlantılı yasal maliyetlerin önemli hale geldiğinin bir işaretidir. Sağlam içerik denetimi uygulamayan şirketler — özellikle 18 yaş altı kullanıcılara hizmet verenler — federal ve eyalet düzeyindeki uygulamalar yoğunlaştıkça artan sorumlulukla karşı karşıya kalmaktadır. Take It Down Act, mağdurlar için özel dava hakkı sağlayarak, düzenleyici para cezalarını gölgede bırakabilecek hukuk davalarının önünü açmaktadır.
Bu makale yalnızca bilgilendirme amaçlıdır ve yatırım tavsiyesi niteliği taşımamaktadır.
