yazılariktibasDerin sahtecilik ve Grok destekli dijital taciz - İsmail Gökhan Bayram

Derin sahtecilik ve Grok destekli dijital taciz – İsmail Gökhan Bayram

Orjinal yazının kaynağıevrensel.net
Kategori:

‘Derin sahtecilik’ gerçeğinden kolayca ayrılamayan sahte video, görsel ve seslere verilen ad. Mizah amaçlı daha makul sayılabilecek kullanımları bir kenara bırakırsak derin sahtelerin yaygın kullanım alanı olarak geriye siyasi amaçlı yanıltma, sahtecilik, dolandırıcılık, taciz ve şantaj gibi hemen her biri suç teşkil eden fiiller kalıyor. Klasik görsel/video/ses işleme araçları ile derin sahte oluşturmak epeyce bilgi ve beceri gerektirdiğinden üretken yapay zeka (Gen. AI) araçlarının ortaya çıkışına dek yaygınlığı oldukça düşüktü. Gen. AI araçları ile yaygınlık hızla artmaya başladı. Indicator’ın temmuz 2025 tarihli görsel tabanlı cinsel taciz içerikleri oluşturarak satan 85 web sitesini ele alan araştırmasına göre söz konusu ‘çıplaklaştırma siteleri’ toplamda aylık 18.5 milyon ziyaretçi alıyor. Bu alçak sistemin ‘ekonomik büyüklüğü’ ise yıllık 36 milyon dolar civarında. Bu sayılar irice olmakla birlikte içeriklerin kamusal alanlara sızması ve buralarda yayılması sınırlı olduğundan etkileri de çok gözlemlenebilir değildi. 

Aralık ayı sonlarında bir grup yetişkin içerik üreticisinin X/Twitter’da bir pazarlama kampanyası olarak Elon Musk’a ait Grok’tan kendilerinin cinsel içerikli sistemlerin kendisinin sorumlu örüntülerini üretmesini istemelerinin ardından çoğunluğu anonim binlerce kullanıcı kadınların ve kimi örneklerde de çocukların görsellerini benzer gönderilerle rızaları dışında bikinili, az kıyafetli vb. talep etmeye başladı. Oluşturulan görsel sayısının büyüklüğü açısından Copyleaks’in 31 Aralık tarihli tahminlerine göre Grok ortalama olarak dakikada bir adet rıza dışı cinsel içerikli görüntü oluşturdu. Oluşturulan taciz niteliğindeki rıza dışı görüntüler ezici bir ağırlıkla kadınları ve kız çocuklarını hedef alıyordu. Dijital cinsel tacizi kamusal alana yaymayı başaran Elon Musk’ın bu konudaki ilk refleksinin kendisinin bikinili hale getirilmiş bir görseli ile normalleştirmeye çalışmak olduğunu not düşelim. Yükselen tepkiler ve bazı ülkelerden gelen sert uyarılar üzerine X/Twitter, Grok’a bu şekilde rıza dışı görsel ürettirmenin hem yasal olarak hem de platformda suç olduğunu ve cezalandırılacağını ifade etmek zorunda kaldı.
Bu xAI’nin ilk vakası değil. Ağustos 2025’te Grok Imagine ile üretilmiş çıplak Taylor Swift görselleri yine X/Twitter’da yayılmıştı. O dönemde yapılan çeşitli analizlerde Grok Imagine’in OpenAI, Google ve Midjourney’nin sistemlerindekilere benzer bu durumları engellemek üzere tasarlanmış temel korumalardan yoksun olduğu ortaya çıkmıştı.

Dijital sistemler söz konusu olduğunda sistemin kendisinin hesap verebilirliği ve sorumlu tutulabilirliği gibi bir tartışma mümkün değildir. Ancak bu sistemi geliştirenlerin sorumlu tutulamayacağı anlamına gelmez. Grok gibi bir sistem söz konusu olduğunda yapay zeka ile görüntü işleme gibi bir özellik son kullanıcıya açılmadan önce temel işi kullanıcıların güvenliği olan departmanın ilk aklına gelmesi gereken başlıklardan biri Grok’un bu şekilde kullanılması olasılığı. İster bu alanda tedbir almak tartışılıp bilerek umursanmamış olsun isterse de tartışılmamış olsun binlerce, belki on binlerce kadının dijital tacize uğramasına yol açan ciddi bir ihmal söz konusu.

Alınabilecek ve artık endüstri standardı sayılan temel tedbirlerden biri alınmadığı için ya da verili bir parçasında üretim kaynaklı bir kusur olduğu için bir araba modelinde birkaç kaza gerçekleşse aracı üreten şirket kazalar nedeni ile ciddi yaptırıma uğrar. Buna ek olarak da ilgili seriyi geri çağırmak, çözebiliyorsa sorunu çözmek, çözemiyorsa iade yapmak zorunda kalır. Kazalarda başka sorumluluğu olan varsa onlara da bakılır ama kusurlu tasarımın kendisi tasarlayanın sorumlu tutulmasını gerektirir.

Grok destekli dijital cinsel taciz vakaları açısından iki ayaklı bir sorumluluk söz konusu. Biri yeterli tedbiri almayan Elon Musk’ın xAI’si. Diğeri ise Grok’tan talepte bulunan tacizci kitlesi. Eğer Internet’i kadınlar ve çocuklar için daha güvenli bir yer haline getirmek istiyorsak derin sahtecilik yoluyla yapılan tacizlerde derin sahtenin geliştirildiği sistemin ve yayıldığı platformun eğer eksiği varsa cezalandırılması en az derin sahteyi yapan/talep edenin cezalandırılması kadar önemli.

Gen AI sistemlerinde alınacak tedbirlerin bu sistemler ile oluşturulacak dijital cinsel taciz görsellerini tümüyle ortadan kaldıracağını söyleyemeyiz. Alınan tedbirlerin jail-break olarak da anılan çeşitli yöntemler ile aşılabilmesi mümkün. Ya da yaygın modellerde alınan tedbirlerle sorun tümüyle çözülse dahi mutlaka bu tip içeriklerin oluşturulabileceği kıyıda köşede modeller bulunacak. Ancak tedbir alınmaması ve cezasızlığa kıyasla çok daha iyi durumda olacağımız da neredeyse kesin. 


Yeniçağ Kıbrıs sitesinden daha fazla şey keşfedin

Son gönderilerin e-postanıza gönderilmesi için abone olun.

Leave a reply

Lütfen yorumunuzu giriniz!
Lütfen isminizi buraya giriniz

Bu site istenmeyenleri azaltmak için Akismet kullanır. Yorum verilerinizin nasıl işlendiğini öğrenin.

Diğer yazıları

Vladimir Simović yazdı: Sırbistanlı öğrenciler Vučić’i nasıl yendi?

Seçim analizi: Vladimir Simović(Solidarnost üyesi, Avrupa Solu Yönetim Kurulu...

Önder Algedik yazdı: COP31’in Gizlediği

Birikim'de bu yıl yayımlanan dört yazıda aynı soruyu farklı...

Nuray Sancar yazdı: COP 31 iklim zirvesi… şaka gibi

Üç gün sonra Antalya’da genişletilmiş Expo sahasında düzenlenecek COP...

Yelda Erçandırlı yazdı: Lula, ekstraktivizm ve sol kalkınmacılığın sınırları

Luiz Inácio Lula da Silva’nın 25 Ekim 2026’da dördüncü...

Mahir Ulutaş yazdı: Ankara-Bakü hattındaki krizin yapısal dinamikleri üzerine

Ankara ve Bakü arasındaki “kardeşlik”, en çetin diplomatik krizlerinden...
4,663BeğenenlerBeğen
1,585TakipçilerTakip Et
4,267TakipçilerTakip Et
1,410AboneAbone Ol

Son eklenenler

#podcast Avrupa’nın Aranan Suçluları ve Kıbrıs’ın Kuzeyi | 15+ Dakikada Gündem

Murat Kanatlı ve karikatürist Serhan Gazioğlu; çizgilerin diliyle Kıbrıs'ın kuzeyindeki siyasi atmosferi, yaklaşan seçim tartışmalarını ve toplumun geçmişten bugüne uzanan tarihsel yüzleşmelerini canlı yayında masaya yatırdı.

Şener Elcil yazdı: Hayaller ve Gerçekler | Dreams and Realities

Geçtiğimiz hafta, Türkiye’nin ev sahipliğinde Antalya’da yapılan “Dünya İklim...

Özkan Yıkıcı yazdı: Onbeş Kasımlı Pazar gününden

Kıbrıs'ta Onbeş Kasım yakın tarihi gün dönemi ikili şekilde...

Özkan Yıkıcı yazdı: On Beş Kasım güncesinden önemli notlar ve kısa yüzleşmeler

On Beş Kasım güncesinden önemli notlar ve kısa yüzleşmeler On...

Çağla Elektrikçi yazdı: Alfa ve Kalfaları- Russell Brand

Son on yıl içerisinde erkeklik üzerine yürütülen tartışmalar giderek...

Nevzat Hami yazdı: Sandığın dışında da hayat var

Boykot, temsiliyet ve siyasi irade üzerine Seçimlere katılmak demokratik bir...

Özkan Yıkıcı yazdı: Bizim telden dolaşlama yapalım

Gerçekten, dünya ile alakalı birçok yazı yazdıktan sonra, ülkemize...

Canlı yayın

01:06:52

#video “Mış Gibi Yaparak Yaşayamam!”: Çiğdem Dürüst Kamudaki Çürümeyi Anlattı | Gündem+

Kamuda liyakat bitti mi, sistem nasıl kilitlendi? Eski üst düzey bürokrat Çiğdem Dürüst, Gündem+ yayınında kamu çarklarının neden dönmediğini ve Kıbrıs'ın kuzeyindeki idari çöküşü tüm açıklığıyla değerlendirdi.
01:02:49

#video “Güngör Yanıyor, Dağlar Yok Oluyor!”: Çevre Katliamında COP31 İkiyüzlülüğü | 15+ Dakikada Gündem

15+ Dakikada Gündem ekibi; günlerdir için için yanan Güngör Çöplüğü’nü, dağları kemiren taş ocaklarını ve sahada çevre felaketi yaşanırken uluslararası zirvelerde sergilenen "sıfır atık" şovlarını canlı yayında masaya yatırdı.
01:10:48

#video ABD Seçimlerinde Tsunami: Senato ve Kongre’deki Yeni Dengeler Neyi Değiştirecek? | Yeniçağ Güncel

Yeni ABD yönetimi ve Kongre aritmetiği dış politikayı nasıl şekillendirecek? Prof. Dr. Erol Kaymak, Yeniçağ Güncel programında ABD seçimlerinin perde arkasını, küresel dengeleri ve Kıbrıs'ın kuzeyini ilgilendiren diplomatik süreçleri ele aldı.