Distopya gerçeğe dönerken… – İsmail Gökhan Bayram

Geniş bir zaman aralığını ele aldığımızda bilim ve teknolojideki ilerlemelerin genel olarak insanlığı ileri götürdüğünü rahatça söyleyebiliriz. Ancak bu bilim ve teknolojinin özellikle de kısa vadeli mali ya da politik çıkarlara endeksli olduğu sistemlerde genel olarak doğru sayılabilecek bu ifade ile çelişen ciddi sonuçlarla karşılaşmayacağımız anlamına gelmez. Varsayımsal teknolojilerin olumsuz sonuçları bilim kurgu yazarlarının sıklıkla ele aldığı konulardandır. Buralardan yola çıkarak nice distopik dünya kurulmuş, sonuçları üzerine pratik ve teorik çokça tartışma üretilmiştir. Bilim ve teknoloji, bilim kurgulardaki varsayımsal teknolojilere yaklaştıkça düne kadar kurgusal olan tartışmalar bir anda gerçeklikle buluşur.
Mizahi sahte haberler yapan The Onion’ın yazarlarından Alex Blechman’ın üç yıl kadar önce attığı ve artık bir mem haline gelmiş Azap Ağı gönderisini [0] sıklıkla anacağımız günlerdeyiz:
Bilim kurgu yazarı: Kitabımda Azap Ağı’nı uyarıcı bir hikaye olarak icat ettim.
Teknoloji şirketi: Sonunda, klasik bilim kurgu romanı “Azap Ağı’nı Yaratmayın”daki Azap Ağı’nı yaratmayı başardık.
Aşırı sağcı Javier Milei yönetimindeki Arjantin, geçen hafta Yapay Zekanın Güvenliğe Uygulanması Biriminin kurulduğunu ve bu birimin tarihsel suç verilerinin makine öğrenmesi algoritmaları ile analiz edilmesine dayanarak işlenecek suçları tahmin etmeye çalışacağını duyurdu. Bu anlatı size tanıdık geldiyse Philip K. Dick’in 2002’de aynı isimle sinemaya da uyarlanan 1956 tarihli Azınlık Raporu hikayesini hatırlıyor olabilirsiniz: Suçların bir makineye bağlı üç kahin tarafından daha işlenmeden tespit edildiği ve ön suç polisi tarafından hızla müdahale edilerek suçu işleyecek olanın cezalandırıldığı, pratikte suçun neredeyse var olmadığı bir dünyada ön suç biriminin başı kendini birden tanımadığı birini öldüreceği suçlaması ile karşı karşıya bulur. Eğer “Böyle saçmalık mı olur?” diyorsanız Arjantin’in, PKD’nin kurgusal hikayesinin gerçek dünyada hayata geçirildiği ilk vaka olmadığını not düşelim. 2017’de ABD’nin en büyük 50 polis birliğinden 20’sinin veriye dayalı suç tahmini yöntemleri kullandığı ortaya çıkmıştı [1]. 2020’de Florida’da bir şerif departmanının yıllardır bir algoritma ile belirledikleri “suç işleme potansiyeli taşıyan” kişileri taciz ettiği ortaya çıkartılmıştı [2]. Yine 2020’de Kanada’da çok sayıda polis departmanının benzer yöntemler kullandığı ortaya konmuştu [3].
Mesele sadece suç ön biliciliği gibi örneklerle sınırlı değil. Düne kadar cihazlarımızda çıkan reklamlara bakarak sorduğumuz “Cihazımız bizi mi dinliyor?” sorusu bugün bizi dinleyen cihazların en yeni yapay zeka teknolojileri olarak bize pazarlanmaya çalışıldığı bir gerçekliğe evrildi. Sadece başarılı bir dolandırıcılık hamlesi olduğu fazlasıyla görünür olan Friend’den [4] bahsetmiyorum. Microsoft ve Google, birkaç ay önce Friend’e öz itibari oldukça benzer sistemlerin tanıtımını yaptı. Tanıtılan sistemlerden biri bilgisayarınızda yaptığınız her şeyi izlerken diğeri telefon görüşmelerinizin tümünü dinliyordu.
Bir diğer örnekle devam edelim: web aramaları. Güncel duruma bakarak ihtiyacımız nedir diye sorsanız çoğunluk “daha nitelikli sonuçlar” yanıtını verecektir. Peki şirketlerce bunun yerine önümüze konmaya çalışılan ne? Halüsinasyon gören sistemlerce üretilen, doğru ile yanlışın, hayal ile gerçeğin birbirine girdiği “her gün bir miktar kaya yemenin” ya da “pizzanıza yapıştırıcı eklemenin” ne kadar faydalı olduğunu anlatan [5] yanıtlar ve benzerleri. Üstelik bu ahmakça yanıtlar dünyanın doğal kaynakları pahasına bize dayatılıyor. Güncel yapay zeka teknolojileri yüksek miktarlarda enerji ve su harcayıp karbon emisyonunu da bir o kadar arttırıyor. 2020’den bugüne Microsoft’un karbon emisyonu yüzde 30 arttı. Google’ın karbon emisyonundaki artış ise 2019’dan bugüne yüzde 48. Her iki artışın da faili güncel yapay zeka teknolojileri. Yapay zekadan ahmakça cevaplar almak için dev bir iklim krizinin tetiklendiği bir dünya içinde yaşıyor olmasaydık eğlenceli bir bilim kurgu konusu olabilirdi.

–
[0] https://bit.ly/46t6Ogz
[1] https://bit.ly/3MaqkoR
[2] https://bit.ly/3LPkOru
[3] https://bit.ly/3YrPR40
[4] https://bit.ly/3WNodgz
[5] https://bit.ly/4dpujJA