Eşimin kız kardeşinden hediye olarak aldığım mavi bir gömlek yardımcı oldu. Tüm bu olay bana Fyodor Dostoyevski'nin "İki Kişilik" adlı kısa romanındaki mütevazı bürokrat Yakov Petrovich Golyatkin'i hatırlattı; bu roman, geniş ve kişisel olmayan bir feodal sistem içindeki parçalanmış bir kişiliğin rahatsız edici bir incelemesidir.
Her şey, saygın bir meslektaşımın jeopolitik bir konu üzerine yaptığım konuşma için beni tebrik eden bir mesajla başladı. Ne söylediğimi hatırlamak için ekli bağlantıya tıkladığımda, hafızam konusunda endişelendim. Videoyu ne zaman kaydettiğimi hatırlayamıyordum. Birkaç dakika sonra, bir şeylerin ters gittiğini anladım. Söylediklerimden dolayı değil, videoda Atina'daki ofis masamda, adadaki evimin dışında hiç giymediğim mavi bir gömlek giymiş halde oturuyor olmamdan dolayı. Video aslında "deepfake yapay zeka" ikizimi gösteriyordu.*
O zamandan beri, yüzümün ve sentetik bir sesin yer aldığı yüzlerce video sosyal medyada dolaşıyor. Ve bu hafta sonu, yeni bir video ortaya çıktı ve şunları gösteriyor: daldırma Venezuela'daki darbe hakkında uydurmalar anlatıyorum. Yapay zekâ ikizlerim ders veriyor, benim söyleyebileceğim şeyleri söylüyorlar, ama asla söylemeyeceğim şeyleri de. Bazen öfke dolu oluyorlar ya da kibirli vaazlar veriyorlar. Bazen apaçık yalan söylüyorlar, bazen de rahatsız edici derecede ikna edici. Tanıdıklarım bana, "Janis, bunu gerçekten söylemiş olabilir misin?" diye soruyorlar. Muhalifler bu kayıtları aptal olduğumun kanıtı olarak paylaşıyorlar. En kötüsü de ikizlerimin benden daha açık sözlü ve ikna edici olduğunu söylemeleri. Kendimi kendi dijital kuklamın gözlemcisi, uzun zamandır sadece bozuk değil, bizi köleleştirmek için tasarlanmış bir teknofeodal makinenin hayaleti gibi garip bir konumda buluyorum.
İlk tepkim Google, Meta ve diğerlerine yazarak bu tür tüm kayıtların kaldırılmasını talep etmek oldu. Bu hesapların ve kayıtların en azından bazılarının kaldırılması için öfkeyle formlar doldurdum, ancak bunlar başka yerlerde yeniden ortaya çıktı. Birkaç gün sonra pes ettim: Ne yaparsam yapayım, büyük teknoloji şirketlerini ikna etmek için ne kadar zaman harcarsam harcayayım, yapay zekâ ikizlerim Hydra'nın kopmuş başları gibi yeniden ortaya çıkacaktı.
Sakinleştim ve analiz etmeye başladım. Büyük teknoloji şirketlerinin kapitalizmi dijitalleştirdiğini ve piyasaları bulut beyliklerine, karları da bulut kirasına dönüştürdüğünü iddia eden ben değil miydim? Yapay zekâ ikizlerim, bu teknofeodal gerçeklikte liberal bireyin öldüğünün mükemmel bir kanıtı değil mi?
Kendime olan sahipliğimin kısmen kaybına razı olarak, deepfake'i feodal bir hapsin nihai eylemi, teknofeodalizmde hiçbir şeye sahip olmadığımızın kanıtı olarak rasyonelleştirmekte teselli aradım - ne (dijital) emeğimizle yarattığımız verilere, ne sosyal bağlantılarımızın ağlarına, ne de görsel-işitsel kimliğimize. Yeni efendilerimiz bizi bulut mülklerinde kiracı olarak, imajımızı istedikleri zaman kullanarak kafa karışıklığı yaymak, konuşmayı bulandırmak ve kasıtlı olarak sentezlenmiş kakofoniyle otantik eleştiriyi boğmak için kullanabilecekleri androidler olarak görüyorlar.
Sonra antik Yunan'dan daha parlak bir fikir aklıma geldi. Ya yapay zekâ ikizlerim haberci olsaydı? isegoria (ἰσηγορία), parlakların, umut vadedenlerin ve yok olanların ilkesi, tıpkı gerçek demokrasi gibi mi? Bu terimi tanımlamak için çeşitli yapay zekâ sohbet robotlarına sordum ve sürekli olarak bunu ifade eşitliği, duyulma hakkı veya bir mecliste konuşma özgürlüğü olarak yanlış yorumladılar. Ancak eski Atinalıların aklında bu yoktu. Onlar için isegoria, bugünkü "ifade özgürlüğünün" tam tersiydi; bunu havaya bağırma hakkı olarak soyut bir hak olarak reddederlerdi. Atinalılar için ise, kim olduğunuzdan veya görüşlerinizi ne kadar ustaca formüle ettiğinizden bağımsız olarak, görüşlerinizin gerçeklere dayanarak ciddi bir şekilde değerlendirilmesi hakkı anlamına geliyordu.
Yapay zekâ destekli deepfake'ler, isegoria'yı teknolojik feodal distopyamızın pençelerinden kurtarabilir mi? Çevrimiçi paylaşılan bir videonun doğruluğunu teyit etmenin imkansız olduğunu fark ettiğimizde, kimin söylediğine değil, neyin söylendiğine göre değerlendirme yapmak zorunda kalacak mıyız? Büyük teknoloji şirketleri, özgünlüğü yok ederken, isegoria'ya istemeden bir şans vermiş olabilir mi? Bu sorular bir umut ışığı sunuyor.
Demokrasi hayaletinin hâlâ başımızın üzerinde beliriyor olabileceği umudu var; yeter ki cesaret edip yukarı bakalım, algoritmik içeriğin yok etmeyi amaçladığı yavaş, zorlu, demokratik çalışmaya girişelim: bize sunulan görüş ve argümanların eleştirel değerlendirmesi. Ne yazık ki, bu umut somut olsa da, teknofeodal efendilerimizin iki devasa, asimetrik avantajı olduğu sürece yeterli değil.
Öncelikle, agoranın kendisine sahipler; sunuculara, gönderi seçimine, algoritmik iletişim araçlarına. Kendi söylemlerini dijital bir doğruluk mührüyle işaretleyebilirken, bizimkileri şüphe ve gürültü bataklığında boğabilirler. Sonuç? Bir isegoria değil, gerçeğin iktidarın patentli bir mülkiyeti olduğu dijital bir ilahi hak.
İkinci olarak ve çok daha kurnazca bir şekilde, iktidara gelmek için deepfake'lere ihtiyaç duymuyorlar. İdeolojileri zaten derin sahte videoların içine yerleştirilmiş durumda. makine: Çeşitli dijital cihazlar aracılığıyla bulut bağlantılı proleterlerden artı değer elde etme gücü, vasal kapitalistlerin kendi platformlarında buluttan rant elde etme mantığı, hissedar değerinin tiranlığı, parayı özelleştirmedeki kaçınılmaz başarıları.
Dolayısıyla görevimiz, içeriklerin doğruluğunu teyit etmeleri için yöneticilere yalvarmak değil. Görevimiz politiktir. Toplumu dönüştüren ve insanlığın mümkün kıldığı her şeyi yok eden, her şeye gücü yeten yeni bir güç olan bulut sermayesini toplumsallaştırmalıyız.
O zamana kadar, dijital ikizlerimiz konuşsun. Belki de gösterinin sesini o kadar bastırırlar ki sonunda onları dinlemeyi bırakırız. sesiniz ve değerlendirmeye başlıyoruz. savunuyor Değerlerine göre. Bu belki de aynalar salonundaki en paradoksal umut ışığı. Ama bu dönme dolapta her bir saman çöpüne tutunuyoruz.
(Milica Jovanović tarafından çevrildi)
* Deepfake, kelimenin tam anlamıyla "derin sahte"; gerçek kişilerin asla yapmadıkları veya söylemedikleri bir şeyi yapıyormuş gibi gösterildiği, yapay zeka teknolojisi kullanılarak oluşturulan sentetik bir medya, video veya ses içeriği türüdür. Günlük kullanımda "deepfake" terimi yaygındır; ed.transl.
Bonus videosu:
