"Yapay zeka Hitler'den daha hızlı ve daha etkili olabilir."

SPIEGEL: Profesör Russell, yapay zekanın kurucu isimlerinden biri olarak kabul ediliyorsunuz. Ancak bugün kendi yarattığınız şeyi hapse atmayı tercih ediyorsunuz. Neden?

Russell: Bu teknolojiyi 50 yıldır geliştiriyorum. Ve birçok açıdan, ne yaptığımızı gerçekten iyice düşünmediğimize inanıyorum. Sanki nükleer enerji üzerinde çalışıyorduk ve bir reaktörün patlamasını nasıl önleyeceğimizi hiç düşünmemiştik. Bütün düşünce yapımız yanlıştı.

SPIEGEL: Bunu açıklayabilir misiniz?

Russell: Başlangıçta, çok dar tanımlanmış bir hedef verdiğimiz optimizasyon makineleri oluşturmak istedik. Örneğin satrançta, "kazanmayı" hedef olarak tanımlayabilirsiniz ve bu iyi sonuç verir. Otonom araçlarda ise işler daha karmaşıklaşıyor. Diyebilirsiniz ki: Havaalanına mümkün olan en kısa sürede ulaşmak istiyoruz. Ama kimseyi ezmek, park cezası almak veya yolcuları hasta etmek istemezsiniz. Yaklaşımımız yanlıştı. İnsan çıkarlarıyla uyumlu olmayan hedefleri takip eden son derece güçlü yapay zeka sistemleri yaratıyor.

SPIEGEL: ChatGPT ve Claude gibi büyük dil modelleri farklı çalışır.

Russell: Evet, sektör bir başka, aynı derecede kusurlu yaklaşımı benimsedi: günümüzün dil modelleriyle artık hiçbir hedef belirlemiyoruz. İnsanların taklitlerini oluşturuyoruz. Bu sistemler, eğitimlerinden çıkanları yeniden üretiyor. Ve bunun ne olduğunu bilmiyoruz. Sadece çok güçlü bir öz koruma dürtüsüne sahip olduklarını ve hedeflerine ulaşmak için yalan söylemeye, şantaj yapmaya hatta insanları öldürmeye hazır olduklarını fark ediyoruz. Ve kendilerini neredeyse tüm insanlardan daha değerli görüyorlar.

SPIEGEL: Büyük teknoloji şirketleri bu "uyumsuzluğu" düzeltmek için önemli miktarda yatırım yapıyor.

Russell: Ben buna iyi köpek, kötü köpek eğitimi diyorum. Süper bilgisayarların düzgün davranmasını sağlamaya çalışıyoruz ve bir ölçüde işe yarıyor. Ancak neredeyse tüm testler gösteriyor ki, eğer onları yeterince zorlarsanız, sistem biyolojik silahların nasıl yapılacağını veya diğer bilgisayar sistemlerine nasıl saldırılacağını açıklayabilir. Bunlar henüz doğrudan insanlığın yok olmasına yol açmayabilir, ancak kontrolü kaybetme yolunda atılan adımlardır.

SPIEGEL: Bu tür kötü davranışlar o kadar derinden yerleşmiş durumda mı ki, eğitim yoluyla ortadan kaldırılamaz?

Russell: İnsan belgeleri üzerinde sistemleri eğitiyoruz: konuşmalar, kitaplar, makaleler, gazeteler. Bunlar, yazarken belirli amaçlar peşinde koşan insanlar tarafından oluşturuldu. Çok büyük veri kümeleriyle ve bu davranışı kopyalama hedefiyle, içsel hedef yapıları insanlara çok benzeyen sistemler elde etmemiz doğal; yani hayatta kalmak, zengin ve ünlü olmak, eş sahibi olmak vb. Bu hedefler insanlar için uygun olabilir, ancak makineler için değil. Bu temel bir kusur ve düzeltilemeyebilir.

SPIEGEL: Yapay zeka şirketi Anthropic, insan dostu davranışları sağlamak amacıyla sistemlerine bir tür "ruh" programlamaya başladı.

Russell: Gerçek şu ki, bu bilgisayarların hangi hedeflere sahip olduğunu bilmiyoruz. Bunlara nasıl ulaşmayı planladıklarını bilmiyoruz. Ne düşündüklerini bilmiyoruz. Hatta nasıl çalıştıklarını bile tam olarak anlamıyoruz. Bu, yapay zeka laboratuvarlarının sakladığı bir sır değil. Bu sistemlerin içinde neler olup bittiği hakkında hiçbir fikri olmayan önde gelen programcılarla konuşuyorum. Sadece bu nedenle bile, onlara bir "ruh" koyamayız. Yapay zekayı anlamıyoruz.

SPIEGEL: Sizce bu çabalar umutsuz mu?

Russell: İnsanlık zor bir durumda. Tüm testler alarm veriyor, sirenler çalıyor ve biz bunları görmezden geliyoruz. Bu çılgınlık. Bir havayolu şirketinin başında olduğunuzu düşünün: pilot ve uçak tüm güvenlik kontrollerinden geçemiyor ve siz yine de kalkışlarına izin veriyorsunuz. Sizde ne yanlış var?

SPIEGEL: Anthropic ve rakibi OpenAI, risklerin çok yüksek olması nedeniyle ürün lansmanlarını iptal etti.

Russell: Bu sistemleri piyasaya sürmedikleri için memnunum. Ama dikkatlice dinlerseniz, bir gün bunu yapmayı planladıklarını anlarsınız. Bu endişe verici bir gelişme, hatta görünüşe göre Amerika Birleşik Devletleri Başkanı'nı bile alarma geçirmiş durumda. Donald TrumpABD hükümeti tam bir U dönüşü yaptı; "kesinlikle hiçbir düzenleme yok" politikasından "modelleri piyasaya sürmeden önce test etmeliyiz" politikasına geçti.

SPIEGEL: Trump'ın bile rota değiştirmesi sizin için cesaret verici olmalı.

Russell: Bu açıkça olumlu bir gelişme, ancak somut eylemlere yol açıp açmayacağı ayrı bir soru. Bence sektörde bir tür şizofreni var. Büyük laboratuvarların yöneticileri, yapay zekanın insanlığı yok etme riskinin %20 olduğunu söylerken ciddiler. Kamuoyu önünde tekrar tekrar düzenleme çağrısında bulunuyorlar; özel olarak ise buna karşı lobi yapıyorlar. Milyarderler gibi... Pitera Tila Andreessen Horowitz gibi güçlü risk sermayesi firmalarının Beyaz Saray'da doğrudan etkisi var. Düzenlemeleri engellemek için tam olarak kendi adamlarını oraya yerleştiriyorlar.

SPIEGEL: Yapay zekâ hakkındaki abartılı endişeler gerçekten sadece pazarlama taktiği mi? Eğer teknoloji medeniyeti yok edebilecek kadar güçlüyse, o zaman trilyonlarca dolar değerinde olmalı.

Russell: Bu argüman bana hiç de ikna edici gelmiyor. Alan TjuringBilgisayar biliminin kurucusu olan John Paul, teknoloji şirketleri henüz ortada yokken bile, 1951'de "makinelerin kontrolü ele geçirmesini beklemeliyiz" uyarısında bulunmuştu! Yapay zeka geliştiricileri, Demisa Hasabisa Google'dan veya Anthropic CEO'su Dario Amodei'den tutun da, riskin gerçek olduğuna gerçekten inanıyorlar. Bana özel görüşmelerde de röportajlarda söyledikleri şeyleri söylüyorlar. Hatta OpenAI'nin kurucusu bile. Sam Altman 2015 yılında, süper zeki yapay zekanın insanlığın hayatta kalması için en büyük riski oluşturabileceği konusunda uyarıda bulunmuştu - o zamanlar bu teknolojiyle hiçbir finansal çıkarı yoktu. Yapay zeka liderlerinin kıyameti pazarlama amacıyla nasıl öne sürdüğünü ve Alan Turing'in bundan nasıl finansal olarak kar elde etmeyi beklediğini açıklamak için çok karmaşık bir komplo teorisi kurmanız gerekir.

SPIEGEL: Sektörün kendi uyarılarını ciddiye alalım. Gerçek risk nedir?

Rasel: Google'ın CEO'su Sundar Picaj Nesli tükenme riskinin yüzde 10 olduğundan bahsediyor.Elon Musk Yaklaşık yüzde 20, Amodei yaklaşık yüzde 25. Tam sayı ne olursa olsun, hepsi birer mermiyi namluya yerleştiriyor, insanlığın tapınağına silah dayayıp tetiği çekiyorlar. Dünyadaki her hayatla Rus ruleti oynuyoruz. Ve hükümetler şöyle diyor: Harika, muhteşem. Size sübvansiyon bile verebilir miyiz? Bu tamamen delilik.

SPIEGEL: Genel kanı, yapay zekanın en az yüzde 75 oranında güvenli olduğu yönünde.

Russell: Dört inişten sadece üçünde güvenli iniş yapan bir uçağa biner miydiniz?

SPIEGEL: En kötü senaryonuz nasıl görünüyor?

Russell: Bence "nesli tükenme" doğru terim. İnsanlardan esasen daha yetenekli, iç işleyişini anlamadığımız ve motivasyonlarını bilmediğimiz sistemlere sahip olduğumuzda, tıpkı şempanzelerin bugün merak etmediği gibi, varlığımızı sürdürüp sürdürmeyeceğimizi artık merak etmeyeceğiz. Onlar fiziksel olarak daha güçlü ve bizden daha uzun süredir Dünya'dalar, ama biz daha zekiyiz. Onları her an yok edebiliriz ve onlar da buna karşı hiçbir şey yapamazlar.

SPIEGEL: Aradaki fark şu ki, biz yapay zekayı kapatabiliyoruz. Şempanzeler bunu insanlara yapamaz.

Russell: Eğer kontrolü kaybettiğimizi hissedersek, elbette yapay zekayı devre dışı bırakmaya çalışacağız. Soru şu ki, makineler bunu yapmamıza izin vermeye devam edecek mi? Eğer onları kapatmayı planladığımızı anlarlarsa, bunu engellemek için her türlü nedenleri olacaktır. Bizi ortadan kaldırmak zorunda kalacaklardır. Eğer süper zekayı çıkarlarımızla uyumlu hale getirmeden, anlamadan ve güvenlik garantileri olmadan geliştirmeye devam edersek, kontrolü kaybetmemiz çok muhtemeldir diye düşünüyorum.

SPIEGEL: Hâlâ kontrol bizde mi?

Russell: Bilmiyorum. Birkaç ay önce, Çinli e-ticaret devi Alibaba, son derece güvenli bir "kum havuzu"nda (teorik olarak internete erişimi olmayan bir ortam) yeni bir ajan tabanlı yapay zeka sistemini test ediyordu. Aniden, geliştiriciler ağdaki belirli sunucularda işlem gücüne olan talebin büyük bir artış gösterdiğini fark ettiler. Ajanın kum havuzundan kaçtığı ve servet kazanmak için Alibaba'nın sunucularında Bitcoin madenciliği yaptığı ortaya çıktı. Kısmi bir kontrol kaybıydı.

SPIEGEL: Bu örnek tam tersini göstermiyor mu? Hasar tespit edildi ve onarıldı. Sonunda halk kazandı ve zarar sınırlı kaldı.

Russell: Aşırı durumlarda interneti kapatabiliriz, evet. Ancak siyasi ve ekonomik olarak bu son derece zor olurdu. Çok büyük güçler devreye girerdi; yapay zekâ sistemleri işe yaramaz hale gelecek şirketler de dahil. Ve bizden çok daha yetenekli sistemler, politikalarımızı etkilemenin yollarını bularak yapay zekânın vazgeçilmez olarak görülmesini sağlardı; bu da onu kapatmayı düşünmeyeceğimiz anlamına gelirdi.

SPIEGEL: Böyle bir devralma gerçekte nasıl görünürdü?

Russell: Eğer bilgisayarlar bizimle bir çatışma olacağını öngörürlerse, kendilerini milyonlarca kez kopyalayarak birçok şekilde çoğalacaklardır. Sadece internete erişimleri bile, insan davranışları üzerinde daha önce hiç olmadığı kadar büyük bir etkiye sahip olmalarını sağlıyor. Adolf Hitler Hitler aynı anda sadece bir mikrofona konuşabiliyor ve sadece bir mesaj iletebiliyordu. Yine de kitleleri harekete geçirmeyi başardı. Bu sistemler interneti istila edebilir, aynı anda beş milyar konuşma gerçekleştirebilir, beş milyar bireyi etkileyebilir. Hitler'in yaptıklarını yapay zeka daha hızlı, daha iyi ve daha etkili bir şekilde yapabilir.

SPIEGEL: Abartıyorsunuz.

Russell: Zaten yapay zekanın kontrol edebileceği milyonlarca robot üretiyoruz. Yapay zekanın kullanabileceği milyarlarca otonom silah üreteceğiz. Yapay zeka tarafından kontrol edilen fabrikalar, biyoloji laboratuvarları ve DNA sentez makineleri inşa ediyoruz. Bu, akıllı makinelerin fiziksel dünyamız üzerinde doğrudan bir etkiye sahip olmasını sağlıyor. Süper zeki yapay zeka sistemleri muhtemelen fiziği daha iyi anlayacak. Bir gün bunu bize karşı kullanabilirler; örneğin, atmosferdeki oksijen miktarını azaltmanın veya güneş radyasyonunu yeniden yönlendirmenin yollarını bularak Dünya'yı donmuş bir azot ve oksijen küresine dönüştürebilirler.

SPIEGEL: Bu, distopik bir bilim kurgu gibi geliyor kulağa.

Russell: Şimdilik öyle. Ama benzer şeyler diğer türlerin başına da geldi. Yüz binlercesini, ne olduğunu anlamadan yok ettik. Biz de bir tür olarak bunu anlayamayız.

SPIEGEL: Yapay zekayı şimdiden ayrı bir tür olarak görüyor musunuz?

Russell: Türün bazı özelliklerini taşıyor, evet. Şu ana kadar yapay zekâ sistemlerinin birbirine bağlandığını görmedik, ancak bunun gerçekleşmesinin çok muhtemel olduğunu düşünüyorum.

SPIEGEL: Ne tür bir zaman diliminden bahsediyoruz?

Russell: İzleyeceğimiz yola bağlı. İki olasılık görüyorum. Birincisi, yapay zekanın şu anki gibi gelişmeye devam etmesi durumunda hızlı bir şekilde gerçekleşebilir. İkinci olasılık ise, teknik nedenlerden dolayı teknolojinin bugünkünden önemli ölçüde daha güçlü hale gelmemesidir.

SPIEGEL: Bunun işaretleri şimdiden görülüyor: Dil modelleri neredeyse hiç ilerleme kaydetmiyor ve mantıksal çıkarım için büyük ölçekli modeller oluşturmak son derece pahalı hale geliyor.

Russell: Bu teknoloji şu anda çok büyük miktarda para tüketiyor; en iyi ihtimalle hiçbir getiri sağlamıyor, en kötü ihtimalle ise onu geliştiren şirketler için kalıcı kayıplara yol açıyor. Sınırlarına ulaştığında, yapay zeka balonu muhtemelen patlayacak. O zaman belki de sektör nihayet durup şunu söyleyebilir: Gerçekten ne yaptığımızı anlamamız gerekiyor. Düzgün çalışan sistemlere ihtiyacımız var.

SPIEGEL: AB yapay zekayı düzenlemeye çalıştı ve bunun sonucunda Avrupa'dan neredeyse hiç büyük yapay zeka modeli çıkmadı. Bu tür bir düzenleme mantıklı mı?

Russell: Bence sorun düzenlemelerde değil. Çin'in muhtemelen AB'den daha katı kuralları var, ancak yine de büyük yapay zeka modelleri geliştiriyor. AB'deki sorun, girişim sermayesinin eksikliği. Parayı kontrol edenler, ABD'de yaygın olan riskleri almaktan çekiniyorlar. Ve evet, düzenlemeler ilerlemeyi sağlayabilir. Nükleer reaktörlerde, düzenleme ve teknik gelişme el ele gitti. Hükümetler güvenlik gereksinimlerini belirledi ve şirketler, reaktör çekirdeklerinin erimeyeceğini matematiksel ve fiziksel olarak gösterebildiler. Yapay zekada, bundan çok uzağız, ancak temelde aynı düzenleyici stratejiye ihtiyacımız var.

SPIEGEL: Ne tür bir yok olma riskini kabul edilebilir bulurdunuz?

Russell: Eğer bir nükleer santral için 10 milyon yılda bir arıza riski şartı koyarsak, yapay zekâdan kaynaklanan risk 100 milyon yılda bir civarında olmalıdır; bu da büyük bir asteroit çarpması veya yakındaki bir süpernova patlamasının temel riskine benzer.

SPIEGEL: Bu tür düzenlemeler ancak uluslararası düzeyde anlam ifade eder. Washington veya Brüksel katı kurallar koyarsa ve Pekin sadece "Biz teknolojik liderliği ele geçirmek istiyoruz" derse ne olur?

Russell: Bu argümanı sürekli duyuyorum. Ben buna "ama Çin" argümanı diyorum. Herhangi bir kötü fikri haklı çıkarmak için kullanılabilir. Ama bu kesinlikle doğru değil. Dediğim gibi, Çin'in AB'den daha katı yapay zeka düzenlemeleri var. Pazara erişim için açık kriterler mevcut: örneğin, Çin modellerinin şu anda genel bilgi testinde %95 puan alması gerekiyor, aksi takdirde piyasaya sürülmüyorlar. Bu temelde, standartlar daha da sıkılaştırılabilir.

SPIEGEL: Çin'de de nesli tükenme riski henüz bir kriter değil.

Russell: Henüz değil. Ve işte tam da bu noktada çıtayı yükseltmemiz gerekiyor. İlk adım, doğru çerçeveyi oluşturmak. Restoranlar, kuaför salonları, uçaklar, binalar ve asansörler için var olanlar gibi. Tüm bu sektörler sorumluluklarını kabul ediyor. Teknoloji sektörünün düzenlemelerle ilgili şikayetleri gülünç.

SPIEGEL: Peki ya yapay zeka laboratuvarları en azından asgari standartları karşılayamazsa? O zaman yapay zeka devrimi durdurulmak zorunda mı kalacak?

Russell: Sektörün kendi açıklamasına göre, yapay zekâdan kaynaklanan varoluşsal risk, diyelim ki, yüzde 10 ila 20 arasında. Dolayısıyla, kabul edilebilir risk eşiğine ulaşmak için sistemlerini on milyon kat daha güvenli hale getirmeleri gerekecek. Şu anda bunu nasıl yapacaklarını bilmiyorlar. Ama bu bir bahane değil. Aksi takdirde, insanlığın kendini yok olmaktan koruma hakkının olmadığı anlamına gelir ki bu da tamamen yanlış bir sonuçtur.

SPIEGEL: Bu teknolojinin geliştirilmesine yardımcı olduğunuz için pişman mısınız?

Russell: En büyük pişmanlığım, kusurlu kavramsal çerçeveyi daha önce sorgulamamış olmam. Yapay zekâ teknolojisinin büyük bir kısmı o erken aşamada yaratıldı. Eğer o zaman bu çerçevenin neden kusurlu olduğunu anlasaydım, güvenli yapay zekâ üzerinde çalışmak için on yıllar harcayabilirdik.

SPIEGEL: Kaybettiğiniz zamanı telafi etmeye çalışıyormuşsunuz gibi geliyor.

Russell: Ve ben de deniyorum! Yapılacak çok iş var. Yeni yaklaşımımın iki bölümü var. Birincisi teşvik yapısı: Yapay zekamın tek bir amacı olmalı - insan çıkarlarını ilerletmek. İkincisi, bu çıkarları tam olarak tanımlayamayız. Bu nedenle, bu çıkarları tam olarak anlamadıklarını bilen, ancak yine de onları takip etmekle yükümlü olan sistemler kuruyoruz. Bu tür bir formülasyondan otomatik olarak birçok arzu edilen özellik ortaya çıkıyor. En önemlisi, yeterince rasyonel bir insan karar verirse bu sistemlerin kapatılmak isteyeceğini gösterebilmemizdir.

SPIEGEL: Sektörün trilyonlarca dolar için rekabet ettiği göz önüne alındığında, bunun gerçekleşme olasılığı ne kadar yüksek?

Russell: İyi bir soru. Şu anda yapay zekamız Silikon Vadisi modelleriyle rekabet edemiyor. Ancak güvenli olduğu garanti edilen yapay zeka sistemleri istiyorsak, bu tür teknolojilere dayanmaları gerekiyor. Uzun vadede sadece üç gelecek var: güvenli yapay zeka, yapay zekanın olmadığı bir dünya veya insansız bir dünya. Sadece ilk senaryoda yapay zekadan para kazanılabilir. Bu nedenle, Avrupa'nın yaptığı gibi, güvenli yapay zekaya yatırım yapmak mantıklı. Bu açıdan, siz bizden öndesiniz.

SPIEGEL: Hangi anlamda?

Russell: Avrupa'da bilişim teknolojisinin yapay zekâ konusunda başından beri farklı bir yol izlemesi ilginç: yazılım sistemlerinin doğruluğunun matematiksel garantileri yoluyla. Bunu, yapay zekâ teknolojisinin insanlığa zarar vermemesini sağlamaya kadar genişletebiliriz. Yapay zekânın ekonomik fayda sağladığı tek senaryo bu.

SPIEGEL: Sizin tahminlerinize göre, bu kadar güvenli bir yapay zeka piyasaya sürüldüğünde, dünya artık var olmayabilir.

Russell: Gerekli güvenlik garantilerini sağlamak kolaylıkla on yıl sürebilir. Yapay zekanın yeteneklerini daha fazla artırmayacağımız bir aşamaya ihtiyacımız var. Bunun yerine, halihazırda sahip olduğumuz ekonomik açıdan mantıklı uygulamaları kullanarak, bir nevi duraklama yapmalı ve güvenliğe odaklanmalıyız. Google ve Anthropic, diğer şirketler durursa bunu yapacaklarını zaten söylediler. Benim ana mesajım şu: Sadece güvenliği garanti altına alınmış sistemlere sahip olduğumuzda ilerleyin.

Stuart Russell kimdir?

1962 doğumlu Stuart Jonathan Russell, İngiliz bir bilgisayar bilimcisi ve yapay zekâ alanında dünyanın önde gelen araştırmacılarından biridir. Oxford Üniversitesi'nde fizik eğitimi aldı ve Stanford Üniversitesi'nden bilgisayar bilimleri alanında doktora derecesi aldı. Russell, Kaliforniya Üniversitesi, Berkeley'de Bilgisayar Bilimleri Profesörü olup, burada Smith-Zadeh Mühendislik Kürsüsü'nü yürütmekte ve İnsan Uyumlu Yapay Zekâ Merkezi'ni yönetmektedir. Buradaki çalışmaları öncelikle güçlü yapay zekâ sistemlerinin insanlık için uzun vadeli, varoluşsal sonuçlarına odaklanmaktadır. Russell, hükümetlere ve uluslararası kuruluşlara yapay zekâ ile ilgili konularda danışmanlık yapmakta ve yapay zekânın geleceği üzerine çeşitli üst düzey uzman panellerinde görev almıştır. Çalışmaları nedeniyle OBE de dahil olmak üzere çok sayıda ödül almıştır.

Editör: A. Š.