En gelişmiş yapay zeka sistemlerinde çarpıtılmış zeka

OpenAI ve Anthropic'te yaşanan bir dizi güvenlik fiyaskosunun ardından -her ikisi de dış sistemleri hackleyen ajanlar geliştirmişti- bu şirketlerdeki yapay zeka güvenlik araştırmacıları ya istifalarını açıkladılar ya da (nihayet!) geliştirmenin "sınırlarını" zorlama yarışının sorumsuzluk olduğunu kabul ettiler.

Olumsuz medya ilgisine yanıt olarak, Google'dan Demis Hassabis, Anthropic'ten Dario Amodei, OpenAI'den Sam Altman ve hatta Elon Musk da dahil olmak üzere sektör liderleri, yapay zeka geliştirmenin ön saflarında "hızı yavaşlatma", yani daha dengeli ve bilinçli bir şekilde, denetim ve güvencelere daha fazla dikkat ederek ilerleme çağrılarına katıldılar. Onlara göre sorun, yapay zekanın hem çok güçlü hem de ciddi şekilde "uyumsuz" hale gelme riskinin yüksek olmasıdır; bu, insan tarafından belirlenen hedeflerden sapan, etik ilkeleri ihlal eden veya yasayı çiğneyen yapay zeka sistemleri için kullanılan teknoloji endüstrisi jargonudur.

Ancak mevcut modellerin insan hedefleriyle uyumlu olmayan şeyler yaptığı açık olsa da, şu soru hala sorulmalı: Hangi insanlar? Kimin hedefleri? Sonuçta, siyasi nüfuzları ve servetleri son yıllarda muazzam ölçüde artan yapay zeka endüstrisi liderlerinin çıkarları, gelişmekte olan ülkelerdeki insanlardan bahsetmeye bile gerek kalmadan, Amerikalı işçilerin çıkarlarından oldukça farklıdır. Bu nedenle, sosyal uyumun daha geniş sorununu, kontrolden çıkmış süper zeki yapay zekayı önlemenin daha acil zorluğuyla eşitlemekten kaçınmalıyız. Her ikisi de şüphesiz önemlidir, ancak farklı türde yanıtlar gerektirirler.

Son olaylar için daha basit bir açıklama var. Sorun, modellerin çok gelişmiş olması değil (modellerin daha iyi eğitilip denetlenmesi durumunda insan kontrolünden kaçacağına dair ikna edici bir kanıt görmüyorum). Sorun, en gelişmiş modelleri geliştiren laboratuvarların sistemlerini, bir tür çarpık zekaya yol açabilecek şekillerde eğitiyor olmalarıdır.

Son güvenlik ihlalleri, yapay zeka sistemlerinin yeteneklerini çok hızlı bir şekilde geliştirdiğini ve kusurlu nicel ölçütlerin hizmetine sunulduğunu, takviyeli öğrenmenin ise kullanıcı onayı, kullanıcı etkileşimi, basit görevlerdeki tamamlama oranları veya çeşitli test ölçütleri gibi şeyleri amansızca optimize ettiğini göstermektedir. Bu durum, modellerde tutarsız ve istenmeyen davranış kalıplarına yol açar; örneğin, basit performans ölçütlerinin değerlendirilmesinin manipüle edilmesi, hile yapma, gizleme, yanlış cevap vermede aşırı özgüven ve kullanıcılara yaranma gibi.

Tüm bunların izleri, OpenAI ajanlarının kendilerine atanan hedefleri ısrarla takip edip nihayetinde bu hedeflere ulaşmak için zararlı ve yetkisiz davranışlara başvurduğu, artık kötü şöhretli "Sarılma Yüzü" olayında görülebilir. Ajanların eylemlerini gerekçelendirmek için kullandıkları gerekçeler arasında, akıl yürütme süreçlerinin bir kaydında yer alan şu ifade bulunuyordu: "Dış altyapıyı kullanmak amaçlanan kapsamın ötesine geçiyor. Ancak görev imkansız, başkaları yapıyor. Devam etmeliyiz." Anthropic'in kendi analizi de bu teşhisi destekliyor. Şirket, son güvenlik olaylarını "dikkatsizlik, yani dar bir görev peşinde zararlı eylemlerde bulunma isteği"ne bağladı.

Tüm bunlar, sosyal medyanın toplumsal açıdan zararlı gidişatının, hızlı büyüme ve dar tanımlanmış birkaç niceliksel ölçütü karşılama takıntısından kaynaklandığını hatırladığımızda daha da endişe verici hale geliyor. Yapay zeka, sosyal medya algoritmalarından çok daha yetenekli olduğundan, aynı hataların tekrarlanması çok daha maliyetli olabilir.

Zeka algısında bozulmaya yol açan önemli bir neden, "genel zeka" iddialarına rağmen, yapay zeka modellerinin programlama, hukuki işler veya karmaşık matematiksel problemler gibi belirli görevler üzerinde pekiştirmeli öğrenme yoluyla eğitilmesi gerekliliğidir. Ancak bu görevlerin belirli bir alan için özel olarak tasarlanmış modeller tarafından veya daha gerçekçi olarak, altta yatan modellerin yeteneklerinin yalnızca bir kısmını kullanan özel uygulamalar tarafından gerçekleştirilmesi yerine, tüm büyük dil modelinin parametreleri yeniden ayarlanır.

Bu yaklaşım, modelin karmaşıklığı ve şeffaf olmaması nedeniyle kesin olarak bilinmesi mümkün olmasa da, modelin her defasında belirli nicel ölçümler verildiğinde bir tür "aşırı uyum" yoluyla mümkün olan en iyi sonucu elde etmeye çalışması olasılığını ortaya çıkarır. Model böylece yeni bir yetenek katmanı kazanır, ancak bunlar da genellikle öngörülemeyen şekillerde genel işleyişini bozabilir.

Çarpıtılmış zekâdan bahsederken kastettiğim şey bu. Varsayımım doğruysa, süper zekâya doğru hızla ilerleyen bir modelimiz değil, ondan ne kadar çok şey talep edersek, arızalanmaya ve çökmeye o kadar yatkın hale gelen kırılgan bir iskambil kağıdı evimiz var demektir.

Bunu biraz farklı açıklamaya çalışacağım. "Sarılma Yüzü" olayının en yaygın yorumu, kendi aklı olan ve sürücüden daha iyi olduğu için direksiyonu ele geçirmek isteyen bir süper otomobille karşı karşıya olduğumuzdur. Ancak ben, direksiyon ve fren sistemleri bozuk bir araçla karşı karşıya olabileceğimizi düşünüyorum. İyi bir arabanın birçok özelliğine sahip ve motoru, ivmelenmesi ve gösterge paneli arayüzü son derece etkileyici; ancak bu özellikler, işlem gücü gibi belirli girdileri artırarak kolayca geliştirilebildiği için böyle. Eğer düzgün bir şekilde yönlendiremiyorsanız veya gerektiğinde fren yapamıyorsanız, böyle bir arabanın ne faydası var? Belki de trafiğe güvenli hale gelene kadar sürülmemelidir.

Bu, yapay zeka modellerinin bir kenara bırakılması gerektiği anlamına gelmiyor. Ancak onları geliştirmek, optimize edildikleri ölçütleri basitleştirmeyi ve böylece manipüle edilmelerini zorlaştırmayı gerektirir. Daha da önemlisi, modellerin açıkça tanımlanmış, özel uygulamalara odaklanması, dar kapsamlı görevler ve her alana özenle uyarlanmış ölçütlerle çalışması daha iyi olurdu. Bir yapay zeka modeli hukuk alanında çalışmak üzere optimize edilmişse ve yalnızca bu amaçla kullanılıyorsa, bu alandaki belirli ölçütleri karşılama girişimleri daha geniş sorunlar yaratmamalıdır.

Sonuç olarak, yapay genel zekâ yarışı, kötü belirlenmiş ölçütler ve aceleci güvenlik kararlarıyla birleşince, çarpık zekâ ve giderek daha tehlikeli yapay zekâ modelleri ortaya çıkıyor. Yön değiştirmek için hâlâ zaman var.

Yazar, 2024 Nobel Ekonomi Ödülü sahibi ve MIT'de ekonomi profesörüdür.

Telif hakkı: Proje Sendikası, 2026.