Belçika'da son zamanlarda yapay zekânın kullanımıyla ilgili bir tartışma başladı. Gent Üniversitesi Rektörü Petra de Suter, geçen Eylül ayında akademik yıl için yaptığı mezuniyet konuşmasını yazmak için yapay zekâ kullandı, ancak metinde hatalar ve iki uydurma alıntı bulunuyor; Belçika kamu yayın kuruluşu RTBF'nin bildirdiğine göre bu durum "halüsinasyon" olarak biliniyor.
Petra de Suter'e göre, Albert Einstein'ın "Dogma, ilerlemenin düşmanıdır" dediği iddia ediliyor. Ancak bilim insanı bu sözü aslında hiç söylemedi. Bu nedenle, yapay zekanın doğruymuş gibi sunduğu bir halüsinasyon, yanlış bir bilgidir.
ChatGPT kullanarak bir konuşma yazdığınızı hayal edin. Albert Einstein'ın ilerleme konusundaki sözlerinden bir alıntı eklemesini istiyorsunuz. İki senaryo mümkün: ya size gerçek bir alıntı verir ya da akla yatkın bir alıntı, yani Einstein'ın söylemediği ama söylemiş olabileceği bir şey üretir.
Belçika'daki bir üniversitede yapay zeka laboratuvarının direktörü ve profesörü olan Ig Bersini, bu fenomeni açıkladı.
"Yapay zeka, Einstein'ın sözlerini birleştirerek anlamlı yeni bir söz oluşturdu. İstatistiksel olarak, Einstein bunu söylemiş olabilir. ChatGPT, sıklıkla birlikte anılan kelimeleri bir araya getiriyor. Ancak elbette bu söz sahte çünkü Einstein bunu asla söylemedi," dedi Bersini.
Bir alıntının anlamlı olduğunu söylediğimizde, bunun istatistiksel bir kurgu olduğunu kastediyoruz. Bir kişinin alıntısının parçası olan farklı kelimeleri bir araya getirir, ancak bu kelimelerin sırası mevcut değildir. Einstein asla "Dogma, ilerlemenin düşmanıdır" demedi.
Igo Bersini'ye göre, alıntılar söz konusu olduğunda bu ölümcül bir hatadır.
"Bu, kesinlikle kontrol edilmesi gereken bir şey. Ve eğer bir üniversitenin rektörüyseniz, bilgiyle ilgili belirli bir etik kurallarına uymak zorundasınız ve alıntılar söz konusu olduğunda, bunların doğruluğunu mutlaka kontrol etmelisiniz," çünkü bir arama motorunda birkaç tıklama bir hatayı kanıtlamak için yeterli.
Yapay zeka devleri bu halüsinasyonları azaltmaya çalışıyor.
Bazı bölgelerde neredeyse hiç bulunmuyorlar.
"Programlama ve matematik gibi daha az kelime kullanılan alanlarda, kelime dağarcığı daha sınırlı olduğundan yapay zekâ çok iyi çalışıyor. Ancak romanlarda, denemelerde, felsefi metinlerde veya konuşmalarda kullanıldığında durum daha karmaşıklaşıyor. Kelimeler daha çeşitli ve birden fazla anlama gelebiliyor," diyen Bersini, bu alanlarda ekstra dikkatli olunması gerektiğini de sözlerine ekledi.
Petra de Suter'in talihsiz deneyimi bir hatırlatma niteliğindedir.
Yapay zekâ bizi aldatabilir. Ayrıca kendisine verilen tüm metinleri özümseyerek hatalar da yapar. Bu, insan doğasında da mevcuttur. Ancak insanlar, yapay zekânın aksine, doğru ve yalan kavramını anlarlar. Yapay zekâ kaynaklarını kontrol etmez.
Bersini, "Dolayısıyla, topladığınız bilgileri dikkatlice işlemek ve her zaman eleştirel düşünme yeteneğinizi kullanmak size kalmış," diye ekledi.
Bonus videosu:
