Son dönemlerde hayatımızda devrim niteliğinde değişikliklere sebep olacağı düşünülen yapay zekâ konusunu Türkiye’de bu alanda önde gelen isimlerden Prof. Dr. Cem Say ile konuştuk. Oldukça keyifli bir röportaj gerçekleştirdiğimiz Cem Say’a görüşme isteğimizi kabul ettiği için özel olarak teşekkür ediyoruz.
Bu özel röportajımızı sizlerle paylaşmadan evvel yakın geçmişte aramızdan ayrılan fizikçi Stephen Hawking’in bilim ve düşünceye ait bir sözünü paylaşmak istiyorum:
Biyolojik bir beyin ile bir bilgisayar tarafından yapılabilecekler arasında derin bir farklılık görmüyorum. Nihayetinde, bilgisayarlar teorik olarak insan zekasına erişebilir ve onu geçebilir.
Öncelikle biraz kendinizden bahseder misiniz? Hangi üniversitede, ne üzerine çalışıyorsunuz?
CS : Boğaziçi Üniversitesi Bilgisayar Mühendisliği mezunuyum. Mezun olduğum yerde doktora çalışmamı yaptım. Neredeyse kesintisiz bir şekilde 1992’deki mezuniyetimden beridir orada hocayım. Doktora araştırmamı yapay zekânın bir dalı üzerine yapmıştım, sonraki yıllarda ise yapay zekânın başka bir dalına geçtim. 2000 yılı civarında da kuramsal bilgisayar bilimi denen bilgisayar mühendisliğinin teorik çekirdeği diyebileceğimiz Alan Turing’in matematiksel buluşları üzerine kurulu bir alan var. Ona aşık oldum, yani o alana geçtim. Kendi doktora öğrencilerimin de hepsi kuramsal bilgisayar bilimi denen alan üzerinde çalışıyorlar.
Yapay zekâyı seçme nedeniniz neydi?
CS: Eski zamanlarda da şimdilerde olduğu gibi yapay zekâ rüzgarı esiyordu. Özellikle gençler ve bilimkurgu meraklıları arasında en havalı, en etkileyici isim oydu. Yani ismine kapıldık. Bir de o sırada bizim bölümde çok az hoca vardı, şimdiki gibi değil. Şimdi Türkiye’nin hatırı sayılır büyüklükte önemli bölümlerinden biri. Bizim zamanımızda bu alanda eğitim verene hocalar bir elin parmağını geçmiyordu. Doktora konusunda hocalarımız bizi yapay zekâ konusuna yönlendiriyordu. Bu konuya şans ile giriş yaptım diyebilirim. Sonrasında karakterime uygun bir problem seçtim kendime, uzun yıllar daha matematiksel bir bilmeceyi çözme gibi bir uğraş edindim. Ardından olaylar birbiri ardına gelişti.
Ay ve Mars’ın kolonileşmesi, gıda sorunun aşılması veya hastalıklara çare bulunması gibi hedefler arasında yapay zekânın sizce önümüzdeki 10 yılda en büyük katkısı ne olacak?
CS : Böyle gerçek dünya problemlerinde, “haydi yapay zekâyı çağıralım bir de ona soralım, o bilsin” gibi bir şey var halk arasında. Bir kez yapay zekâ geldi mi böyle akıl gerektiren işleri o çözebilir gibi bir inanış var. Bu olmaz demiyorum ama yapay zekânın bizim üretmekte olduğumuz, geliştirmekte olduğumuz, umduğumuz teknolojinin çok çok ileri bir aşamasına gelmesi gerekiyor.
Genel amaçlı “gel yavrucum sen derdini bana söyle ben de sana onun cevabını söyleyeyim” şeklinde ve böylesi esnek problemleri böylesine kıvrak bir şekilde anlayıp, modelleyip, insanların göremediği sonuçları üretecek bir sistemin gelişmesi birçok teknik aşamayı, örneğin birkaç Nobel Ödülünü, üst üste koyarak ancak varabileceğimiz bir noktadır. Bugün var olan yapay zekâ, bahsettiğim anlamda bir problemi ona verelim o baştan aşağı çözsün kapasitesinde değil, çok daha dar.
Belirli becerileri bilgisayara kazandırıp sonra o becerileri mümkünse insanlardan daha iyi ya da insanlarla karşılıklı etkileşim ile şu ana kadar alıştığımızdan daha yüksek performansta çözen alt sistemleri yapıyoruz. Mesela, “Ay’ı kolonileştirme problemini çöz!” demek zaten kötü tarif edilmiş bir problemdir. Yani, bunun için ne gerekiyor? Bir kere Dünya’da bir ekonomik seferberlik gerekiyor, bunun bir ekonomik mantığının olması ve o işe belli bir şekilde koyulduktan sonra onun için gereken bir sürü teknolojik incelik gerekiyor. Bu şekilde problemler kırıldıktan sonra başka mühendislik alanları ile birlikte tabii ki hem şimdi ki yapay zekâ tekniklerinin gerektirdiği tipten becerilere, hem de biraz daha yüksek genel zeka becerilerine ihtiyaç olacaktır. O yüzden problemi mümkün olduğu kadar moleküllerine ayırarak tarif edersek o zaman hangi bölümüne hangi teknoloji deva olur anlamamız daha sağlıklı olur.
Stephen Hawking: Yapay zeka 100 yıl içinde insanı geride bırakacak
Google’ın kendi şifreleme algoritmasını hazırlayan yapay zekâsından, Facebook’un beklenenden hızlı ilerleyince fişi çekilen yapay zekâ deneyine kadar, kapalı kapılar ardından birçok deneyin yaşandığını düşünüyoruz. Teknoloji firmaları hiçbir otorite tanımadan yaptıkları deneyler ile ne amaçlıyorlar ve bu nereye varabilir?
Öncelikle şu Facebook’un yapay zekâsı hikayesini bir düzeltelim. Facebook’un fiş çekme hikayesinin esası, insanlarla söyleşme yani chatbot gibi iletişim kuracak ve de pazarlık yeteneğine sahip bir bilgisayar sistemi geliştirmeye dayanıyor. Daha doğrusu bir takas problemi tarif ediyorlar: İşte masanın üstünde çeşitli objeler var, sen ve ben birbirimizle bunların bazıları benim bazıları senin ama tüm bu objeleri ikimiz farklı farklı değerlere atfediyoruz. Benim için kitaplar daha değerli senin için şapka daha değerli o yüzden takas yapıyoruz. Ben sana 1 tane kitap vereyim karşılığında sen bana 2 tane şapka ver gibi öneriler yapıyoruz.
İkimiz de fonksiyonlarına göre bunu kabul edebilir ya da etmeyebiliriz. Böyle bir şey kuruyorlar, problem ortaya koyuyorlar. Amaçları hem pazarlama becerisine sahip hem de doğal dil de pazarlık becerisine kullanan bir program geliştirmek. Bunu da benim gençliğimde uğraştığım babadan kalma teker teker hamleleri kodlama şekliyle değil, yapay öğrenme metoduyla yapmak istiyorlar. Bunun için Amazon’un “Mechanical Turk” denen bir servisi var, insanlara bazı işleri yaptırabiliyorsun. Mesela herkese 3-5 cent veriyorsun, dünyanın çeşitli yerlerinde insanlar senin istediğin bilgisayar işini yapıyorlar. Orada işte yüzlerce insana siz kendi aranızda böyle pazarlık edin diye görev dağıtıyorlar. Ellerinde çok sayıda İngilizce pazarlık metni biriktikten sonra yapay öğrenme programına bunu gösteriyorlar. “Bak, pazarlık böyle yapılır” diye ona pazarlık jargonunu öğretiyorlar. Bir yandan da kendi ayrı kodladıkları şeyler var, çünkü hepsi kendi şeyini maksimum yapmak istiyor.
Mesela bir pazarlık çok uzun sürerse (100 satır diyelim), kabul etmiyorlar. Sonra programın kendi kopyalarını kendi aralarında pazarlık ettirmeye başlıyorlar. Yüzlerce, binlerce defa. Bu, Go öğrenen program için kullanılana benzer bir teknik. Kendi kopyaları kendi aralarında yarışsınlar, hangisi öbürünü yendiyse onun yaptığı biraz iyi bir şey demektir. Bir sonrakine ona benzeyenler geçsin, tekrar yarışsınlar.
“Facebook’un deneyi kontrolden çıkmadı, mühendisler dil ayarını yaparken bir basamağı unuttuklarını fark etti.”
Böyle böyle, kendi kendiyle yarışarak sürekli iyileşen bir sistem geliştiriyorlar. Bir süre sonra sabah gelip baktıklarında bir de görüyorlar ki programın kopyaları kendi aralarında gayet güzel pazarlık ediyor ama İngilizceye benzemeyen bir dilde konuşuyorlar. Ne olduğunu inceliyorlar. Sonra fark ediyorlar ki “İngilizce gramerine de uy” demeyi unutmuşlar. Bu sistemin evrilmesi sırasında sadece iyi pazarlık eden, sohbetin sonunda kendi hedeflediği puanı daha yükselten programın genlerini bir sonraki nesle geçirmişler. Bu programlar da aslında aynı programın çocukları olarak bir sonraki nesle geçe geçe gittikleri için dildeki sapmaları ikisi de anlıyor. Yani, aynı dili konuşarak evriliyorlar. Ve o sırada dilde “ben sana 3 tane top vereyim” demek yerine “top ben ben ben” gibi ifadeler kullanıyor. Bu şekilde özelleştirince iki taraf da birbirine ne dediğini anlıyor ama dili normal insan kurallarından sapmış oluyor. “Ha!” diyorlar biz bunu unutmuşuz.
Bilgisayar geliştirirken bu insanın başına çok gelen bir şey. Dikkat etmezsen program senin beklemediğin bir şey yapabilir. Bu her programcının başına gelen bir şey. Onlar da anlıyorlar sistemi baştan kuruyorlar. Yani fişi çekip kırmızı alarm verip masanın altına falan saklanmıyorlar. Komik bir olay olarak hatta kendi daha sonra bu düzeltilmiş sistemi anlattıkları makalelerinde de kendileri bunu yazıyorlar.
Şimdi deney yapıyorlar mı? Yapıyorlar tabii. Bir şey geliştireceksen mecburen deney yapacaksın. Bu deneylerde ne çeviriyorlar, bizden gizli tutuyorlar mı? Muhakkak gizli tutuyorlardır çünkü aynı şekilde rakiplerinin yapmakta olduğu deneyi görmemeleri lazım. Herhangi bir yapay zekânın şu an arkamızdan iş çevirmesi pek gerçekçi bir durum değil ama genel olarak ürettikleri teknolojilerin, insanlık için ya da insanlığın belli kesimleri için iyi sonuçlar vermeme ihtimali var mı? Evet, var. Tüm teknolojik gelişmede olduğu gibi onu da bir zahmet bu işte görevli insanlar, devlet yetkileri, her devletin kendi askerleri, bürokratları vs. uyanık olup denetlesinler.
Google’ın yapay zekası kendi şifreleme algoritmasını hazırladı
Otonom savaş makineleri uluslararası kamuoyunda büyük tartışmalara yol açıyor. Yapay zekânın yöneteceği orduların önüne geçebilecek miyiz?
Bir kez daha, biz kimiz? Bu soruda ki önüne geçme görevi olan kişiler ya da mercihler kimler? Eğer “otonom savaş makineleri olmasın” diyen insanlar sadece böyle bir sivil toplum örgütünden ibaret ise ve onu üretmek isteyenler, devletin daha yüksek kademelerindeki kişiler ise o zaman muhtemelen önüne geçemeyiz.
Otonom savaş makinesi üretmenin, otonom savaş makinelerini askeri kuvvetlere dahil etmenin, hatta daha beteri bunların üretilip ondan sonra asker olsun olmasın parayı bastıran alsın kendi ordusunu kendi çetesini kursun diyebilmek gibi bu işlerin olmama ihtimali, eğer bunlar bir avantaj getiriyorsa (mesela silah sahibi olmak avantaj getiriyor) azalacaktır… O halde böyle bir tehlike ya da ihtimal söz konusudur.
“Geleceğin otonom ordularını gerçek kılabilecek en önemli unsur kar elde etme isteği.”
Bu gibi ihtimallere bir önceki soruya verdiğim cevaptaki gibi karşı uyanık olmak, bunların olumlu veya olumsuz sonuçlarını değerlendirmek, çok kötü bir fikir ise baştan bunu uluslararası bir anlaşmayla yasaklamaya çalışmak gerekir. Nitekim günümüzde topluca binlerce yapay zekâ araştırmacısının imzaladığı bir çağrı var birleşmiş milletlere. Nasıl bazı silahları yasakladınız bunu da yasaklayın, geliştirilmesini yasaklayın diyorlar. Yasaklamak bu konuda hamle yapacak kişilerin gerekli mercileri, otoriteleri etkileyebilmelerine bağlı bir durum.
Yani iyi bir fikir mi bence iyi bir fikir değil silah yapmak, genellikle silahla ilgili işlere ben kendim bulaşmıyorum ama bunu birileri yapar mı yapar. Çünkü, sonuçta karlı bir iş. Bunu yaparsan başkalarına karşı avantajın oluyor. Devletler zaten kendi başlarına böyle paranoyak olarak davranıp böyle bir silah olabiliyorsa o bende de olmalı gibi bir mantıkla yürüdükleri için, bu olabilir mi maalesef olabilir. Umarım olmaz.
BM giderek güçlenen otonom silahlara karşı önlem alınmasını istiyor
