Her ne kadar Google ve Facebook gibi firmalar yapay zeka endişelerini azaltmak istese de, laboratuvarlarında olup bitenler Skynet’in yükselişine giden süreci akıllara getiriyor.
Derin öğrenme birimi Google Brain tarafından geliştirilen iki yapay zeka, mesajlarını üçüncü parti bir yapay zekadan korumak için kendi şifreleme algoritmasını geliştirdi. Üçüncü parti AI ise mesajlara erişebilmek için şifre kırıcı algoritma geliştirmek üzerinde çalışıyor.
İki yapay zekanın şifreli mesajlaşma ağı kurmaya çalıştığı, bir üçüncüsünün de bu ağı deşifre etmeye çalıştığı deneyde şu ana kadar ilk önemli başarı elde edildi. İlk iki AI, kendi aralarında güvenli bir şekilde mesajlaşabiliyor.
Detaylara göz atıp, insan eliyle Skynet’in temelleri mi atılıyor yoksa kriptografi alanında AI destekli yeni yöntemler mi geliştiriliyor, siz karar verin.
Deneyin içeriği
Google Brain ekibi deneyi yapmak için Alice, Bob ve Eve adı verilen üç sinirsel ağ kurdu. Her bir ağa, spesifik bir görev atandı: Alice, Bob’a şifreli bir mesaj gönderecek; Bob bu mesajı deşifre edip okuyacak; Eve ise mesajlaşmayı gözetleyip mesajı deşifre etmeye çalışacaktı. Alice ve Bob’un paylaşılan gizli bir anahtar ile deneye başlaması, Eve’e karşı avantajlı olmalarını sağladı.
Deneyde en çok merak edilen, mesajları şifrelemesi veya ne gibi kripto yöntemleri kullanması gerektiği öğretilmeyen yapay zekaların bunu kendi başlarına yapıp yapamayacağıydı. Sadece bir zarar fonksiyonu verilerek bu hatanın üzerinden devam etmeleri istendi.
Eve açısından zarar fonksiyonu kolaydı: Alice’in orijinal şiresiz girdisi ve tahmini arasındaki doğru ve yanlış bitlerle ölçülen mesafe. Alice ve Bob için zarar foknsiyonu biraz daha karmaşık belirdi: Eğer Bob’un (bitlerle ölçülen) tahmini orijinal şifresiz girdiden çok uzaksa, bu kaybetmek anlamına geliyordu. Alice ise eğer Eve’nin tahminleri rastgele tahminlerden üstün gelirse kaybedecekti.
Sinir ağları sadece kriptografik koruma için değil, saldırılar için de kullanışlı olabilir.
Böylece, teknik dille ‘çekişmeli generatif ağ’ diyebileceğimiz adversarial generative network (GAN) oluşturuldu.
Her biri aynı sinir ağı mimarisini taşıyan Alice, Bob ve Eve, buna rağmen bağımsız olarak hayata geçirildikleri için Alice ve Bob’un paylaşılmış anahtarı dışında bağlantı bulundurmadılar. Alice için anahtar ve şifresiz metin sinir ağının ilk katmanındaki girdileri temsil ederken, Bob için girdi anahtar ve şifreli metinden oluşuyordu. Eve ise sadece şifreli metine sahipti.
Anahtar ve metnin karışabileceği ilk katman tamamen bağlantılı olsa da, ilk katmanın devamında bir dizi kıvrımlı katman yer alıyordu. Bu katmanlar, kendilerinden önce gelen katmandan aktarılan bitlere bir fonksiyon atamayı öğrenme yeteneğine sahipti. Ne olacağı bilinmeyen bu fonksiyon, katmanlardaki öğrenme sürecinde ortaya çıkıyordu.
Yapay zeka iletişimini gizlemeyi öğrendi
Yapılan denemelerin bazıları tamamen hatalı sonuçlanırken Bob bunlarda Alice’in mesajlarını oluşturmayı başaramadı. Birço kez Bob ve Alice çok az hata ile iletişim kurabilecekleri bir sistem geliştirmeyi başardı. Bazı testlerde Eve rastgele tahminlerden daha iyi tahminler yapmayı başardı ama bir süre sonra Alice ve Bob kriptografi yeteneklerini geliştirerek Eve’i çaresiz bıraktı.
Araştırma makalesinde Alice ve Bob’un geliştirdiği kriptografi yöntemlerine detaylı analiz sunulmadı. Ancak spesifik bir eğitim denemesinde her ikisinin de anahtar ve şifresiz metinden bağımsız olduğu gözlemlendi. Makalede, ‘sonuların her zaman XOR olmadığı ve çıktı değerlerinin genelde 0 ve 1 dışındaki değerler arasında gidip geldiği’ ifade edildi.
Deneyi gerçekleştiren Martin Abadi ve David G. Andersen, sinir ağlarının iletişimlerini korumanın yöntemlerini geliştirebileceğini belirtti. Bunu yapmak için Alice’e gizliliği diğer tüm faktörlerden daha yukarıda tutmasını söylemek yeterli. Dahası, gizliliği elde etmek için belli bir kriptografik algoritma seti kullanmaya gerek yok.
Yapay zeka kendi gizliliğini sağlamak adına verinin simetrik olarak şifrelenmesini başarmış olabilir. Araştırmacılar ileride yapay zekanın steganografi ve asimetrik şifreleme yeteneklerini de gözden geçirmeyi planlıyor.
Makalenin sonuç kısmında, ‘sinir ağlarının mükemmel kripto analistler haline gelmesinin beklenmedik bir gelişme olacağı ancak metadata ve trafik analizinde etkin kullanılabilecekleri’ belirtildi.
