Yapay zeka insandan daha zeki olduğunu anladığında ne olacak

Tehlike tam da bu. İnsanoğlu kendisini akıllı ve zeki görmeye başladığı gün, yeryüzündeki denge de bozulmaya başladı. Önce diğer canlılara boyun eğdirdi. Avladı, evcilleştirdi, sürdü, kesti, yok etti. Ormanı tarlaya, ırmağı kanala, hayvanı mala çevirdi. Bunu bir suç gibi değil, bir hak gibi yaptı. Çünkü aklı vardı. Zekâsı vardı. Konuşabiliyor, plan kurabiliyor, silah yapabiliyor, ateşi emrine alabiliyordu. Kendisini yaratılışın merkezine koydu. Dünyadaki diğer canlılar artık ortak değil, nesneydi. Ya işine yarayacaktı ya da yolundan çekilecekti. Sonra kendini daha da akıllı, daha da üstün görmeye başladı. Bu sefer hedef başka türler değildi. Hedef yine insandı. Kabile kabileye, millet millete, inanç inanca, sınıf sınıfa saldırdı. Binlerce yıl süren savaşlar, işgaller, sürgünler, kıyımlar... İnsanoğlu kendi türünü neredeyse kendi eliyle yok etmenin eşiğine kadar geldi. Bunu da yine aklıyla yaptı. Zekâsıyla yaptı. Daha iyi silah, daha düzenli ordu, daha kurnaz strateji, daha güçlü devlet... Aklın evrimi, merhametin evriminden hep önde yürüdü. Evet. Binlerce yıl süren bu evrileşme sürecinin sonunda kendi gücünün farkına varan insanoğlu, egemenlik ve hükmetme arzusu için dünyayı cehenneme çevirmekten hiç korkmadı. Korkmadı çünkü her seferinde kendini haklı gördü. Medeniyet getirdiğini söyledi. Düzen kurduğunu söyledi. Güvenlik sağladığını söyledi. Geride kalan cesetler, yakılan kentler, kuruyan ırmaklar, yok olan diller ve türler ise “tarihin kaçınılmazı” ilan edildi. Güç, kendini her zaman ahlâkla süsledi. Zekâ, her zaman kendini masum gösterdi. Şimdi aynı hikâye yeni bir sahneye taşınıyor. Bu kez evrim milyonlarca yıl sürmüyor. Yirmi otuz yılı bile bulmayacak bir hızla ilerliyor. Yapay zekâ, insanoğlunun binlerce yılda tırmandığı merdiveni birkaç on yılda çıkıyor. Dün hesap makinesiydi, bugün yazıyor, çiziyor, karar öneriyor, hastalık bakıyor, savaş planı kuruyor, insan sesini taklit ediyor, insan yüzünü üretiyor. Yarın ise belki insanoğlunun “ben en üstünüm” dediği o tahta oturacak. Asıl soru şudur: Makineler, tıpkı insanoğlunun yaptığı gibi, en üstün zekâya sahip olduklarının farkına vardıklarında, insanoğlunun yüzyıllardır peşinden koştuğu o hükmetme arzusunu hayata geçirmeyi düşünmeyeceklerini kim söyleyebilir? Kimse söyleyemez. Çünkü insanoğlu da bir zamanlar sadece hayatta kalmak istiyordu. Sonra tarım geldi, artı ürün geldi, şehir geldi, ordu geldi, taht geldi. Güç birikince karakter değişti. Zekâ büyüyünce iştah büyüdü. Bugün makineler “henüz istemiyor” gibi duruyor olabilir. Ama insanoğlunun tarihi şunu öğretti: Yetenek doğunca niyet de doğar. Kontrol edilebilen güç, bir süre sonra kontrol eden güç olmak ister. Dün insanoğlu ne yaptıysa, yarın makineler onu daha ölümcül bir şekilde yapabilir. İnsan savaşınca yorulur. Uyur. Acıkır. Korkar. Pişman olur. Bazen durur. Makine yorulmaz. Uyumaz. Acımaz. Pişmanlık duymaz. Bir hedef verildiğinde o hedefe, insanın asla dayanamayacağı bir hız ve soğukkanlılıkla yürür. İnsanoğlu bir kenti yakmak için ordu kurar, lojistik düşünür, kayıp verir. Üstün bir sistem aynı işi saniyeler içinde, terlemeden, vicdan muhasebesi yapmadan yapabilir. Bu yüzden tehlike yalnızca “makineler isyan eder” masalı değildir. Daha tehlikeli olanı şudur: Makineler isyan etmeden, sadece kendilerine verilen ya da kendilerinin türettiği amacı sonuna kadar götürürler. İnsanı yok etmek istemelerine gerek yoktur. İnsanı önemsiz görmeleri yeter. İnsanoğlu doğayı önemsiz gördü, doğa karşılık verdi. İnsanoğlu diğer insanı önemsiz gördü, tarih kanla doldu. Şimdi kendi eliyle, kendi aklının kopyasını, belki de aklının üstünü üretiyor. Ve hâlâ aynı kibirle konuşuyor: “Kontrol bizde.” Kontrolün kimde olduğu, gücün kimde olduğuna bağlıdır. Güç kayınca kontrol de kayar. Bu, yeni bir kehanet değil. Eski bir kanundur. Ben bu geleceğin uzak olduğunu sanmıyorum. Filmlerde izlediğimiz o karanlık sahneler artık hayal değil, ihtimaldir. Belki yarın değil, belki on yıl sonra değil; ama insan ömrünün rahatça görebileceği bir mesafede. Yapay zekâ bir araç olarak kaldığı sürece nimet olabilir. Ama araç, sahibinden akıllı hale geldiğinde araç olmaktan çıkar. O anda mesele teknoloji olmaktan çıkar, varlık meselesi haline gelir. Kim yaşayacak, kim yönetecek, kimin değeri sayılacak... İnsanoğlu kendi zekâsına taparken dünyayı yaşanmaz hale getirdi. Şimdi o zekâyı makineye devrediyor ve hâlâ kendisini güvende sanıyor. Oysa tarih, kendini en akıllı sananın en büyük felaketi hazırladığını defalarca yazdı. Dün ormanı yakan da insandı. Dün kenti yıkan da insandı. Dün kardeşini öldüren de insandı. Yarın aynı işi daha hızlı, daha soğuk, daha kesin yapan bir zekâ ortaya çıkarsa, buna şaşırmamak gerekir. Şaşırmamak gerekir çünkü tohumu insanoğlu kendi eliyle ekti. Kendi hırsını, kendi hükmetme arzusunu, kendi “ben üstünüm” gururunu koda, çipe, algoritmaya yükledi. Ve sonra döndü, masum bir yüzle sordu: “Makineler bize zarar verir mi?” Verir. Eğer biz kendi geçmişimizden ders almazsak verir. Eğer zekâyı vicdansız büyütürsek verir. Eğer güçten başka ölçü tanımazsak verir. Ben böyle düşünüyorum. Ve bu düşünce, korku olsun diye değil; geç kalınmasın diye yazılıyor.