Yapay Zekâdan Neden Korkuyoruz?

Gece. Telefon elimizde. Parmağımız ekranda kayarken bir başlık takılıyor gözümüze: "Yapay zekâ artık bunu da yapıyor." İçimizde, adını koyamadığımız küçük bir ürperti. Sevinçle korkunun arasında bir yerde duran, tuhaf bir his.

Bu hissi bir kenara yazalım, çünkü o ürperti boş değil. Bir şey söylüyor bize. Ama söylediği şey, sandığımız şey değil.

Korktuğumuz ilk alet bu değil

İnsanlık her yeni aletinden korktu. Matbaa çıktığında, "artık kimse ezberlemez, hafıza ölür" dediler. Tren ilk kez raylara vurduğunda, "bu hızda insanın nefesi durur" diye yazdılar gazeteler. Elektrik eve girdiğinde, karanlığı yenmenin bir bedeli olacağından korkuldu.

Korktuk, korktuk; sonra her birini elimizin bir uzantısı yaptık. Matbaa hafızayı öldürmedi, bilgiyi çoğalttı. Tren nefesimizi kesmedi, dünyayı küçülttü. Bugün hiçbirimiz bu aletlerden korkmuyoruz; çoğumuz onlarsız bir hayat bile düşünemiyoruz.

O halde yapay zekâ da bunlardan biri mi, sıradan bir korku mu? Hayır. Bu seferki farklı. Ve farkın nerede olduğunu görmeden, korkumuzun ne söylediğini de anlayamayız.

İlk defa bize benzeyen bir şeyden korkuyoruz

Matbaa yazıyordu ama düşünmüyordu. Tren koşuyordu ama konuşmuyordu. Hiçbiri bize benzemiyordu. Onlardan korkmak, güçlü bir aletten korkmaktı sadece.

Ama bu sefer karşımızda duran şey yazıyor, çiziyor, konuşuyor, hatta "düşünüyor" gibi görünüyor. Yani insanı insan yaptığını sandığımız şeyleri yapıyor. İşte ürpertinin asıl kaynağı bu: ilk kez, bize benzeyen bir şeyle karşı karşıyayız.

Ve insan, en çok kendine benzeyen şeyden korkar. Çünkü o şey, ona bir ayna tutar.

Bir makine senin yazdığından daha güzel bir şiir yazınca içine düşen o burukluk, aslında makine hakkında değil. Senin hakkında. Sessizce şunu soruyor: "Eğer bunu o da yapabiliyorsa, beni ben yapan neydi?"

Asıl soru makine değil, biz

Buraya kadar geldiysek, korkuyu bir kenara bırakıp o sorunun üstüne eğilelim: Beni ben yapan ne?

Yıllardır kendimize verdiğimiz cevap şuydu: Ürettiğim şey. İşim, eserim, başarım, ne kadar üretebildiğim. Kıymetimizi, ortaya koyduğumuz şeyle ölçmeyi öğrendik. Ne kadar çok, ne kadar hızlı, ne kadar parlak.

Eğer insanın değeri gerçekten bundan ibaretse, yapay zekâdan korkmakta haklıyız. Çünkü o daha çok, daha hızlı, çoğu zaman daha parlak üretiyor. Bu yarışı kaybediyoruz.

Ama ya bu ölçü baştan yanlışsa?

Bir annenin çocuğuna söylediği ninni, en güzel ninni olduğu için değil, onun sesi olduğu için kıymetlidir. Bir babanın elindeki nasırlar, en verimli emek olduğu için değil, bir ömrün karşılığı olduğu için anlamlıdır. İnsanın kıymeti, ürettiğinin mükemmelliğinde değil; o üretimin içine kattığı candadır, niyettedir, derttedir.

Makine bir şiir yazabilir. Ama o şiiri yazarken hiçbir şey hissetmez. Bir ayrılığın acısını taşımaz, bir sabahın umudunu duymaz, yazdığına ne sevinir ne ağlar. Mükemmel cümleyi kurar ve hemen unutur. Çünkü onun için o cümle bir anlam değil, bir sonuçtur.

İşte burada duralım. Çünkü belki de korkumuz, bu farkı unutmuş olmamızdan geliyor.

Bahar gelince ağaç çiçek açar; ne çiçeğiyle övünür, ne kıymetini bilir. Onu seyreden insan, "ne güzel" der ve kendi içine döner. Belki de makine o çiçektir: güzeldir, ama güzelliğinin farkında değildir. Farkında olan, hep insandır. Asıl mucize, çiçeği açan dal değil; o dala bakıp anlam çıkaran gözdür.

Korkma, hatırla

Yapay zekâdan korkmak, aslında kendi değerimizi unutmuş olmanın itirafıdır. Kendimizi yıllarca bir üretim makinesine indirgedik; şimdi daha iyi bir üretim makinesi çıkınca telaşa kapıldık.

Oysa makine korkamaz. Umut edemez. Bir hatasından pişman olup yeniden başlayamaz. Sevemez. Bir başkasının yükünü, sırf gönlü öyle istedi diye omuzlayamaz. Bütün bunlar — korkun, umudun, pişmanlığın, sevginin — makinenin asla giremeyeceği o iç odadır. Ve seni sen yapan, hep o oda oldu; ürettiğin şey değil.

O halde o gece, telefon elimizde, başlığı okuyup ürperdiğimizde, kendimize şunu hatırlatalım: Bu alet de ehlileşecek, tıpkı matbaa gibi, tren gibi. Korkulacak olan makine değil. Korkulacak olan, onun karşısında kendi değerini unutan, kendini ona benzeten insandır.

Makineye benzemekten kork. Makineden değil.