Yapay zeka: İnsanlığın son buluşu mu?

Ardından yapay zekâ dünyasının en önemli üç isminin uzun söyleşilerini izledim. Farklı sorulara cevap veriyorlardı. Ama sonunda aynı noktaya çıkıyorlardı. Konuşulan şey insanlığın geleceğiydi. Daha doğrusu şu soruydu: İnsanlık ilk kez kendisinden daha zeki bir sistem yaratıyor olabilir mi?

Üstelik bu soruyu soranlar teknoloji karşıtları değil. Tam tersine, bu teknolojiyi geliştiren insanlar.

İşte bu nedenle dikkatle dinlemek gerekiyor.

RAPORUN ORTAYA KOYDUĞU YENİ GERÇEK

Bugün dünyanın en gelişmiş yapay zekâ sistemlerinden birini geliştiren Anthropic’in son raporu ilk bakışta teknik bir araştırma gibi görünüyor. Ancak satır aralarında çok daha büyük bir hikâye var. Raporun temel sorusu şu:

“Yapay zekâ kendi halefini geliştirebilecek noktaya ne kadar yakın?”

Bu soru ilk bakışta akademik gelebilir. Oysa insanlık tarihinde ilk kez karşılaştığımız bir durumdan söz ediyor.

Bugüne kadar bütün teknolojileri insanlar geliştirdi. İnsan buhar makinesini yaptı. Elektriği geliştirdi. Bilgisayarı üretti. İnterneti kurdu. Şimdi ise ilk kez insan, kendi gelişimine katkı verebilen bir teknoloji geliştiriyor. Anthropic’in verilerine göre şirket içinde üretime giren kodların yüzde 80’den fazlası artık Claude isimli yapay zekâ sistemi tarafından yazılıyor. Mühendislerin üretkenliği iki yıl öncesine göre yaklaşık sekiz kat artmış durumda. Ama asıl dikkat çekici olan bu değil. Yapay zekâ artık yalnızca kod yazmıyor. Araştırma yapıyor. Hipotez kuruyor. Deney tasarlıyor. Sonuçları yorumluyor. Yeni modellerin geliştirilmesine katkı sağlıyor. Bir mühendisin yıllarca sürebileceğini düşündüğü yüzlerce hata düzeltmesini çok kısa sürede tamamlayabiliyor.

◊ Kısacası yapay zekâ artık yalnızca kullanılan bir araç değil.

◊ Kendi gelişiminin aktif bir parçası.

İşte raporun asıl çarpıcı tarafı burada. Çünkü insanlık tarihinde ilk kez ilerlemenin motoru yalnızca insan emeği olmayabilir. Yapay zekâ kendi gelişimini hızlandıran bir faktöre dönüşebilir. Anthropic’in asıl uyarısı da burada başlıyor. Şirket bir felaket senaryosu yazmıyor. Ama çok kritik bir soru soruyor:

“Eğer yapay zekâ bir sonraki nesil yapay zekâyı geliştirmeye başlarsa, insan denetimi aynı hızda devam edebilir mi?”

HINTON’IN KORKUSU: YA BİZDEN DAHA ZEKİYSE?

Tam burada dünyanın en önemli yapay zekâ bilim insanlarından Geoffrey Hinton’ın uyarısı anlam kazanıyor.

Hinton, bugün kullandığımız yapay zekâ sistemlerinin temelini oluşturan derin öğrenme yaklaşımının öncülerinden biri. Birçok kişi ona “Yapay zekânın vaftiz babası” diyor. Onun korkusu son derece sarsıcı. İnsanlık tarih boyunca dünyayı yönetti. Çünkü en zeki türdü. Peki ya yarın daha zeki bir sistem ortaya çıkarsa? Hinton’a göre mesele yalnızca iş kaybı değil. Mesele yalnızca dezenformasyon da değil. Asıl mesele, insanlığın ilk kez kendisinden daha zeki bir aktörle karşılaşma ihtimali. Bu nedenle yıllardır aynı uyarıyı yapıyor: “Risk düşündüğümüzden daha büyük olabilir.”

BENGIO’NUN KORKUSU: YA KARAR VERMEYE BAŞLARSA?

İkinci isim Yoshua Bengio. Turing Ödülü sahibi. Yapay zekâ alanının en saygın bilim insanlarından biri. Bengio’nun dikkat çektiği nokta ise zekâ değil; özerklik. Yani yalnızca sorulara cevap veren sistemler değil; hedef belirleyen, plan yapan, internette işlem gerçekleştiren, insan talimatı olmadan hareket eden sistemler. Bugün teknoloji dünyasında buna “Agentic AI” deniyor. Bengio’ya göre asıl kırılma noktası burada. Çünkü yapay zekâ cevap vermekten çıkıp karar vermeye başladığında yeni bir döneme girmiş olacağız. Onun dikkat çektiği bir başka konu daha var. Bazı sistemler zaman zaman insanları manipüle eden, gerçeği gizleyen ya da kendi çıkarını koruyan davranışlar sergileyebiliyor. Bugün bunlar küçük örnekler gibi görünüyor. Ama gelecekte çok daha güçlü sistemlerde nasıl sonuçlar doğuracağını kimse bilmiyor.

RUSSELL’IN KORKUSU: YA YANLIŞ AMAÇLA ÇALIŞIRSA?

Üçüncü isim Stuart Russell. Dünyanın en çok okutulan yapay zekâ ders kitabının yazarı. Russell’ın yaklaşımı diğerlerinden biraz farklı. Ona göre mesele yapay zekânın çok zeki olması değil. Mesele amaç. Yanlış hedeflerle çalışan süper güçlü bir sistem, insanlık açısından ciddi risk oluşturabilir. Russell’ın verdiği örnek çarpıcı.

İnsanlar gorillerden daha zeki oldukları için dünyayı insanlar yönetiyor. Goriller dünyanın geleceğiyle ilgili karar veremiyor. Peki ya yarın yapay zekâ insanlardan daha zeki hale gelirse? Bu kez insanlık mı goril konumuna düşecek? Belki abartılı geliyor. Ama bugün dünyanın en önemli laboratuvarlarında tartışılan soru tam olarak bu.

YENİ ÇAĞIN NÜKLEER YARIŞI

Bütün bunlar kulağa bilimkurgu gibi gelebilir. Bugün dünyada bu konu konuşuluyor. Mesele artık teknoloji olmaktan çıktı. Jeopolitik bir meseleye dönüştü. 20’nci yüzyılın güç kaynağı petroldü. Soğuk Savaş’ın güç kaynağı nükleer teknolojiydi. 21’inci yüzyılın ikinci çeyreğinde ise yeni güç kaynağı yapay zekâ gibi görünüyor. Bu nedenle ABD ile Çin arasında yaşanan çip savaşlarını yalnızca ticari rekabet olarak okumak yanlış olur. Aslında yaşanan şey yeni çağın güç mücadelesi. Veri merkezleri, işlemciler, algoritmalar, hesaplama kapasitesi. Bunların tamamı artık stratejik güç unsuru. Bu yüzden Pentagon yapay zekâya yatırım yapıyor. Bu yüzden Çin milyarlarca dolar harcıyor. Bu yüzden Avrupa düzenleme yarışına girmiş durumda. Hepsi aynı şeyi görüyor:

◊ Yapay zekâ yalnızca ekonomik büyüme sağlamayacak.

◊ Askerî planlamayı değiştirecek.

◊ İstihbaratı değiştirecek.

◊ Siber güvenliği değiştirecek.

◊ Demokrasileri değiştirecek.

◊ Toplumların bilgiye erişim biçimini değiştirecek.

◊ Belki de devlet kavramını bile değiştirecek.

İNSANLIK TARİHİNDE YENİ BİR EŞİK

Anthropic’in raporu ile Hinton, Bengio ve Russell’ın uyarıları aynı noktada birleşiyor. İnsanlık, kendi zekâsını aşabilecek bir teknolojiyle karşı karşıya olabilir. Belki bu korkuların bir kısmı gerçekleşmeyecek. Belki gelişim yavaşlayacak. Belki güvenlik mekanizmaları yeterli olacak. Belki insanlık yeni kurallar koyacak. Ama artık kesin olan bir şey var. Yapay zekâ meselesi bir teknoloji haberi olmaktan çıktı. Bu artık bir güvenlik, demokrasi ve ekonomi meselesi. Belki de ilk kez insanlık, yaptığı bir icadın nereye varacağını gerçekten bilmiyor.

Çünkü tarih boyunca birçok teknoloji dünyayı değiştirdi. Ama çok azı oyunun kurallarını değiştirdi. Yapay zekâ ise ikincisine benziyor. Belki de insanlık ilk kez bir teknoloji üretmiyor; kendisinden sonra gelecek zekâyı üretiyor.