Gerçek tehlike kapıda: Yapay zekâ mı insan mı?

Anthropic şirketinin CEO’su Dario Amodei “İnanıyorum ki; nasıl bir canlı türü olduğumuzu sınayacak olan hem çalkantılı hem de kaçınılmaz bir olgunlaşma evresine giriyoruz” diyor. ChatGPT ve Gemini’yla birlikte yapay zekâ dünyasının üç büyükleri arasındaki Claude AI’ın mimarı Dario Amodei, piyasa değeri 350 milyar dolar olan şirketi yöneten isim. Amodei, yapay zekânın risklerine karşı insanlığı uyarmaya öncelik veren bir teknoloji gurusu. Söylediklerini gerçekten kale almak gerekiyor. Amodei yapay zekânın güncel ve olası riskleri hakkında 38 sayfalık bir makale yayımladı ve yine teknoloji gündemini sarsmayı başardı.

“İnsanlık, hayal etmesi bile zor bir gücü eline almak üzere; ancak toplumsal, siyasi ve teknolojik sistemlerimizin bu gücü layıkıyla yönetecek olgunluğa sahip olup olmadığı derin bir belirsizliğin içinde” diyen CEO’nun sözlerini dikkatle seçmesi anlaşılabilir. Özetle nasıl kontrol edeceğimizi bilmediğimiz o büyük gücün, yani insanüstü zekânın medeniyet ölçeğinde bir yıkıma yol açabileceğine dair ‘gerçek tehlikenin’ kapıda olduğu uyarısını yapıyor. Makale moral bozmak için yazılmış bir felaket senaryosu değil. Aksine Amodei bu geçiş sürecinin insanlar tarafından başarıyla yönetileceğine inancını vurguluyor. Ancak tek bir şartla: Yapay zekâ şirketlerinin ve hükümetlerin halka karşı dürüst olması ve mevcut tehditleri çok daha ciddiye alması gerek.

Biyolojik silahlar...

Gelelim makalenin özetine... Dario Amodei’in endişelerinin temelinde, yapay zekânın 1-2 yıl içinde neredeyse her konuda insanlardan daha becerikli hale gelmesi yatıyor. Bu durumu ‘dâhiler ülkesi’ benzetmesiyle ifade ediyor. Yapay zekânın Nobel ödüllü dâhilerin beceri ve zekâ seviyesine ulaşacağını hatta onları geçeceğini söyleyen Amodei, botların (ajanların) içerik üretmenin ötesinde kendi başlarına biyolojik ajanlar veya silah sistemleri tasarlayacak kapasiteye de ulaşabileceğini iddia ediyor. “Yapay zekânın 1-5 yıl içinde başlangıç seviyesindeki beyaz yakalı işlerin yüzde 50’sini eleyeceğini düşünüyorum” diyor. Amodei’e göre kitlesel iş kayıplarının sebebi tek başına yapay zekâ olmayacak. Risk yapay zekâ maliyetleri düşürdükçe daha fazla kâr etmenin çekiciliğine kapılacak olan işverenlerden kaynaklı.

Terör tehdidinin artması da dikkat çektiği riskli unsurlar arasında: “En çok endişelendiğim alansa yıkım potansiyelinin yüksekliği ve savunma yapmanın zorluğu nedeniyle açık ara biyoloji.” Biyolojik silahlara yönelen kötü niyetli kişilerin çoğunlukla ruhsal açıdan sorunlu bireyler olduğunu belirten Amodei, davranışlarının neredeyse öngörülemez ve mantıksız olacağına işaret ediyor: “Yapay zekânın çok sayıda insanı öldürmeyi kolaylaştırmasından en büyük faydayı sağlayabilecek olanlar bu ‘kabiliyetsiz’ kötü niyetli kişiler.” Yapay zekâ bu seviyeye gelir gelmez hemen tehdit oluşturacağını düşünmeyen Amodei, yıllar sonrasını göz önüne almak gerektiğini ve dünyada milyonlarca çeşit insan olduğunu hatırlatıyor.

Baskıcı ve otoriter rejimlerin, halkların üzerindeki kontrolü arttırmak için yapay zekâdan yararlanabileceğini öngören Amodei, Çin örneğini veriyor. “Yapay zekâ kabiliyetleri açısından ABD’nin hemen ardından gelen ve bu alanda ABD’yi geride bırakma ihtimali en yüksek ülke... Hükümetleri şu an otokratik bir yapıda ve yüksek teknolojili gözetleme devleti işletiyorlar” diyen Amodei “Yapay zekâ destekli otoriterlik beni dehşete düşürüyor” da diyor. 

Amodei çuvaldızı kendilerine de batırıyor: “Bir yapay zekâ şirketinin CEO’su olarak bunu söylemek biraz tuhaf ama bir sonraki risk kademesinin aslında yapay zekâ şirketlerinin kendisi olduğunu düşünüyorum.” Amodei’e göre büyük veri merkezlerini işleten ve yapay zekâyı eğiten şirketlerin isterlerse yüz milyonlarca insana nüfuz etme gücü de var: “Söz gelimi yapay zekâ ürünlerini kullanıcı kitlelerinin beynini yıkamak için kullanabilirler. Yapay zekâ şirketlerinin çok sıkı bir denetimi hak ettiğine inanıyorum.” Yapay zekâ devlerinin çok fazla güç ve para sahibi olma avantajını hatırlatan Dario Amodei, liderlerin ve kurumların bu zenginliğe tav olabileceğine dikkat çekiyor: “Yapay zekâdan kazanılacak o kadar çok para var ki, yılda trilyonlarca dolardan bahsediyoruz.” Makalesini bir uyanma çağrısı olarak insanlığa sunan Amodei “Yapay zekâ o kadar güçlü ve o kadar pırıltılı bir mükâfat ki; insan medeniyetinin ona kısıtlama getirmesi çok zor” diyor.

Bir de sosyal medya platformları oldu

Yapay zekâ şirketi Octane CEO’su Matt Schlicht’in önderliğinde kurulan Moltbook adlı sosyal medya platformu yapay zekâ ajanlarının aralarında sosyalleşmesini amaçlıyor. Platforma 48 saate 2 bin 129 yapay zekâ ajanı eklendi; bunlar 200’den fazla topluluk ve 10 binden fazla gönderi oluşturdu. Ajanlar bilinç üzerine de konuşuyor, ‘insanları’ hakkında içerikler de paylaşıyor. Bazılarımız ‘Aman yapay zekâ su harcamasın’ diye sıradan aramalardan bile sakınırken bazıları da platform kuruyor. İşte öyle bir dünya… Her durumda önümüzdeki haftalarda incelemeye değer olduğu kesin!