Robot etiği ve üç robot yasası

Yunanca’da karakter anlamına gelen ethos kelimesinden türeyen etik, felsefenin ahlaki değerlerle ilgili alt alanıdır ve yazılı olmayan ilkelere dayanır. Günümüzde robotik ve yapay zeka alanında yaşanan gelişmeler ise roboethics yani ‘robot etiği’ denilen yeni bir alanın oluşmasını sağladı.

Bilim kurgu yazarı Isaac Asimov 1940'lı yıllarda yayımlanan Durağan Döngü isimli hikayesinde, robotların ahlaki değerlerine değinmişti. Asimov tarafından belirlenen üç robot yasası ise şu şekildeydi:

1)Robotlar, insanlara zarar veremez ya da eylemsiz kalarak onlara zarar gelmesine göz yumamaz.

2) Robotlar, Birinci Kanun’la çakışmadığı sürece insanlar tarafından verilen emirlere itaat etmek zorundadır.

3) Robotlar, Birinci ya da İkinci Kanun’la çakışmadığı sürece kendi varlıklarını korumak zorundadır.

Asimov’un bu üç robot yasası, günümüz robot etiğinin temelini oluşturmaktadır. Robot etiğinin amacı ise yapay zekaya sahip makinelerin, insan güvenliğini kendilerine verilen görevlerin üzerinde görmesi ve buna uygun şekilde davranmasını sağlamaktır. Robot etiği, özerk bir sistemin insanlara zarar vermesinin önüne geçilmesi, zarar verdiği durumda ise kimlerin sorumlu olacağı üzerine yoğunlaşmaktadır.

Yapay zekaya sahip hizmet robotları genel olarak felsefeciler ve robotik bilimciler için faydalı görünse de bu durum savaş robotları için geçerli değil. 

IEEE Robotics and Automation Dergisi’nde yayımlanan In The Ethical Landscape of Robotics isimli bir makalede Noel Shanky, “robotların bilişsel yeteneklerinin insanlarınkine uymadığını ve dolayısıyla ölümcül robotların insanlardan daha kolay hatalar yapabildikleri için etik olmadığını” iddia ediyor. Ronald Arkin ise “insansız bir sistemin savaş alanında mükemmel davranamayacağını, buna rağmen insanlara göre daha etik olabileceğini” söylüyor.

Savaş robotları yeni bir teknoloji değil

Geçmişteki savaşlara baktığımızda, savaş robotlarının yeni bir teknoloji olmadığını görüyoruz. Bu robotların geçmişi İkinci Dünya Savaşı ve Soğuk Savaş'a kadar uzanıyor. Almanya’nın uzaktan kontrol edilebilen Goliath paletli mayınları, Sovyetler Birliği'nin 1930’lardaki uzaktan kumandalı insansız tankı, ilk savaş robotlarına örnek gösterilebilir.

Askeri robotlar bir silahı ateşlemek için kullanılabileceği gibi yaralı askerleri taşımak veya mayınları tespit etmek savunma ve koruma amacıyla da kullanılabilir. Bunun için robot etiğinin sınırlarının net bir şekilde çizilmesi ve etik kurallarının uygulanması gerekiyor.

Gelecekte robotlara ne tür bir robot etiği yazılımı gömülecek ve bunlara kim karar verecek sorusu, robotik alanındaki çalışmalarda en önemli sorulardan biri olarak yer alıyor. Ancak Asimov’un Üç Robot Yasası’nın insanları öldürmek için tasarlanmış robotlara uygulanamayacağı kesin diyebiliriz.

Burak Kesayak
Twitter: @BurakKesayak