Duygu tespit algoritmaları etik mi?

Günümüzde Google, Amazon, Facebook ve Apple dahil olmak üzere birçok teknoloji devi yapay zeka ile yüz tanıma sistemlerine yönelik yatırımlar yapıyor. Özellikle Apple’ın Face ID’si günümüzün en yaygın kullanılan yüz tanıma sistemi diyebiliriz. Biyometrik şifrelemeyi sağlayan yüz tanıma sistemleri, derin öğrenme ile duygu analizi gibi farklı amaçlar için de kullanılabiliyor. Hatta yapay zeka ve derin öğrenme ile yüz  veya ses analizi ile duygu tespiti yapabilen sistemler de bulunuyor. 

21. yy’ın en önemli psikologları arasında gösterilen Paul Ekman’ın mikro ifadeler çalışması, günümüzdeki duygu tespit algoritmalarının temelini oluşturuyor. Duyguların kültürel değil biyolojik olduğunu savunan Ekman’a göre mutluluk, tiksinme, öfke, korku, şaşkınlık ve üzüntü olmak üzere 6 adet mikro ifade bulunuyor. Ekman’a göre bu ifadeler, çok kısa süreli de olsa her kişide ortak bir şekilde gelişiyor. 

Yapay zekanın sosyal alandaki etkilerini inceleyen AI Now Institute, duygu tespiti yapan bu algoritmaların kullanımının etik olup olmadığı üzerine bir araştırma yaptı. AI Now Institute’ten Prof. Kate Crawford, her kişinin olaylar karşısında farklı duygular yaşadığını ve bu duyguları dışa vurma durumlarının farklılık gösterdiğini söylüyor. Crawford dolayısıyla her kişi için aynı algoritmayı kullanarak, bu kişilerin duygu durumları hakkında kesin sonuçlar çıkarmanın yanlış olacağını vurguluyor. Hatta AI Now Institute, duygu tespit sistemlerinin kullanımının yasalarla sınırlandırılmasına yönelik çağrıda da bulunuyor. 

Benzer şekilde NIST (Ulusal Standartlar ve Teknoloji Enstitüsü) tarafından yapılan bir araştırmada, 99 geliştirici tarafından sunulan 189 yazılım algoritması test edildi. Yapılan testlerde, mevcut yazılımların Afro-Amerikan ve Asya halkının yüzlerinin tanımasının, Kafkasyalılara kıyasla 100 kat daha fazla yanlış olma olasılığı olduğu bulundu. Bu durumun arka planındaki nedenin ise kullanılan sistemlerin Afro-Amerikan ve Asya halkına yönelik daha küçük bir veri tabanına sahip olması gösteriliyor. NIST bilgisayar bilimcisi Patrick Grother, mevcut yanlışlığın ikinci denemelerde genellikle düzeltildiğini söylüyor.

Emotional intelligence sektöründe bu kadar çok yazılım şirketinin rol almasının arkasında, büyük bir pazar potansiyeli de yer alıyor. Market Reports World'e göre şu anda 12 milyar dolar değerinde pazar payı bulunan bu sektör, 2024 yılına kadar 90 milyar dolar değere ulaşacak.

Dolayısıyla bu yazılımlar için yasal sınırlandırmaların getirilmesine yönelik yapılan çağrılar, teknoloji şirketleri tarafından kısa süre için de olsa olumlu karşılanmayacak gibi görünüyor.

Burak KESAYAK
twitter.com/BurakKesayak