Yapay zekanın etkilerini anlamak için yeni bir bilim dalı doğdu: Makine Davranışı
Yapay zeka algoritmaları ile ilgili iki büyük tehlike var. Birincisi, yapay zekayı sihirli değnek gibi görüp, algoritmaların çıktılarını mutlak doğru olarak kabullenmek. Bu tehlike, az bilgi ile moda kavramlar kullanarak konuşmanın serbest olduğu ülkemizde özellikle endişe verici. İkinci tehlike ise, kara kutu niteliğindeki YZ algoritmalarının barındırabileceği hatalar ve önyargılar. Bu tehlike karşısında, YZ’nin etik kullanımı ile ilgili duyarlılığın yoğun olduğu ülkelerde – ki maalesef ülkemiz bunlardan biri değil – kara kutu hakkında ne yapılabileceği üzerine çok sayıda çaba ve çalışma var.
Saygın Nature dergisinde 24 Nisan 2019’da yayımlanan 21 imzalı bir makalede (https://go.nature.com/2GZmAV7) ise farklı bir yaklaşım öneriliyor. Algoritmaların nasıl çalıştığını anlamak ve çıktılarının yaşamımızı nasıl etkileyeceğini belirlemek için o kara kutuların içine girmenin şart olmadığı iddia ediliyor. Makalenin yazarlarından, MIT Media Lab araştırmacısı Nick Obradovich şöyle diyor (http://bit.ly/2VeZioc): “Kara kutuları anlamaya yönelik bilimsel yöntemler zaten var; fakat, bugüne kadar bunlar canlı varlıkların (insanlar, hayvanlar, …) davranışlarını anlamak için kullanılıyordu. Bu yöntemlerden bazıları, kara kutu YZ sistemlerini anlamaya yönelik bir çalışmada kullanmak için geliştirilebilir.”
Akademisyenlerden ve iş dünyasından, farklı disiplinlerden oluşan bu 21 araştırmacı, yeni bir akademik disiplin öneriyor: Makine Davranışı. Biyolojik canlıları incelemekte kullanılan yaklaşımla, yani, ampirik gözlem ve deneyler içeren yöntemlerle YZ sistemlerini inceleyen bir bilim dalı tanımlıyorlar.
Makine davranış bilimcisini, sosyal bilimci ile paralel nitelikte düşünebiliriz. İkisi de bir varlığın – biyolojik veya yapay – kendi habitatında nasıl davrandığını ve diğer varlıklarla nasıl bir etkileşim içerisinde olduğunu anlamak üzerine çalışır.
YZ sistemlerinin kendi özgür iradeleriyle hareket etmediklerinin bilincindeyiz. Fakat, YZ sistemlerini sadece teknik mimarisi, performansı ve yeteneği ile değerlendirilen pasif teknolojik araç olarak görmemeliyiz. Bulunduğu ortamları, etrafındaki nesneleri, makineleri ve insanları etkileyip değiştirebilen sistemler olarak görmeliyiz. Nihayetinde, “hepimiz artık devasa bir makine-insan sisteminin parçası olduğumuzu kabullenip o sistemi anlamaya çalışmalıyız” diyor Obradovic.
