Zeynep Tüfekçi uyarıyor

Görselde diyor ki: “Sırf insanlar üzerine tıklasın diye bir distopya inşa ediyoruz.”
Bu iddia, ABD’de yaşayan İstanbul’lu sosyal bilimci Zeynep Tüfekçi’ye ait. Kuzey Carolina Üniversitesi’nde öğretim üyesi olan Tüfekçi, bir çok kereler TED Konferansları’na davet edildi. En sonuncusu TEDGlobal>NYC. Buradaki 22 dakikalık konuşmasından kısa bir alıntı:
 
“Ne zaman yapay zekadan söz edilse, hemen akla, insana benzeyen robotların saçmalamaya başlaması gelir. Aslında yapay zekanın tek başına bize ne yapacağı değil, iktidarı elinde tutan insanların bu yapay zekayı bizi kontrol ve yönlendirme için nasıl kullanacaklarından korkmamız gerekiyor. Bunu çünkü bazen gizlice, hissettirmeden ve beklenmedik biçimlerde yapacaklardır. Özgürlüğümüzü ve benliğimizi tehdit eden teknolojinin büyük kısmı yakın bir gelecekte, bize ait verileri ve bizim dikkatimizi reklamcılara satacak olan şirketler tarafından geliştiriliyor. Facebook, Google, Amazon, Alibaba, Tencent gibi.”
 
“Facebook sizin bütün durum yenileme bilgilerinize sahip. Hepsine. Messenger’dan yolladığınız bütün mesajlar, ceptele hangi adresten girdiniz çıktınız, yüklediğiniz bütün fotoğraflara. Hatta, yazmaya başladınız, vazgeçip sildiniz. O sildiğinizi bile saklar. Analiz eder.  Facebook, ayrıca veri simsarlarından veri de satın alır. Bu, sizin banka hesaplarınızdan, şimdiye kadar dolaştığınız sitelere kadar çok çeşitli olabilir. Bütün bu verileri analiz eden ‘öğrenen algoritmalar’ buradan elde ettikleri bilgiyi, başka insanlar için de geçerli hale getirir. Bizi burada ilgilendiren konu, bu karmaşık algoritmaların nasıl çalıştığı? Veriyi hangi kategoriye nasıl ve neden sokuyor, onu bilemiyoruz. Bu, sanki muazzam bir matris, binlerce sütunu, binlerce satırı var, belki milyonlarca. Programcılar da başka birisi de bu muazzam sistemin nasıl çalıştığını artık bilemiyor. Öyle ki gerçekten anlyamadığımız bir zeka üretir durumdayız.”
 
“Biz vatandaş olarak, herkesle birlikte aynı haberi mi alıyoruz, aynı bilgiyi mi alıyoruz, bunun artık bilmiyoruz. Böylece, yavaş yavaş kamusal boyutta müzakere imkansız hale gelmeye başlıyor… Ve bütün bu altyapıyı sırf insanlar reklamlara tıklasın diye yapıyorlar. Eğer otoriter bir yönetim bizi korkutmak istese, hepimiz korkarız. Durumu anlarız, biliriz. Ama eğer iktidar sahipleri bu algoritmaları bizi sessizce izlemek, bizim hakkımzıda hükme varmak, bizi ikna için kullanıyorsa, bunu kendi özel ekranlarımızdan, başkasına göstermeden yapıyorsa bu otoriterlik bizi bir örümceğin ağı gibi saracak ve bizim haberimiz bile olmayacaktır.”  
 
“Verimizin ve dikkatimizin, en yüksek fiyatı veren otoriter bir yapıya veya safsata üreten birine (demagog) satılmayacağı bir dijital ekonomimiz olmalı. Yapay zekanın potansiyelinin ve dijital teknolojinin çiçek gibi açmasını isteriz, ama aynı zamanda bu harika canavara karşı gözümüzü de açmamız gerekiyor. Hemen şimdi…”