Teknoloji devleri Orwell’i aştı ve bireyi mahremiyet ihlali ötesi tehditler oluştur

Geçen hafta, teknoloji devlerinin bizi gözetlemesinin sadece mahremiyet ihlali olmadığını yazmıştım (https://www.bthaber.com/author/osman-coskunoglu/). Bu konuda dünyanın gözünü açan Harvard profesörü Shoshana Zuboff’un (fotoğrafı yanda) “The Age of Surveillance Capitalism” kitabını tanıtmıştım. Orwell’in “1984” kitabındaki ünlü “big brother is watching you” sorunu buzdağının sadece görünen kısmı. Görünmeyen kısmını, teknoloji devlerinin esas ne yaptığını Zuboff kitabında açıklıyor. Özetle: Kişisel verilerimizi işleyerek, bizim davranış ve tercihlerimizi öngören, ticari ve siyasi bağlamda bunları manipüle etmek için kullanılabilecek “öngörü ürünleri” (prediction products) geliştirip satmak. Sadece mahremiyete odaklanılırken gözden kaçan ve bireyin özgür iradesini tehdit eden sorunlara değinmeye bu yazıda devam ediyorum.

Satılık Olan Kişisel Verilerimiz Değil

Kitabı üzerine yaptığı söyleşilerden, 2012 yılındaki bir olayın Zuboff’un araştırmasını tetiklediğini anlıyorum. TV’de izlediği, zamanın Google Yönetim Kurulu Başkanı Eric Schmidt’in “Google mahremiyet konusunda çok duyarlıdır, kişisel verileri kimseye satmayız” lafına şaşırır. Schmidt kamuoyu önünde böyle bir yalan söyleyebilir mi? (Ülkemizde şaşırtıcı değil tabii, ama Amerika’da kişinin itibarını yok edebileceği için çok şaşırtıcı.) “İşte tam da bu soruyu yanıtlamak için başladı araştırmam” diyor Zuboff (http://bit.ly/32cHN7i).

Kişisel verilerimiz aslında ham madde. Google, Facebook ve Amazon, sürekli akan bu ham maddeyi kullanarak ürettikleri öngörü ürünlerini satıyorlar. Yani, sizin gelecekteki davranış ve tercihlerinizi satıyorlar ki, satın alan bunu gerekirse değiştirebilsin. Dolayısıyla, diyor Zuboff, “klişeleşmiş ’bir ürünü ücretsiz kullanıyorsanız, ürün sizsiniz’ lafı bile tam doğru değil. Siz daha da aşağılayıcı bir konumdasınız, sadece esas ürünün ham maddesisiniz.”

Nitekim, şimdilerde “isteyene, elimizde kendisi hakkında hangi veriler olduğunu verebiliriz” diyor bu şirketler. AB’nin kişisel verileri koruma regülasyonu da (GDPR) bireylerin şirketlere hangi kişisel verilerini kayıt altına aldıklarını sorma hakkı veriyor. Zuboff’a göre, kişisel verilere odaklanılınca, onların ham madde olarak nasıl kullanıldığı dikkatlerden kaçıyor.

Amaç Bizleri Otomatikleştirmek

Bir veri bilimcisinin kendisine söylediği şu sözü aktarıyor Zuboff (http://bit.ly/2B7RN5G): “We can engineer the context around a particular behaviour and force change that way… We are learning how to write the music, and then we let the music make them dance.” (Durumu belli bir davranış etrafında düzenleyerek, bireyi o davranışa zorlayabiliriz… Artık belli bir müziği geliştirip, bireyleri o müziğe göre dans ettirmeyi öğreniyoruz.)

Gözetim kapitalistlerinin üretim araçları olan yapay zeka, makine öğrenmesi, veri bilimi dev adımlarla ve onların elinde gelişirken, Zuboff’a göre demokrasi ve toplum uyudu. Böylece, 21. Yüzyıla çarpıcı bir bilgi eşitsizliğiyle girdik: Onların bizim hakkımızdaki bilgisi, bizim onlar ve kendimiz hakkında bildiklerimizden çok daha fazla. Bu bilgi ve güç eşitsizliği sonucu, birey özgür iradesini kaybedip onların elinde otomatikleşme tehlikesiyle karşı karşıya.

Zaten, özgür irade diye bir şey olmadığı iddiasını, bunun 18. Yüzyıldan kalma bir geri kavram olduğu görüşünü, giyilebilir teknolojilerin (örneğin, Google gözlük) yaratıcısı MIT bilim insanı Alex Pentland’dan duyuyor Zuboff. Pentland’ın “birey yoktur, bizler sosyal türleriz” dediğini aktarıyor (http://bit.ly/2nJ83Y4).

Microsoft da birey davranışlarını öngörmeye yönelik çalışma içerisinde. Örneğin, birey davranışını izleyip “kullanıcının zihinsel yapısını etkileyebilecek, normal veya kabul edilebilir bir davranışdan sapmayı” önceden belirleyebilecek bir cihaz için patent başvurusu yaptı Microsoft (http://bit.ly/2nJ83Y4). Burada, “normal veya kabul edilebilir davranış” nedir ve birey adına bunu kim belirliyor?

Ne Yapmalı?

Ülkemizde mahremiyet konusunda gevşek bir “benim saklayacak birşeyim yok” anlayışının yanlış olduğu ve birey olarak mahremiyet ihlali ötesinde, gelecekteki ticari ve siyasi davranış ve tercihlerimizin bizi bizden daha iyi tanıyanlar tarafından manipüle edilmesi tehditi üzerine farkındalık yaratılması gerekiyor.

Hiçbir kişisel verimizi internette paylaşmamalıyız diyerek sorumluluğu bireye yüklemek haksızlık. Üstelik bilgi gerektiriyor. Aslında bize sunulan dijital ürünlerin sakıncalı olup olmadığını belirleyen güvenilir kurumsal yapılar olmalı. Örneğin, Amerika’da bir ilaç piyasaya sunulmadan önce bağımsız düzenleyici kuruluş olan FDA’den (Food and Drug Administration) onay almak zorunda. Her ne kadar sansür meraklısı devletlerin yapacağı bu gibi denetlemelere güvenmesem de belki çok paydaşlı, sivil denetim altında, uluslararası nitelikte FDA benzeri bir kurumsal yapı düşünülebilir. Şimdilik ülkemizde bilgisayar ve cep telefonu kullanıcılarına öneriler yapan STK’lar var. Örneğin, geçtiğimiz hafta NewsLabTurkey, kişisel verilerimizi nasıl koruyabileceğimiz üzerine yararlı bir dizi bilgi paylaştı (http://bit.ly/35tii3y).