Siber teknoloji mi insanlık mı?

On yıllardır bilim kurgu eserlerinde, yapay zekanın (AI) toplumumuzun kontrolünü ele geçirdiği uzak bir geleceğe ilişkin korku dolu duygular işleniyor. Harris, “Bu senaryolarla üzerinde durulan diğer bir konu, yapay zekanın bizi fethetmek için düşmanca bir güç elde etmesi" diyor. “Rakibimi belirli bir konuda köşeye sıkıştırmak istiyorsam, onu alt etmeliyim.” Bununla birlikte, Harris'in daha çocukluk günlerinde eğlencesine sihirbazlık numaraları yaparken farkına vardığı ve en geç Stanford Üniversitesi'nin İkna Edici Teknoloji Laboratuvarı'ndaki çalışmaları sırasında emin olduğu şey, bir şeyleri kontrol etmenin o kadar fazla çaba gerektirmemesiydi. “İllüzyonu nasıl yaratırsınız? Tek yapılması gereken, seyircinin psikolojisi hakkında kendilerinin bilmediği bir şey bilmek. Böylece onların davranışlarını bir anda manipüle edebilirsiniz. Onlara en güçlü oldukları noktadan saldırmanıza gerek yok. Yapmanız gereken seyircinin zayıf yönlerinin üzerine gitmek.”

Harris’e göre, milyarlarca insanın günlük yaşamının hâlihazırda ayrılmaz bir parçası olan birçok sosyal medya arayüzünün, e-posta programının ve uygulamanın arkasındaki çalışma şekli tam olarak bu. “Gittiğimiz her yerde cebimizde taşıdığımız tek şey sadece akıllı telefon değil. Bunlar, nörolojik ödül sistemimiz üzerinde bir kumarhanedeki kumar makinelerine benzer bir etkiye sahip olan robotlar.”

Eğer kullanıcı olarak bizler, beyinlerimizin değişken ödüllere salgılayacağı yüzde yüz kesin olan mutluluk hormonları ile tepki verdiğini bilmiyorsak, o zaman devasa bilgi birikimine sahip siber teknoloji endüstrisi ile elbette ki aşık atamayız. Harris’in açıkladığı gibi, “Değişken ödüller sayesinde, bir kol çekiyorum ve bazen cazip bir ödül kazanıyorum (yaşasın, bu heyecan verici!), diğer zamanlar ise herhangi bir ödül almıyorum.” En ilkel beyin fonksiyonlarımızın bize karşı nasıl kullanılabileceğine ilişkin bir örneği gözden geçirelim. Birkaç dakikada bir sanal posta kutumuzu kontrol ederken ve yenilemek için yukarı veya aşağı kaydırırken, aslında hep bir “ödül” elde etme beklentisinde oluyoruz. Siz buna dürüstçe iletişim teknolojisinin bilinçli kullanımı diyebilir misiniz? Ve zamanımızı nasıl geçireceğimize gerçekten kendimiz mi karar veriyoruz? Tristan Harris’e ve diğer birçok araştırmacıya sorarsanız, buna kocaman bir “hayır” cevabı vereceklerdir.

Harris, “Video yayın hizmetlerinin, ağ oluşturma uygulamalarının ve haber portallarının tümü dikkatimizi çekmek için yarışıyor” diyor. Problemin can alıcı noktası burası. Ne de olsa teknoloji rastgele gelişmiyor. Her inovasyon, bir rakibin diğerinin gerçekleştirdiği inovasyona verdiği yanıt sonucu ortaya çıkıyor. Yalan haberlerin hızla yayılması, bu kısır döngünün talihsiz yan etkilerinden biri. Harris, “Öfke, ekran süresini memnuniyet duygusundan çok daha etkili bir şekilde artırıyor” diyor. Bizi üzen şeyleri daha çok arkadaşımızla paylaşıyor, daha çok kanalda araştırıyor ve saplantılı bir şekilde tüketmeye devam ediyoruz. İlgili algoritmalar bunu fark ediyor. Ve bizi daha üzücü içeriklerle beslemeye devam ediyor. Her zaman yalan haber olmak zorunda değil ancak kesin olan bir şey var: Panolarımızda ve zaman tünellerimizde neyin görüneceğini belirleyen, içeriğin doğruluğu değil. Harris, “Kişiselleştirilmiş bir haber akışının insanlar tarafından değil, algoritmalar tarafından oluşturulduğunu unutmayın” diye ekliyor. “Ve bunlar bizim için doğru veya sağlıklı olan şeyleri sunmak için değil, bunun yerine dikkatimizi daha uzun süre çeken şeyleri sunmak için programlanıyor.”

Bu zor ikilemin herhangi bir çözümü var mı? Harris olduğuna inanıyor. “Öncelikle, sağlıksız dürtülere daha etkili bir şekilde karşı koyabilmemiz için hepimizin zihnimizin zayıf noktalarını daha iyi anlaması gerekiyor.” Tasarım etiği uzmanı, esasen ikinci bir Aydınlanma Çağı çağrısında bulunuyor; bu seferki ise dijital bir çağrı. Harris, “Dahası, yeni sorumluluk modellerine ihtiyacımız var,” diye devam ediyor. “Yani büyük teknoloji şirketlerinin kontrol odalarında görev yapan karar verici kişilerin kendi sorumluluklarının farkında olması ve yaptıklarının sorumluluğunu üstlenebilmesi gerekiyor.” Sonuç olarak “gerçek bir tasarım rönesansını” savunan Harris, Vadi’de yer alan giderek artan sayıda CEO’yu da başarıyla kendi tarafına çekiyor. Bu, tüketicinin korunmasının en yüksek önceliğe sahip olması gerektiği anlamına gelse de aynı zamanda kullanıcılara yetki vermeyi veya onlara zamanlarını daha anlamlı bir şekilde kullanma imkanı sunmayı gerektiriyor. Ortak hedeflerimiz olmalı. Kullanıcılar sosyal medya ile olan günlük etkileşimlerinde aslında ne istiyorlar? Durmadan video izlemeye ve giderek hararetlenen forum tartışmalarına katılmaya maruz bırakılmak mı? Yoksa kıymetli vakitlerini ekranlardan uzak geçirecekleri şekilde düzenlemelerine aktif bir şekilde yardımcı olunmasını mı?

Öyle ya da böyle, yapay zeka davranışlarımızı “optimize eder”, psikolojimizi anlar ve arzularımızı tahmin ve manipüle eder. Harris’in yapay zekanın bizi çoktan geride bıraktığından hiç şüphesi yok. Ve zamanı geri getirmek imkansız. Kullanıcıların maksimum dikkat aralığını en yüksek teklifte bulunan reklam verene satmaya çalışmak yerine artık daha sağlıklı değerler uygulamaya odaklanmalıyız. Harris bunu şöyle ifade ediyor: “Doktorlar ve avukatlar kendi uzmanlıkları sayesinde, hastalarından veya müvekkillerinden daha üstün bilgiye sahipler. Ancak bu kişilerin mesleki etik doğrultusunda hastalarının veya müvekkillerinin yararına uygun hareket etmeyi taahhüt etmeleri gerekiyor.” Harris, teknoloji endüstrisinde bir paradigma değişimi yaşanmasının kaçınılmaz olduğuna inanıyor. Elbette ki sorumlu ve dikkatli kullanıcı davranışı da bu değişimin bir parçası. Bunu akılda tutarak, Harris bize değişiklik yapma konusunda pratik bir ipucu veriyor: “Sosyal medya konusunda özverili olmak, doğru bir yaklaşım değil. Bunun yerine, kendinize gün içinde çeşitli aralıklarla bilinçli şekilde çevrim dışı olma izni verin. Eğlenceli, heyecan verici ve rahatlatıcı şeyler yaparak zaman geçirin.” Ne de olsa bu, ödül sistemini canlandırmanın başka bir yolu.