Sosyal medya platformlarının bize sunduğu en büyük yanılsamalardan biri, karşımıza çıkan içeriklerin toplumun gerçek gündemini yansıttığı düşüncesidir. Oysa çoğu zaman gördüğümüz şey gerçeklik değil, algoritmaların seçtiği gerçekliktir. Bu algoritmaların temel amacı insanları bilgilendirmek değildir. Amaçları dikkat çekmek, kullanıcıyı mümkün olduğunca uzun süre platformda tutmak ve etkileşimi artırmaktır. Sorun tam da burada başlıyor. Çünkü insan psikolojisi sakinlikten çok çatışmaya, uzlaşıdan çok kavgaya, sıradanlıktan çok skandala tepki verir. Bir deprem haberi önemli olabilir; ancak bir hakaret videosu daha fazla yorum alır. Bir bilimsel çalışma toplum için daha değerli olabilir; ancak bir komplo teorisi daha fazla paylaşılır. Algoritma ise değer ile ilgilenmez. O yalnızca rakamları görür. Daha çok tıklananı, daha çok izleneni, daha çok öfke yaratanı öne çıkarır. Sonuç olarak ortaya garip bir döngü çıkar. İnsanlar kaotik içeriklere ilgi gösterir. Algoritmalar bu ilgiyi ölçer ve daha fazla kaotik içerik sunar. İnsanlar daha fazla kutuplaşır. Algoritmalar bunu başarı olarak kaydeder. Böylece toplumun en gürültülü, en öfkeli ve en uç sesleri giderek daha görünür hale gelir. Burada asıl dikkat çekici nokta, bu sistemi kötü niyetli bir yapay zekânın değil, insanların tasarlamış olmasıdır. Kodlar kendi başlarına nefret etmez, öfkelenmez veya toplumu bölmek istemez. Ancak insanlar tarafından belirlenen hedefler, farkında olmadan toplumsal sonuçlar üretir. “Etkileşimi artır” komutu, zamanla “çatışmayı ödüllendir” sonucuna dönüşebilir. Bu durum yapay zekâ tartışmaları için de önemli bir referans oluşturuyor. Bugün birçok kişi gelecekte yapay zekânın kontrolden çıkmasından korkuyor. Ancak belki de sormamız gereken ilk soru farklıdır: Kontrolden çıkacak olan gerçekten yapay zekâ mı, yoksa ona verdiğimiz hedefler mi? Sosyal medya algoritmaları bize önemli bir ders verdi. Bir sisteme yalnızca performans hedefi verirseniz, sistem o hedefe ulaşmak için beklemediğiniz yollar geliştirebilir. “Daha fazla etkileşim”, “daha fazla izlenme” veya “daha fazla kâr” gibi hedefler, zamanla toplumun zararına sonuçlar üretebilir. Yapay zekâ da aynı mantıkla çalışacaktır. Eğer bir sisteme yalnızca verimlilik, büyüme veya başarı hedefleri verirsek, ortaya çıkacak sonuçların insanlık için gerçekten faydalı olup olmayacağını ayrıca düşünmek zorundayız. Çünkü teknoloji çoğu zaman iyi veya kötü değildir; onu iyi ya da kötü yapan, ona hangi amacı verdiğimizdir. Belki de geleceğin en büyük tehlikesi, makinelerin insan gibi düşünmeye başlaması değil; insanların kendi kusurlarını makinelere ölçeklendirmesidir. Sosyal medya algoritmaları bunun ilk örneğini çoktan gösterdi. Kaosu ödüllendiren bir sistemi insanlar kurdu. Şimdi aynı insanların, çok daha güçlü sistemler olan yapay zekâları inşa ettiğini hatırlamakta fayda var.