Algoritmalar Tarafsız Olabilir mi? Kodların Karar Süreci
İnternette bir video izlendiğinde kısa süre sonra benzer içeriklerin önerilmesi artık oldukça yaygın bir durum. Dijital platformlar, kullanıcıların daha önce izlediği, beğendiği, paylaştığı ya da üzerinde daha fazla zaman geçirdiği içerikleri analiz ederek ilgi alanlarına uygun içerikleri öne çıkarır. Bu süreç rastgele gerçekleşmez. İçerik önerileri belirli matematiksel modeller ve veri temelli kurallar doğrultusunda çalışan algoritmalar tarafından yürütülür. Bu noktada önemli bir soru ortaya çıkar: Algoritmalar gerçekten tarafsız sonuçlar üretebilir mi yoksa kullandıkları veriler ve tasarlanma biçimleri kararlarını etkiler mi?
NicoElNino/iStockphoto.com
Algoritma, belirli bir problemi çözmek veya bir hedefe ulaşmak için tanımlanmış adımlar bütünüdür. Sosyal medya algoritmaları ise kullanıcı etkileşim verilerini kullanarak içerikleri sıralayan ve öneren hesaplamalı sistemlerdir. Bu sistemler genellikle içeriği kendi üretmez. Bunun yerine kullanıcıdan elde edilen verileri işleyerek sıralama ve öneri kararları oluşturur. Bu kararlar tıklanma sayısı, izlenme süresi, beğeni, paylaşım ve yorum gibi ölçütlere dayalı olarak şekillenir. Peki bu veriler hangi kurallara göre işlenir ve algoritmalar önerecekleri içerikleri nasıl belirler?
Karar mekanizması
Sosyal medya algoritmaları, kullanıcıların etkileşim verilerinden yararlanarak onlara kişiselleştirilmiş bir deneyim sunar. İzlenme süresi, beğeni, kaydetme ve tıklanma gibi etkileşimler, içeriklerin hangi sırayla gösterileceğini belirlemede önemli rol oynar. Bu süreç, algoritmanın bilinçli bir şekilde karar vermesinden çok, veriler arasındaki ilişkileri incelemesine dayanır. Bu nedenle algoritmalar, girdiler doğrultusunda içerikleri sınıflandırır ve belirli olasılıksal modellere göre sıralar.
Makine öğrenimi temelli sistemler, eğitim verisi adı verilen büyük veri kümelerinden örüntüler öğrenir. Böylece genellemeler yaparak hangi girdilerin hangi çıktılara yol açacağını tahmin etmeye çalışırlar. Ancak yeterli veri bulunmadığı ya da veri çeşitliliğinin düşük olduğu durumlarda sistemin isabetli tahminler yapması zorlaşır. Örneğin algoritma yalnızca kısa video içerikleri izleyen bir kullanıcıya uzun süreli videoları daha az önerebilir. Bu durum kullanıcının farklı içerik türleriyle karşılaşmasını sınırlayabilir. Çünkü bu tür senaryolar eğitim verisinde yeterince yer almaz. Bu belirsizlik nedeniyle sistem kullanıcının karşısına ilgisini çekmeyen içerikler de çıkarabilir.
Kullanıcı davranışının algoritma üzerindeki etkisi
Dijital müzik platformlarında benzer şarkıların ardışık biçimde önerilmesi oldukça yaygındır. Kullanıcı etkileşimi arttıkça öneri sistemi, kullanıcıyı dar bir alana yönlendirebilir. Bu durum geri besleme döngüleri (feedback loops) ile açıklanır: Önerilen müzikler dinleyicinin tercihlerini etkilerken dinleyicinin tercihleri de önerileri yeniden şekillendirir. Böylece sistem ile kullanıcı arasında sürekli bir etkileşim oluşur.
Müzik dinlerken karşınıza bazen ilgi duyduğunuz türlerin dışında şarkılar çıkar. Bunun sebebi her zaman veri eksikliği değildir. Sistemin kullanıcının mevcut tercihlerine bağlı kalması içerik çeşitliliğini sınırlar ve yeni ilgi alanlarının ortaya çıkmasını engeller. Bu yüzden sistem zaman zaman keşif amaçlı “rastgele” öneriler sunar. Burada amaç kullanıcının ilgi alanını genişletmektir. Kısacası dinleyicinin ilk bakışta anlam veremediği müzik önerilerinin bir kısmı, algoritma tarafından “bilinçli” olarak sunulur.
Mykyta Dolmatov/iStockphoto.com
Algoritmalar tercihlerimizi ne ölçüde şekillendirir?
Kullanıcıların başlangıçta etkileşim kurmadıkları içerik türleriyle zaman içinde karşılaşması ve bu içeriklere yönelmesi mümkündür. Bu durum, öneri sistemlerinin uzun vadeli etkisini gösterir. Kullanıcı tercihleri yalnızca bireysel seçimlerle değil aynı zamanda algoritmik öneri yapılarıyla da şekillenir.
Bu süreç, bireysel tercih ile öneri sistemleri tarafından yönlendirilmiş tercih arasındaki ayrımı bulanıklaştırabilir. Kişiselleştirilmiş içerik akışları, belirli içerik türlerinin görünürlüğünü artırırken diğer türlere erişimi zorlaştırabilir. Bu da içerik çeşitliliğinin daralmasına neden olabilir. Algoritmalar benzer davranışları öne çıkardıkça kullanıcıların karşısına çıkan içerikler de birbirine benzemeye başlayabilir. Bu durum farklı türde içeriklere ulaşmayı zorlaştırabilir. Kullanıcılar arasındaki bireysel farklılıklar tamamen ortadan kalkmasa da belirli içerik türleri daha fazla görünür hâle gelir. Seçenek alanının daralması kullanıcı davranışlarını daha öngörülebilir hâle getirir. Sonuç olarak milyonlarca kullanıcının ilgi alanı belirli konular etrafında yoğunlaşabilir. Toplumda “farklı” veya “ilginç” olan içeriklerden çok, platformların daha fazla öne çıkardığı içerikler yaygınlaşabilir. Uzmanlar, dijital platformların kullanıcı davranışlarını tahmin etme ve yönlendirme gücüne dikkat çeker.. Bu yaklaşım, dijital dünyada bıraktığımız izler yani izlediğimiz videolar, beğendiğimiz gönderiler ve yaptığımız aramalar hakkımızda tahminler yapılmasını kolaylaştırır, bireysel tercihlerimizin ne kadar bize ait olduğu sorusunu gündeme getirir.
Kaynaklar:
- Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. PublicAffairs.
- Blelloch, G.E. (2014). Randomized Algorithms [Lecture notes]. Carnegie Mellon University.
- Dülger, M.V., Çetin, S.,& Aydınlı, C.D. (2020). Algoritmik Karar Verme ve Veri Koruması, Yapay Zeka Çalışma Grubu, İstanbul Barosu.
Yazar Hakkında:
Zeynep Başar
İstanbul Erkek Lisesi Öğrencisi
