Hannah Arendt'in 1963'te ortaya attığı 'kötülüğün sıradanlığı' kavramı, yapay zekâ ve algoritmaların yönlendirdiği dijital çağda yeniden tartışılıyor. Arendt, Adolf Eichmann'ın yargılanmasında bürokratik insanın 'Ben yalnızca emri uyguladım' savunmasını analiz etmişti. Bugün ise algoritmik akışın insanı 'Ben yalnızca gördüm', yapay zekâ çağının insanı ise 'Ben hedefi belirledim, nasıl yapılacağına yapay zekâ karar verdi' diyerek sorumluluktan kaçabiliyor. Değişen sadece aracıdır; değişmeyen ise insanın, fiilin ahlâkî anlamını üstlenmekten kaçınma eğilimidir.
Arendt'ten algoritmalara: Sorumluluğun kayboluşu
Arendt, totalitarizmin kökenlerini incelerken, sıradan insanların nasıl olup da kitlesel kötülüğe katıldığını sorguladı. Eichmann'ın duruşmasında, sanığın 'görevini yaptığını' söylemesi, kötülüğün şeytani bir planın değil, düşüncesizlik ve itaatin bir ürünü olduğunu gösteriyordu. Bugün benzer bir düşüncesizlik, algoritmaların nötr olduğu varsayımıyla meşrulaştırılıyor. Veri bilimciler, yazılımcılar ve karar alıcılar, 'sadece veriyi işlediklerini' veya 'modelin kendi karar verdiğini' söyleyerek ahlaki sorumluluktan sıyrılıyor.
Özellikle siyasi karar alma süreçlerinde, yapay zekâ destekli analizler ve otomatik karar sistemleri, seçmen davranışından sosyal yardım dağıtımına kadar geniş bir yelpazede kullanılıyor. Bu sistemlerin 'kara kutu' doğası, kararların nasıl alındığını anlamayı zorlaştırırken, sorumluluğun da dağılmasına yol açıyor. 'Algoritma öyle dedi' cümlesi, tıpkı 'Ben sadece emri uyguladım' gibi, ahlaki bir boşluğu işaret ediyor.
Dijital bürokrasinin yeni aktörleri: Algoritmalar ve veri
Arendt'in bürokratik insanı, emirleri sorgusuz uygulayan bir memurdu. Bugün ise karşımızda algoritmik akışın insanı var: Sosyal medya feed'inde gördüğü içeriği doğru kabul eden, karşılaştığı önyargılı veri setini sorgulamayan, 'Ben sadece gördüm' diyen bir birey. Yapay zekâ çağının insanı ise daha da ileri giderek 'Ben hedefi belirledim, nasıl yapılacağına yapay zekâ karar verdi' diyebiliyor. Bu savunma, hedefin kendisinin ahlaki sorgulamasını engelliyor.
Örneğin, bir siyasi kampanya, seçmenleri manipüle etmek için mikro hedefleme kullandığında, kampanya yöneticisi 'Ben sadece iletişim stratejisi belirledim, içeriği algoritma seçti' diyebiliyor. Oysa Arendt'in analizi, hedefi belirlemenin de ahlaki bir eylem olduğunu hatırlatıyor. Kötülüğün sıradanlaşması, artık kod satırlarında ve veri setlerinde gizleniyor.
Siyasette yapay zekâ: Şeffaflık ve hesap verebilirlik ihtiyacı
Siyasi partiler ve hükümetler, yapay zekâ sistemlerini giderek daha fazla kullanıyor. Seçim kampanyalarında, kamu hizmetlerinde ve güvenlik alanında algoritmaların rolü artıyor. Ancak bu sistemlerin denetimi ve hesap verebilirliği konusunda ciddi boşluklar var. Avrupa Birliği'nin Yapay Zekâ Yasası gibi girişimler, şeffaflık ve insan gözetimi ilkelerini getirmeyi amaçlasa da, uygulamada sorumluluk zinciri hâlâ belirsiz.
Türkiye'de de siyasi aktörler, veri analitiği ve yapay zekâ araçlarını kullanarak seçmen davranışını yönlendirmeye çalışıyor. Bu araçların etik kullanımı, demokratik süreçlerin sağlığı açısından kritik. Arendt'in uyarısı, bireylerin düşünme yetisini kaybetmemesi ve eylemlerinin ahlaki sonuçlarını üstlenmesi gerektiğidir. Algoritmalar çağında bu, kodun arkasına saklanmak yerine, hedefi ve yöntemi sorgulamak anlamına geliyor.
Sonuç: Kötülüğün sıradanlaşmasına karşı düşünme cesareti
Arendt'e göre kötülük, şeytani bir irade değil, düşüncesizliktir. Bugün algoritmalar, bu düşüncesizliği besliyor. 'Ben sadece gördüm' diyen insan, gördüğü içeriğin arkasındaki niyeti sorgulamıyor. 'Ben hedefi belirledim' diyen insan ise hedefin ahlaki meşruiyetini tartışmıyor. Oysa sorumluluk, ne kadar katmanlı olursa olsun, insana aittir. Yapay zekâ, ahlaki fail değildir; onu yönlendiren insandır. Bu nedenle, algoritmalar çağında kötülüğün sıradanlaşmasına karşı durmak, her şeyden önce düşünme cesaretini göstermekle mümkündür. Siyaset kurumu, yapay zekâ kullanımında şeffaflığı ve hesap verebilirliği sağlamalı; bireyler ise 'sadece gördüm' demenin bir mazeret olmadığını kabul etmelidir.
