Dr. Öğr. Üyesi Hasan Oğuz - İstanbul Okan Üniversitesi - hoguz@outlook.com Hollanda vergi idaresi, çocuk bakımı yardımlarındaki sahteciliği yakalamak için 2013’ten itibaren bir risk modeli kullandı.
Model, düşük geliri ve çifte vatandaşlığı şüphe nedeni sayıyordu. Yaklaşık 26 bin aile haksız yere dolandırıcı ilan edildi. Yardımlar faiziyle geri istendi, aileler borca battı, binden fazla çocuk koruma altına alındı.
"Toeslagenaffaire" adıyla anılan skandal, 2021’de Rutte hükümetinin istifasına yol açtı. Avustralya’daki Robodebt de benzer biçimde işledi. Gelirleri kaba bir ortalamayla hesaplayan otomatik sistem, sosyal yardım alan yüz binlerce kişiye gerçekte var olmayan borçlar çıkardı.
Federal mahkeme yöntemi hukuka aykırı bulunca devlet 373 bin kişiye 720 milyon Avustralya dolarını aşan iade yaptı. 2023’teki kraliyet komisyonu raporu, bedeli en çok kırılgan kesimlerin ödediğini kaydetti. EMEĞİN ARAYÜZÜ Bu olayları tek tek yazılım hatası ya da yönetim skandalı olarak görmek rahatlatıcı, ama eksik. Hepsinin altında aynı döngü yatıyor.
Sistem geçmiş veriden bir risk profili öğreniyor, bu profile göre müdahale ediyor, müdahalenin sonucunu da yeni eğitim verisi olarak geri alıyor. Yoksulluk bu döngünün hem girdisi hem çıktısı. Sınıf artık yalnızca üretim ilişkilerinde değil, sınıflandırma altyapılarında da üretiliyor. Platform ekonomisinde patronun yerini bir arayüz aldı.
Kuryelere ve sürücülere iş dağıtan sistemler, parça başı ücreti kişiye, saate, hatta iş kabul geçmişine göre değiştirebiliyor. Veena Dubal buna algoritmik ücret ayrımcılığı diyor: aynı işi yapan iki kişiye, davranış verilerine bakarak farklı ücret önermek. İtiraz edilecek bir muhatap yok; hesaplar çoğu zaman gerekçesiz kapatılıyor.
İşe alımda özgeçmiş tarama filtreleri kariyer boşluklarını, adres ve posta kodu gibi dolaylı göstergeleri sessizce cezalandırıyor; başka bir deyişle güvencesizliğin izini taşıyan herkesi. Zincir okulda başlıyor. Gözetimli sınav yazılımlarının koyu tenli öğrencileri altı kata varan oranda daha sık işaretlediği ölçüldü.
Diploma yolunda haksız şüphe, iş hayatına dezavantajla başlamak demek. Orta sınıf da bu tablonun dışında sayılmaz. Büyük dil modelleri rutin bilişsel işleri devraldıkça, David Autor’un yirmi yılı aşkın süredir belgelediği kutuplaşma derinleşiyor: orta gelirli işler azalıyor, kazanç sermaye sahipleriyle küçük bir uzman grubunda toplanıyor.
Yoksullaşma her zaman işsizlik biçiminde gelmiyor. Aynı unvanla daha güvencesiz, sürekli ölçülen ve gitgide ucuzlayan bir işte çalışmak da aynı sonucu doğuruyor. RİSKİN FİYATI Finans tarafında algoritmanın görevi riski fiyatlamak. Sorun şu ki risk tanımı çoğu zaman yoksullukla örtüşüyor.
Yeterli kredi geçmişi olmayanlar ya sistemin dışında kalıyor ya da fatura ödemeleri ve alışveriş kayıtları gibi alternatif verilerle skorlanıp daha yüksek faize razı ediliyor. Sigortada kişiye özel primler, riskli sayılan bir mahallede oturmanın bedelini poliçeye ekliyor. Cathy O’Neil’ın zehirli geri besleme dediği mekanizma tam burada çalışıyor.
Reddedilen kredi kayda geçiyor, kayıt skoru düşürüyor, düşük skor krediyi pahalılaştırıyor, pahalı kredi temerrüt riskini artırıyor ve model sonunda kendi kehanetini doğrulamış oluyor. Hedefli reklamlar da aynı sinyalleri okuyor. Maddi sıkışıklık belirtisi gösteren kullanıcının karşısına yüksek faizli hızlı kredi teklifleri çıkıyor.
Kısacası yoksulluk primi, yani yoksul olmanın daha pahalıya mal olması, otomasyonla çok daha geniş ölçekte işliyor. REFAHIN OTOMASYONU Virginia Eubanks, ABD sosyal yardım sistemlerindeki otomasyonu dijital yoksulhane olarak adlandırıyor. 19. yüzyılın yoksulları disipline eden kurumları bu kez veri altyapısı olarak geri döndü.
Şüphenin yönü hep aşağı. Üst gelir gruplarının vergi planlaması insan eliyle ve müzakereyle yürürken, yoksulun yardım başvurusu makine tarafından aralıksız denetleniyor. Hollanda’daki SyRI sistemi bunun açık bir örneğiydi.
Sahtecilik taraması yalnızca düşük gelirli mahallelerde çalıştırılıyordu. Lahey mahkemesi 2020’de sistemi, Avrupa İnsan Hakları Sözleşmesi’nin özel hayatı koruyan 8. maddesine aykırı buldu ve durdurdu. ÖZYİNELEMELİ YOKSULLAŞMA Bu alanların ortak yanı mimaride.
Birincisi yargı devri: kredi memurunun, sosyal hizmet uzmanının, vardiya amirinin bağlama duyarlı takdiri, bağlam tanımayan eşiklere devrediliyor. İkincisi opaklık: kararın gerekçesi ticari sır, itiraz yolu ya yok ya göstermelik. Üçüncüsü özyineleme: sistemin bugünkü çıktısı, yarının eğitim verisi.
Shoshana Zuboff’un epistemik eşitsizlik dediği asimetri burada iktisadi eşitsizliğe dönüşüyor. Sizi tanımlayan verinin içeriğini bilmiyorsunuz; ama kredi limitiniz, priminiz ve iş başvurunuzun sonucu onunla belirleniyor. Gilles Deleuze’ün öngördüğü gibi kişi "bölünmüş birey"e dönüşüyor: bütünlüklü bir özne yerine ayrı ayrı işlem gören bir skorlar kümesi.
Alt sınıf bu düzende ya finansal olarak görünmez ya da yalnızca şüphe nesnesi olarak görünür. Orta sınıfın durumu daha sinsi. En okunaklı veri izini o bırakıyor: maaş bordrosu, kredi kartı, sağlık kaydı.
En hassas biçimde fiyatlanan da o, ama pazarlık gücü giderek azalıyor. Sonuçta aşağı inmek kolaylaşıyor, yukarı çıkmak zorlaşıyor. DÖNGÜYÜ KIRMAK Yalnızca adillik ölçütlerine bakan denetimler bu yapıyı göremiyor, çünkü yanlış soruyu soruyor. Soru "model doğru çalışıyor mu" değil, "kim kaybediyor" olmalı.
Buradan birkaç somut adım çıkıyor. Kredi, işe alım ve sosyal yardım gibi yüksek riskli kararlarda herkes kararın gerekçesini öğrenebilmeli ve bir insana itiraz edebilmeli. Skorlara zamanaşımı gelmeli; geçmişteki bir olumsuzluk kişiyi sonsuza kadar takip etmemeli.
Platform çalışanları, kendilerini yöneten algoritma üzerinde toplu pazarlık yapabilmeli. Kamu sistemlerinde bu araçların kime yarayıp kime zarar verdiği düzenli olarak denetlenmeli. Bunlar teknik "yama" olmaktan çok, kararın sorgulanabilir kalması için sisteme eklenecek bilinçli "özellik"ler olacaktır.
Makineler de hata yapar, insanlar da. Yeni olan şu: hatanın bedelini kimin ödeyeceği artık tasarım aşamasında belirleniyor ve bu karar giderek tartışmaya kapanıyor.
