Eski Mısırlılar kendi kuyruğunu yiyen bir yılan çizdiklerinde muhtemelen “sonsuzluk, döngüsel yenilenme, kozmik denge” gibi çok asil bir şey kastettiler. Sunucu çiftliklerinde kendi çıktısını yiyerek zekâ kaybeden bir yazılım yığınını kastetmediler, buna eminim. Ama tarih genelde ironiyi sever ve simgeler, yaratıcılarının elinden kolayca başka anlamlara kayar.
Bugün Ouroboros, hem yapay zekânın kendi ürettiği verilerle beslenip yavaş yavaş aptallaşmasının hem de insanlığın kendi yarattığı teknolojiyle yeniden şekillenmesinin çok kullanışlı — ve artık epey yıpranmış — bir metaforu haline geldi. Teknoloji yazarları bu benzetmeyi o kadar çok kullandı ki, kelimenin kendisi de artık kendi kuyruğunu yiyor sayılır. Biz yine de işin ciddi tarafına, yani kanıta bakacağız. EFSANENİN KISA ÖZETİ: YENİLENME Mİ TÜKENME Mİ?
Ouroboros, Antik Mısır’dan simyaya, oradan Nors mitolojisindeki dünyayı saran yılan Jörmungandr’a kadar farklı kültürlerde karşımıza çıkar. Standart yorum: kendini yiyen yılan, sonsuz döngüyü, yok oluş ve yeniden doğuşun birbirini beslediğini simgeler. Ancak biyolojik gerçek şu: bir yılan gerçekten kendi kuyruğunu yemeye kalksa, sonsuzluk falan bulmaz; enerji açığı verir, sindirim sistemi kendi dokusunu parçalar ve iş, klasik bir termodinamik fiyaskoyla biter.
Yani sembol şiirsel, biyoloji ve bilim acımasız. Yapay zekâ ile insanlığın güncel ilişkisini anlarken de aslında aynı seçimle karşı karşıyayız: şiirsel döngü mü, yoksa termodinamik fiyasko mu? FOTO-FOTOKOPİNİN FOTOKOPİSİ İşin somut ve hakemli kanıtlı kısmı burada başlıyor. 2024’te Nature dergisinde yayımlanan bir çalışma, büyük dil modellerinin kendi ürettikleri metinlerle — ya da bir öncekinin ürettiği metinlerle eğitilen bir sonraki modelin ürettikleriyle — tekrar tekrar eğitildiğinde ne olduğunu gösteriyor: “model çöküşü” (model collapse) adı verilen bir bozulma süreci yaşanıyor ve bu bozulma geri döndürülemez nitelikte.
Bu yenilenme metaforu bir de Thesus’un Gemisi’nde geçer ki 22.12.2024’te yine bu köşeye yazdığım “Theseus’un Gemisi ve Yapay Zekâ: Değişimin Hikâyesi” yazısında bundan bahsetmiştim. Günlük hayattan örnek isteyen okurumuz için: bir fotoğrafın fotokopisini çekin, sonra o fotokopinin fotokopisini çekin, bunu on kere tekrarlayın. Her aşamada gürültü birikir, ince detaylar — gölgeler, nadir renk tonları, kenar çizgileri — kaybolur ve elinizde sonunda bulanık, ortalama, “her şeye benzeyen hiçbir şey” kalır. Araştırmacılar aynı şeyin istatistiksel versiyonunun yapay zekâ modellerinde de gerçekleştini gösteriyor: veri dağılımının “nadir uçları” — az rastlanan ama değerli bilgiler — nesiller boyu tekrarlandıkça buharlaşıyor, geriye ortalamanın ortalamasının ortalaması kalıyor.
Kulaktan kulağa oyunu gibi belki de. Teknoloji çevrelerinde bu duruma şakayla karışık “Habsburg AI” de deniyor — Habsburg hanedanının kendi içinde evlenip durarak genetik çeşitliliğini tüketmesine bir gönderme. Yakıştırma zalim ama isabetli. ZİHNİMİZİ DIŞARIYA TAŞIRKEN Burada iş felsefeye kayıyor ama yine hakemli zeminde kalıyoruz.
1998 yılında felsefeciler Andy Clark ve David Chalmers, artık klasikleşmiş “genişletilmiş zihin” (extended mind) tezini ortaya attı: onlara göre bilişimiz kafatasının sınırlarında durmak zorunda değil. Kalem-kâğıt, bir defter, hatta bir akıllı telefon, bilişsel süreçlerin fiilen bir parçası haline gelebilir — yeter ki o alete güvenilir, sürekli ve kolay erişilebilir biçimde başvurulsun. Yapay zekâ sohbet robotlarına günlük karar alma, yazma, hatta duygusal desteğimizi devrettiğimiz bir dönemde, bu tez artık bir düşünce deneyi olmaktan çıkıp güncel bir teşhis gibi okunuyor: zihnimiz artık kısmen sunucularda yaşıyor.
Ve o sunucular, bir üstteki bölümde anlatıldığı gibi, kendi kendini yiyerek incelme eğiliminde. Yani genişleyen zihnimiz, giderek daha çökmekte olan bir çatıya yaslıyor kendini. İronik mi?
Evet. Bu köşenin ismi boşuna “Bilim Köşesi” değil, tam da bu tür trajik ironilere doyasıya bakmak için var. “AI Ouroboros” terimi henüz hakemli literatürde standartlaşmış bir kavram değil; çoğunlukla teknoloji blog yazılarında ve güncel hukuk ön-baskılarıkullanılan popüler bir etiket.
Altında yatan teknik olgu — model çöküşü — gerçek ve hakemli; ama ona verilen mitolojik isim, bilimsel bir sınıflandırmadan çok, gazetecilik zekasının ürünü. İNSANLIK KENDİ KUYRUĞUNU YİYOR MU? İşte burada temkinli olmak gerekiyor, çünkü bu kısımda kanıtın zemini kayganlaşıyor. 2005’te biyoetikçi Nick Bostrom, insan geliştirme teknolojilerinin — gen düzenlemeden zihinsel artırmaya — insan onurunu yıkmayacağını, aksine “posthuman” denen yeni bir varoluş biçiminin kendine has bir onur taşıyabileceğini savundu.
Bu, hakemli bir felsefi argüman; ama sonuçta bir argüman, deneyle doğrulanmış bir olgu değil. Bugün yapay zekâ ile iç içe geçen bir insanlığın, tıpkı model çöküşünde olduğu gibi “nadir uçlarını” — yani biricik, sıra dışı, azınlıkta kalan düşünce biçimlerini — kaybedip homojenleşeceği iddiası, zekice bir benzetme olsa da henüz sağlam bir ampirik temele oturmuyor. Yazıyı süslemek uğruna bunu kesin bir bilimsel sonuç gibi sunmak, tam da bu köşenin karşı çıktığı tür bir sahtekârlık olurdu.
Bu yazımdaki “insanlık da model çöküşü yaşıyor” benzetmesi, sadece felsefi bir yorumdur — yapay zekâ modellerinde ölçülen model çöküşü kadar doğrudan ve nicel bir kanıta dayanmaz. Toplumsal çeşitliliğin ya da düşünce çeşitliliğinin yapay zekâ kullanımı nedeniyle azaldığına dair uzun vadeli, kontrollü çalışmalar henüz sınırlıdır. Bu yazıyı sadece bir uyarı işareti olarak okumanızda fayda var. DÖNGÜYÜ KIRMAK ELİMİZDE Mİ?
Yapay zekâ tarafında çözüm en azından teknik olarak basit: eğitim verisine sürekli taze, insan üretimi, çeşitli malzeme karıştırmak, açık kaynakların sentetik içerikle boğulmasını engellemek. İnsanlık tarafında iş o kadar kolay değil, çünkü kimse bize “bu haftaki düşüncelerinizin yüzde otuzu orijinal olsun” diye bir kalite standardı dayatamıyor. Belki de yapmanız gereken tek şey, bir sonraki sohbet robotuna sorunuzu sormadan önce, bir kez daha kendi kafanızla düşünmeyi denemek.
Yılan kuyruğunu ısırmaya devam edecek; asıl soru, sizin de onunla aynı döngüye katılıp katılmayacağınız.
