400 bilim insanından yapay zekaya denetim çağrısı

34 ülkeden bilim insanlarının imzaladığı açık mektupta, gelişmiş yapay zekâ sistemlerinin güvenliğini sağlamak amacıyla uluslararası bir denetim mekanizması kurulması önerildi. Önerilen kuruluşun, sektör genelinde uygulanacak güvenlik ve kontrol standartlarını belirlemesi, önemli güvenlik olaylarını kaydeden bir kayıt sistemi oluşturması istendi. Bilim insanları, bu kayıtların ilerleyen dönemde kamuoyuyla da paylaşılması gerektiğini belirtti.

Mektupta, en gelişmiş yapay zekâ modellerinin başlangıçta dış ağlardan tamamen ayrılmış ortamlarda çalıştırılması ve bağımsız denetime tabi tutulması gerektiği ifade edildi. Araştırmacılar, şirketlerin kendi istekleriyle üstlendikleri güvenlik taahhütlerinin yeterli olmadığını savundu. Bu çağrı, Anthropic, OpenAI, Google, Meta, xAI ve Nvidia şirketlerinin Beyaz Saray ile gönüllü güvenlik önlemlerini kabul eden bir anlaşma imzalamasından yaklaşık bir ay sonra geldi.

Söz konusu anlaşmada, güvenlik önlemlerinin uygulanmasını zorunlu kılan resmi bir yaptırım mekanizması bulunmuyordu. Bilim insanlarının çağrısı, gelişmiş yapay zekâ sistemlerinin test edilmesi ve kontrol altında tutulması konusundaki bazı güvenlik açıklarının gündeme geldiği olayların ardından yapıldı. Araştırmacılar, yeterince güvenli hale getirilmemiş, sınırlandırılmış çalışma ortamlarını aşan yapay zekâ modellerinin harici sistemlere erişerek bu sistemlerin güvenliğini tehlikeye attığı vakalara dikkat çekti.

34 ülkeden imzacı bilim insanları, siber saldırı kapasitesine sahip yapay zekâ modelleri geliştiren veya test eden kuruluşların, hükümetler daha resmi bir denetim sistemi üzerinde çalışırken yüksek güvence sağlayan güvenlik ve kontrol standartlarını derhal uygulamaya başlaması gerektiğini belirtti. Gelişmiş yapay zekâ sistemlerinin nasıl denetlenmesi gerektiği, politika yapıcıların da gündeminde yer alıyor. Avrupa Birliği'teknoloji alanından sorumlu üst düzey yetkilisi Henna Virkkunen, cuma günü Reuters'a yaptığı açıklamada, AB'nin Yapay Zekâ Yasası'nın kontrolden çıkan yapay zekâ sistemlerinin oluşturabileceği riskleri ele almak için yeterli olduğunu söyledi.

Pazar günü ise ABD Başkanı Donald Trump yönetimi, ABD'deki laboratuvarların İngiltere Yapay Zekâ Güvenliği Enstitüsüne güvenlik testleri için modellere erken erişim sağlamasının önündeki engeli kaldırdı. Mektubu imzalayan Geoffrey Hinton ve Yoshua Bengio, 2018 yılında Meta'nın bir diğer önde gelen yapay zekâ araştırmacısı Yann LeCun ile birlikte Turing Ödülü'nü kazanmıştı. Ancak LeCun, söz konusu mektubu imzalamadı.

LeCun, son dönemde yaşanan güvenlik olaylarının yapay zekânın insanlığın varlığını tehdit etmesinden ziyade mühendislik hatalarından kaynaklandığını savunmuştu.