Çocuklara yapay zeka kısıtlaması

ABD merkezli haber kuruluşu The Straits Times'ın haberine göre, New York Valisi Kathy Hochul, çocukların yapay zeka sohbet botlarıyla kurduğu ilişkileri sınırlandıran yeni yasayı 28 Ekim'de imzaladı. Tüketicilere sunulan yapay zeka modellerine yönelik en kapsamlı düzenlemelerden biri olarak değerlendirilen yasa, ChatGPT gibi sohbet botlarını işleten şirketlere yeni yükümlülükler getiriyor. Yeni düzenlemeye göre, yapay zeka sohbet botlarını işleten şirketlerin kullanıcıların yaşını doğrulaması ve 18 yaşından küçük kullanıcılara sunulan bazı özellikleri kısıtlaması gerekecek.

Yasa kapsamında sohbet botları, çocukların karşılarındaki sistemin bir insan, canlı veya insani duygulara sahip olduğuna inanmasına yol açabilecek içerikler üretemeyecek. Ayrıca çocuklarda yapay zeka sisteminin kendileriyle kişisel ya da profesyonel bir ilişki kurduğu veya bir otorite figürü olduğu izlenimini oluşturacak içeriklere de izin verilmeyecek. Yapay zeka tarafından üretilen içeriklerin kişisel görüş olarak sunulması da yasaklanacak.

New York Valisi Kathy Hochul, yasanın imzalanması sırasında yaptığı açıklamada, çocukların yapay zeka sohbet botlarıyla kurduğu ilişkilerin sınırlandırılacağını belirtti. Hochul, "Artık çocuklar, arkadaşları, erkek arkadaşları ve kız arkadaşları gibi davranan sohbet botlarına erişemeyecek." ifadesini kullandı. Vali, sohbet botlarının çocukların duygusal ve fiziksel sağlıklarına ilişkin hassas bilgileri saklamasının da önüne geçileceğini söyledi.

New York'taki teknoloji sektörünü temsil eden Tech:NYC, yasanın bazı ifadelerinin belirsiz olduğunu savundu. Kuruluş, çocukların internet ortamında güvende tutulmasının, onların öğrenmelerine ve kariyerlerine hazırlanmalarına yardımcı olan araçlardan uzaklaştırılmaları anlamına gelmemesi gerektiğini belirtti. Yapay zeka şirketleri OpenAI ve Anthropic ise Fransız Haber Ajansınıyasayla ilgili yorum talebine yanıt vermedi.

Çocukların medya ve teknoloji kullanımına ilişkin ebeveynlere rehberlik eden kâr amacı gütmeyen Common Sense Media, düzenlemeyi destekledi. Kuruluşun Üst Yöneticisi Jim Steyer, bazı yapay zeka sohbet botlarının çocuklar ve gençler için tehlikeli, hatta ölümcül olabilecek özellikler sunduğunu belirtti. Steyer, New York'ta artık bu zararlı özelliklerin yasaklanacağını ifade etti.