New York Valisi Kathy Hochul, 28 Ekim'de imzaladığı yeni yasanın bir parçası olarak, yapay zeka sohbet botlarıyla kurulan ilişkileri sınırlandıran düzenlemeleri getirdi. Yasa, ChatGPT gibi sohbet botlarını işleten şirketlere, kullanıcıların yaşını doğrulama ve 18 yaşından küçük kullanıcılara sunulan bazı özellikleri kısıtlama yükümlülükleri getiriyor.
Ayrıca, sohbet botları, çocukların duygusal ve fiziksel sağlıklarına ilişkin hassas bilgileri saklamasının önüne geçileceğini belirten yasa kapsamında, çocukların sohbet botlarını arkadaşları gibi göreceğini önlemeye yönelik önlemler de yer alıyor. Hochul, çocuklar, sohbet botlarına erişemeyecek ve bu botların onlarla kişisel ya da profesyonel bir ilişki kurduğu izlenimini oluşturmayacağını belirtti.
Teknoloji sektörü temsilcileri, yasanın bazı ifadelerinin belirsiz olduğunu savundu. Tech:NYC, çocukların öğrenmelerine ve kariyerlerine hazırlanmalarına yardımcı olan araçlardan uzaklaştırılmaları anlamına gelmemesi gerektiğini belirtti. OpenAI ve Anthropic ise Fransız Haber Ajansı'na yasayla ilgili yorum talebine yanıt vermedi. Daha önce, çocuklar ve gençler için tehlikeli olabilecek özellikler sunduğunu belirten Common Sense Media, düzenlemeyi destekledi. Kuruluşun Üst Yöneticisi Jim Steyer, New York'ta bu zararlı özelliklerin yasaklanacağını ifade etti.