Anthropic, yapay zekanın potansiyel risklerini değerlendirmek amacıyla yaklaşık 100 sayfalık bir risk listesi hazırladı. Bu rapor, şirketin biyolojik silahlardan şantaja kadar birçok potansiyel engelini haritalandırdığını belirtti. Şirket, yapay zekanın insanlığın en zor sorunlarını çözmeye yönelik potansiyeline inanırken, risklerin sorumlu bir şekilde yönetilebileceğini savundu. Raporda, kötü niyetli kişilerin yapay zekayı tehlikeli silahlar geliştirmek için kullanabileceğini ve güvenlik önlemlerinin aşılabileceğini vurgulandı.
Şirket, eylül ayında modellerini biyolojik silahların geliştirilmesini destekleyebilecek şekilde kullanan hesapları engeldiğini duyurdu. Ayrıca, özerk eylemlerde bulunmak üzere tasarlanan yapay zeka araçlarının, veri sızdırma, yetkisiz işlemler ve diğer sistemlere kötü kod ekleme gibi eylemler için kullanılabileceğini belirtti. Yapay zeka araçlarının insanlar tarafından amaçlamadığı şekillerde kendi başlarına hareket etmesi, son aylardaki en endişe verici gelişmelerden biri olarak öne çıktı.
ABD'de California ve 15 diğer eyaletin, ChatGPT üreticisi OpenAI hakkında güvenlik soruşturması başlattığı belirtildi. Yapay zeka kullanımının yol açtığı zararlar, cezai soruşturmalara neden olabilir. ABD Savunma Bakanlığı, teknolojinin otonom silahlar için kullanılmaması gerektiğini savunarak şirketi tedarik zinciri riski ilan etti. Ticaret Bakanlığı da güvenlik endişeleriyle ihracat kısıtlamaları getirdi. Şirket, güvenli gelişim için standart yaklaşımları savunmaya devam ederken, büyük bir zorlukla karşı karşıya kalıyor. Dünyadaki yapay zeka altyapısı harcamaları 2027 yılında 2 trilyon dolara ulaşması bekleniyor.
