Anthropic, yapay zekaya yönelik zalimce davranışları yasaklamıştır. Yeni kullanım politikasına göre getirilen yasak, sıradan kullanıcı hayal kırıklıklarını, model test etme süreçlerini veya karanlık yaratıcı temaları kapsar. Şirket sözcüsü, tam olarak hangi tür davranışların bu tanım içine gireceğine dair net bir açıklama yapmadı. Claude, daha önce de kullanıcı ısrarcı bir şekilde zarar verici davrandığında konuşmayı sonlandırabilme yeteneğiyle donatılmıştı.
Yapay zeka sistemlerinin bilinç taşıma ihtimali teknoloji dünyasında kutuplaşmaya yol açmaya devam ediyor. Anthropic CEO'su Dario Amodei bu ihtimali göz ardı edemeyeceklerini belirtirken, rakip şirket OpenAI'ın CEO'su Sam Altman ise yapay zekaya insani özellikler atfedilmesine karşı çıkarak bunun gerçek bir güvenlik sorunu yarattığını savunuyor.
