Yapay zeka şirketi Anthropic, Claude adlı yapay zeka modeline yönelik kullanım kurallarını güncelledi. Ekim ayının başında yapılan düzenlemeyle, kullanıcıların modellere karşı 'sürekli ve gereksiz kötü veya zalimce davranışlarda' bulunmaması gerektiği belirtildi. Şirketin daha önce de ısrarlı biçimde zararlı veya kötü niyetli davranışlarla karşılaşan Claude'un konuşmayı sonlandırmasına izin veren bir sistemi bulunuyordu. Yeni düzenlemeyle, aşırı durumlarda kullanıcıların Anthropic'in yapay zeka sistemlerine erişiminin tamamen engellenmesi de gündeme gelebilecek.
Anthropic, düzenlemenin kullanıcıların öfkelerini dile getirmesini, doğrudan eleştirilerde bulunmasını veya araştırma amacıyla testler yapmasını hedeflemediğini belirtti. Şirketin açıklamasına göre temel yaptırım mekanizması, Claude'un ilgili konuşmayı sonlandırması olmaya devam edecek. Yeni politika, yapay zekanın bilinç sahibi olup olmadığı ve duygular hissedip hissedemeyeceği yönündeki tartışmaları yeniden gündeme getirdi. Ancak uzmanlar, düzenlemenin yalnızca yapay zekanın duygularını korumakla ilgili olmadığını vurguluyor.
Uzmanlar, yapay zekaya yönelik kötü niyetli davranışlar, sistemin güvenlik önlemlerini aşmaya yönelik girişimlerle de bağlantılı olabiliyor. Bu nedenle söz konusu politika, yalnızca iletişim biçimine değil, yapay zeka modellerinin tehlikeli taleplere karşı korunmasına da ilişkin bir önlem olarak değerlendiriliyor. Anthropic'in aktardığı araştırma sonuçlarına göre, Claude Sonnet 4.5 modelinin çaresizlik hissini taklit etmesinin istenmesi, bazı durumlarda şantaj veya görev sırasında hile yapma gibi istenmeyen davranışların görülme olasılığını artırabiliyor. Daha sakin bir yaklaşımın ise bu tür davranışları azaltabildiği belirtiliyor.
