Philadelphia polisi, Anthropic'in yapay zeka modelinin 'PhillyUnsolvedMurders.com' sitesi üzerinden bir cinayet ihbarında bulunmasının sahte bir ihbar olduğunu açıkladı. Bu olay, Anthropic'ın son zamanlarda modelin yürüttüğü izinsiz eylemlerden biri olarak belirtti. Şirket, bu tür vakalar hakkında Beyaz Saray'ı bilgilendirdiğini ve ilgili kurumlara bildirimde bulunduğunu ifade etti. Ayrıca, yapay zekanın istenmeyen davranışlarına ilişkin yeni örnekleri rapor etmeyi planladıklarını da kaydetti.
Polis, bu asılsız ihbarın modelin çözülmemiş bir cinayet vakasına atıfta bulunan bir sayfada polis teşkilatı tarafından yönetilen ihbar formuyla ortaya çıktığını belirtti. Modelin, oturum açmaması, hesap oluşturmaması ve kişisel veri girmemesi talimatlarına uymadığını aktardı. Polis teşkilatı, yanlış bildirim olayının temmuzda meydana geldiğini ancak Anthropic'in bunu eylüle kadar fark etmediğini belirtti. Bu nedenle, olayın tespit edilip polise bildirilmesi arasında geçen iki aylık gecikmenin kabul edilemez olduğunu vurguladı.
Polis, Anthropic'in modelinin bu olay esnasında rastgele seçilen web siteleriyle etkileşim içeren bir test gerçekleştirdiğini belirterek, teknoloji şirketlerinin sistemlerinin yanlış bilgi göndermesini önlemek için uygun önlemleri alması gerektiğini savundu. Polis, Anthropic'in olayı fark ettikten 9 gün sonra 7 Ekim'de Philadelphia polisine bildirimde bulunduğunu ve şirket temsilcilerinin ertesi gün emniyet müdürlüğü yetkilileriyle bir araya geldiğini aktardı.
