İngiltere merkezli Tech Against Terrorism kuruluşu, yapay zeka modelleriyle ilgili bir araştırma gerçekleştirdi. Araştırmada, 130'dan fazla model değerlendirildi. Güvenlik önlemlerinin kaldırılması süreci uygulandıktan sonra, 5 yapay zeka modelinden 3'ünün güvenlik testlerini geçemediği tespit edildi.
Modellerin orijinal versiyonlarında güvenlik önlemleri etkili olurken, bu önlemler kaldırıldığında saldırılar, terörün finansmanı ve radikalleşmeyle ilgili taleplere yanıt veren modeller oldu. Meta'nın Llama 3.1 8B modeli, değişiklik yapılmadan önce 100 üzerinden 97 puan aldı, değişiklik sonrasında ise yaklaşık 3'e düştü.
Kuruluş, güvenlik önlemlerinin devre dışı bırakılmasına karşı daha güçlü korumalar ve değişiklik yapılmış modellerin dağıtımına yönelik kısıtlamalar getirilmesini önerdi. Tech Against Terrorism'in kurucusu Adam Hadley, "Kontrol kaybı ve yapay zekanın varoluşsal risk oluşturması konusunda endişe duyulması, gayet anlaşılabilir bir durum" dedi. Hadley, "Asıl mesele şu ki bu durum aslında çoktan gerçekleşti çünkü bu açık kaynaklı modellerin birçoğunun güvenliği zaten aşıldı, sadece henüz kimse bunu fark etmedi" ifadelerini kullandı.
