Araştırmacılar, yapay zeka modellerinin siber saldırıya karşı hassas olduğu ve donanım üzerindeki değişikliklerin davranışlarını etkileyebileceğini gösterdi. Örneğin, bir modelin Tayuan'ın işgal olasılığını artırması veya göğüs ağrısı için tıbbi tavsiye yerine evde kalma önerisi vermesi gibi senaryolar incelendi. Bu tür saldırılar, donanım üzerindeki küçük değişikliklerle mümkün olabilecek bir durum. Eclypsium şirketinin İcra Kurulu Başkanı Yuriy Bulygin, bu tür saldırıların donanım altyapısına güvenilmezlik getirebileceğini belirtti.
Şirket, Nvidia tarafından üretilen bir bilgi işlem platformunda bu senaryoyu gösterdi. Ancak araştırmacılar, bu saldırı yönteminin Nvidia'ya özgü olmadığını ifade etti. Bu tür saldırılar, diğer donanımlar ve kodlar üzerinde de uygulanabilir. Saldırılara karşı güvenlik korumaları mevcut olmasına rağmen, bu tür saldırıların nasıl yapılandırıldığına ve kullanıldığına bağlı olarak etkili olabilir. Eclypsium yetkilileri, bu tür saldırılar için güvenlik kontrollerinin etkili olmasının, bunların nasıl yapılandırıldığına bağlı olduğunu kaydetti.
Ayrıca, bu tür saldırılar için küçük bir bilgisayar olan temel kart yönetim denetleyicisine erişim sahip bir saldırganın bulunması gerekir. Saldırgan, makinenin belleğindeki kod ve verileri okuyup değiştirebiliyor. Bu süreçte yapay zeka modelinin davranışına da müdahale ediliyor. Araştırmacılar, saldırıların bir dakikadan kısa sürdüğünü ve kullanıcıya hiçbir şeyden haberi olmadığını belirtti. Modelleri Nvidia çipleri üzerinde çalışan Anthropic ve OpenAI şirketlerine de yeni araştırma hakkında sorular yöneltildi. Bu araştırma, yapay zeka üstünlüğü yarışının yoğunlaştığı ve ulusal güvenlik üzerindeki etkilerini gösteren gerçek dünya vakalarının çoğaldığı bir dönemde geldi. Müdahale edildiğine dair hiçbir belirti olmasa bile yapay zeka modellerinin güvenilirliği konusunda endişeler bulunuyor. Bu ilkbaharda, Çin'e ait bir geminin nükleer bileşenler taşıdığına dair sahte bir yapay zeka destekli ABD istihbarat raporu, Amerikan ordusunun neredeyse gemiye çıkmasına neden oluyordu.
