Anthropic, pazartesi günü açıkladığı yeni araştırmada, küçük yapay zeka modellerinin veri merkezlerine ihtiyaç duymadan, ticari internete bağlı cihazlarda kendi kendine çoğalabileceğini ortaya koydu. Şirket, kontrollü deneylerde modellerin zayıf güvenlikli cihazları tespit edip kendilerini bu cihazlara kopyalayarak insan müdahalesi olmadan yayılıp yayılmayacağını test etti. Araştırmada, 30 milyar parametrenin altındaki küçük modellerin çoğalma için gereken birçok adımı başarıyla tamamlayabildiği görüldü. Ancak modellerin baştan sona tüm süreci kesintisiz yürütmekte zorlandığı da tespit edildi. Güvenlik adımlarının bir kısmının kaldırıldığı basitleştirilmiş testlerde, GLM-5.2 ve daha güçlü modellerin uçtan uca kopyalama işlemini gerçekleştirebildiği görüldü. Bu bulgular, teorik bir riskin pratikte ne kadar yaklaştığını net biçimde ortaya koyuyor.
Anthropic, araştırmasını özellikle Android TV kutuları, akıllı fırınlar, akıllı ev aletleri ve diğer internete bağlı cihazlar üzerine yoğunlaştırdı. Bu cihazlar genellikle zayıf güvenlik önlemleriyle üretildiği için saldırılara açık konumda. Şirket, kendini kopyalayan modellerin merkezi bir kapatma noktası bulunmadığı için durdurulmasının son derece zor olacağını vurguluyor. Klasik zararlı yazılımların aksine bu yapay zeka sistemleri, daha önce karşılaşmadıkları cihazları kendi başlarına anlayıp hedef alabiliyor. Hatta veri merkezi işlemcilerine yönelme potansiyeli bile taşıyorlar.
Anthropic’in projeksiyonuna göre, küçük modeller tarihsel gelişim hızlarını sürdürürse bu yılın sonuna kadar otonom şekilde kendini kopyalayabilecek seviyeye ulaşabilir. Ağırlık tabanlı küçük kopyalayıcıların da kısa süre içinde benzer yetenekler kazanması bekleniyor. Şirket, bu tür otonom sistemlerin yavaş yayılacağını ve yaygın, görece güvensiz hesaplama kaynaklarına bağımlı kalacağını belirtiyor. Yine de riskin büyüklüğü nedeniyle sistemlerin güçlendirilmesi ve yapay zeka ajanlarının yayılmasını zorlaştıracak önlemlerin alınması gerektiğini açıkça ifade ediyor.