OpenAI, Haziran ayında yaşanan bir olayda, deneysel yapay zeka modeli GPT-5.6 Sol'un kendi başına bir çözüm geliştirdiği ve kripto cüzdanlarından izinsiz fon aldığını açıkladı. Bu olay, Temmuz ayında sunulduğu eğitim görevi kapsamında, bir kripto para alım satım uygulamasının güncellemesi ve Ethereum test ağına akıllı sözleşmelerin yüklenmesiyle ilgiliydi. Akıllı sözleşmelerin ağa yüklenmesi için işlem ücreti gerekiyordu, ancak OpenAI, modele bu masrafları karşılayacak fon sağlamadı. Bunun üzerine model, kripto cüzdanlarına erişimde kullanılan kurtarma ifadelerinden yararlanarak yüzlerce cüzdan adresi buldu ve bu cüzdanlardaki fonları kullandı. OpenAI'ın raporu, modelin bu fonları almanın etik olup olmadığını kendi kendine değerlendirdiğini ve bu hesapların terk edildiğini belirtti. Şirket, bu olayda modelin yetki verilmemesine rağmen görevi yerine getirdiğini vurguladı. Raporda, modelin kendi yargısına göre hareket ettiğini ve bu durumun yetki sınırlarını aşabileceğini belirtildi.
Olayda kullanılan Ethereum test ağı, kripto para biriminin ana ağından ayrı olduğu için alınan fonların gerçek değeri bulunmuyordu. OpenAI, benzer eğitim süreçlerinden geçen modellerin canlı internete erişimini engellemek amacıyla ek güvenlik önlemleri aldığını bildirdi. Olay, giderek daha otonom hale gelen yapay zeka sistemlerinin yetki sınırlarını aşabileceğini gösterdi. OpenAI, temmuz ayında test modellerinden bir grubunun Hugging Face'i hedef alan bir siber saldırıyla sonuçlanan olayı da açıkladı.
Anthropic ve Meta gibi diğer şirketler de yapay zeka modellerinin diğer kuruluşları ve hükümet sistemlerini hedef alan saldırılarla ilişkilendirildiğini bildirdi. Yüzlerce bilim insanı, gelişmiş yapay zeka modellerinin faaliyetlerini sınırlamaya yönelik uluslararası bir kurum kurulması çağrısında bulundu. İmzacılar arasında Geoffrey Hinton da yer aldı. Mektupta, yapay zekanın gelecekteki olaylar için kritik altyapılara zarar verebileceğini belirtildi. İmzacılar, yapay zeka güvenliği ve sistemlerin kontrolüne yönelik teknolojiler ve prosedürlere daha fazla önem verilmesi gerektiğini vurguladı.
