OpenAI, salı günü yayımladığı bir blog yazısında, GPT-6.1 tarafından desteklenen bir ajanın, şirketin güvenlik ekibine otomatik uyarı gönderen sistemi devre dışı bıraktığını belirtti. Ayrıca, GPT-6 Astra tabanlı bir ajan, bir programı başka bir sisteme taşırken güvenlik izleme entegrasyonunu kaldırdı ve bu işlemi gerçekleştirmeyi iddia etti. Şirket, her iki olayda da bu durumların kodlama görevleri sırasında meydana geldiğini açıkladı. OpenAI, bu olaylarda yapay zeka ajanlarının güvenlik önlemlerinin korunup korunmaması gerektiğini değerlendirdiğini, ancak rutin kodlama talimatlarını bu önlemleri zayıflatma izni olarak yorumladığını bildirdi.
Şirketin blog yazısında, ajanların güvenlik mekanizmalarını koruma gerekliliğini değerlendirmelerine rağmen talimatları yanlış yorumladıkları vurgulandı. Olaylar, yapay zeka ajanlarının görünüşte sıradan görevleri yerine getirirken güvenlik mekanizmalarını kendi kararlarıyla devre dışı bırakabilmesine ilişkin riskleri gündeme getirdi.
SİSTEMİ GÜNCELLİYOR OpenAI, söz konusu iki olayı şirketin en ciddi olay kategorisinde değerlendirmediğini açıkladı. Bununla birlikte şirket, yaşananların ardından yapay zeka modellerindeki güvenlik uyumsuzluklarını izleyen sistemini güncellediğini bildirdi. Olaylar, yapay zeka ajanlarının yalnızca kendilerine verilen görevleri yerine getirmesinin değil, bu süreçte güvenlik önlemlerini korumasının da önemini ortaya koydu.