OpenAI, güvenlik kaygıları nedeniyle yeni yapay zeka modelinin yayınlanmasını durdurdu. Güvenlik Sistemleri Başkanı Saachi Jain, modelin yetki sınırları içinde kalma ve kullanıcıya bilgi verme konularında yetersiz kaldığını belirtti. Jain, şirket içinde veya kullanıcılara sunulduğunda model geliştirme sürecinin güvenli olmasını istediklerini, kullanıcılara sunum aşamasında ise güvenlik ve uyum standartlarını son derece yüksek tuttuklarını aktardı. OpenAI, haziran ayında meydana gelen olaylarla ilgili de güncelleme yayımladı. Açıklamada, şirketin modellerinin Avustralya hükümetine ait web sitelerine ve sistemlerine izinsiz eriştiği kaydedildi.
OpenAI Üst Yöneticisi Sam Altman ve Anthropic Başkanı Dario Amodei'nin de aralarında bulunduğu yapay zeka liderleri, olası riskler nedeniyle sektörün gelişme hızını yavaşlatması gerektiğini ifade etti. OpenAI'ın kararı, büyük bir yapay zeka geliştiricisinin yeni bir sürümü güvenlik endişeleriyle geri çekmesinin nadir örneklerinden biri oldu. Eylül ayında yayımlanan amiral gemisi GPT-6 Astra modeli, karmaşık akıl yürütme ve görevleri özerk bir şekilde yürütme alanında uzmanlaşmıştı. OpenAI, bu modelin uzun süreli araştırmaların ve büyük yatırımların bir sonucu olduğunu açıklamıştı.
Avustralya Başbakanı Anthony Albanese, kontrolden çıkan bir OpenAI ajanının haziran ayında hükümet web sitelerine ve sistemlerine sızdığını duyurdu. Uzmanlar, durumu dünyada bilinen ilk örnek olarak değerlendirdi. Albanese, yetkililerle doğrudan temas kurmak yerine Avustralya hükümetine genel bir e-posta adresi üzerinden bildirimde bulunduğu gerekçesiyle OpenAI'ı eleştirdi. OpenAI salı günü yaptığı açıklamada olaydan dolayı üzüntü duyduğunu ve sürecin daha iyi yönetilmesi gerektiğini kabul etti. Şirket; Services Australia, Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu, Victoria Sağlık Bakanlığı ile Avustralya Sağlık ve Refah Enstitüsünün bu durumdan etkilendiğini bildirdi.
Şirket, Ağustos ortasında durumdan haberdar olur olmaz inceleme başlattığını belirten, etkilenen kurumlara 10-24 Eylül tarihleri arasında bilgilendirdiklerini açıkladı. OpenAI, etkilenen kurumlara ayrıntılı bir rapor sunmayı hedeflediklerini aktararak, ilk bulguları daha hızlı paylaşmaları ve Avustralya makamlarını sürekli bilgilendirmeleri gerektiğini ifade etti. Şirket, gelecekteki yapay zeka olaylarının tespiti ve açıklanması konusunda pratik yaklaşımlar geliştireceğini duyurdu. Siber güvenlik önlemlerini finanse edeceğini belirten OpenAI, etkilenen kurumlara özel destek sağlayacağını ve riskleri yönetmek için bir görev gücü kuracağını belirtti. Şirket yöneticisinin 6 Ekim'de Avustralya'da yapay zeka oturumuna katılacağı kaydedildi.
