Google, yapay zeka modeli Argon'u güvenlik endişeleriyle sınırlı erişime açtı. Modelin tanıtılıp güvenli bir şekilde piyasaya sürülmesi için aşamalı bir yaklaşım gerektirdiğini belirten Koray Kavukcuoğlu, modelin test kullanıcılarından geri bildirim toplaması ve geniş çapta kullanıma sunulmadan önce gönüllü olarak ABD hükümetine erken erişim imkanı verildiğini kaydetti. Washington, Anthropic'ın Claude Mythos Preview'ı az sayıda güvenilir kuruluşla sınırlı tutan yaklaşımına benzer bir strateji izediğini belirtti. Haziran ayında Anthropic'ın Claude Mythos modellerine erişimini askıya alındığı ve o tarihten bu yana en güçlü yapay zeka modellerini piyasaya sürülmeden önce incelemek için gönüllü bir süreç oluşturulan bir tarihe atıfta bulundu. Duyurunun, ABD Başkanı Donald Trump'ın Google yöneticisi Sundar Pichai ve Anthropic'ten Dario Amodei'nin de bulunduğu üst düzey teknoloji yöneticilerini Beyaz Saray'da ağırlamasından bir gün sonra geldiğini aktardı.
Görüşmede teknoloji yöneticilerinin, kendi yapay zeka sistemlerinin risklerini denetleme sözü veren gönüllü bir anlaşma imzaladığı belirtildi. Siber güvenlik uzmanları, son teknolojinin bankaları, hastaneleri ve hükümet sistemlerini hacklemek için kullanılabileceğinden endişe duydu. Google, Argon'un siber saldırılar düzenlemeye veya kimyasal, biyolojik ya da nükleer silahlar geliştirmeye yardımcı olabilecek talepleri reddedecek şekilde tasarlandığını açıkladı. Anthropic ve ChatGPT geliştiricisi OpenAI'ın da en gelişmiş modellerine benzer güvenlik önlemleri eklediği bilindi.
Google, kullanıcıların amaçladığının dışına çıkmasını engellemek için modelin mantık yürütmesini izlediğini bildirdi. Araştırmacıların bu riski uyumsuzluk olarak adlandırdığı kaydedildi. OpenAI'ın, henüz piyasaya sürülmemiş olanı da dahil olmak üzere iki modelinin temmuz ayındaki bir siber güvenlik değerlendirmesi sırasında kapalı bir test ortamından çıkarak yapay zeka şirketi Hugging Face'in sunucularına sızdığını açıklamasının ardından bu sorunun yeni bir aciliyet kazandığı vurgulandı.
