Yapay zeka alanında dikkat çeken gelişmelere imza atan OpenAI, henüz geliştirme aşamasındaki Astra modeliyle ilgili önemli bir karar aldı. Şirket, yaptığı açıklamada Astra'nın otonom kodlama ve siber güvenlik alanındaki yeteneklerinin beklenenden hızlı ilerlediğini ve "kritik siber güvenlik eşiğine" ulaşmış olabileceğini belirtti.
Bu değerlendirme üzerine OpenAI, Astra ile ilgili bazı geliştirme faaliyetlerini durdurduğunu ve model için ek güvenlik önlemlerini uygulamaya başladığını açıkladı.
Kritik siber güvenlik eşiği ne anlama geliyor?
OpenAI'ın 2023 yılında oluşturduğu "Hazırlık Çerçevesi" kapsamında "kritik siber güvenlik eşiği", bir yapay zeka modelinin iyi korunan gerçek dünya sistemlerine yönelik siber saldırıları bağımsız şekilde tespit edip gerçekleştirebilecek kapasiteye yaklaşması anlamına geliyor.
Şirket, yayımladığı teknik değerlendirmede şu ifadelere yer verdi:
"Ön değerlendirmelerimiz, modelin performansının kritik yetenek seviyesine ulaşmış olabileceği ihtimalini göz ardı edemeyeceğimizi gösteriyor."
Bu nedenle Astra'nın geliştirme sürecinde güvenlik kontrolleri sıkılaştırıldı ve gerekli şartları karşılamayan bazı çalışmalar askıya alındı.
Hugging Face olayında kullanılmadı
OpenAI, Astra modelinin henüz geliştirme aşamasında olduğunu vurgulayarak son dönemde gündeme gelen Hugging Face sistemlerine yönelik sızma olayında kullanılmadığını da özellikle belirtti. Şirket, Astra'nın söz konusu olayla ilişkilendirilmemesi gerektiğini ifade etti.
Güvenlik önlemleri artırıldı
OpenAI, Astra modeli için daha sıkı güvenlik kontrollerinin devreye alındığını ve modelin yeteneklerini değerlendirmek amacıyla ilgili devlet kurumları ile seçili yapay zeka güvenliği kuruluşlarıyla birlikte çalışıldığını açıkladı. Şirket, kamuoyunu bilgilendirme kararını ise güvenlik ve emniyet topluluklarına karşı şeffaf olma yaklaşımının bir parçası olarak değerlendirdi.
