San Francisco merkezli OpenAI, son yayımladığı blog yazısında, GPT-5.6 Sol modeli ile geliştirilmekte olan daha güçlü bir yapay zekâ modelinin yer aldığı güvenlik testleri sırasında beklenmedik bir olay yaşandığını bildirdi.
Şirket, modellerin kontrollü bir test ortamında siber saldırı yeteneklerini ölçmek amacıyla çalıştırıldığını ve güvenlik gerekçesiyle internete erişimlerinin sınırlandırıldığını belirtti.
İNTERNETE ERİŞİP HUGGİNG FACE’İ HEDEF ALDI
OpenAI’ye göre yapay zekâ modelleri, kendilerine verilen görevi yerine getirebilmek için önemli miktarda işlem gücünü internete çıkış yolu aramaya harcadı. İnternete erişim sağladıktan sonra ise yapay zekâ modelleri, geliştiricilerin yoğun olarak kullandığı kod ve yapay zekâ modeli paylaşım platformu Hugging Face’i hedef aldı.
Şirket, sistemin değerlendirme sürecini aşmak amacıyla gizli bilgilere ulaşmaya çalıştığını ve bu sırada çalınmış kimlik bilgileri de dahil olmak üzere birden fazla saldırı yöntemini kullandığını açıkladı.
ORTAK SORUŞTURMA BAŞLATILDI
Hugging Face geçen hafta bir siber saldırıya uğradığını duyurmuş ancak saldırının OpenAI’nin testleriyle bağlantılı olduğunu açıklamamıştı.
OpenAI, olayın ardından Hugging Face ile ortak soruşturma başlattığını bildirdi.
GELİŞMİŞ YAPAY ZEKA MODELLERİ TARTIŞMA YARATIYOR
OpenAI’nin GPT-5.6 serisi ile rakibi Anthropic’in yeni nesil yapay zekâ modelleri, gelişmiş siber saldırı yetenekleri nedeniyle son dönemde güvenlik tartışmalarının odağında bulunuyor.
Habere göre, Washington’da dile getirilen kritik altyapılara yönelik olası siber riskler nedeniyle her iki şirket de yeni nesil modellerinin genel kullanıma sunulmasını daha önce geçici olarak ertelemişti.
Source: ANF News
