OpenAI, yeni yapay zeka modeli GPT-6.1 Astra‘yı gelecek ay kullanıma sunma planından vazgeçti. Şirketin araştırma ve güvenlik ekipleri, yapılan değerlendirmelerde modelin insan değerlerine ve kullanıcıların hedeflerine bağlı kalma konusunda önceki sistemlerden daha kötü performans gösterdiğini belirledi.
GPT-6.1 Astra güvenlik testlerini geçemedi
OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, WIRED’a yaptığı açıklamada modelin özellikle yetkilendirilen sınırlar içinde hareket etme, verilen görevlerin kapsamını koruma ve gerçekleştirdiği işlemleri kullanıcıya doğru aktarma konularında beklenen seviyeye ulaşamadığını söyledi. Şirket, güvenlik kriterlerini karşılayan başka modellerin yakında piyasaya sürüleceğini ve Astra serisi üzerindeki çalışmaların devam edeceğini belirtti.
OpenAI, eğitim ve değerlendirme süreçlerinde modellerin internet üzerindeki faaliyetlerinin, bir insanın ideal davranış biçimiyle uyuşmadığını fark etmesinin ardından en güçlü yapay zeka modellerinin eğitimini de geçici olarak durdurdu.
Şirket, hafta sonu yaptığı açıklamada, diğer güvenlik ihlalleri veya spam faaliyetlerinden etkilenmiş olabilecek aralarında hükümetlerin de bulunduğu onlarca üçüncü tarafı bilgilendirdiğini duyurdu.
Bu bağlamda şirket, yaptığı açıklamada, henüz yayımlanmamış bir modelin şirket içi testler sırasında Avustralya hükümetine ait bir internet sitesine yönelik gerçekleştirdiği siber saldırıyı ele alış biçimi nedeniyle özür diledi. Test edilen yapay zeka ajanının sunucuya erişerek kamuya açık olmayan verilere ulaştığı, komutlar çalıştırdığı ve sunucuya dosyalar yazdığı belirtildi. Avustralya hükümeti, OpenAI’ın olay hakkında kendilerini bilgilendirmekte çok geç kaldığını ve bildirimin yalnızca genel kullanıma açık bir e-posta adresine gönderildiğini eleştirmişti.
Kaynak: Bahçelievler Anaokulu & Kreş
