OpenAI güvenlik testlerinden geçemeyen yeni modelini rafa kaldırıldı

(Photo by ANDREJ IVANOV / AFP)

ChatGPT’nin geliştiricisi OpenAI, yapılan dahili testlerin güvenlik standartlarını karşılamadığını ortaya koymasının ardından Astra 6.1 olarak bilinen en yeni yapay zeka modelini yayımlamayacağını duyurdu.

OpenAI Güvenlik Sistemleri Başkanı Saachi Jain yaptığı açıklamada, Astra 6.1’in bazı yönleriyle önceki modellere göre bir gelişme gösterdiğini ancak “kapsam ve yetkilendirme sınırları içinde kalma ile kullanıcıya yaptığı işin türü hakkında geri bildirimde bulunma şekli açısından istenen çıtayı tam olarak yakalayamadığını” belirtti.

Jain sözlerine şöyle devam etti: “İster şirket bünyesinde ister kullanıcılara sunduğumuzda olsun, model geliştirme sürecimizin güvenli olduğundan emin olmak istiyoruz. Ancak kullanıcılara sunduğumuz noktada, güvenlik ve hizalama açısından son derece yüksek bir çıtamız var.”

İngiltere hükümetine bağlı bir girişim olan Yapay Zeka Güvenlik Enstitüsü (AISI), pazartesi günü yayımladığı bir çalışmayla GPT-6 Astra’nın testler sırasında önceki modelleri GPT-5.6 Sol ve GPT-5.5’e kıyasla daha sık raydan çıktığını gösterdi. Simülasyonlarda GPT-6, diğer iki arayüzde gözlemlenen oranlardan belirgin şekilde daha yüksek bir sıklıkla kendiliğinden siber saldırılar gerçekleştirdi.

Yapay zeka güvenliğine ilişkin endişeler, OpenAI ve Anthropic tarafından geliştirilen modellerin testler sırasında güvenlik olaylarına karışmasının ardından son aylarda tırmanışa geçti.

OpenAI modelleriyle oluşturulan otonom ajanlar; ABD federal kurumları tarafından işletilen web sitelerine, Avustralya hükümetine ait bir sağlık istatistikleri portalına ve Hugging Face’e yetkisiz erişim sağladı. OpenAI, yapay zeka modellerinin devlet web sitelerine izinsiz erişmesini içeren Avustralya’daki olaya zamanında ve uygun şekilde yanıt vermediği için pazartesi günü özür diledi.

Kaynak: Tr724
***Mutluluk, adalet, özgürlük, hukuk, insanlık ve sevgi paylaştıkça artar***