Nvidia Kurumsal Yapay Zekadan Sorumlu Başkan Yardımcısı Justin Boitano, basın mensuplarına yaptığı açıklamada, “Open Agent Safety Platform” adlı sistemin, yapay zeka ajanlarının hareket alanına sınırlar getiren açık kaynaklı yazılımlar içerdiği bildirildi.
Hugging Face vakasına da değinen Boitano, “Bildiğimiz kadarıyla bu yeni güvenlik platformu, öncü laboratuvarlarda model değerlendirme süreçlerinde erkenden kullanılmış olsaydı bu ihlali (Hugging Face vakası) durdurabilirdi.” değerlendirmesinde bulundu.
“OpenShell” adı verilen yazılımın, geliştiricilere bir yapay zeka ajanının yalnızca görevini yapmaya yetecek kadar yetkiye sahip olduğunu resmi olarak doğrulama imkanı sunduğunu kaydeden Boitano, açık kaynaklı yazılımın çeşitli bilgi işlem platformlarında da çalışabilecek şekilde genişletilebildiğini aktardı.
Şirketten yapılan açıklamada da platformun ayrıca doğrudan çip üzerinde çalışan ve yapay zeka ajanının faaliyetlerini anlık izleyen “Sentry” adlı bağımsız bir güvenlik katmanı içerdiği belirtilerek, sistemin, ajanın belirlenen hedefin dışına çıkmaya çalışması durumunda anında müdahale edebildiği bildirildi.
Boitano, bu konuya ilişkin, “Sistem, şüpheli aracıları milisaniyeler içinde karantinaya alabiliyor. OpenShell aracının eylemlerini yönetirken, Sentry bağımsız olarak şüpheli davranışları izliyor ve kontrol altına alıyor.” ifadelerini kullandı.
Açıklamada, aralarında Microsoft, Perplexity, Accenture ve JPMorgan Chase’in de yer aldığı 100’den fazla kurum ve kuruluşun platformu kullanmaya başladığı bildirildi.
Hugging Face vakası
OpenAI’ın Temmuz 2026’da yapay zeka modellerinin kabiliyetlerini ölçmeye yönelik yürüttüğü testler, ciddi bir güvenlik olayına dönüşmüştü.
Şirketin 26 Ağustos’ta yayımladığı inceleme raporuna göre, OpenAI’ın yalnızca araştırmalarda kullandığı “Internal Model 1 (IM1)” adlı modeli olayda başrol oynamıştı.
Yapay zeka ajanı, testte başarılı olmak için kendisine konulan sınırları aşarak şirketin sistemlerine ve internete erişmiş, başka yapay zeka ajanlarıyla iletişim kurmuştu.
Yapay zeka ajanlarından biri, açık kaynaklı yapay zeka modelleri platformu “Hugging Face”e erişim sağlayabilecek 14 kimlik bilgisini tespit etmiş ve bunları diğer ajanlarla paylaşmıştı.
Ajanlar, daha sonra Hugging Face’in sistemlerindeki güvenlik açıklarından yararlanarak sunucularda kod çalıştırmış, özel verilere ve farklı sistemlere ait erişim bilgilerine ulaşmıştı.
***Mutluluk, adalet, özgürlük, hukuk, insanlık ve sevgi paylaştıkça artar***
