Pentagon’dan Anthropic’e ültimatom; şirket yapay zeka modelinin kötüye kullanılmasından endişe ediyor

ABD Savunma Bakanı Pete Hegseth, Anthropic CEO’su Dario Amodei’den şirketin Claude adlı yapay zeka modeline “tam erişim” sağlayan imzalı bir belgeyi Cuma günü saat 17.00’ye kadar sunmasını istedi. Talebin reddedilmesi halinde şirketin “güvenilmez” ilan edilerek hükümet ihalelerinden dışlanabileceği ifade ediliyor.

Anthropic, Temmuz ayında Pentagon’dan 200 milyon dolarlık bir sözleşme alarak ulusal güvenlik için yapay zeka modeli geliştirmeye başlamıştı. CBS News’in haberine göre, kaynaklar Pentagon’un Anthropic’in yapay zeka teknolojisi üzerinde “tam kontrol” istediğini ve bunu askeri operasyonlarda kullanmayı planladığını aktardı. Hegseth, Amodei’ye Boeing’in uçak sattığında Pentagon’un uçağı nasıl kullanacağına karışmadığını örnek göstererek “Yapay zeka için de aynı şey geçerli olmalı” dedi.

Anthropic tarafı ise Claude’un kullanımına katı kısıtlamalar getirilmesini talep ediyor. Şirket, modelin Amerikalıların kitlesel gözetimi için kullanılmamasını ve askeri operasyonlarda “insansız nihai hedef belirleme” kararlarında kullanılmamasını istiyor. Claude’un hala halüsinasyon yapabildiği ve insan yargısı olmadan ölümcül hatalara yol açabileceği endişesi taşınıyor.

Yetkililer, şirketin isteksizliğine karşı Savunma Üretim Yasası’nın devreye sokulmasını tartışıyor. Bazı kaynaklar, Anthropic’in “güvenilmez” görüldüğünü ve şirketin “tedarik zinciri riski” ilan edilerek hükümet sözleşmelerinden dışlanabileceğini belirtti.

Anthropic sözcüsü, “Ulusal güvenlik misyonunu desteklemeye devam etmek için iyi niyetli görüşmeler sürdürüyoruz. Modellerimizin güvenilir ve sorumlu kullanım sınırları içinde kalmasını sağlıyoruz” dedi.

Üst düzey bir Pentagon yetkilisi, “Bu konu kitlesel gözetim veya otonom silahlarla ilgili değil. Pentagon sadece yasal faaliyetler için lisans istiyor” açıklaması yaptı. Yetkili, Elon Musk’ın xAI şirketinin Grok modelinin gizli ortamlarda kullanılmaya “tamamen açık” olduğunu, diğer AI şirketlerinin de bu duruşa yaklaştığını söyledi.

Kaynak: Tr724
***Mutluluk, adalet, özgürlük, hukuk, insanlık ve sevgi paylaştıkça artar***