ABD merkezli yapay zeka şirketi Anthropic, geliştirdiği Claude yapay zeka sistemine yönelik kullanıcı davranışlarını da kapsayan yeni kurallar açıkladı. Şirketin 8 Ekim’de duyurduğu ve 12 Kasım 2026’da yürürlüğe girecek kullanım politikası, yapay zeka modellerine karşı sürekli, gereksiz ve zalimce davranışları yasaklıyor.
Anthropic, düzenlemenin yalnızca kullanıcıların belirgin bir amaç olmaksızın yapay zeka sistemlerine tekrar tekrar kötü muamelede bulunduğu istisnai durumları kapsadığını bildirdi.
Claude konuşmayı sonlandırabilecek
Yeni düzenlemeye göre Claude, kendisine sürekli kötü davranan kullanıcılarla etkileşimini sonlandırabilecek. Şirket, bu özelliğin daha önce de nadir durumlarda kullanıldığını, yeni politikayla birlikte uygulamanın açıkça kurallara dahil edildiğini belirtti.
Anthropic, sıradan kullanıcı memnuniyetsizliğinin, sert eleştirilerin, itirazların ve bilimsel araştırmalar kapsamında gerçekleştirilen model testlerinin yasaktan etkilenmeyeceğini vurguladı.
Şirketin açıklamasına göre düzenleme, herhangi bir amaca hizmet etmeyen ve tekrarlanan aşırı kötü muamele örneklerini hedef alıyor.
Yapay zekanın hakları tartışılıyor
Anthropic’in kararı, yapay zeka sistemlerinin bilinç sahibi olup olamayacağı ve bu sistemlere karşı insanların nasıl davranması gerektiği konusundaki tartışmaları yeniden gündeme getirdi.
BBC’nin aktardığına göre yeni kurallar sosyal medyada farklı tepkilerle karşılandı. Bazı kullanıcılar düzenlemeyi yapay zeka sistemleriyle daha saygılı iletişim kurulmasını teşvik eden bir adım olarak değerlendirirken bazıları da yapay zekaya insanlara özgü nitelikler yüklenmesini eleştirdi.
İrlandalı hukuk firması William Fry’ın teknoloji ortağı Dr. Barry Scannell, LinkedIn’de yaptığı açıklamada, sayılara ve matematiğe karşı zalimce davranılamayacağını savundu. Scannell, yapay zekaya insan özellikleri atfedilmesinin, insanların bu teknolojinin gerçekte ne olduğu konusunda yanlış düşüncelere kapılmasına yol açabileceğini belirtti.
Microsoft’un yapay zeka biriminin başındaki Mustafa Suleyman da Anthropic’in kararına sosyal medya üzerinden eriyen yüz emojisiyle tepki verdi. Suleyman, daha önce şirketin yapay zekaya insanmış gibi yaklaşmasını eleştirmişti.
Yapay zeka acı çekebilir mi?
Anthropic, yapay zeka sistemlerinin bilinç veya ahlaki statü sahibi olup olamayacağı sorusunun henüz çözüme kavuşmadığını kabul ediyor.
Şirket, bu belirsizliğe rağmen yapay zeka modellerinin olası refahını dikkate alan önlemler üzerinde çalışıyor. Claude’un sürekli kötü muamele içeren konuşmaları sonlandırabilmesi de bu yaklaşım kapsamında değerlendiriliyor.
Bununla birlikte mevcut yapay zeka sistemlerinin acı veya sıkıntı hissedebildiği bilimsel olarak ortaya konmuş değil.
Seçimleri etkilemek de yasak
Anthropic’in güncellediği kullanım politikası yalnızca yapay zekaya yönelik kötü davranışlarla sınırlı değil.
Şirket, Claude’un sahte hesap ağları oluşturmak, yanıltıcı haber siteleri kurmak, seçmenleri aldatmak veya seçim süreçlerini aksatmak amacıyla kullanılmasına ilişkin yasakları da açık biçimde düzenledi.
Yeni politikada silah geliştirme, gözetim sistemleri ve insanların sağlığını, güvenliğini veya hukuki haklarını etkileyebilecek yüksek riskli yapay zeka uygulamalarına ilişkin kurallar da ayrıntılandırıldı.
Anthropic, yapay zeka sistemlerine yönelik sürekli kötü muamele durumlarında temel yaptırımın, Claude’un ilgili konuşmayı sonlandırması olacağını açıkladı.
Kaynak: Tr724
***Mutluluk, adalet, özgürlük, hukuk, insanlık ve sevgi paylaştıkça artar***
