Anthropic CEO’sundan yapay zeka çağrısı: “Geliştirme çalışmalarını yavaşlatmalıyız”

Anthropic CEO’su Dario Amodei, “süper zeki” bilgisayar sistemlerinin risklerine ilişkin artan endişeler karşısında yapay zeka şirketlerini bu güçlü teknolojinin gelişimini yavaşlatmaya çağırdı.

Amodei’nin bu açıklaması, OpenAI ve Anthropic’in eski çalışanı yapay zeka araştırmacısı Jacob Coxon’un, her iki Amerikan şirketini de “insan hayatıyla kumar oynamakla” suçlayarak sektörden ayrılma kararı almasından birkaç gün sonra geldi.

Amodei, kişisel internet sitesinde yayımladığı yazıda, “Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine de hızlı görünecek ama kazandığımız zamanı akıllıca kullanmalıyız” dedi.

Yapay zekanın çok güçlü bir teknoloji olması nedeniyle getirdiği risklerin ciddi olduğunu vurgulayan Amodei, “Teknolojiyi inşa etmemek insanlığı faydalardan mahrum bırakır ya da yapay zekayı otoriter güçlerin eline bırakır; çok hızlı inşa etmek ise pervasızca. Bir orta yol arıyoruz” ifadelerini kullandı.

2021 yılında kız kardeşi Daniela ile birlikte Anthropic’i kuran Amodei, “Ancak son birkaç aydır, risklerin tam olarak ele alınmasının daha da fazla ihtiyat gerektirdiğine ikna oldum” dedi.

Sektörden art arda uyarılar

Amodei’nin açıklaması, Anthropic’in haziran başında gelişimin yavaşlatılması veya askıya alınması yönündeki çağrısını yineliyor.

Temmuz ayı sonunda Anthropic’in rakibi OpenAI’ın yöneticisi Sam Altman, geliştiricilerin toplumun yetişmesine fırsat tanımak için hızlarını gönüllü olarak yavaşlatmaları gerekebileceğini söylemişti.

Aynı dönemde Amodei’nin de aralarında bulunduğu önde gelen yapay zeka şirketlerinden 1000’den fazla çalışan, ABD hükümetine “otomatik yapay zeka gelişimini kasıtlı olarak yavaşlatmak” için yardım çağrısında bulunan bir dilekçe imzalamıştı.

OpenAI, test sırasında yapay zeka modellerinin kısıtlı ortamlarından çıkarak internete bağlandığını ve geliştiricilerin kod depolamak ve paylaşmak için kullandığı Hugging Face sitesine sızdığını açıklamıştı.

İNCELEME | Frene basan yok; yapay zeka nereye koşuyor?

Kaynak: Tr724
***Mutluluk, adalet, özgürlük, hukuk, insanlık ve sevgi paylaştıkça artar***