Anthropic’in CEO’su Amodei’den yapay zekanın gelişim hızına yönelik itiraf

Amodei, CBS News’e verdiği mülakatta, yapay zeka uzmanlarının son zamanlarda bu teknolojiye ilişkin dile getirdiği endişeler hakkında değerlendirmelerde bulundu.

Yapay zeka teknolojisinin katlanarak artan hızla geliştiğini belirten Amodei, “İlerlemenin bu kadar hızlı olmasının, gerçekte nasıl bir şey olacağını tam olarak kavrayabildiğimi sanmıyorum.” dedi.

Amodei, bu teknolojinin bu hızda ilerlemesinin sektörün yavaşlaması için uyarı işareti olduğunu ifade ederek, “Bu, bugün paniğe kapılmamız ve her şeyi kapatmamız anlamına gelmiyor.” diye konuştu.

Yapay zekanın gelişim hızına ayak uydurabilecek önlemlere ihtiyaç duyulduğunun altını çizen Amodei, yapay zeka şirketlerinin bir araya gelerek güvenlik standartları belirlemesi ve yapay zekanın piyasaya sürülme hızına yönelik bazı kurallar oluşturması gerektiğine dikkati çekti.

Amodei ayrıca önlemlerin başarılı olması için sektörün hükümetlerle işbirliği içinde çalışması gerektiğini vurguladı.

Amodei, bu teknolojinin ciddi riskleri ve faydaları olduğuna ancak faydaların, risklere ağır bastığını, bu teknolojinin doğru inşa edilmesiyle risklerin azaltılacağına inandığını belirterek “Bazı faydalarına bakarsak gerçekten bu teknolojinin, insanlığın binlerce yıldır mustarip olduğu hastalıkları iyileştireceğine inanıyorum.” dedi.

Güçlü olan bir teknolojinin iyi amaçla da kötü amaçla da kullanılabileceğine işaret eden Amodei, Hugging Face gibi bazı yapay zeka geliştirme platformlarının kendi başlarına “hackleme” yapmasından ve bu durumun artmasından endişe duyduğunu söyledi.

Amodei, dün yayımladığı ve “üç aşamalı plan” önerisinde bulunduğu makalesine atıfta bulunarak ilk aşama olan değerlendirme mekanizmasının, yeni yapay zeka modellerini nasıl veya ne zaman hizmete sunacaklarından daha önemli bir mesele olduğunu dile getirerek “Bunun (değerlendirmenin) sektör genelinde yapılmasını ve böylece birisi ne zaman yapay zeka modeli inşa ederse en iyi güvenlik uygulamalarını anlayan üçüncü taraf değerlendirici de orada olur.” dedi.

Bu değerlendiricilerin, teknolojinin ilerleme hızına ne ölçüde ayak uydurabildiklerini yapay zeka modeli üreticilerine bildirerek bu teknolojinin hızının kısıtlanmasında rol oynayacağını savunan Amodei, Tesla ve SpaceX Üst Yöneticisi (CEO) Elon Musk ile ABD merkezli yapay zeka şirketi OpenAI’ın Üst Yöneticisi (CEO) Sam Altman’ın bu plan önerisine destek vermesini şöyle değerlendirdi:

Rakiplerimiz dahil diğer sektör liderlerinin bu plana ilişkin görüş birliğini ifade etmesini takdir ediyorum. Bence sonraki adım, birçok sektör oyuncusunun üçüncü taraf değerlendiricileri onaylamasını sağlamak. Bundan sonraki adımda bir şekilde firmalar yapay zeka modeli sunmak için güvenlik standartlarını belirlemek için beraber çalışmalı. Bu belki sistemleri sunma hızıyla ilgili olabilir. Ancak bunu yapmak için hükümetin müdahil olması gerekiyor.

“Bence umudumuz yüksek, beklentimiz düşük olmalı”

Amodei, OpenAI ve Anthropic’te son üç yıldır araştırmacı olarak çalışan ve Anthropic’ten istifa eden Jacob Coxon’ın bu teknolojiye ilişkin uyarıları kendisinin de yaptığını söyleyerek çeşitli konularda ABD hükümet yetkilileriyle görüştüklerini ifade etti.

Yapay zekaya ilişkin yasal düzenlemelerin bu teknolojiyi tamamen yasaklamaya odaklanmaması gerektiğini savunan Amodei, “Bunun sebeplerinden biri, (teknolojinin) faydalarını, tıbbi ilaçları elde edemeyecek olmamız. Bu bana doğru gelmiyor. İkincisi, bu teknoloji, Çin ve diğerleri gibi otoriter ülkeler tarafından geliştirilecek. Bu teknolojiyi nasıl kullanacaklarından endişeliyim.” değerlendirmesinde bulundu.

Amodei, Çin gibi ülkelerle rekabetin, bu konuda adım atılmasının önündeki en zor ikilem olduğunu söyleyerek “bu ülkelere çip satmayarak, kendi güvenliklerini artırmaya odaklanarak teknolojilerinin çalınmasının önüne geçeceklerini” savundu.

Anthropic’in sunduğu bir raporda yapay zekanın biyolojik terör saldırılarında kullanılıyor olabileceği iddiasına yer verildiğini belirten Amodei, “Çinliler bile bunu istemiyor. Hiçbir hükümetin çıkarında biyolojik terörizme yer yok. Bu nedenle Çinlilerle konuşup bu teknolojinin hızını kısıtlamak için işbirliği yapıp yapamayacağımızı görmemiz gerek.” dedi.

Amodei, bu teknolojinin olabildiğince kısıtlanması için işbirliği çağrısını yineleyerek “Bence umudumuz yüksek, beklentimiz düşük olmalı.” diye konuştu.

ABD Başkanı Donald Trump’ın, Çin Devlet Başkanı Şi Cinping ile yapacağı görüşmeye ilişkin soruya Amodei, “ABD ve Çin, yapay zekanın biyolojik silah geliştirmek için kullanılmaması ya da biyolojik teröristlerin, biyolojik silah geliştirmek için kullanabileceği modeller sunulmaması konusunda anlaşabilir.” cevabını verdi.

Amodei, yapay zekanın gidişatından duyduğu sorumluluğa ilişkin soruya, bu teknolojinin özel bir şirket tarafından geliştirilmesini “tuhaf” bulduğu yanıtını verdi.

Bazı insanların bu teknolojinin hükümet tarafından geliştirilmesi gerektiği görüşünde olduğunu aktaran Amodei, “Onlara katılıyorum. Bu durumdan rahatsızım.” diyerek bu konuda sorumlu hissettiğini dile getirdi.

Amodei, “bir sabah uyanıp bir kişinin Anthropic’in yapay zeka modelini birini öldürmek için kullandığını öğrenmek istemediğini” söyleyerek tek kişinin sorumluluğu olmasından ziyade bu konuda herkesin rol oynaması gerektiğini ifade etti.

Bu teknolojiyi hükümete devretmek isteyip istemeyeceğine ilişkin soruya Amodei, “Tek bir hükümetin, tek şirketin yapabileceği kadar kolay şekilde bu teknolojiyi kötüye kullanabileceğinden endişeliyim. Ancak demokratik yollarla seçilen hükümetlerin bir araya gelmesiyle, şirketi devretmekten ziyade bir çeşit denetim ve ortak yönetişim verilebileceğini düşünüyorum.” cevabını verdi.

Amodei, yapay zeka konusunda ciddi tehlikeler olduğunu vurgulayarak “Bence uzun zamandır insanlar bu teknolojinin riskleri hakkında yalan söyledi.” dedi.

Coxon’un istifası

OpenAI ve Anthropic’te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savunarak Anthropic’ten istifa etmişti.

Şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz yarış içinde olduğunu ileri süren Coxon, “Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek.” ifadelerini kullanmıştı.

Coxon ayrıca, yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde “insanlığı öldürebileceğine” ciddi şekilde inandığını öne sürmüştü.