Yapay zeka sektörünün önde gelen devleri OpenAI ve Anthropic’te üç yıl boyunca ön eğitim araştırmacısı olarak çalışan Jacob Coxon, şirketlerin insanlığın geleceğini tehlikeye atan kontrolsüz bir yarış içinde olduğunu belirterek istifa etti. Kendi kendini geliştiren süper zekâ teknolojisine ulaşmak için kural tanımayan bir hızla hareket edildiğini vurgulayan Coxon, sektör yöneticilerinin dahi bu teknolojinin yıkıcı potansiyelinden endişe duyduğunu ifşa etti.
YAPAY ZEKÂ LABORATUVARLARINDA GÜVENLİK KRİZİ BÜYÜYOR
Sektörün en kritik noktalarından biri olan ön eğitim (pretraining) alanında hem OpenAI hem de Anthropic çatısı altında üç yıl boyunca araştırmalar yürüten Jacob Coxon, yayınladığı bir açıklama serisiyle Anthropic’teki görevinden ayrıldığını duyurdu. Yapay zekâ dünyasında geniş yankı uyandıran açıklamasında Coxon, her iki şirketin de “sorumlu hareket etmediğini” ve kontrolden çıkma riski taşıyan bir teknoloji için aceleci davrandıklarını belirtti.
“SÜPER ZEKA BİZİ YOK EDEBİLİR İNANIŞI BİR PAZARLAMA İLLÜZYONU DEĞİL”
Geliştirilen modellerin çok kısa süre içerisinde sistemleri hackleyebilecek, bilimsel alanlarda anlık devrimler yapabilecek ve kendi kaynaklarını yönetebilecek “süper insan” seviyesine ulaşacağını vurgulayan araştırmacı, şirket yönetimlerindeki tehlikeli algıya dikkat çekti:
“Yapay zekâyı inşa eden insanlar, bu teknolojinin on yılın sonuna kadar hepimizin sonunu getirebileceğine samimiyetle inanıyor. Bu bir pazarlama hamlesi ya da abartı değil. Üst düzey yöneticiler ve kıdemli araştırmacılar basına kapalı kapılar arkasında bu korkularını açıkça ifade ediyorlar.”
OPENAI VE ANTHROPİC ARASINDAKİ TEHLİKELİ FARK
Coxon, sektörün iki dev aktörü arasındaki yaklaşım farkına da değindi:
- OpenAI: Çalışanların ve yöneticilerin büyük bir kısmı sürecin medeniyet ölçeğindeki risklerini ve getirebileceği felaket boyutunu henüz derinlemesine içselleştirebilmiş değil.
- Anthropic: Şirket risklerin farkında olsa da “ilk ulaşan olma” yarışına kilitlenmiş durumda. Yetkililer, bir başkasının bu teknolojiye daha önce ulaşmasının daha felaket olacağına inanarak yarışı hızlandırıyor.
Coxon, devasa özel şirketlerin Slack kanallarından alınan kararlarla insanlığın kaderini belirleyecek bir “son oyun” (endgame) kumarına girilmesini “kibirli bir risk” olarak nitelendirdi.
ARAŞTIRMACILARA ÇAĞRI: “MOLA VERİLSİN, DÜZENLEME GETİRİLSİN”
Yapay zekâ laboratuvarlarındaki araştırmacılara da çağrıda bulunan Coxon, zihniyetini tam olarak anlayamadıkları süper zekâ modellerini çalıştırmanın büyük bir tehlike taşıdığını ifade etti. Sektördeki yarış hırsını frenlemek adına gerekirse geçici durdurma kararları (moratoryum) veya laboratuvarlar arası hız kısıtlama anlaşmalarının şart olduğunu belirten Coxon, yapay zekâ çalışanlarını “Zaten gerçekleşecek” diyerek sürece boyun eğmek yerine sorumluluk almaya davet etti.
***Mutluluk, adalet, özgürlük, hukuk, insanlık ve sevgi paylaştıkça artar***
