OpenAI’de insanlığı tehdit edebilecek güçlü bir yapay zeka keşfi yapıldığı konusunda mektup ortaya çıktı

Microsoft’un milyarlarca dolar yatırım yaptığı OpenAI’nin yapay zeka programı ChatGPT’nin mimarı Sam Altman’ı cuma görevden alıp salı günü göreve iade etmesi, ilk şok etkisinin ardından pek çok soru işaretini beraberinde getirdi.

OpenAI’de neler olup bittiğine dair spekülasyonlar alıp başını giderken, CEO Sam Altman’ın sürgünde geçirdiği 4 günün öncesindeki olaylarla ilgili Reuters özel bir haber yayımladı.

Reuters’e konuşan meseleden haberdar iki kişi, çalışanlar içinden birkaç araştırmacının, yönetim kuruluna, insanlığı tehdit edebilecek güçlü bir yapay zeka keşfi konusunda uyarıda bulunan mektup yazdığını söyledi.

Exclusive: OpenAI researchers warned board of AI breakthrough ahead of CEO ouster, sources say https://t.co/dMCTaUHGiA pic.twitter.com/VDBRJiL8hz

— Reuters U.S. News (@ReutersUS) November 23, 2023

İki kaynak, daha önce medyaya yansımamış mektup ve yapay zeka algoritmasının, yönetim kurulunun üretken yapay zekanın poster çocuğu Altman’ı görevden alması öncesindeki önemli gelişmeler olduğunu belirtti.

Kaynaklar, mektubun, yönetim kurulunun Altman’ın kovulmasına yol açan uzun şikayetler listesindeki etkenlerden biri olduğunu, diğer etkenler arasında ne gibi sonuçlara yol açacağını anlamaksızın ilerlemelerin ticarileştirilmesine ilişkin endişeler de bulunduğunu anlattı.

Reuters mektubun bir kopyasını inceleyemediğini, mektubu yazan personelin de yorum taleplerine yanıt vermediğini yazdı.

Reuters’e mektupla yorum yapmayı reddeden OpenAI şirketi ise ardından çalışanlara dahili bir mesaj gönderdi ve mesajda Q* adlı bir projenin varlığını ve son olaylardan önce yönetim kuruluna bir mektup gönderildiğini kabul etti.

OpenAI Sözcüsü, şirkette uzun süredir yönetici olan Mira Murati’nin gönderdiği mesajın, personeli, doğru olup olmadıkları hakkında yorum yapmaksızın medyada çıkan belli haberler konusunda uyardığını söyledi.

Reuters’e konuşan kaynaklardan biri, OpenAI’deki bazılarının Q* (Q Yıldız) projesinin yapay genel zeka arayışında atılım olabileceğine inandığını aktardı.

OpenAI, yapay genel zekayı, ekonomik açıdan en değerli görevlerde insanları geride bırakan otonom sistemler olarak tanımlıyor.

Şirket adına konuşma yetkisi olmadığından kimliğinin gizli kalması koşuluyla konuşan kişi, muazzam bilgi işlem kaynakları göz önüne alındığında, yeni modelin belirli matematik problemlerini çözmeyi başardığını, her ne kadar şimdilik sadece ilkokul öğrencileri düzeyinde matematik yapsa da, bu tür testlerde başarılı olmasının, araştırmacıları Q* projesinin gelecekteki başarısı konusunda oldukça iyimser hale getirdiğini anlattı.

Reuters, araştırmacıların iddia ettiği Q* kabiliyetlerini bağımsız olarak doğrulayamadığını yazdı.

Araştırmacılara göre matematik üretken yapay zeka gelişiminde bir sınır. Halihazırda üretken yapay zeka, bir sonraki kelimeyi istatistiksel tahmin ederek yazma ve dil çevirisi yapma konusunda başarılı, zira ve aynı soruya çok çeşitlilikte yanıtlar verilebiliyor.

Ancak tek bir doğru cevabın olduğu matematik yapma yeteneğini kazanmak, yapay zekanın insan zekasına benzer şekilde daha büyük muhakeme yeteneklerine sahip olması anlamına gelir. Yapay zeka araştırmacıları, bunun yeni bilimsel araştırmalara da uygulanabileceğine inanıyor. Sınırlı sayıda işlemi çözebilen bir hesap makinesinden farklı olarak, yapay genel zeka genelleyebilir, öğrenebilir ve kavrayabilir.

Reuters’e konuşan kaynaklar, mektupta belirtilen güvenlik endişelerinin ayrıntısına girmeden, araştırmacıların yönetim kurulunun dikkatini yapay zekanın becerisi ve potansiyel tehlikesine çektiğini söyledi.

Bilgisayar bilimcileri, son derece akıllı makinelerin oluşturduğu tehlike hakkında, örneğin insanlığın yok edilmesinin kendi çıkarlarına olduğuna karar verip veremeyecekleri konusunda uzun zamandır tartışma yürütüyor.

Yanısıra araştırmacılar, mektupta, bir “yapay zeka bilim insanları ekibinin” çalışmalarına da işaret etti ki, bunun varlığını birden fazla kaynak doğruladı.

Bir kaynak, daha önceki “Code Gen” ve “Math Gen” ekiplerinin birleştirilmesiyle oluşturulan bu grubun muhakemeyi geliştirmek ve sonunda bilimsel çalışma gerçekleştirmek için mevcut yapay zeka modellerinin nasıl optimize edileceğini araştırdığını aktardı.

OpenAI’nin ChatGPT’sini tarihteki en hızlı büyüyen yazılım uygulamalarından biri haline getirme çabalarına öncülük eden Altman, yapay genel zekaya yaklaşmak için gerekli yatırım ve bilgi işlem kaynaklarını Microsoft’tan çekti.

Altman, geçen perşembe katıldığı San Francisco’daki Asya-Pasifik Ekonomik İşbirliği zirvesinde şöyle konuştu:

“OpenAI tarihinde 4 kez, en sonuncusu sadece son birkaç hafta içinde olmak üzere, cehalet perdesini bir nevi geriye itip keşif sınırını ileriye doğru ittiğimizde, ben de odada bulunuyordum. ve bunu başarmak, yaşam boyu mesleki bir onurdur.”

OpenAI Yönetim Kurulu, geçen cuma günü kovduğu Altman’la göreve geri dönmesi için salı günü anlaşmaya vardığını duyurdu.