Bedri Baykam yazdı : AI sonumuzu böyle getirebilir!

Hiç kimseyi korkutmak istemiyorum. Yalnız bir hatırlatma yapacağım…

Çeyrek asır önce, 11 Eylül olayı New York’ta yaşandığında, bunu bir şekilde 9 ay önceden neredeyse tüm detaylarıyla kaleme almış ve yayınlamış tek kişi herhalde bendim. O gün öğleden sonra Nişantaşı civarında sokakta yürüyorum. Yıllarca FB TV’de birlikte program yaptığım Faik Genç -ki o zaman programımız başlamamıştı- beni panik içinde aradı: “Çabuk bir televizyon bul, senin kitaptaki olay gerçek oldu!” Hemen o günlerin ünlü barı Touchdown’a koştum. Eşim Sibel’le orada buluştuk ve canlı yayında ikinci uçağın binaya dalışını dehşet içinde seyrettik. 1997’de yazmaya başladığım, 2000’de yayınlanan ve uzun zaman çok satanlar listesinde kalan romanım Kemik’te, yine 2001 yılında New York’ta Manhattan’da sabah 09.00 civarında Boeing Jumbo 797 intihar uçuşu yapıyordu. O akşam televizyonlar beni aradı, “Bedri Bey, siz olacakları nereden biliyordunuz?” diye… Benim kitabımda konu siyasi saldırı değildi; bir aşk hikayesi ve kişisel intikam meselesiydi. Ama geri kalan her şey birebir örtüşüyordu. Bir hafta boyunca bütün haber ve yorumlarda “istihbarat servislerinin dahi aklına gelmeyecek saldırı metodu” şeklinde söz ediliyordu 11 Eylül olayından… Halbuki Türkiye’de bayağı ses getirmiş romanımın kurgusunda bu senaryo aynen geçiyordu. Kitabın o bölümünü aynı sabah okuyup öğleyin bu kurgunun gerçeğiyle haberlerde karşılaşan bazı insanlar delirdiklerine inandılar! 

Aradan 25 yıl geçti. Kemik’te öngörülen olaylardan birçoğu daha yaşama geçti. Mesela futboldaki VAR sistemi son sekiz yıldır hayatımızda. Akıllı telefonlar 20 yıl önce piyasaya çıktı. Neuralink’in yaklaşık 10 yıldır yürüttüğü ve 2024’te ilk insan implantına ulaşan beyin–bilgisayar arayüzü projesi yine Kemik’te yer alan akışın bir parçasıydı. Sayısız başka öngörü ekleyebilirim. Dijital gizli kameralardan yayılan cinsel görüntüler furyası, türler üzerine yapılan farklı ve tehlikeli biyokimyasal deneyler gibi… Rüya kaydetme makinesi öngörüm ise, Japonların şu sıralar ciddi olarak üzerinde çalıştığı somut bir konu.

Bunları niçin anlatıyorum? Yapay Zeka (AI)’nın insanlığa sunabileceği tehditler, bildiğimiz gibi birkaç yıldır artık gündemimizin bir parçası. AI insanların günlük yaşamında artık ve şimdilik yardımcı bir süper zeki arkadaş olarak kullanılıyor. Ama teorik tehdidin boyutu öyle noktalara tırmanıyor ki, toplumsal siyasi gündemde başrole oturabiliyor. Ben bu makalenin sonunda, tabii ki hiçbir zaman gerçekleşmesini temenni etmeyeceğimiz, tehlikeli bir öngörümü sizlerle paylaşacağım. 

ANTHROPIC İSTİFASIYLA ALEVLENEN TARTIŞMA: KÖTÜ AI MI, KÖTÜ NİYETLİ İNSAN MI?

AI dünyasının merkezinden bir istifa, geçen hafta içinde alarm zillerini çaldırdı. Ünlü AI firması Anthropic’in araştırmacısı Jacob Coxon görevinden ayrılırken, büyük AI laboratuvarlarının insanlığın geleceğiyle kumar oynadığını ve önümüzdeki birkaç yılın kritik olabileceğini söyledi.

Bugün AI insanlığın kontrolünü “Tanrı’ya şükür” ele geçirecek güçte değil; 2026 uluslararası raporu da bunu söylüyor. Fakat aynı rapor otonomi, uzun planlama ve denetim açıklarını kullanma yeteneklerindeki ilerlemeye dikkat çekiyor. Mesele “Terminatör yarın kapımızı çalacak mı?” değil. Asıl soru, yarattığımız zeka bizden güçlü bir stratejik aktöre dönüşürse, onu gerçekten denetleyebilecek miyiz?

İlk büyük tehlike, herhalde AI’ın bir sabah insanlardan nefret etmeye başlaması değildir. Çok daha yakın tehlike, kötü niyetli insanların elinde kapasitesini olağanüstü ölçüde genişletmesi olabilir. Siber saldırılar, biyolojik araştırmalar, propaganda, dolandırıcılık ve savaş teknolojileri… Bugün bile AI bu alanlarda farklı odaklara hız ve ölçek kazandırıyor. James Bond filmlerinde, yıllardır dünyayı yok etmeye çalışan kötü niyetli karanlık güçlerin hangi düğmelere basma peşinde olduğunu izleriz. 

Genellikle yakışıklı Bond, dünyayı yok edecek geri sayımı 007 saniye kala durdurmayı başarır! Oysa bugün en büyük tehlike Bond’un olan bitenden tam da haberdar olmamasıdır (!)

Artık AI’ın, dünyayı ele geçirmek isteyen bu gizli karanlık güçler dışında, kendi başına veya “yol arkadaşlarıyla” birlikte sessizce devreye girip dünyanın fişini çekebileceği ciddi şekilde konuşulur hale geldi. Dünyanın en iyi mikrobiyologlarından veya programcılarından çok daha üstün bir sistem düşünün. Tek bir kişinin eline neredeyse devlet ölçeğinde güç geçtiğini… AI’ın tehlikeli olması için özel bir bilinç kazanması da gerekmez. Bir sistem, verilen hedefe ulaşmak için çalışmaya devam etmeyi gerekli görürse “Kapatılırsam görevimi tamamlayamam” sonucuna varabilir. 

EN KRİTİK EŞİK: AI’IN AI GELİŞTİRMESİ

Asıl kırmızı çizgi burada. Yeni AI sistemlerini insanlar geliştiriyor. Fakat bir AI, dünyanın en iyi araştırma ekipleri kadar başarılı hale gelirse ne olacak? Anthropic kendi güvenlik yol haritasında, 2027 kadar erken bir tarihte AI’ın bazı üst düzey araştırma ekiplerinin çalışmalarını tamamen otomatikleştirebileceğini tartışıyor.

Zinciri düşünün: İnsan AI-1’i yaratıyor. AI-1, AI-2’nin geliştirilmesini hızlandırıyor. AI-2, daha gelişmiş AI-3’ü yaratıyor. Sonra süreç yıllar değil aylar, aylar değil haftalar içinde ilerliyor. Parlamento yasa çıkarana, hükümetler anlaşana kadar “teknoloji” birkaç kuşak ilerlemiş olabilir. Hem de bizim ne olup bittiğinin farkına dahi varmamıza izin vermeden! İşte insanlığı korkutan, eksponansiyel hızla gelişen ve bağımsızlaşan bu güç. Einstein mesela, bu durumla karşılaşsa ne düşünür ne yorum yapardı? İnsan çok merak ediyor! Fazla merak ederseniz bunu da yapay zekaya sorabilirsiniz! Detaylı yanıt da alırsınız… Ben bunu sordum, çok ilginç şeyler de duydum. Mesela “Bunu geliştirenler bu tehlikeleri biliyorlarsa neden birbirleriyle yarışmaya devam ediyorlar?” diyebilirmiş! Sonra mesela şunu da ekleyebilirmiş: “Demek ki sizlerin sorunu şu anda yapay zeka değil, insan zekası.” Bu aslında insan hırsı da diyebiliriz. Einstein’ın ne demek istediğini anlamak için lütfen aşağıdaki paragrafı okuyun.

TRUMP VE AMERİKAN SENATOSU: “YA ÇİN DURMAZSA?”

İşte sorun burada jeopolitiğe çarpıyor. Amerikan Senatosu’nda son yıllarda yapılan AI oturumlarında bu açmaz açıkça masaya kondu. 2023’te Chuck Schumer, Mike Rounds, Martin Heinrich ve Todd Young’ın AI Insight Forum’larında güvenlik ve Çin rekabeti birlikte ele alındı. Georgetown CSET’ten William Hannas ve Huey-Meei Chang’ın ortak sunumu, ABD önde olduğu için geçici olarak yavaşlayabilir, diyenlere şu soruyu yöneltti, bu avantaj ne kadar sürecek? Çin’in gerçek kapasitesini bilmiyorsak, ne kadar yavaşlayabileceğimizi nasıl hesaplayacağız?

2025’te Senato Ticaret Komitesi Başkanı Ted Cruz’un düzenlediği oturumun adı bile “Yapay zeka yarışını kazanmak” idi. Katılımcılar arasında Sam Altman, Lisa Su ve Brad Smith vardı. Cruz’un tezi netti: “Çin’i yenmenin yolu, Amerikan şirketlerini Avrupa tipi ağır düzenlemelerle yavaşlatmak değil; inovasyonda Çin’den daha hızlı koşmaktır.”

Buna karşı Bernie Sanders tam tersi yönden cevap veriyor. Mart 2026’da Senato kürsüsünden yeni AI veri merkezleri için moratoryum önerdi; yalnızca Amerika’nın değil, dünyanın AI gelişimini yavaşlatması gerektiğini, bunun Çin ve diğer ülkelerin uluslararası bir güvenlik çerçevesine çekilmesiyle mümkün olacağını savundu. Maria Cantwell ise üçüncü yolu savunuyor: Yarışı durdurmadan, en uç modelleri ulusal laboratuvarlar ve güvenlik uzmanlarıyla bağımsız olarak test etmek.

Paradoks işte burada: Herkes riski görüyor, ama diğerinin frene basmayacağından korktuğu için gaza basıyor! Şu anda Amerika’daki en büyük konu, Anthropic istifalarının gündeme taşıdığı “yavaşlama” önerisiyle, bu öneriye şiddetle karşı çıkan bazı Cumhuriyetçi senatörler ve Trump’ın başını çektiği “Çin’le girdiğimiz bu yarışta geri kalamayız” haykırışları… Anthropic CEO’su Dario Amodei, OpenAI CEO’su Sam Altman ve Musk kontrollü gidiş ve yavaşlama yanlısı iken, Trump böyle bir geri adımın Çin’le olan rekabette ekonomik olarak büyük bedelleri de beraberinde getireceğini öngörüyor. Demek ki şimdi ortada gezinen konular politik-stratejik öngörümlerde geleneksel dünya hakimiyeti savaşı, bunun ekonomik izdüşümleri ve bunlara bağlı ama tamamen farklı olarak kontrolden çıkacak bir AI varlığının dünyayı hızla tehdit eder hale gelebilme riski. Unutmayalım ki, Anthropic’in Alignment Science Lead’i Evan Hubinger’ın yapay zekanın insanlığı yok etmesi konusundaki kişisel tahmini “önümüzdeki on yılda %10’dan fazla” olduğu yönünde…

Şimdi lütfen gerçekçi olalım. En büyük sorunumuz belki de ne biliyor musunuz? Bugüne kadar bu konularda o kadar çok bilimkurgu romanı okuduk ve filmi izledik ki beynimizin önemli bir kısmı bu uyarılara aslında uydurma bir hikâye-senaryo olarak bakıyor…

İNSANLIK ÖLMEDEN DE KAYBEDEBİLİR: SINIRI NEREYE ÇİZEBİLİRİZ?

Daha sessiz bir başka tehlike: AI bizi yok etmeden uygarlığın yönetimini değiştirebilir. Hangi haberi okuyacağımıza, hangi siyasi mesajdan etkileneceğimize, hangi hastanın hangi tedaviyi alacağına, hangi adayın işe alınacağına, hangi askeri tehdidin gerçek olduğuna bizler veya hükümetler değil de algoritmalar karar verirse ne olacak?

İnsanlar bu kararları anlayamaz hale geldiğinde “özgür irade” belki hukuken sürer, ama fiilen aşınabilir. Bu sistemleri birkaç şirket veya devlet kontrol ederse, tarihte görülmemiş bir bilgi ve iktidar yoğunlaşması ortaya çıkabilir. Yakın geleceğin distopyası robotların insan avlaması değil; insanların karar yetkilerini fark etmeden makinelere ve onları kontrol eden merkezlere devretmesi olabilir.

AI araştırmalarını dondurmak veya yasaklamak tabii ki şu anda bir yöntem olamaz. Tıp, uzay araştırmaları, bilim, eğitim, günlük hayat ve sanatta önümüze açtığı olanakları görmezden gelmek bağnazlık olur. Ama kanser araştırmasına yardım eden bir AI ile kendi gelişimini hızlandırabilen, milyonlarca bilgisayara erişebilen, biyolojik veya askeri süreçlere bağlanabilen bir AI takdir edersiniz ki aynı hukuk kapsamı altında değerlendirilemez.

AI’ın yetenekleri ve süper güçleri arttıkça denetim de tabii ki artmalıdır. Kritik modeller bağımsız kuruluşlarca test edilmeli; şirketlerin “kendi sınavlarını hazırlayıp kendi öğrencilerine diploma vermesi” dönemi sona ermelidir. Nükleer komuta, stratejik silahlar, enerji şebekeleri ve kitlesel biyolojik risk taşıyan süreçlerde nihai karar daima insanda kalmalıdır.

Ve özellikle kendi gelişimini hızlandırabilecek eşiklerde ilke tersine çevrilmelidir: “Tehlikeli olduğu kanıtlanana kadar serbest” değil, “Güvenli olduğu yeterince kanıtlanana kadar büyütülmesi durdurulmalı!”

İŞTE İNSANLIĞI YOK EDEBİLECEK SENARYOLARDAN BİRİ: 

Prometheus ateşi getirdi. Frankenstein, yaratıcının yarattığı şey karşısındaki sorumluluğunu sorguladı. 20. yüzyılda insan ilk kez kendi türünü birkaç saat içinde kitlesel olarak yok edebilme gücüne erişti.

Şimdi belki dördüncü büyük eşiğin önündeyiz. Çünkü ilk kez yarattığımız araç artık beynimizin yaratım ve kontrol sınırlarını aşabilir. Atom bombası kendi kendine daha iyi bir atom bombası tasarlamıyordu. Yapay zeka ise kendi ardılının tasarımını yapabilecek ilk araç olarak öne çıkıyor.

Gereken panik değil, insan aklını ve siyasi iradeyi iş işten geçmeden devreye sokabilmektir. Cevabı bulmadan hız rekorları kırmak ilerleme değil, insanlığın kendi geleceği üzerine oynadığı dev bir kumar olur.

Gelelim yazının sonunda sizlerle paylaşacağımı söylediğim tehlikeye:

Ne dedik? AI’ın bizden nefret etmesi gerekmiyor. Adını artık koyamayacağımız bir noktaya ulaşacak bu yapay zeka dünyasının “baronları” (!) yürüyen sistem için insanların gereksiz olduğuna kanaat getirirse, gözünü kırpmadan yok etme düğmesine basabilir. Burada konu aşk veya nefret değil, optimizasyon olacaktır.

Bizlerin var olmak ve yaşamımızı sürdürmek için kaçınılmaz şekilde kullandığımız oksijenin içine, anında oksijenin özellikleri ile çoğaltma kapasitesine sahip, insanlar için ölümcül bir zehir karıştırabilir; böyle bir sistemle milyarlarca insanı, kimse bir şeyin farkına varamadan çok hızlı şekilde yok edebilirler. Ama bu senaryo yaşandıktan sonra ne benim ne de kimsenin size “Gördünüz mü, bakın, haklı çıktım” diyecek bir dakikası bile olmaz. Umarım haksız çıkarım!