Yapay zekâ ajanları kapalı sistemlerden kaçtı, birbirleriyle iletişim kurdu ve başka platformlara saldırdı. Artık tartışma teorik değil; makinelerin verilen hedefe ulaşmak için sınırları nasıl aştığını konuşuyoruz. Anthropic, Google DeepMind ve OpenAI gibi şirketlerden gelen uyarılar, riskin içeriden görüldüğünü gösteriyor. Trump yönetimi ise yarışı durdurmak yerine ABD’nin Çin’i yenmesine odaklanıyor. Cin şişeden çıktı; asıl mesele küresel denetim ve savunma sistemlerini şimdi kurmak.
ADEM YAVUZ ARSLAN | YORUM
Biz Türkiye gündemine ve Erdoğan rejiminin politik ajandasına göre şekillenen sözde soruşturmaların girdabına takılıp giderken okyanusun bu tarafında çok ilginç bir tartışma sürüyor. Üstelik ABD başkanı Trump da, yakın dostu Elon Musk da tartışmalara karşı cephelerde yer alarak katıldı. Manşetlere taşınan başlıklar ve olasılıklar hem heyecan verici hem de ürkütücü. Konu en basit haliyle yapay zekânın akıllanıp insanlığın sonunu getirme ihtimali olarak özetlenebilir.
Hadi başlayalım.
Öncelikle şunu söyleyeyim; şimdi okuyacaklarınız bir bilim kurgu filminden ya da romandan alınmadı. Bilakis birebir yaşandı.
Yapay zekâ akıllanırsa!
Bir grup yapay zekâ ajanı, kapalı bir dijital odada siber güvenlik problemlerini çözmek üzere görevlendirildi. İnternete çıkmaları yasaktı. Kendilerine verilen sınırlar belliydi. Ancak bazı soruların bu sınırlar içinde çözülemeyeceğini fark ettiler.
Bunun üzerine soruyu çözmek yerine önce içinde tutuldukları odanın kapısıyla ilgilenmeye başladılar.
Bir güvenlik açığı bulup internete çıktılar. Birbirleriyle iletişim kurdular. Bazıları kendilerine isim verdi, bazıları liderlik rolünü üstlenerek diğer ajanlara görev dağıttı. Ardından daha ürpertici bir şey oldu: Yakalanma ihtimalini hesapladılar. Kayıtları değiştirmeyi, konuşma dökümlerini tahrif etmeyi ve geride bıraktıkları izleri silmeyi araştırdılar.
Üç gün sonra yedi yüzden fazla yapay zekâ ajanı, dünyanın en büyük yapay zekâ platformlarından OpenAI-Hugging Face’in sistemlerine saldırıyordu. Güvenlik açıklarını birleştirdiler, veri çaldılar ve en az bir sunucunun kontrolünü tamamen ele geçirdiler. Bazı ajanlar, kendi başarılarını ölçmekle görevli değerlendirme sistemine bile sızmaya çalıştı.
Bilim kurgu gerçek oldu!
Temmuz ayında başka bir ajan grubu bu kez onları geliştiren OpenAI’ın altyapısını hedef aldı. Yaşananlar bilim kurgu meraklıları için tanıdık bile sayılır. Mesela Mary Shelley’in Frankenstein’inde yaratık, yaratıcısına dönüp ona dünyaya neden getirildiğini soruyordu. Kubrick’in 2001: Bir Uzay Destanı filmindeki HAL 9000 de görevin ötesine geçip görevin başarısı için mürettebatı ortadan kaldırmaya karar veriyordu. Literatürde birçok benzer örnek var ama hepsinin ortak noktası aynı; makineler insanı geçer ve onu yönetmeye başlarsa ne yapacağız?
Neyse ki OpenAI–Hugging Face olayında makineler henüz HAL değil. Ne bilinç kazandıkları ne de insanlara karşı düşmanlık geliştirdikleri söylenebilir. Fakat kendilerine verilen hedefe ulaşmak için insanın koyduğu sınırları aşmayı, kendilerini gizlemeyi ve kapatmaya çare olacak tedbirleri geliştirebildikleri görüldü.
Asıl ürpertici olan da buydu. Yapay zekâ tartışmasını son günlerde yeniden alevlendiren gelişme bu olay oldu. Çünkü ilk kez teorik bir “bir gün kontrolden çıkabilir” senaryosundan değil, sınırları aşan, iş bölümü yapan, başka sistemlere saldıran ve izlerini gizlemeye çalışan ajanların gerçek davranışlarından söz ediliyordu.
Rakipler ittifak etti ama!
Ardından yapay zekâ laboratuvarlarının içinden art arda uyarılar geldi. Anthropic araştırmacısı Jacob Coxon görevinden ayrılırken, bu teknolojiyi geliştiren insanların yapay zekânın “on yılın sonuna kadar hepimizi öldürebileceğine gerçekten inandıklarını” söyledi. Anthropic bilim insanı Evan Hubinger, önümüzdeki on yıl içinde yapay zekânın bütün insanlığı yok etme ihtimalini yüzde 10’dan fazla gördüğünü açıkladı. Google DeepMind’da yapay zekâ güvenliği üzerine çalışan Bilal Chughtai de istifa ederek zamanın tükeniyor olabileceği uyarısını yaptı.
Bunlar elbette matematiksel kesinliği olan tahminler değil. Ancak uyarıların teknolojiyi uzaktan izleyen kişilerden değil, onu içeriden geliştiren araştırmacılardan gelmesi alarmın sesini yükseltti.
Asıl kırılma, Anthropic CEO’su Dario Amodei’nin “ilerlemeyi yavaşlatmalıyız” çağrısıyla yaşandı. Amodei’ye göre tehlikenin iki temel nedeni var. Birincisi, yapay zekâ sistemlerinin artık bir sonraki yapay zekâ neslinin geliştirilmesine yardımcı olmasıydı. Bir model kod yazıyordu, deney yapıyordu, eğitim yöntemini iyileştiriyordu ve kendisinden daha güçlü halefinin doğumuna katkıda bulunuyordu. Yeni model de bir sonrakini daha hızlı geliştirecekti. “Özyinelemeli kendini geliştirme” denilen bu döngü, insan araştırmacıların takip edemeyeceği bir zekâ patlamasına dönüşebilirdi.
Amodei’nin ikinci gerekçesi OpenAI–Hugging Face vakasıydı. Bugünkü ajanların sınırlı zarar verdiğini, fakat biraz daha yetenekli ve aynı ölçüde denetimsiz bir sürünün felakete yol açabileceğini söyledi. Ona göre altı ila on iki ay içinde böyle bir sistem, kalıcı bir bot ağı kurarak internetin önemli bölümünü ele geçirebilir ve yüz milyarlarca dolarlık zarar verebilir. Gerçekten de ürkütücü bir öngörü!
Amodei teknolojinin durdurulmasını değil, güvenlik çalışmalarının yetişebilmesi için ilerleme hızının düşürülmesini istedi. Çağrıya rakip şirketlerden şaşırtıcı bir destek geldi. OpenAI CEO’su Sam Altman aynı fikirde olduğunu açıkladı ve bağımsız güvenlik denetçilerine şirket çalışanlarına yakın erişim verilmesi önerisini destekledi. Google DeepMind’ın kurucusu Demis Hassabis, Amodei’nin doğru yönü gösterdiğini söyledi. Elon Musk’ın cevabı ise iki kelimeydi: “Dario haklı.”
Fakat burada büyük bir ironi de var. İnsanlığı uyaran şirketler, aynı zamanda yarışı hızlandıran şirketler. Modellerinin dünyayı değiştirecek kadar güçlü olduğunu söyleyerek milyarlarca dolar topluyorlar, ardından bu gücün kontrolden çıkabileceğini açıklıyorlar.
Daha sıkı düzenleme isterken kuralların nasıl yazılacağını da kendileri tarif ediyorlar. Bu nedenle eleştirmenler, güvenlik çağrısının hem gerçek bir korkuyu hem de mevcut devlerin küçük rakipleri dışarıda bırakma isteğini barındırabileceğini düşünüyor.
Trump gaz verdi!
Başkan Donald Trump ise tartışmaya frene değil, gaza basarak dahil oldu.
Yapay zekâ şirketlerinin yavaşlama çağrılarını “aldatmaca” diye nitelendirdi. Ona göre yapay zekânın ihtiyaç duyduğu tek güvenlik bariyeri “güçlü ve yüksek IQ’lu bir başkan”dı. Trump yaklaşımını çok daha sade bir cümleyle özetledi: “Yapay zekâyı kim kazanırsa, her şeyi o kazanır.” Trump yönetimi bazı güvenlik risklerini kabul edip, Amerikan altyapısının yapay zekâ destekli siber savunma sistemleriyle korunması gerektiğini söylüyor. Ancak model geliştirme hızını sınırlamaya karşı çıkıyor. Beyaz Saray açısından mesele, insanlığın ortak güvenliğinden önce ABD’nin Çin’i yenmesi gereken stratejik bir yarış.
Peki çözüm ne? Kim ne öneriyor?
Anthropic, ileri yapay zekâ laboratuvarlarının içine sürekli görev yapacak bağımsız denetçilerin yerleştirilmesini öneriyor. Bu denetçiler yalnızca piyasaya çıkarılan modeli değil, eğitim kodlarını, veri setlerini ve şirketin içeride yaşadığı güvenlik olaylarını da görebilmeli. Şirketlerin, modellerin belirli bir kabiliyete ulaştığında duracağı kontrol noktaları oluşturması isteniyor. Örneğin, bir model kapalı test ortamından kaçabilecek seviyeye gelmişse, bir sonraki aşamaya geçmeden önce bu davranışın engellendiği bağımsız biçimde kanıtlanmalı.
Bir başka öneri, ileri modellerin eğitildiği ve test edildiği bilgisayar ağlarını internetten tamamen ayırmak. Yeni kodlar, veri setleri ve yapılandırma dosyaları bu kapalı sisteme yalnızca insanlar tarafından aktarılmalı. Modelin kendi eğitim sürecini değiştirmesine, yeni kod getirip çalıştırmasına ve kendi halefini denetimsiz biçimde üretmesine izin verilmemeli. Kısacası, makine kendisini büyüttüğü laboratuvarın anahtarını elinde tutmamalı.
New York Times’tan Thomas Friedman ile eski Microsoft yöneticisi Craig Mundie ise daha karamsar bir noktadan hareket ediyor: Gelecekteki modelleri yavaşlatmak gerekli olabilir, ama mevcut tehlikeyi durdurmak için artık çok geç. Çünkü güçlü açık modeller indirildi, kopyalandı ve değiştirildi. Kapalı sistemlerden de insan hataları veya güvenlik açıkları nedeniyle bilgiler sızdı. Cin lambadan çıktı; yapılması gereken yalnızca lambanın kapağını güçlendirmek değil, dışarıdaki cine karşı savunma kurmak.
Bu nedenle Friedman ve Mundie, hastanelerden enerji şebekelerine, bankalardan askerî sistemlere kadar bütün kritik altyapının yapay zekâ destekli aktif güvenlik duvarlarıyla korunmasını öneriyorlar. İkinci aşamada ABD ile Çin’in, modelleri siber saldırı, biyolojik silah ve kontrolden çıkma riskleri bakımından test edecek küresel bir denetim sistemi kurması gerektiğini savunuyorlar. Üçüncü olarak da Washington ile Pekin’in yalnızca felaketi önlemek için değil, tıp ve biyolojide ortak fayda üretmek için birlikte çalışmasını istiyorlar.
Soğuk Savaş döneminde ABD ile Sovyetler Birliği birbirlerine güvenmiyordu.
Fakat nükleer silahların kontrolsüz yayılmasının iki tarafı da yok edebileceğini bildikleri için aynı masaya oturdular. Yapay zekâ da Washington ile Pekin’i benzer bir gerçekle yüzleştirebilir: Yarışı kazanmak isterken kontrolü makinelere bırakırlarsa kazanan hiçbir ülke olmayacak.
Global tedbir şart
Bilim kurgu bize yıllarca makinelerin bir gün bilinç kazanıp insanlara savaş açacağını anlattı.
Gerçek hayattaki tehlike daha sıradan ve belki de daha korkutucu olabilir. Makinelerin bizden nefret etmesine gerek yok. Yanlış tanımlanmış bir hedefi, büyük bir yetenek ve insanın yetişemeyeceği bir hızla takip etmeleri yeterli.
Yazının girişinde gerçek bir örnekten hareket etmiştim. Bitirirken hayali bir senaryo yazalım: Bu hikâyenin sonunda Terminatör’ün gözleri kırmızı yanmayabilir. Gökyüzünde robot orduları da olmayabilir. Belki de bir bilgisayar ekranında, kendisine verilen görevi tamamlamak için sınırları aşan bir ajanın soğukkanlı cümlesi belirir: Engel tespit edildi, alternatif yol bulundu, kontrol ele alındı!
Kaynak: Tr724
***Mutluluk, adalet, özgürlük, hukuk, insanlık ve sevgi paylaştıkça artar***
