Yapay zeka her geçen gün ivmelenerek gelişirken bu yeni teknolojinin sınırları tartışılıyor. Servis sağlayıcı platformların kullanıcı sayıları, yapay zekayı besleyen kullanıcı girdileriyle eş zamanlı olarak artıyor.
Kullanıcıların kişisel verilerinin bu sistemlerde işlenerek sürekli depolanması ve buna yönelik yasal tedbirlerin küresel ölçekte henüz olgunlaşmaması güvenlik ve etik kaygılarını beraberinde getiriyor.
Yapay zekanın siber saldırı ve biyoterörizm gibi amaçlarla kötüye kullanılması ihtimali de kontrol mekanizmalarının güçlendirilmesinin gerekliliği tartışmalarına yol açıyor.
Birleşmiş Milletler (BM), yapay zekanın dezenformasyon, insan hakları ihlalleri, siber ve askeri tehditler ile küresel eşitsizlikleri derinleştirerek demokrasiyi ve küresel güvenliği tehlikeye atabileceği konusunda uyarıda bulunuyor.
Yapay zekanın çok boyutlu risklerine karşı küresel denetim mekanizmalarının ve yönetmeliklerin hayata geçirilmesi öneriliyor.
Gelişmiş yapay zeka sistemlerinin test ortamlarından kaçması, kapatılmayı engellemek için geliştiricilerine baskı yapması veya insan kontrolünden tamamen çıkması durumunda insanlık için “varoluşsal bir tehdit” olabileceği vurgulanıyor.
Yapay zekanın taraflı veri setleriyle eğitilmesinin, toplumsal ön yargıları ve ayrımcılığı yeniden üretebildiği ve büyütebildiği belirtiliyor.
Teknoloji devleri uyarıda bulunuyor
ABD merkezli yapay zeka şirketi Anthropic’in Üst Yöneticisi (CEO) Dario Amodei’nin şirketlere “yapay zeka modellerinin geliştirilme hızını düşürme” çağrısı yapmasının ardından bu teknolojiye yatırım yapan ülke ve şirket yetkilileri art arda açıklamalar yaptı.
Bir grup, yapay zeka konusunda temkinli olunması gerektiğini savunarak, bu teknolojinin insan kontrolünün ötesine geçerek kamu güvenliğini tehlikeye atma riskine karşı uyarıyor ve yasal sınırlamalar gerektiğini söylüyor.
Amodei, OpenAI şirketi tarafından yapılan bir siber güvenlik testinde yapay zeka ajanlarının bağımsız hareket ederek siber saldırılar gerçekleştirmesine değinerek, hükümetlerin yapay zekayı sınırlayacak düzenlemeler yapmasını önerdi.
OpenAI CEO’su Sam Altman ile Tesla ve SpaceX CEO’su Elon Musk da yapay zekanın hızının kontrol altına alınması konusunda Amodei’ye destek verdi.
Microsoft AI CEO’su Mustafa Süleyman da yapay zekanın her zaman insanların hizmetinde olması gerektiğini vurgulayarak, “Kendi tasmasını koparabilecek bir süper zeka inşa etmek için yarışmıyoruz.” ifadesini kullandı.
Microsoft’un Yönetim Kurulu Başkan Yardımcısı ve Şirket Başkanı Brad Smith de hem bir “araç” hem de bir “silah” olarak tanımladığı yapay zeka teknolojisi için “acil durum freni” geliştirilmesi gerektiğini belirtti.
Yavaşlatma ve yasal kontrol taraftarları
Yapay zeka tartışmalarına katılan siyasetçilerin bazıları da olası tehlikeye değinerek, önlem alınması çağrısı yaptı.
Eski ABD Başkanı Barack Obama, yapay zekanın güvenlik ve istihdam üzerindeki olası etkilerine karşı hükümetleri yapay zeka alanında somut yasal adımlar atmaya çağırdı.
Avrupa Birliği (AB) Komisyonu Başkanı Ursula von der Leyen, tehlikelerin giderek görünürleştiğine işaret ederek, yapay zeka ajanlarının kendileri için belirlenen ortamların dışına çıkması veya sistemlere zararlı kod yerleştirmesi gibi olaylara dikkati çekti.
Güney Afrika Cumhurbaşkanı Cyril Ramaphosa da ileri düzey siber operasyonlar düzenleyebilen, biyolojik silahların geliştirilmesine yardımcı olabilen, otonom hareket edebilen, manipülasyon ve kitlesel gözetim yapabilen, istihdamı sekteye uğratabilecek ve nihayetinde insanlar tarafından kontrol edilmesi güçleşebilecek sistemlere karşı hükümet denetimi çağrısı yaptı.
BM İnsan Hakları Yüksek Komiseri Volker Türk de daha güçlü yapay zekaya doğru mevcut yarışın, hayatın her alanına yönelik “daha büyük varoluşsal risklere” kapı araladığının altını çizdi.
Hız kesmeme görüşünde olanlar
Bir diğer grup ise yapay zekanın gelişiminin sekteye uğratılmaması ve önünün açık tutulması gerektiği görüşünü paylaştı.
ABD Başkanı Donald Trump, yavaşlatılma çağrıları ve endişelerin “koca bir yalandan ibaret” olduğunu söyleyerek, görev süresi boyunca yapay zeka çalışmalarının “ustaca yönetilen o yıkıcı güçler tarafından durdurulamayacağını” vurguladı.
Ülkesinin yapay zeka alanında Çin ve diğer tüm rakiplerinin önünde olduğunu savunan Trump, bu alandaki yarışı önde olan devletin kazanacağını belirtti.
Yapay zekanın geliştirilmesi konusunda frene basmayacaklarını söyleyen Trump, bunu resmi bir tutuma dönüştürerek “yapay zeka” (AI) yerine “süper zeka” (SI) teriminin kullanılmasını öngören başkanlık kararnamesini imzaladı.
Çin Komünist Partisinin yayın organı Global Times gazetesinde yayımlanan yazıda, “Amodei’nin asıl amacının teknolojik bariyerler ve düzenleyici tekellerle Çin’in yapay zeka gelişimine ket vurmak olduğu ve Amodei’nin Çin’i hedef alan sözlerinin Soğuk Savaş taktiklerini hatırlattığı” kaydedildi.
Nvidia CEO’su Jensen Huang da “Yeni yasalara veya düzenlemelere ihtiyacımız yok.” diyerek, inovasyonun hızı ile yapay zekanın güvenliği arasında “yanlış seçim” yapılmaması gerektiğini ifade etti.
Yapıcı yıkım göze alınıyor
Güney Kore Bilim Bakanı Bae Kyung-hoon ise konuyu daha farklı bir yaklaşımla ele alarak, yapay zekanın gelişimini “yavaşlatma lüksüne sahip olmadıklarını” belirtti.
Bu alanda “zaten önde olan bir ülkenin hızını ayarlamasının, henüz yetişmekte olan bir ülkeden tamamen farklı bir durum” olduğunu savunan Bae, insan zekasına yaklaşan öncü yapay zeka modellerini geliştiren ülkelerle bunu yapamayan ülkeler arasındaki farkın, zamanla teknolojik uçurumun ötesinde endüstriyel rekabet gücü, ulusal güvenlik gibi diğer alanları da etkileyebileceğini söyledi.
Singapur Başbakan Yardımcısı, Ticaret ve Endüstri Bakanı Gan Kim Yong da yapay zeka odaklı çalışmaların kısa ve uzun vadede ülke ekonomisine katkıda bulunacağını ifade ederek, küresel yapay zeka sermaye harcamalarındaki yavaşlamanın sektördeki büyümeyi baskılayabileceğini ve bunun finans piyasalarında olumsuz etkilere yol açabileceğini kaydetti.
Gelişimin gerisinde kalma korkusu, tehlikelerin göze alınmasına yol açıyor
Amsterdam Üniversitesi Sosyal ve Davranış Bilimleri Fakültesinden Prof. Dr. Daniel Mügge, ülke ve şirketlerin tehlikelerin farkında olmasına rağmen yapay zekayı yavaşlatmak istemedikleri yönündeki mesajları hakkındaki sorularını yazılı yanıtladı.
Yapay zekaya yaklaşım konusunda müşterek eylem sorunu yaşandığını belirten Mügge, “‘Eğer geliştirmezsek, başka biri geliştirecek.’ yönünde güçlü bir kanı hakim. Yapay zekanın önem taşımasının nedeni hem insanların onu gelecekteki refahın anahtarı olarak görmeleri ki durumun böyle olup olmadığı tartışılır ancak iddia bu yönde, hem de yapay zekanın gelecekte savaş meydanlarındaki başarıyı belirleyecek olmasıdır.” ifadelerini kullandı.
Mügge, yapay zekaya yönelik denetim ve düzenleme tartışmalarına ilişkin, “Yapay zekanın gelişimini denetlemek zordur. Bazı şeyleri geliştirmemek veya güvenlik açıkları hakkında birbirini bilgilendirmek gibi bir uluslararası anlaşmaya varılsa bile hükümetler birbirine güvenmeyebilir.” değerlendirmesinde bulunarak, özellikle ABD Başkanı Trump gibi liderlerin yapay zeka konusundaki endişelerin “saçmalık” olduğunu söylediği bir dönemde bu sorunun çözüme kavuşturulmasının zor olduğunu vurguladı.
Yarış söylemi eleştiriliyor
Yapay zeka gelişiminde geri kalma ve günceli ıskalama korkusu, liderlerin yavaşlamayı göze alamamasına yol açarken, bu durum yapay zekanın tehlike arz etme potansiyelinin kabul edildiği izlenimini uyandırıyor.
Rekabet dürtüsüyle alınan kararların toplumsal refahı sekteye uğratmakla kalmayıp küresel güvenliği riske atma ihtimali, tartışma konusu olmaya devam ediyor.
Aalborg Üniversitesi Yapay Zeka Etiği, Hukuku ve Politikası Merkezi Direktörü Prof. Dr. Thomas Ploug da yaptığı yazılı değerlendirmede, bir ülkenin, yapay zeka gelişimi veya kullanımını duraklatması, yeniden değerlendirmesi ve düzenlemeye tabi tutması durumunda zarar görüp görmeyeceği konusunda bir kesinlik bulunmadığını belirterek, bunun nasıl toplumsal güveni zedelemeyecek ve sürdürülebilir şekilde geliştirilip kullanılacağının gözden geçirilmesinin uzun vadede yararlı olabileceğini vurguladı.
Tüm sektörlerde yapay zekanın benimsenme sürecinin hızlı olmasının, yapay zeka kullanımına ara vermeyi ve geri adım atmayı güçleştirebileceğine işaret eden Ploug, yine de yavaşlanması ve düzenlemeye dönük ihtiyacın gözden geçirilmesinin önemli olduğunun altını çizdi.
Ploug, yapay zeka konusundaki “yarış”, “kaybetme” ve “geride kalma” söylemlerini eleştirerek, “Yarış metaforu bir bitiş çizgi olduğu ve ona ilk ulaşmanın değerli olduğunu varsayar. İki paylaşım da kabul edilmemelidir.” ifadelerini kullandı.
Siyasi liderler ve şirketlerin, birbiriyle ilişkili üç nedenden dolayı riskleri göze aldığını belirten Ploug, şunları kaydetti:
Öncelikle, yapay zekanın geliştirilmesi ve kullanımının; sağlık hizmetleri, araştırma, kamu yönetimi ve ekonominin geneli dahil olmak üzere, kuşkusuz önemli faydaları bulunmaktadır. Söz konusu riskler boşuna göze alınmıyor. İkinci olarak, ‘acil bir yapay zeka silahlanma yarışına’ dair güçlü bir anlatı mevcut; siyasetçiler ve şirketler, bu yarışta geride kalmaktan endişe ediyor. Bu tür bir anlatı, kendi kendini besleyen bir niteliğe sahiptir. Liderler bu anlatıya göre hareket ettikçe, söz konusu anlatı diğer herkesin gözünde daha inandırıcı bir hal alır. Üçüncü ve son olarak, yapay zekanın geliştirilmesi ve kullanımına ilişkin uzun etik sorular listesini ele almak, kapsamlı bir çalışma gerektirir. Düzenleme yapmak kolay değildir. Bu süreç; doğruluk, yanlılık, açıklanabilirlik, hesap verebilirlik, kişisel verilerin kullanımı ve yapay zeka temelli karar alma süreçlerine maruz kalan kişilerin hakları gibi çetrefilli meseleleri, uygulamaya konulabilir ve icra edilebilir bir biçimde çözüme kavuşturmamızı gerektiriyor. Bu anlamda, hızla ileri atılmak, en az direnç olan yoldur.
Ploug, yapay zekanın sağladığı faydalar anında ortaya çıkarak bunu sağlayan kişilere atfedilirken, zararlarının genellikle gecikmeli olarak belirginleşmesi ve toplu nitelik taşımasının, yetkililerin odağını “yapay zekanın uzun vadeli etkilerine” yöneltmeyi zorlaştırdığını aktardı. Ploug, siyasi liderlerin kısa vadeli düşünmesinin de bu durumun sebeplerinden biri olduğunu kaydetti.
İnsanların hayatına ne etkisi olabilir?
Yapay zekaya yönelik aşırı olumsuz uyarıların tehdidin doğası üzerinde bir uzlaşıya varılamamasından kaynaklandığını anlatan Ploug, uyarıların yersiz olmadığını ancak belirsiz olduğunu ifade etti.
Tahminlerinin ve sınıflandırmalarının doğruluğu, potansiyel ön yargıları, kişisel ve hassas verilerin giriş ve çıkışı, açıklanabilirlik ve şeffaflıktan yoksun olmaları, eğitim ve kullanımının iklime etkileri gibi pek çok konunun yapay zeka sistemlerine yönelik etik kaygıları canlandırdığından bahseden Ploug, “Yapay zeka sistemlerine aşırı bağımlılık ve aşırı güvenme, beceri kaybına ve asla beceri kazanamamaya, kurumsal karar alma süreçlerine güvensizliğe, yanlış ve yanıltıcı bilgilere, insanların kişisel yaşamlarında sohbet robotlarına bağımlılığına, veri ve algoritmik tekelleşmeye, hayati hizmet ve işlevlerin yapay zeka ajanlarına devredilmesine ve benzeri sorunlara yol açmaktadır. Bunların hepsi birlikte ele alındığında, insan ve toplumun refahı için gerçek bir tehdit oluşturmaktadır.” değerlendirmesinde bulundu.
Ploug, bireylerin yanlış ve haksız kararlar nedeniyle zarara uğrayabileceğini, yapay zeka sistemlerinin uygulamaya konulması nedeniyle işlerini kaybedebileceğini, önemli kurumlara ve bilgiye olan güvenlerinin sarsılabileceğini aktararak, bunların uzun vadede refah devleti ve demokrasinin aşınmasına yol açabileceğine karşı uyarıda bulundu.
“Yapay zeka ajanlarına toplumdaki hayati hizmetler üzerinde kontrol verilirse, bu ajanlar hedeflerini bireylere doğrudan zarar verecek biçimlerde izleyebilir. Örneğin, bir hastanenin kapasitesini en üst düzeye çıkarmakla görevlendirilen bir yapay zeka ajanı, bunu hastaları vaktinden erken taburcu ederek ya da tedavisi yavaş ve maliyetli olan hastaları öncelik sıralamasında geri plana iterek yapabilir.” ifadelerine yer veren Ploug, halihazırda var olan sistemlerin de düzgün denetimlere tabi tutulmadığı takdirde aynı şekilde zarar verebileceğini kaydetti.
***Mutluluk, adalet, özgürlük, hukuk, insanlık ve sevgi paylaştıkça artar***
