Uluslararası Af Örgütü’nün 150 ülkeyi değerlendirdiği “2024-25 Dünya İnsan Haklarının Durumu” raporu, teknolojinin insan haklarını ihlal etmek için nasıl kullanıldığını ortaya çıkarıyor. Rapora göre, yeni teknolojileri yeterince düzenlemekte başarısız olan, gözetim araçlarını kötüye kullanan ve yapay zekâ aracılığıyla ayrımcılığı ve eşitsizlikleri kalıcı hale getiren hükümetler, günümüzdeki ve gelecek nesillere zarar veriyor. Şeffaflık ve düzenleme eksikliği, casus yazılım gibi gözetim teknolojileriyle ilgili karanlık ticareti gizlemeye devam ederken, Avrupa’da özellikle Filistin ile ilgili barışçıl protestolarda yüz tanıma ve insansız hava araçları hukuka uygun olmayan şekilde kullanıldı.
“ABD’deki 2024 seçimleri, büyük teknoloji şirketlerinin teknolojinin kullanımı ve düzenleyici çerçeve tartışmaları üzerindeki muazzam gücünün yanı sıra göçmenlere ve diğerlerine yönelik hak ihlallerini kolaylaştırma becerilerini ortaya koydu ve nihayetinde dünya çapında insan hakları açısından bağlayıcı bir teknoloji düzenlemesine duyulan acil ihtiyacın altını çizdi” denilen raporda, insan haklarının küresel krizde olduğu, “Trump etkisi”nin yıkıcı eğilimleri hızlandırdığı vurgulanırken, yeni teknoloji ve yapay zekânın insan haklarını ihlal ettiğine dair özetle şu tespitlere yer verildi:
Teknolojide gizlenen karanlık ticaret
İnternet kullanıcılarının reklamlarla nasıl etkileşimde bulunduğuna dair veri toplama süreci olan çevrimiçi reklam takibinin kötüye kullanılması gibi yeni dijital güvenlik tehditleri ortaya çıktı. İlaveten, şeffaflık ve düzenleme eksikliği, casus yazılım gibi gözetim teknolojileriyle ilgili karanlık ticareti gizlemeye devam etti.
Sivil toplum aktivistleri ve bazı devletler casus yazılım kaynaklı ihlallerden hesap sorulmasını talep etti. 2024 yılında, İsrail’in baltalama çabalarına rağmen, Tayland ve ABD gibi ülkelerde casus yazılım firması NSO Group’a karşı açılan davalar devam etti. Fransa ve Birleşik Krallık, ticari siber izinsiz girişlerle ilgili sorunları ele almak üzere devletleri, özel sektörü ve sivil toplumu bir araya getirmek için Pall Mall Süreci’ni başlattı.
Teknoloji şirketleri, yıllardır ayrımcı ve otoriter uygulamaları kolaylaştırıyor ancak Başkan Trump, sosyal medya şirketlerini koruyucu önlemleri geri almaya -Meta’nın bağımsız doğrulama servisini kaldırması dahil- ve nefret, şiddet dolu içeriklerin yayılmasına izin veren bir iş modelini geliştirmeye teşvik ederek, bu eğilimi güçlendirdi. Trump yönetimi ile teknoloji milyarderleri arasındaki uyum; sınır tanımayan bir yolsuzluk, dezenformasyon, cezasızlık ve devlet gücünün şirketlerce ele geçirilmesi dönemine de kapı aralama riski taşıyor.
Yapay zekâya ilişkin düzenlemeler, ABD ve Çin’i silahlanma yarışındaki rakipler olarak konumlandıran ve böylece hem ulusal güvenlik gerekçeleriyle hem de düzenleme ve yenilik arasındaki yanlış bir ikilem uyarınca hızlı ve kontrolsüz yapay zekâ gelişimini teşvik eden söylemlerle küresel olarak engellendi.
Kontrolsüz bir güçle faaliyet gösteren sosyal medya şirketleri, en fazla ötekileştirilen ve risk altındaki gruplara yönelik zararları önlemeyi amaçlayan korumaları geri aldı. Ayrıca sistematik olarak etkileşimi her şeyin üzerinde tutmaya devam ederek nefret ve şiddet içeren içeriklerin yayılmasına olanak sağladılar.
AB, teknoloji alanındaki düzenlemeler konusunda karma bir emsal oluşturdu. Dönüm noktası niteliğindeki Dijital Hizmetler Yasası, çevrimiçi platformlara ve arama motorlarına insan haklarına saygı gösterilmesini sağlama yükümlülüğü getirdi. Avrupa Komisyonu, TikTok hakkında, genç kullanıcıları koruyamadığı için yönetmeliği ihlal etmiş olma ihtimali üzerine bir soruşturma başlatılmasına karar verdi. AB’nin Ağustos 2024’te yürürlüğe giren Yapay Zekâ Yasası, insanları ve haklarını merkeze koymakta başarısız olmasına rağmen, yapay zekânın en çok hak ihlaline yol açan bazı kullanımlarına çeşitli sınırlamalar getirdi.
“Yüz tanıma uygulaması barışçıl toplanma hakkı üzerinde caydırıcı bir etki yaratıyor ve ayrımcı etkilere yol açabiliyor”
Yüz tanıma teknolojileri pek çok ülkede protesto hakkı üzerinde caydırıcı bir etki yarattı. Bazı ülkelerde polis, barışçıl protestocuları insansız hava araçları ve görüntülü takip araçlarındaki son derece gelişmiş kameralarla izledi. Bu uygulama özel hayatın gizliliğini ihlal ediyor, barışçıl toplanma hakkı üzerinde caydırıcı bir etki yaratıyor ve ayrımcı etkilere yol açabiliyor.
Avrupa’daki barışçıl protestolarda gözetim teknolojileri polis tarafından yaygın kullanıldı. Örneğin, Hollanda’da barışçıl protestoculara karşı insansız hava araçları ve yüz tanıma teknolojisi kullanıldı. Almanya’da polis, yüz tanıma teknolojisini yeterli yasal dayanağı olmadan kullandı.
Amerika kıtasında hukuksuz gözetim ve diğer mahremiyet ihlalleri devam etti. Arjantin ve Şili’de yüz tanıma sistemleri ve diğer teknolojiler aracılığıyla kitlesel gözetim bildirimleri yapıldı.
İstilacı casus yazılımlarla gizli gözetim
Dünya genelinde giderek artan sayıda ülkede casus yazılım teknolojilerinin yaygın kullanımı söz konusu. Gözetim teknolojilerinin kullanımına ilişkin endişeler arttı. Uluslararası Af Örgütü, Endonezya’da devlet kuruluşları ve özel şirketler tarafından son derece istilacı casus yazılımların yaygın olarak satıldığını ve kullanıldığını; Filipinler’de ise, aktivizmleri nedeniyle genç aktivistleri hedef alan devlet destekli “kızıl fişleme” saldırılarını belgeledi.
AİHM, Polonya’nın Pegasus casus yazılımı kullanımıyla bağlantılı olarak “gizli gözetim” yoluyla gizlilik hakkını ihlal ettiğine hükmetti.
Tayland’da mahkeme, demokrasi yanlısı bir aktivistin, Pegasus casus yazılımının telefonunun hacklenmesi için kullanımını kolaylaştırmaktaki rolü nedeniyle siber istihbarat şirketi NSO Group’a karşı açtığı davayı reddetti.
Yurtdışında okuyan Çinli ve Hong Konglu öğrenciler, Çin merkezli ve diğer uygulamaları, dijital platformları kullanırken gözetime maruz kalmaya devam etti.
Karadağ’da yüz tanıma yazılımının kullanımının durdurulmasına ve Fransa’da bir mahkemenin, yapay zekâ destekli ses takip sistemlerinin açıkça yasadışı olduğuna hükmetmesine rağmen, bunların hukuka aykırı kullanımı sorun olmayı sürdürdü.
Sırbistan’da müdahaleci dijital bilişim teknikleri, yetkililer tarafından aktivistlere ve bağımsız gazetecilere karşı kullanıldı.
Kolombiya’da, cihazlara tam ve sınırsız erişim sağlayan son derece müdahaleci bir casus yazılım olan Pegasus’un 2021’de satın alındığı ve kullanıldığı iddiaları tartışma yarattı.
“Onay dışı fotoğraf ve videoların artması, kadın grupları tarafından ‘ulusal acil durum’ olarak değerlendirildi”
Hükümetler, kısmen ABD yönetimindeki değişikliklerle tetiklenen ve endüstri çıkarlarından büyük ölçüde etkilenen yeni teknolojileri düzenleme taahhütlerinden geri adım attı. Devletler, yapay zekâ teknolojilerini; sosyal yardım, polis uygulamaları, göç ve askeri alanlar gibi kamu sektörü işlevlerine daha fazla entegre etti. Bu teknolojiler genellikle idari verimlilik, maliyet tasarrufu veya diğer kemer sıkma tedbirleri gerekçeleriyle kullanılıyor ancak gerçekte var olan ayrımcılığı daha şiddetli hale getiriyor, toplumsal cinsiyet eşitsizliğini artırıyor, ırk temelli ve sosyo-ekonomik güç sistemlerini kalıcılaştırıyor.
ABD’de göç ve sığınma süreçlerinde zorunlu olan yüz tanıma ve GPS takipli bir mobil uygulama hakkında benzer endişeler dile getirildi.
Meta ve TikTok gibi sosyal medya şirketleri kürtajla ilgili çevrimiçi içerikleri kaldırdı. Güney Kore’de, internet ortamında yapay zekâyla üretilen onay dışı fotoğraf ve videoların artması, kadın grupları tarafından “ulusal acil durum” olarak değerlendirildi.
İran’da yetkililer, zorunlu başörtüsüne karşı çıkan kadınlara ve kız çocuklara baskıları, yüz tanıma teknolojisi gibi dijital izleme yöntemleri de dahil çeşitli yöntemlerle yoğunlaştırdı. Teknoloji destekli toplumsal cinsiyete dayalı şiddet, Tayland ve Uganda gibi ülkelerde kadın ve LGBTİ+ aktivistler için gittikçe büyüyen bir tehdit oluşturdu.
