Bu makalenin orijinali, yazar Beth Kerley'nin kaleminden, 24 Ocak günü American Purpose'da yayınlanmıştır.

Yapay zekâ eğer demokratik esaslar göz önünde bulundurulmadan şekillenirse demokrasiyi zayıflatan bir araca dönüşecektir

Yapay zekâdaki (YZ) gelişmeler demokrasinin oyun alanını değiştiriyor. Sosyal medyanın bir protesto aracı olarak ortaya çıkışından bu yana, yorumcular gelişen teknolojik ortamın siyasi dünyamızı nasıl değiştirdiğini düzenli olarak anlatıyor. Güvendiğimiz dijital araçların insanların kendilerini ifade etme, benzer düşüncede olan toplulukları bulma ve kolektif eylem başlatma biçimlerini belirlemede yardımcı olduğunu biliyoruz. Aynı zamanda, bu teknolojiler, her siyasi görüşten hükümetin insanları nasıl gözetlediğini, hizmetleri nasıl yönettiğini ve demokratik bariyerlerin zayıfladığı ya da hiç olmadığı ortamlarda baskıyı nasıl uyguladığını (artırdığını) da belirliyor.

Yapay zekâ araçlarının küresel çapta yaygınlaşması, büyük dil modellerinin geliştirilmesindeki son sıçramalar ve yönetişim süreçlerinin otomasyonuna yönelik artan heves sayesinde, insanlar ve hükümetler arası güç dengesinde bir başka sismik değişime hazırız. Yine de, demokratik normların ve kurumların YZ'nin yörüngesini şekillendirmede nasıl kullanılacağına dair birçok soru var. 2010'ların başında gerçekleşen "özgürleştirme teknolojisi" furyasından bu yana, hem uzmanlar hem halk, teknolojik gelişmenin ifade ve örgütlenme özgürlüğü gibi değerleri otomatik olarak ilerleteceği veya sivil katılım için eşit bir rekabet alanı sağlayacağı varsayımlarına daha şüpheci yaklaşmaya başladı. Açık iletişimi teşvik eden dijital araçlar aynı zamanda baskıcı rejimlerin muhalifleri gözetlemesini ve taciz etmesini kolaylaştırabilir veya komplo teorilerini ve devlet propagandasını orantısız biçimde güçlendirerek kamusal tartışmayı çarpıtabilir.

Dijital gelişmelerin kaçınılmaz olarak demokrasinin yararına işlemediğine dair elimizde yeterince kanıt varken, demokrasi savunucuları YZ'nin geliştirilmesi ve yaygınlaştırılması konusunda bariyerler oluşturmak için harekete geçmelidir. Otoriter ülkelerin yapay zekâyı baskı aracına dönüştürme konusundaki kararlılıkları, bu görevin önemini daha da artırmaktadır.

National Endowment for Democracy'nin Uluslararası Demokratik Çalışmalar Forumu tarafından hazırlanan yeni bir rapor, kökleri demokratik değerlere dayanan bir yapay zekâ yaklaşımına yön vermesi gereken ilkelerin altını çiziyor. Rapor özellikle, dijital haklar ve şeffaf hükümet konularında çeşitli ülkelerden teknoloji ve demokrasi uzmanlarının katıldığı bir konferans sonucunda ortaya çıktı. Rapor, YZ ortamını şekillendiren popüler söylemleri ve sosyal yapılanmaları, demokratik normların korunmasının önündeki engelleri ve sivil toplumun YZ'nin demokrasiye uygun şekilde gelişmesini sağlamak için müdahale edebileceği yolları incelemektedir.

Ana tema, demokrasinin hükümet, medya, sivil toplum ve özel sektördeki müttefiklerinin, teknolojinin kendisini bir ajan olarak düşünmek yerine, YZ modellerinin arkasındaki insan iradesini görmeleri gerektiğidir. Bu tanıma sadece teorik nedenlerle değil, aynı zamanda YZ çağında demokratik hesap verebilirliği sağlamak için de kritik öneme sahiptir. Tüm kusurlu insan yapıları ve seçimleri gibi, YZ sistemlerini besleyen insan kararları, varsayımları ve güç yapıları da incelemeye açık olmalıdır. Bir konferans katılımcısının vurguladığı gibi, "Önemli olan bilgisayar programı değil ... daha ziyade onu yaratan ve uygulayan insanlar ve kurumlardır." İnsan hakları standartlarını korumaktan sorumlu tutulmalıdır.

En temel teknik düzeyde, YZ modelleri, kendi verilerini üreten toplumları, veri kümelerinde kimin temsil edildiğini veya edilmediğini şekillendiren eşitsizlikleri ve geliştiricilerin seçimlerini veya varsayımlarını yansıtır. Bir ülkede tasarlanan YZ sistemleri, farklı yönetişim yapılarına veya farklı dijital veya veri altyapısına sahip ortamlara ihraç edildiğinde beklenmedik zararlara neden olabilir. Latin Amerikalı bir katılımcı, grubu "Küresel Kuzey'de tasarlanan veri setlerine dikkat etmeleri" konusunda uyardı.

YZ teknolojisinin satıcı ve alıcıları arasındaki ilişkiler, teknolojinin kamu sektöründe nasıl kullanılacağını şekillendirmektedir. Örneğin, kolluk kuvvetleri için YZ destekli araçlar bazen kamu güvenliği kadar veya daha fazla siyasi veya ticari amaçlara hizmet edebilir. Aktivistler, Belgrad'da Huawei yüz tanıma kameralarının konuşlandırılmasının ardındaki mantığı daha iyi anlamak için projenin altında yatan Sırbistan-Çin işbirliği ilişkisini ortaya çıkarmıştı mesela.

YZ'nin ortaya koyduğu yeni zorluklara rağmen, tartışmayı bilinen demokratik değerlere dayandırmak, riskleri hafifletmeye yardımcı olabilir. Örneğin, bir devlet kurumu bir YZ sisteminin yardımıyla aldığı bir kararı izah edemezse, böyle bir karar yasal süreç ve hükümetin hesap verebilirliği ilkelerini ihlal edecektir. İster tasarım, ister tedarik veya dağıtım düzeyinde olsun, insanların tercihlerine odaklanmak, YZ programları kurumların işleyişinde giderek artan bir rol üstlenmeye başladıkça, kurumları hesap verebilir kılmak için kritik öneme sahip olacaktır.

Raporun vurguladığı bir diğer konu da, demokratik toplumları ve kurumları, teknolojinin kendisiyle birlikte sürekli gelişen bir dizi yapay zekâ hasarı ve riskine (yakın vadeli, orta vadeli ve uzun vadeli) ayak uyduracak şekilde eğitmenin aciliyetidir. Modelleri eğitmek için kullanılan veriler, ürettikleri çıktılar ve çıkardıkları sonuçların tümü, bir demokraside özgür düşüncenin ve özgür ifadenin temellerinden biri olan mahremiyeti tehlikeye atabilir. YZ'nin gizlilik riskleri, son gelişmeler sayesinde kapsam olarak büyümektedir ve otoriter ülkelerdeki (en belirgin olarak Çin Halk Cumhuriyeti) satıcı firmaların eline geçen verileri içermekle birlikte, bundan çok daha fazlasıdır.

Geleneksel veri koruma kavramları belirli bir "kişisel olarak tanımlanabilir bilgi" kategorisini vurgularken, YZ sistemleri bir kişinin kimliğini veya ait olduğu demografik grubu belirlemek için anonimleştirilmiş olsa dahi konum gibi diğer veri türlerini bir araya getirebilir, ki bu da algoritmik ayrımcılığı mümkün kılan bir kapasitedir. Ayrıca, kimliğini gizleyen çevrimiçi paylaşımlara dayanarak kişisel nitelikler hakkında çıkarımlarda bulunabilir ve baskıcı ortamlarda muhalifler için uzun zamandır değerli bir koruma kalkanı olan dijital mahremiyeti zayıflatabilirler.

Devletin hesap verebilirliği, kanun karşısında eşitlik ve işçi hakları gibi diğer temel demokratik ilkeler de yapay zekâ teknolojilerinden etkilenmektedir. Bazen yanıltıcı bir şekilde tarafsız olarak gösterilse de, algoritmik sistemler önyargı ve dışlamayı artırıcı sonuçlara yol açabilir. Örneğin, kamu yardımlarının algoritmik dağıtımı, koşulları belirli bir model tarafından yeterince ele alınmayan veya yanlışlıkla dolandırıcılık riski olarak damgalanan kişileri geride bırakabilir. Marjinal grupların üyelerinin yüz tanıma kameraları tarafından yanlış tanımlanması ve otomatik işe alım sistemleri tarafından cezalandırılması olasılığı daha yüksektir. İster iş ekonomisinde ister geleneksel işverenler tarafından olsun, bir yönetim aracı olarak kullanılan yapay zekâ sistemleri, haksız cezalara karşı itirazları dinleyecek "bir insan" olmadığında, işçi hakları açısından yeni zorluklar ortaya çıkaracaktır.

Kritik olarak, bu zorlukların çoğu teknik olduğu kadar sosyal ve siyasi cevaplar da gerektiriyor ve bazı durumlarda rekabet eden değerler arasında karmaşık dengeler kurulmasını da zorunlu kılıyor. Örneğin, sistemler yalnızca gerekli minimum veriyi topladığında gizlilik belki fayda sağlayabilir, ancak önyargıyı test edebilmek için hassas demografik veriyi toplayarak eşitliğe daha iyi hizmet de edebilir. Benzer şekilde, yapay zekâ gelişimini birkaç büyük şirketin elinde tutmak, şeffaflık ve güç yoğunlaşması ile ilgili endişeleri arttıracaktır. Öte yandan, açık modeller, seçmenleri yanıltmak için "derin sahtekarlıklar" kullanmak veya bilgi alanını nefret söylemi, tehdit ve taciz edici içeriklerle doldurmak gibi anti-demokratik projeler için daha kolay şekilde istismar edilebilir. Son olarak, dijital politikalar ve düzenlemeler dikkatli bir şekilde düzenlenmezse, hükümetler ve kötü niyetli aktörler bunları demokratik değerlere aykırı amaçlar için kötüye kullanabilir. Brezilya'da yetkililer tarafından kamu bilgilerinin paylaşılmasına direnmek ve eleştirel haberciliği susturmak amacıyla kleptokratik yandaşlar tarafından başvurulan veri koruma yasalarında bu zaten gördüğümüz bir şey.

Bu sosyal ve politik zorluklar, YZ teknolojilerinin evrimini yönetme konusundaki tartışmaların teknik camianın ötesine geçmesi gerektiği anlamına gelmektedir. Teknoloji yetenekleri ve tescilli bilgilerin özel sektörde yoğunlaşmasıyla, kamu ve demokratik temsilciler, YZ sistemlerini düzenlemek, satın almak ve hatta sadece kullanmak istediklerinde dezavantajlı konumdadır. Bu alanda şeffaflık, hesap verebilirlik ve mahremiyet gibi demokratik ilkelere gerçek bir güç kazandırmak için yeni stratejilere, süreçlere ve işbirliklerine ihtiyaç vardır. YZ'nin etkilerini ele alabilecek yerleşik normlar, öğrenme süreçleri ve kurumlar, birçok ortamda ya yeni ortaya çıkmakta ya da hiç bulunmamaktadır.

Sivil toplum, farkındalık yaratarak ve dava açarak, yasalar ve kurallar konusunda devlet kurumlarıyla işbirliği yaparak ve YZ'nin geliştirilmesine yönelik sorumlu yaklaşımları teşvik ederek bu boşlukların giderilmesine yardımcı olabilir. Hem düzenleme hem de geliştirme süreçlerinde, etkilenmesi muhtemel insanları ve toplulukları en baştan dahil etmek de daha sağlam hak koruma önlemleri alınmasına yardımcı olabilir.

Yapay zekâ sosyal ve politik yaşamın farklı yönlerini etkilediğinden, ortaya çıkardığı zorlukları ele almak sadece teknik beceriden fazlasını gerektirmektedir. Bu da aktivistlerin, bağımsız gazeteciler ve işçi sendikalarıyla işbirliği yaparak veya geleneksel ve dijital insan hakları örgütleri arasındaki ayrılıkları kapatmak için çalışarak, bu sorunları ele almak için yeni işbirlikleri ve bilgi paylaşım girişimleri kurmaları gerektiği anlamına geliyor. Bu tür ortaklıklar, açık veri aktivistleri ve mahremiyet savunucuları gibi geçmişte farklı yönlere odaklanma eğiliminde olan toplulukları bir araya getirerek sorunun daha iyi anlaşılmasına yardımcı olacaktır.

Öte yandan, güçlü teknik becerilere sahip sivil toplum kuruluşları da demokrasiyi derinleştirmek ve kurumları hesap verebilir kılmak için dijital inovasyondan faydalanabilir. Macaristan'dan Brezilya ve Peru'ya kadar aktivistler ve gazeteciler, vatandaşların kamu bilgilerini anlamlandırmalarına veya yolsuzluk göstergelerini tespit etmelerine yardımcı olmak için yapay zeka araçları tasarladı. Bu tür projeler, örneğin araştırmacıların ihale belgelerinde satın alma işlemlerini yüz tanıma yöntemiyle tespit etmelerini sağlayarak, YZ'nin bizzat kendisiyle ilgili bilgi asimetrisine karşı koymaya bile yardımcı olabilir. Teknoloji meraklısı aktivistler, hükümet veya kurumsal YZ sistemlerinin insan hakları açısından yarattığı güvenlik açıklarını ve riskleri tespit edebilir. Bu arada araştırmacılar, YZ'nin "kolektif zeka" için kullanımını araştırıyor ve YZ'nin nasıl yönetileceğine dair kararlar da buna dahil olmak üzere halkın karar alma sürecine yeni katılım biçimlerini mümkün kılıyor.

YZ'nin bizi etkileme yolları, demokratik mekanizmaların hükümetin şeffaflığını korumak, müzakereyi desteklemek ve etkilenen toplulukları karar alma sürecine dahil etmek için ne kadar iyi çalıştığına bağlı olacaktır. YZ'nin yörüngesi kısmen demokratik kurumların sağlığına bağlıdır ve demokrasilerin sağlığı da aynı şekilde YZ etrafındaki seçimlerimizden etkilenecektir. Bu kararların söz konusu sosyal, sivil ve insan hakları kaygılarının tamamını kapsamasını sağlamak istiyorsak, YZ'yi nasıl kullanacağımızı ve YZ ile nasıl yaşayacağımızı belirlemede sivil toplumun önemli rolü olacaktır.

Beth Kerley, National Endowment for Democracy'de Uluslararası Demokratik Çalışmalar Forumu'nda çalışan bir kıdemli program görevlisidir. Bu makale, Uluslararası Forum'un Mayıs 2023'te Arjantin Buenos Aires'de düzenlenen bir çalıştaya dayanan "YZ için Demokratik Temel Kuralların Belirlenmesi: Sivil Toplum Stratejileri" başlıklı raporundan alınmıştır. Yazar, Maya Recanati'ye yardımları için teşekkür etmektedir.

Çeviri Cazkolik.com / 26 Ocak 2024, Cuma

BU İÇERİĞİ PAYLAŞIN