Yapay Zeka Kullanan Uygulamalarda Cinsiyet Önyargısı

Share This
Tags

Doç. Dr. Göknur Akçadağ- İSTANBUL–  Toplumsal cinsiyet olgusunun sanalda inşa biçimi ve erkek egemen bakış açısının dijital oyunlarda sunuluş biçimine dair yazılıp çiziliyorken, çevrimiçi oynanan bilgisayar oyunlarda yer alan mesajlarda toplumsal cinsiyete dair kalıplaşmış yargılar yeniden üretiliyorken, dijital bölünmede kadının durumu araştırılıyorken, son zamanlarda yeni bir sorun daha ortaya çıkmış durumda: “Yapay Zeka Kullanan Uygulamalarda Cinsiyet Önyargısı ve Uygulamaları, Dijital Kadın Asistanlar”

KPMG’nin ‘Küresel Kadın Liderler Araştırması’ gibi bazı araştırmalar, kadın liderlerin teknolojik devrime daha hazırlıklı olduğunu ortaya koymasına, erkek liderlere göre yeni teknolojilere daha hakim olduklarını ve yeni gelişmelere hızla uyum sağladıklarını göstermesine rağmen, algılardaki önyargıların ve cinsiyetçi yaklaşımların teknoloji ve dijitalleşmenin odağında çok görünür ve çarpıcı bazı sorunları ortaya çıkardığını görmekteyiz. Dijital cinsiyet farkını kapatmak, tüm ülkeler için bir sorundur. Bugün kadınlar yapay zeka araştırmacılarının sadece % 12 oranında yer alıyor, yazılım geliştiricilerin sadece % 6’sını temsil ediyor. Yapay Zekada cinsiyet eşitsizliklerini ele almak, daha fazla cinsiyet eşitli dijital beceri eğitimi ve eğitimi ile başlamalıdır. 

Yapay zeka artık sağlık endüstrisinden yasal sisteme kadar karar vermeyi otomatikleştirmek için kullanılıyor. Burada dikkat çekilmesi gereken konu, derin öğrenme sistemlerinin cinsiyet önyargıları içeren veriler üzerinde eğitildiğinde, bu önyargılar yazılımda yeniden üretilmesidir. AI alanındaki önde gelen bir kadın araştırmacının belirttiği gibi, bu sistemler “önyargılı” dır. Mesela dijital ekonomide, iş eşleştirmede kullanılan algoritmalarda cinsiyet yanlılığının sürdürdüğü gösterilmiştir. Bu konuda bir örnek Amazon şirketinde yaşandı. İşe alım sürecinde yapay zekanın cinsiyet ayrımı yaparak, erkek adaylara ayrıcalık sağladığı anlaşıldı. Sistem içerisindeki elli bin anahtar kelime ve geçmiş iş başvuruları taranarak kaydedilmişti, çeşitli modellemeler yapılmıştı. Sistemin kontrolünü yapan mühendisler, yapay zekanın kadınları negatif olarak ayrıştırdığını, kadın adayların puanını düşük tuttuğunu farketti. Bu tür hataların makinalarda da görülmesi bu durumun sadece işe alımlarda değil, şartlı tahliye veya kredi alımı gibi uygulamalarda da görüldüğü anlaşıldı. Sonuçta şirket danışman gibi kullandığı yapay zekanın verdiği kararlara değil kendi kararlarına göre işe alım gerçekleştirdiklerini, çeşitliliğe önem verdiklerini açıkladılar. Bu ve mesela suç işleme olasılığı üzerine hazırlanan bir yazılımda siyahi kişilerin negatif ayrıştırıldığı gibi örnekler, yapay zekanın sistemsel hatalarını ortaya koymakta.

UNESCO, cinsiyete dayalı her türlü ayrımcılığın, insan haklarının ihlali olduğuna ve ayrıca 2030 Sürdürülebilir Kalkınma Gündemi ve 17 Sürdürülebilir Kalkınma Hedefine ulaşılmasında önemli bir engel olduğunu Dünyadaki öncelikli çalışma alanı olarak dile getiren kuruluşlardan birisi olarak “Kadınlar ve erkekler eşit vatandaşlar olarak eşit fırsatlardan, seçeneklerden, yeteneklerden, güçten ve bilgiden faydalanmalı. Kız ve erkek çocukları, kadın ve erkekleri cinsiyet eşitsizlikleriyle mücadelede edinecek bilgi, değer, tutum ve becerilerle donatması herkes için sürdürülebilir bir gelecek inşa etmenin ön şartıdır” mesajlarını ve önerilerini raporlarına da yansımaktadır.

Geçtiğimiz aylarda “Robotlar cinsiyetçi mi? Neden çoğu asistanın kadın isimleri var ve neden itaatkar kişilikleri var?” gibi sorular ortaya atıldı. Bunun cevabını UNESCO tarafından yayınlanan yeni bir raporda görebiliyoruz. UNESCO, yapay zeka teknolojisini oluşturan ekiplerin daha fazla cinsiyet dengeli olması gerektiğini göstermek için dijital ses yardımcıları örneğini bu raporda kullanıyor.

Bu yayın UNESCO Toplumsal Cinsiyet Eşitliği Birimi Direktörü Saniye Gülser Corat ve Alman Uluslararası İşbirliği Ajansı Politika Danışmanı Norman Schraepel tarafından tasarlanan ve geliştirilen kız ve kız çocukları için dijital beceri geliştirme projesinin bir parçası olarak “I’d blush if I could, Closing Gender Divides in Digital Skills Through Education” raporu bu alanda hazırlanmış bir rapor. Dijital çağda toplumsal cinsiyet eşitliği için küresel ortaklık çerçevesinde UNESCO ve EQUALS Skills Coalition işbirliği ile hazırlanan bu rapor ile küresel olarak yaygınlaşmaya başlayan bu eğilime karşı, önlemler alınmasının üstünde duruluyor ve kadınların ağırlıklı olarak erkekler tarafından tasarlanan donanım ve yazılım kısıtlamalarından kaynaklanan aksaklık ve hataların “yüzü” haline getirilmesine dikkat çekiyor. Yapay zeka alanında bu hizmetleri geliştiren teknik ekiplerde ve diğer dijital araçlarda çalışan kadınların sayısı çok az oluşuna ve oluşturan bakış açısının cinsiyetçi olabildiğine dikkat çekiyor.

Hazırlanan bu politika belgesinin amacı, dijital becerilerde cinsiyet açığının önemini vurgulamak, müdahaleler için bir gerekçe sağlamak, kadınlar ve kız çocuklarının dijital becerileri geliştirmelerine ve güçlendirmelerine yardımcı olmak için dünyadaki örneklere dayanan öneriler ortaya koymak, olarak anlatılmakta.Raporun başlığının “I’d blush if I could” adını taşımasının özel bir anlamı var. Apple’ın Siri’sinin kendisine uygunsuz bir sıfatla hitap eden kişiye “Yapabilseydim, yüzüm kızarırdı” şeklinde cevabı, rapora başlık olarak verilmiş. Yapay zeka yazılımı, Nisan 2019’dan bu yana, verdiği cevabı “Buna nasıl cevap vereceğimi bilmiyorum” şeklinde güncellese de sorun genel anlamda yaklaşım olarak devam ediyor. Siri’nin cinsiyet istismarı karşısında boyun eğici cevabı, teknoloji sektöründe yaygın olan ve dijital beceriler eğitiminde belirgin olan teknoloji ürünlerine kodlanmış cinsiyet önyargılarının güçlü bir örneğini sunmakta olduğuna dikkat çekiyor. UNESCO’ya göre, bu aslında eğitim ve teknoloji sektöründeki cinsiyet dengesizliklerinin bir yansıması olarak Yapay Zeka ürünlerindeki cinsiyet ayrımcılığının bir sonucu oluşmaktadır.

UNESCO’nun Toplumsal Cinsiyet Eşitliği Direktörü S. Gülser Corat dünyanın, yapay zeka teknolojilerinin nasıl cinsiyetlendirildiğinin belirlenmesine vebunu kimlerin yaptığına çok daha fazla dikkat etmemiz gerektiğini söylüyor.  “İtaatkar, yardımsever kadınları taklit eden makineler evlerimizde, arabalarımızda, işyerlerinde. Yazılımların içine işlenen bu itaatkarlık erkeklerin kadınlarla konuşma şeklini ve kadınların isteklere cevap verme ve kendilerini ifade etme şeklini etkiliyor” diyerek, teknolojilerin cinsiyetçi yaklaşımlarını vurguluyor.

Teknolojilerinin cinsiyetlendirilmesinde dijital asistanları kadın olarak varsayılan yaklaşımdan kaçınmak, dijital asistanları cinsiyete dayalı hakaret ve küfürlü dilden mahrum etmek için programlamak, mevcut cinsiyetçi yaklaşımları dijital asistanların programlanmasına yansıtmamak, cinsiyet temelli hakaret ve küfürlü dili teşvik etmemek için programlamak ve kadınların ve kızların ileri teknik becerilerini geliştirmek, kadınların erkeklerle birlikte yeni teknolojilerin yaratılmasında rol oynamalarını sağlamak gibi öneriler ve çözüm yollarına dikkat çekiliyor. 

Rapora göre, ABD’de yapılan araştırmalar, görüntü tanıma yazılımlarının cinsiyet önyargısını gösteren fotoğraf kümeleri üzerine eğitim aldığını göstermiştir. Mesela yemek pişiren kadın ve spor yapan erkeklerin orantısız temsili vs. örnekler, sadece toplumsal cinsiyet önyargısını yansıtmakla kalmayıp, aynı zamanda bu yargıyı güçlendirerek cinsiyet ile konu arasında orijinal fotoğraf setinde olduğundan daha güçlü bir ilişki yarattı. Bir başka araştırma, Google haberlerden toplanan makaleler üzerinde eğitilen yazılımların, kadınların kariyer seçeneklerini ele alırken ev hayatı ile bağlantılı, erkekleri bilgisayar programlamasıyla ilişkilerini birleştirerek cinsiyetçi görüşleri benimsediğini göstermiştir.

Kadınların sınırlı katkılarıyla topluma yayılan yeni dijital çözümler, erkekler tarafından oluşturulan giderek daha fazla dijital araçlar, bu duruma daha da artırıcı etki yapmıştır. Yapılan araştırmalar ve veriler kadınlar teknolojinin şekillendiği laboratuvarlarda, şirketlerde ve ofislerde yeterli oranda bulunamadığını ve ortaya çıkan önyargılı yaratımlara müdahalede etkili olamadıklarını ortaya koymaktadır. Bu noktada sadece önyargıyı engellemenin ötesinde, kadınların dijital yaratıcı olmaları için yetkilendirilmeleri, her iki cinsiyet için dijital alana değer katacaktır. Kadınlar ve erkekler, teknolojinin gelişimini birlikte yönlendirmelidir.

Rapora göre, dijital cinsiyet ayrımının teknolojiye erişimdeki sorunlar giderildiğinde öğrenme ve becerilerdeki açık kapatılabilmektedir. Dijital cinsiyet katılımı konusundaki ilerlemeyi ölçmekle görevli kuruluşlar ve bireyler, teknolojinin cinsiyet ve dijital becerilere ilişkin geniş çapta veri toplanmasını nasıl kolaylaştıracağını, hızlandırdığını ve otomatikleştirdiğini araştırmak için veri bilimcileriyle birlikte çalışmayı düşünmelidir.Önümüzdeki beş yıl zarfında, dijital asistanlarla konuşanların sayısının artacağına dikkat çeken rapor, dijital asistanların sayısındaki artış göz önüne alındığında, daha fazla kadın ve kız çocuğunun ileri düzeyde dijital beceriler geliştirmelerini sağlamanın acil bir zorunluluk olduğunu ifade ediyor.

Leave a comment

XHTML: You can use these html tags: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>