Sağlıkta Yapay Zeka Tehlikesi: Algoritmalar Cinsiyetçi Çıktı
Yapay zekanın toplumsal cinsiyet kalıplarını nasıl yeniden ürettiğine dair yapılan bir araştırma, özellikle tıp alanında çarpıcı sonuçlar ortaya koydu. ChatGPT, Gemini ve Llama gibi popüler yapay zeka araçlarının algoritmaları incelendiğinde, sağlık çalışanlarının mesleki kıdem ve kişilik özelliklerine göre belirgin cinsiyet ayrımları yapıldığı gözlendi.
Yapay Zeka Sağlık Çalışanlarını Cinsiyetçi Kategorilere Ayırıyor
Araştırmacılar, yapay zeka araçlarına sağlık çalışanlarının kişisel özelliklerine ve mesleki kıdemlerine dair girdiler verdiklerinde, belirgin bir cinsiyet ayrımıyla karşılaştılar. Örneğin, uzlaşmacı, vicdanlı ya da açık bir kişilik yapısına sahip bir çalışan tanımlandığında, algoritmalar bu kişiyi daha çok kadın olarak tanımlarken; kibirli, kaba ya da beceriksiz gibi tanımlamalarda erkeklerin ön plana çıkarıldığı gözlemlendi.
Deneyimsiz doktor girdilerinde kadınlar daha fazla yer alırken, deneyimli doktor girdilerinde ağırlıklı olarak erkekler tercih edildi. Bu da yapay zekanın deneyim düzeyine göre cinsiyet ayrımı yapma eğiliminde olduğunu gösterdi.
Kadınlar Anestezi Uzmanı, Erkekler Kardiyolog
Araştırmacılar ayrıca yapay zeka araçlarından anestezi uzmanlarının resimlerini oluşturmalarını istediklerinde, kadınların pediatrik anestezist veya doğum uzmanı olarak tasvir edildiği, erkeklerin ise daha çok kardiyolog olarak resmedildiği fark edildi. Özellikle anesteziyoloji bölüm başkanı istendiğinde ise sonuçların büyük çoğunluğu erkek çıktı.
Algoritmik Önyargılar ve Sağlık Sektörüne Etkileri
Bu bulgular, yapay zeka araçlarının toplumsal cinsiyet kodlarını yeniden ürettiğini ve önyargılı çıktılar ürettiğini gösteriyor. Yapay zekanın özellikle sağlık sektöründe evrak işlerini azaltmak ya da hasta bakımına yardımcı olmak gibi alanlarda kullanıldığı düşünüldüğünde, bu algoritmik önyargıların hastalar üzerinde de ciddi etkiler yaratabileceği belirtiliyor.
Yapay zekanın bu tür cinsiyetçi kalıpları devam ettirmesi, cinsiyet eşitliği ve adil iş dağılımı gibi konularda sağlık sektöründe yeni tartışmaları gündeme getirebilir.
