Önyargı, Adillik ve Ayrımcılığın Önlenmesi

Önceki derste yapay zekâ çıktılarının doğruluğunu nasıl kontrol edeceğimizi konuştuk. Bu derste bir adım daha ileri gidiyoruz: Çıktı doğru görünse bile adil olmayabilir. Bir sonraki derste ise şeffaflık ve hesap verebilirlik konusuna geçeceğiz; adil olmayan bir sonucun sorumluluğunu kimin üstlendiğini orada ele alacağız.

Önyargı nedir?

Yapay zekâ önyargısı, bir aracın belirli kişi veya grupları sistematik biçimde farklı, çoğu zaman haksız şekilde değerlendirmesidir. Araç bilerek ayrımcılık yapmaz; öğrendiği verideki ve bizim yönlendirmemizdeki kalıpları yansıtır.

Önyargı nereden gelir?

Eğitim verisi: Geçmişte belirli gruplar lehine ya da aleyhine oluşmuş kalıplar veriye siner.
Temsil eksikliği: Bazı bölgeler, yaş grupları, diller veya lehçeler veride az temsil edilir.
İstem (prompt) dili: Soruyu nasıl sorduğumuz cevabı yönlendirir. "Genç ve dinamik bir aday" ifadesi başlı başına yaş kayırmasıdır.
Kullanıcı onay eğilimi: İlk çıkan cevabı sorgulamadan kabul etmek önyargıyı kalıcı kılar.

Kurumsal alanlarda etkileri

Alan	Olası risk	Önlem
İşe alım	Özgeçmişlerin isim, cinsiyet, yaş veya okul üzerinden elenmesi	Kriterleri önceden yazın, kişisel bilgileri gizleyin, son kararı insan versin
Performans değerlendirme	Geri bildirim dilinin gruplara göre farklılaşması	Ölçülebilir hedefleri esas alın, çıktıyı yönetici gözden geçirsin
Müşteri iletişimi	Ton ve teklifin müşterinin profiline göre haksız değişmesi	Standart ton rehberi kullanın, örnek yanıtları düzenli kontrol edin

Önyargıyı azaltmanın adımları

1. Amacı ve kriteri netleştirin: Neye göre değerlendirme yapılacağını yapay zekâya sormadan önce yazın.
2. Gereksiz kişisel bilgiyi çıkarın: Değerlendirme için gerekmeyen ad, fotoğraf, yaş, medeni durum gibi bilgileri girdiye eklemeyin.
3. Tarafsız istem yazın: Kalıp yargı içeren sıfatlardan kaçının.
4. Karşılaştırmalı test yapın: Aynı içeriği yalnızca bir özelliği değiştirerek (örneğin ismi) tekrar sorun ve sonuçları kıyaslayın.
5. İnsan denetimi ekleyin: Kişileri doğrudan etkileyen kararlarda yapay zekâ öneri verir, karar insanındır.
6. Kayıt tutun ve bildirin: Fark ettiğiniz sorunlu çıktıyı kurumun belirlediği kanala iletin.

Örnek

Bir insan kaynakları uzmanı, ilan metnini yapay zekâya yazdırıyor ve metinde "genç, enerjik ekip" ifadesi çıkıyor. Doğru yaklaşım: ifadeyi fark etmek, "görevin gerektirdiği yetkinlikler" cinsinden yeniden yazdırmak ve metni yayından önce gözden geçirmek.

Sık hatalar

"Makine tarafsızdır" varsayımıyla çıktıya körü körüne güvenmek.
Sadece ortalama sonuca bakıp gruplar arası farkları incelememek.
Önyargıyı yalnızca teknik ekibin sorunu saymak.
Yasal düzenlemeleri ve kurum politikasını kontrol etmeden otomatik eleme yapmak.

Küçük uygulama

Kendi işinizden bir metin seçin (ilan, geri bildirim veya müşteri yanıtı). Yapay zekâdan aynı metni iki farklı kişi profili için yazmasını isteyin. Ton, ifade veya öneri farkı var mı? Bulduğunuz farkı not edin ve istemi nasıl düzelteceğinizi yazın.

Hatırlatma: Adalet, tek seferlik bir kontrol değil, sürekli bir alışkanlıktır.

Bu dersi kayıt olmadan izleyebilirsin. İlerlemeni kaydetmek, sertifika almak ve puan tablosuna girmek için ücretsiz üye ol: Kayıt Ol