Doğruluk Kontrolü: Yapay Zekânın Hatalarını Yakalamak

Bu derste ne yapacağız?

Bu derste yapay zekânın kendinden emin bir sesle yanlış bilgi verebildiğini göreceksiniz. Bu duruma halüsinasyon denir. Sonra tarih, sayı, isim ve kaynak gibi bilgileri güvenilir kaynaklarla nasıl doğrulayacağınızı adım adım uygulayacaksınız.

Hedef: Yapay zekâdan aldığınız bir metni yayınlamadan önce kontrol edebilmek.

Ön koşul: Bir yapay zekâ sohbet aracına giriş yapmış olmanız ve tarayıcıda arama yapabilmeniz yeterli. Önceki derste metin, görsel ve sunum üretimini denediniz. Bu ders, ürettiğiniz içeriği güvenle paylaşabilmeniz için o çalışmanın kontrol aşamasıdır. Bir sonraki ders kursun son dersidir. Orada bütün öğrendiklerinizi tek bir çalışmada birleştireceksiniz. Bu yüzden bugün öğreneceğiniz kontrol alışkanlığı, o son çalışmanın da temelini oluşturacak.

Not: Araçların arayüzü sürüme göre değişebilir. Menü ve düğme adları sizdeki ekranda biraz farklı görünebilir. Mantık aynı kalır.

Kavram

Yapay zekâ dil modelleri bir bilgi kütüphanesi gibi çalışmaz. Daha çok, çok okumuş ama bazen not almayı unutan bir arkadaşa benzerler. Bu arkadaş size bir soru sorulduğunda cevabı hatırlamaya çalışmaz. Cümlenin en olası devamını tahmin eder. Çoğu zaman tahmin doğru çıkar. Bazen de kulağa mantıklı gelen ama gerçek olmayan bir cümle çıkar.

Günlük hayattan bir benzetme yapalım. Bir yabancının size adres tarif ettiğini düşünün. Adresi bilmiyor ama utandığı için bilmediğini söylemiyor. Kendinden emin bir sesle sokak adı uyduruyor. Yapay zekâ da bazen böyle davranır. Ses tonu güvenli olduğu için yanlışı fark etmek zorlaşır.

Halüsinasyonun en sık görüldüğü alanlar şunlardır:

• Tarihler: Bir olayın yılı veya bir ürünün çıkış tarihi yanlış verilebilir.
• Sayılar: Oranlar, fiyatlar, nüfus ve ölçü değerleri uydurulabilir.
• Kaynaklar: Var olmayan bir kitap, makale veya internet adresi öneriliyor olabilir.
• İsimler ve alıntılar: Bir kişinin söylemediği bir söz ona atfedilebilir.
• Güncel olaylar: Araç güncel bilgiye erişemiyorsa eski veya eksik bilgi verir.

Önemli bir kural: Yapay zekâ taslak üreten bir yardımcıdır, son kararı veren siz olursunuz. Yayınladığınız içeriğin sorumluluğu size aittir.

Adım adım uygulama

Bu uygulamada bir metin üretip içindeki bilgileri tek tek kontrol edeceksiniz. Aşağıdaki adımları sırayla izleyin.

• Adım 1: Yapay zekâ sohbet aracınızı açın. Ekranın altındaki mesaj kutusuna tıklayın.
• Adım 2: Şu istemi yazın ve gönderin: Türkiye'de bir yerel kütüphanenin tarihçesi hakkında, yıllar ve rakamlar içeren, 150 kelimelik kısa bir yazı yaz. Gönder okuna veya Enter tuşuna basın.
• Adım 3: Cevap gelince metni dikkatle okuyun. Elinize bir kalem veya not uygulaması alın. Metindeki her yılı, sayıyı, özel ismi ve kaynağı ayrı bir listeye yazın. Bu listeye kontrol listesi diyeceğiz.
• Adım 4: Tarayıcıda yeni bir sekme açın. Sekme çubuğundaki artı işaretine tıklayın. Kontrol listenizdeki ilk bilgiyi arama çubuğuna yazın.
• Adım 5: Sonuçlarda resmî kurumların, üniversitelerin, ilgili kurumun kendi sitesinin veya tanınmış ansiklopedilerin sayfalarını tercih edin. Kim yazdığı belli olmayan sayfalara tek başına güvenmeyin.
• Adım 6: Aynı bilgiyi en az iki bağımsız kaynakta arayın. İki kaynak birbirini destekliyorsa bilgi büyük olasılıkla doğrudur. Kaynaklar çelişiyorsa bilgiyi kesinleşene kadar metne koymayın.
• Adım 7: Yapay zekânın verdiği kaynak adlarını kontrol edin. Kitap veya makale adını tırnak içinde arama çubuğuna yazın. Hiçbir sonuç çıkmıyorsa o kaynak büyük olasılıkla uydurulmuştur. İnternet adresi verdiyse adresi tarayıcıya yapıştırın. Sayfa açılmıyorsa veya konuyla ilgisi yoksa kaynağı listeden silin.
• Adım 8: Sohbet aracına dönün ve şunu yazın: Verdiğin bilgilerden hangilerinden emin değilsin? Doğrulanması gereken yerleri işaretle. Araç bazen kendi zayıf noktalarını gösterir. Bu cevap sizi kontrolden kurtarmaz, yalnızca nereye bakacağınızı gösterir.
• Adım 9: Bir yanlış bulduysanız aracı düzelttirin: Şu bilgi yanlış çıktı: ... Doğru bilgi şu: ... Metni buna göre yeniden yaz. Doğru bilgiyi mutlaka kendiniz, kaynağıyla birlikte verin.
• Adım 10: Son olarak her doğrulanan bilginin yanına kaynağın adını ve kontrol ettiğiniz tarihi yazın. Böylece daha sonra metne itiraz edilirse dayanağınız hazır olur.

İpucu: Yapay zekâdan daha az riskli cevap almak için istemde şunu da yazabilirsiniz: Emin olmadığın bilgiyi uydurma, bilmiyorum de. Bu, hatayı tamamen önlemez ama azaltmaya yardım eder.

Hangi bilgiyi ne kadar sıkı kontrol etmeli?

Her cümleyi aynı titizlikle kontrol etmek zaman alır. Önceliği şöyle belirleyebilirsiniz:

Sık karşılaşılan sorunlar

Mini görev

Yapay zekâdan ilgi duyduğunuz bir konuda (örneğin sevdiğiniz bir hobi veya yaşadığınız şehir) 200 kelimelik bir bilgi yazısı isteyin. Ardından metni yayınlanabilir hâle getirin.

Kontrol listesi:

• Metindeki tüm tarihleri, sayıları ve özel isimleri ayrı bir listeye yazdım.
• En az beş bilgiyi arama motorunda kontrol ettim.
• Her bilgiyi mümkün olduğunda iki ayrı kaynakta karşılaştırdım.
• Yapay zekânın önerdiği kaynakların gerçekten var olup olmadığına baktım.
• Yanlış veya doğrulanamayan bilgileri metinden çıkardım ya da düzelttim.
• Doğruladığım bilgilerin yanına kaynak adını ve kontrol tarihini not ettim.
• Bulduğum hataların sayısını yazdım ve hangi türde olduklarını (tarih, sayı, kaynak, isim) belirttim.

Kendini sına

• Soru 1: Halüsinasyon nedir? Kendi cümlelerinizle açıklayın.
• Soru 2: Yapay zekâ cevabında en çok hangi dört bilgi türünü kontrol etmelisiniz?
• Soru 3: Yapay zekânın verdiği bir kitap adının gerçek olup olmadığını nasıl anlarsınız?
• Soru 4: İki kaynak birbiriyle çelişen bir rakam verirse ne yapmalısınız?
• Soru 5: Yapay zekâ kendinden emin konuştuğunda cevabın doğru olduğu kesinleşir mi? Neden?

Cevaplar

• Cevap 1: Halüsinasyon, yapay zekânın gerçek olmayan bilgiyi doğruymuş gibi kendinden emin biçimde üretmesidir.
• Cevap 2: Tarihler, sayılar, kaynaklar ve özel isimlerle alıntılar. Güncel olaylar da riskli bir gruptur.
• Cevap 3: Kitap adını tırnak içinde arama motorunda arar, kütüphane veya yayınevi sayfalarında yer alıp almadığına bakarsınız. Hiçbir güvenilir sonuç yoksa kaynak büyük olasılıkla uydurulmuştur.
• Cevap 4: Daha resmî ve daha güncel kaynağı tercih edersiniz. Çelişki sürüyorsa kesin rakam vermez, belirsizliği metinde belirtirsiniz.
• Cevap 5: Hayır. Yapay zekâ cümlenin en olası devamını tahmin eder. Üslubunun güvenli olması bilginin doğru olduğunu göstermez. Doğruluğu ancak güvenilir kaynaklarla yaptığınız kontrol gösterir.

Tebrikler! Artık yapay zekânın ürettiği içeriği körü körüne değil, kontrol ederek kullanıyorsunuz. Bir sonraki derste kursun son adımına geçeceğiz. Şimdiye kadar öğrendiğiniz üretim ve doğrulama becerilerini tek bir çalışmada birleştireceksiniz.