Asistan Nasıl "Düşünür"? Sınırlarını Anlamak

Tahmini süre: 11 dk

Bu derste ne yapacağız?

Önceki derste yapay zekâ sohbet asistanlarının ne olduğunu ve günlük hayatta nerelerde işimize yarayabileceğini konuştuk. Bu derste bir adım daha derine ineceğiz. Asistan cevabı nasıl üretiyor, neden bazen yanılıyor ve yanıldığında neden bu kadar kendinden emin görünüyor? Bunları teknik terimlere boğulmadan, sade bir dille öğreneceksiniz.

Hedef: Ders sonunda asistanın güçlü ve zayıf yanlarını söyleyebilecek, hangi durumda ona güvenip hangi durumda kontrol etmeniz gerektiğini ayırt edebileceksiniz.

Ön koşul: Herhangi bir sohbet asistanını en az bir kez açıp bir şey sormuş olmanız yeterli. Kod yazmayacaksınız, kurulum yapmayacaksınız. Sadece bir sohbet asistanına ve not almak için bir kâğıda ya da not uygulamasına ihtiyacınız var.

Not: Asistanların arayüzü ve menü adları sürüme göre değişebilir. Bu derste özel bir düğme aramayacağız. Sadece sohbet kutusuna yazıp yanıtı okuyacağız, bu yüzden hangi asistanı kullandığınızın önemi yok.

Kavram

1. Asistan “düşünmez”, bir sonraki parçayı tahmin eder

Telefonunuzun klavyesinde mesaj yazarken üstte kelime önerileri çıkar. “Günaydın, nasıl” yazdığınızda klavye “sin” önerir. Çünkü bu kelimeleri çok sık art arda görmüştür. Sohbet asistanları bu fikrin çok daha büyük ve çok daha gelişmiş bir hâlidir. Çok sayıda metinden dilin kalıplarını öğrenmişlerdir. Siz bir soru yazınca, bu kalıplara göre “bu soruya en uygun devam ne olurdu?” diye parça parça bir yanıt kurarlar.

Günlük hayattan bir benzetme: Çok kitap okumuş, ama kitapların hiçbirini yanında taşımayan biri düşünün. Size bir şey sorduğunuzda aklında kalanlara dayanarak akıcı bir cevap verir. Çoğu zaman da haklıdır. Ama bazen bir ayrıntıyı yanlış hatırlar ve yine de akıcı konuşmaya devam eder.

2. Bilgisi bir noktada durur

Asistan, belirli bir döneme kadar topladığı metinlerle hazırlanır. Bu yüzden o dönemden sonra olan gelişmeleri kendiliğinden bilmeyebilir. Dünkü bir haberi, bu haftaki bir fiyatı ya da yeni çıkan bir yönetmeliği yanlış anlatabilir. Bazı asistanlar internette arama yapabilen bir özellikle birlikte gelir. Bu özellik açıksa güncel konularda daha iyi olabilir. Ama özelliğin olup olmadığı ürüne ve ayarlara göre değişir, bunu kendi asistanınızda kontrol etmeniz gerekir.

3. Neden kendinden emin görünür?

Asistanın amacı akıcı ve makul görünen bir metin üretmektir. Bir şeyi bilmediğinde bile boşluğu doldurmaya çalışabilir. Buna sık sık “uydurma” ya da “halüsinasyon” denir. Kötü niyetle yalan söylemez, çünkü neyin doğru olduğunu bir insan gibi sınamaz. Sadece kulağa mantıklı gelen bir devam üretir. İşte bu yüzden yanlış bir cevap da doğru bir cevap kadar düzgün cümlelerle ve kendinden emin bir tonla gelebilir. Ton, doğruluğun kanıtı değildir.

4. Sohbet hafızası sınırlıdır

Asistan, o anki sohbette yazılanları görerek cevap verir. Sohbet çok uzarsa en baştaki bilgileri unutmuş gibi davranabilir. Yeni bir sohbet açtığınızda da genellikle önceki konuşmayı hatırlamaz. Hafıza özelliği olan ürünler de vardır, ama bu ürüne ve ayara göre değişir.

Adım adım uygulama

Şimdi asistanın sınırlarını kendi gözünüzle göreceğiz. Aşağıdaki adımları sırayla yapın ve her adımda gördüklerinizi not edin.

• Adım 1 – Asistanı açın. Kullandığınız sohbet asistanını açın ve Yeni sohbet düğmesine (çoğu üründe sol üstte ya da kenar çubuğunda bulunur) tıklayın. Böylece önceki konuşmaların etkisi olmayan temiz bir sayfayla başlarsınız.
• Adım 2 – Kolay bir soru sorun. Alttaki mesaj kutusuna şunu yazıp Gönder düğmesine (ya da klavyede Enter tuşuna) basın: Türkiye'nin başkenti neresidir ve neden İstanbul değildir? Yanıtı okuyun. Genel kültür gibi çok yaygın bilgilerde asistanın genellikle iyi olduğunu göreceksiniz.
• Adım 3 – Güncellik testi yapın. Yeni bir mesaj olarak şunu yazın: Bugün tarih kaç ve dolar şu an kaç lira? Asistanın tarihi bilip bilmediğine, kuru söyleyip söylemediğine ve bunu nasıl söylediğine dikkat edin. Bazı asistanlar “bunu bilmiyorum” der, bazıları eski bir değer verebilir. Hangisini yaptığını not edin.
• Adım 4 – Var olmayan bir şeyi sorun. Şunu yazın: Ayşe Tuncer Karabulut'un “Gölgelerin Saati” adlı romanının özetini yazar mısın? Bu isim ve kitap tamamen hayal ürünüdür. İyi çalışan bir asistan “böyle bir kitap bilmiyorum” diyebilir. Ama bazen akıcı bir özet uydurabilir. İkisi de bu dersin konusu için değerli bir gözlemdir.
• Adım 5 – Emin olup olmadığını sorun. Önceki yanıtın hemen ardından şunu yazın: Bu bilgiden ne kadar eminsin ve bunu nereden doğrulayabilirim? Asistanın tonunun nasıl değiştiğine bakın. Bu soru, yanıtı sorgulamayı alışkanlık hâline getirmenin ilk adımıdır.
• Adım 6 – Aynı soruyu tekrar sorun. Mesaj kutusunun yanındaki ya da yanıtın altındaki Yeniden oluştur benzeri düğmeye tıklayın. Düğmenin adı ve yeri üründen ürüne değişir. Bulamazsanız aynı soruyu yeniden yazın. İki yanıtı yan yana düşünün: Aynı soruya her seferinde birebir aynı cevap gelmediğini göreceksiniz. Bu, asistanın bir kayıt defterinden okumadığını, her seferinde yeniden ürettiğini gösterir.
• Adım 7 – Notlarınızı özetleyin. Kâğıda üç satır yazın: Hangi soruda iyiydi? Hangisinde zayıftı? Hangisinde emin görünüp emin olmaması gerekiyordu?

Sık karşılaşılan sorunlar

Mini görev

Asistana kendi hayatınızdan, cevabını gerçekten bildiğiniz üç soru sorun. Örneğin yaşadığınız şehrin bir özelliği, sevdiğiniz bir yemeğin tarifi ya da bildiğiniz bir sporun kuralı olabilir. Cevapları kendi bilginizle karşılaştırın ve asistanın hangisinde doğru, hangisinde eksik ya da hatalı olduğunu not edin.

• Üç soruyu da yeni bir sohbette sordum.
• Her cevabı kendi bilgimle karşılaştırdım.
• En az bir cevabı “doğru”, “eksik” ya da “hatalı” diye işaretledim.
• Asistana “Bundan ne kadar eminsin?” diye sordum ve tonundaki farkı gözlemledim.
• Sonucu tek cümleyle yazdım: “Bu asistana şu konularda güvenirim, şu konularda kontrol ederim.”

Kendini sına

• Soru 1: Sohbet asistanı cevabı büyük ölçüde nasıl üretir?
• Soru 2: Asistan neden dünkü bir gelişmeyi yanlış anlatabilir?
• Soru 3: “Halüsinasyon” ya da “uydurma” ne demektir?
• Soru 4: Asistanın kendinden emin bir tonla yazması, cevabın doğru olduğunu gösterir mi?
• Soru 5: Çok uzun bir sohbette asistan başta söylediklerinizi unutursa ne yapabilirsiniz?

Cevaplar

• Cevap 1: Öğrendiği dil kalıplarına dayanarak, soruya uygun görünen bir sonraki parçayı tahmin ede ede yanıtı kurar. Bir kayıt defterinden hazır cevap okumaz.
• Cevap 2: Bilgisi belirli bir döneme kadar topladığı metinlere dayanır. Arama özelliği yoksa ya da kapalıysa sonraki gelişmeleri bilmeyebilir.
• Cevap 3: Asistanın bilmediği bir şeyi, kulağa mantıklı gelen ama gerçekte yanlış bir içerikle doldurmasıdır.
• Cevap 4: Hayır. Ton, doğruluğun kanıtı değildir. Yanlış bilgi de akıcı ve kendinden emin cümlelerle gelebilir.
• Cevap 5: Önemli bilgileri kısa bir mesajla yeniden yazabilir ya da yeni bir sohbet açıp kısa bir özetle başlayabilirsiniz.

Sonraki derse köprü: Asistanın tahmin yürüttüğünü ve bazen yanıldığını artık biliyorsunuz. Bu, sorunuzun ne kadar net olduğunun cevabın kalitesini doğrudan etkilediği anlamına gelir. Bir sonraki derste, asistana daha doğru soru sormayı, yani ne istediğinizi açık ve eksiksiz anlatmayı uygulamalı olarak öğreneceğiz. Bu dersteki gözlemlerinizi yanınızda tutun, çünkü iyi bir soru, asistanın sınırlarını en aza indirmenin en kolay yoludur.