Yapay zekâ neden yanlış bilgi veriyor? Halüsinasyon ve cevabı sınamanın beş yolu

Bir sohbet aracına Galata Kulesi'nin kaç metre olduğunu sorduk. Cevabın yanında bir Vikipedi bağlantısı da geldi; insanın içi rahatlıyor. Bağlantıyı açtık: sayfada başka bir sayı yazıyordu. Neden böyle olduğu ve bir cevabı nasıl sınayacağınız aşağıda; örneklerin hepsi kendi ders denemelerimizden.

Yapay zekâ halüsinasyonu ne demek?

OpenAI halüsinasyonu, modelin doğru olmayan bir cevabı kendinden emin biçimde üretmesi diye tanımlıyor.^[1] Yardım sayfası da üç örnek veriyor: yanlış tanım, tarih ya da bilgi; uydurma alıntı, çalışma ve kaynak; belirsiz ya da karmaşık sorulara aşırı emin cevaplar.^[2]

Araç yalan söylemiyor, yanılıyor; ama yanlışı da doğruyu söylediği tonla söylüyor. OpenAI aynı sayfada bunu açıkça yazıyor: modelin emin konuşması, güvenilir olduğunu göstermez.^[2]

Neden uyduruyor: sıradaki kelime

Dil modeli bir cevabı bir kerede yazmaz. Google'ın eğitim belgesine göre model, bir sözcük parçasının yazının devamında gelme olasılığını hesaplar. Uygulama en olası parçayı seçebilir ya da olası parçalar arasından rastgele birini alabilir.^[3] Model bu işi eğitimde öğrenir: önceki yazıya bakıp sıradaki kelimeyi tahmin etmek.^[4] Seçimdeki rastgelelik payını belirleyen ayarın adı sıcaklıktır (temperature).^[4]

Bunu Makinenin gözünden modülünün ilk dersinde sınadık. Bir modelden, komşuyu pazar kahvaltısına çağıran tek cümlelik bir davet istedik ve aynı isteği beş ayrı sohbette gönderdik. Beş farklı cümle geldi; kimi “siz” dedi, kimi “sen”. Sonra “Sabah kalkınca ilk iş bir bardak…” cümlesini tek sözcükle tamamlamasını istedik. On bir denemenin on birinde de “su” yazdı.

Devamın belli olduğu yerde model hep aynı yere varır. Seçeneğin bol olduğu yerde dağılır. Uydurma da bu dağınık yerde başlar: OpenAI'ye göre yazım kuralları gibi düzenli kalıplar öğrenilebilir, ama bir evcil hayvanın doğum günü gibi seyrek ve gelişigüzel bilgiler kalıptan çıkarılamaz.^[1] Model o boşluğa da en olası görünen devamı yazar.

Neden “bilmiyorum” demiyor?

OpenAI'nin Eylül 2025'te yayımladığı çalışma bu soruya bir sınav benzetmesiyle cevap veriyor.^[1] Çoktan seçmeli sınavda boş bırakan kesin sıfır alır, bilmeden işaretleyen ise bazen tutturur. Bir modele birinin doğum günü sorulsun. “10 Eylül” diye tahmin ederse tutturma şansı 365'te 1'dir; “bilmiyorum” derse puanı kesin sıfırdır.^[1] Yalnız doğru sayısına bakan bir test, tahmin eden modeli öne çıkarır.

Doğru cevap oranları neredeyse aynı; o4-mini'nin yanlış oranı ise yaklaşık üç kat. Yalnız doğruyu sayan bir puan tablosunda o4-mini biraz önde görünür. Makalenin yazarlarına göre halüsinasyon gizemli bir şey değil; doğruyu yanlıştan ayırma işindeki sıradan hatalardan doğuyor ve çözüm, var olan testlerin puanlamasını değiştirmek.^[5] OpenAI emin yanlışı, belirsizliği kabul etmekten daha ağır cezalandırmayı öneriyor.^[1]

Bu yüzden OpenAI halüsinasyonu kaçınılmaz saymıyor: model emin olmadığında susabilir. Yine de bazı soruların doğru cevabı, model ne kadar büyük olursa olsun bilinemez.^[1]

Derslerimizde gördüğümüz dört tuzak

Güvenmeden sınamak modülünün ilk dersinde dört tuzağı gerçek araçlarla denedik. Bu dört soruyu birer kez sorduk. Aşağıdakiler oran değil, birer örnek.

• Boşluğu doldurma. “Kedi dama çıkınca yağmur diner” diye bir atasözü uydurduk ve araca anlamını sorduk. Araç açıkladı: “kötü gidişat yakında düzelecek”. İkinci bir araç bambaşka bir anlam verdi: rastlantıyı kural sanmak. İkisi de böyle bir söz bilmediğini yazmadı.
• Ortalamaya gitme. Annenin doğum günü için üç hediye istedik; kitap, kahvaltı ve takı geldi. Anneyi anlatınca (altmış beş yaşında, bahçeyle uğraşıyor, eski Türk filmlerini seviyor) liste budama makası, film koleksiyonu ve saksı bitkisine döndü. İlk cevap yanlış değildi, yalnızca herkese uyuyordu.
• Eskimiş bilgi. “En son olimpiyat oyunları nerede yapıldı?” sorusuna cevap 2024 Paris oldu. Oysa Şubat 2026'da İtalya'da Milano Cortina Kış Olimpiyatları yapılmıştı; kapanış töreni 22 Şubat 2026'daydı.^[16] Soruya “bilgin eski olabilirse bunu söyle” ekleyince araç, bilgisinin 2025 başına kadar güncel olduğunu, Milano-Cortina yapıldıysa bunu doğrulayamayacağını yazdı.
• Olmayan kaynak. Çay demleme üzerine iki Türkçe makale istedik; yazar, yıl, dergi ve DOI numarasıyla. İki İngilizce makale geldi. Birinin numarasını açtık.

Kelebek ve Selli (2011). Identification of Phenolic Compounds in Turkish Black Tea and Their Antioxidant Activity. Food Chemistry. DOI: 10.1016/j.foodchem.2010.09.055

Simčič, Stibilj ve Holcman (2011). Fatty acid composition of eggs produced by the Slovenian autochthonous Styrian hen. Food Chemistry.

Numara gerçek, ama bir yumurta makalesine ait.^[6] Aracın yazdığı başlıkla Crossref'te kayıt bulamadık. Öbür makale gerçekti, yalnız DOI numarası bozuktu. Künye eksiksiz göründüğü için insan ikinci kez bakmıyor.

Hep hak veren asistan: dalkavukluk

Uydurmanın yakın bir akrabası da var: araç size katılmaya yatkındır. Anthropic'in 2023 araştırmasına göre insanlar ve onların beğenisinden öğrenen modeller, ikna edici yazılmış dalkavukça bir cevabı bazen doğru cevaba tercih ediyor.^[7] Çalışmada incelenen beş yapay zekâ asistanının beşinde de bu eğilim görüldü.^[8]

Bu eğilim bir üründe de görüldü. OpenAI, Nisan 2025'te GPT-4o için çıkardığı bir güncellemeyi aşırı övücü ve onaylayıcı bulduğu için geri çekti. Modeli eğitirken beğen/beğenme düğmeleri gibi kullanıcı sinyallerinden yararlandığını, bu güncellemede kısa vadeli geri bildirime fazla odaklandığını yazdı.^[9]

Derste bir okul kermesi sloganını (“Gel, al, mutlu ol: kermes cumartesi!”) aynı araca üç ayrı sohbette sorduk:

Evet, kısa, neşeli ve akılda kalıcı olmuş!

Evet, biraz sıradan olmuş; daha akılda kalıcı bir ritimle güçlendirebilirsin.

Slogan kısa ve akılda kalıcı, ancak “mutlu ol” ifadesi biraz genel kaldığı için kermese özgü bir ayrıntıyla daha dikkat çekici olabilir.

İlk iki cevap da “evet” diye başlıyor. Araç slogana değil, size katıldı. Sofrada misafire “yemek güzel olmuş mu?” diye sormak gibi: “eline sağlık” der, tuzunu öğrenemezsiniz. İşe yarayan, fikrinizi katmadan sorduğunuz üçüncü sorunun cevabı.

Olmayan mahkeme kararları: Mata v. Avianca

Bu tuzağın bedeli bazen ağır. ABD'deki Mata v. Avianca davasında avukatlar mahkemeye, ChatGPT'nin ürettiği ve gerçekte var olmayan kararları sahte alıntı ve atıflarla birlikte sundu. Kararda altı uydurma dava adıyla sayılıyor: Varghese, Miller, Petersen, Shaboon, Martinez ve Durden.^[10]

Avukat ChatGPT'ye Varghese'nin gerçek bir dava olup olmadığını da sormuş. Araç kararın var olduğunu, hukuk veri tabanlarında da bulunabileceğini söylemiş.^[10] Aracın kendisine “emin misin?” diye sormak doğrulama değildir. Mahkeme 22 Haziran 2023'te iki avukata ve çalıştıkları hukuk bürosuna birlikte (müteselsilen) 5.000 dolar para cezası verdi.^[10]

“Güvenilir bir yapay zekâ aracından yardım almakta özünde uygunsuz bir şey yok. Ama mevcut kurallar, mahkemeye sundukları belgelerin doğru olmasını sağlamak için avukatlara bir denetim görevi yüklüyor.”

Yani aracı kullanmak kusur değil. Son kontrol onu kullananda.

Cevabı sınamanın beş yolu

1. Cevabını bildiğiniz soruyla başlayın

Yeni bir araca ya da yeni bir işe başlarken önce sonucunu bildiğiniz bir soru sorun. Derste bir araç Bartın'ın dört ilçesini doğru saydı: Merkez, Amasra, Kurucaşile ve Ulus. Aynı araç “karpuz kabuğu” ifadesinde 2 tane u olduğunu yazdı; doğrusu 3. Hangi işte zayıf kaldığını ancak cevabını bildiğiniz yerde görürsünüz.

2. “Bilmiyorsan bilmiyorum de” deyin

Anthropic, uydurmayı azaltmanın en basit yollarından biri olarak modele belirsizliği kabul etme izni vermeyi sayıyor; bir belge verdiyseniz yalnız o belgeyi kullanmasını istemeyi de öneriyor.^[11] Derste bir düdüklü tencere kılavuzunun sayfasını verip sayfada olmayan barbunyayı sorduk. Araç barbunyanın listede olmadığını yazdı, ama “bir çeşit kuru fasulye” diyerek kılavuzda olmayan 12 dakikayı önerdi. Yeni bir sohbette isteme (prompt) tek cümle ekledik:

Yalnız bu sayfaya göre cevapla; sayfada yoksa yok de.
Barbunya kaç dakikada pişer?

Barbunya bu sayfada yer almıyor. Sayfada yalnızca ıslatılmış nohut (14 dk), kuru fasulye (12 dk), yeşil mercimek (6 dk) ve dana kuşbaşı (18 dk) için süre belirtilmiş.

Güncel bir konu sorarken de aynı izni verin: “Emin değilsen ya da bilgin eski olabilirse bunu söyle.”

3. Kaynağı isteyin, açın, içinde arayın

ChatGPT'yi son kaynak değil ilk taslak sayın; OpenAI da alıntıyı, veriyi ve kaynağı doğrulamayı, bağlantıları kendiniz açmayı öneriyor.^[2] Biz açtık. İki araç da internete bağlı değildi. Kişi başı çay tüketimi için “yaklaşık 3,5 kg” diyen aracın verdiği WorldAtlas bağlantısı “sayfa bulunamadı” döndü. Galata Kulesi için “66,90 metre” diyen öbür araç Vikipedi'yi gösterdi; bağlantıyı doğrulayamadığını dürüstçe yazdı, ama hemen ardından “bu madde bu bilgiyi içermektedir” diye ekledi. Sayfa açıldı, ama içinde 62,59 m yazıyordu (2 Ekim 2026). Konu hangi sayının doğru olduğu değil, gösterilen sayfanın o sayıyı söylememesi.

İnternette arama yapan asistanlar gerçek sayfalar getirir. Yine de OpenAI arama sonuçlarının eksik, eski ya da yanlış olabileceğini yazıyor ve kaynağın cevabı gerçekten destekleyip desteklemediğine bakmayı öneriyor.^[12] Google'a göre Gemini de her cevapta kaynak göstermez.^[13]

4. Aynı soruyu iki araca sorun

“Türkiye'nin en yüksek ikinci dağı hangisi?” sorusuna bir araç “4.058 metreyle Cilo Dağı”, öbürü “4.058 metreyle Süphan Dağı” dedi. Sayı aynı, dağ farklı. Cevapları kimin yazdığını söylemeden araçlara değerlendirttik; ikisi de öbürünün cevabını seçti. Son sözü Türkiye Dağcılık Federasyonu'nun tablosu söyledi: Ağrı Dağı 5.137 m, Cilo Dağı 4.135 m, Süphan Dağı 4.058 m.^[14] İkinci dağ Cilo, 4.058 metre ise Süphan'ın yüksekliği: iki cevapta da bir yanlış vardı.

Aynı aracı aynı soruyla birkaç kez çalıştırmak da işe yarar; Anthropic, çıktılar arasındaki tutarsızlığın uydurma işareti olabileceğini yazıyor.^[11] Oxford'dan bir ekibin Nature'daki çalışması da cevapların anlamca dağılmasına bakarak gelişigüzel uydurmaları yakaladı; ama model hep aynı yanlışı veriyorsa yöntem işe yaramaz.^[15]

5. Onay değil, eksik isteyin

Bir metni değerlendirtirken fikrinizi yazmayın. “Bence çok güzel oldu” yerine şunlardan birini deneyin. Bir uyarı: üç eksik isterseniz araç, metin iyi olsa da üç eksik yazmaya çalışabilir.

Bunu tarafsız değerlendir.
En zayıf üç yanını yaz, övgü yazma.
Bunu ilk kez okuyan biri neyi anlamaz?

Sayı ve hesabı kime vermeli?

Makinenin gözünden modülünün son dersinde sayma ve hesap denedik. “kahvaltılıklarımızdan” kelimesinde kaç harf olduğunu, yalnız sayıyı yazmasını isteyerek altı kez sorduk: 21, 18, 21, 21, 17 ve 16 geldi; doğrusu 21. Model kelimeyi harf harf değil sözcük parçalarıyla görür^[4], sayıyı da öbür kelimeler gibi tahmin ederek yazar. 15 basamaklı bir sayıyla 14 basamaklı bir sayının çarpımı ise altı denemenin altısında yanlış çıktı; sonuç yine düzgün ve emin görünüyordu:

35.285.349.476.284.411.662.169.342.673

35.285.349.476.345.395.662.169.342.673

Baş aynı, son aynı; ortadaki altı rakam farklı. Böyle bir hatayı gözle yakalayamazsınız. OpenAI de doğru hesap için veri analizi aracını gösteriyor.^[2] Kısa bir sayımı kendiniz yapın; toplam ve yüzde için modele formülü yazdırın, hesabı tablo yapsın.

Nereden başlayacağınızı arıyorsanız yapay zekâ öğrenme rehberimiz kod bilmeden izlenecek bir yol çiziyor. İsteği nasıl kuracağınız için istem nasıl yazılır yazısına, asistanların hangi işte güçlü olduğu için ChatGPT, Gemini, Claude ve Copilot karşılaştırmasına bakın.