Yapay Zekanın “Uydurması” (Hallucination) Nedir? Dijital Dünyada Doğruluk Krizi

Yapay zeka modelleriyle vakit geçiren herkesin başına gelmiştir: Sistem bazen o kadar emin bir tonla konuşur ki, aslında var olmayan bir kanun maddesini, yaşanmamış bir tarihi olayı veya hiç yazılmamış bir makaleyi gerçekmiş gibi sunar. Literatürde “Hallucination” (Halüsinasyon) olarak adlandırılan bu durum, üretken yapay zekanın en büyük teknik ve hukuki “yumuşak karnıdır”. Peki, bu makineler neden uydurur ve bu durum bizim için ne tür riskler barındırır?

Kavramın Ruhu: Olasılıkların Gerçeklikle İmtihanı

Felsefi olarak yapay zeka bir “bilgi makinesi” değil, bir “tahmin makinesidir”. ODTÜ Felsefe perspektifiyle bakarsak; halüsinasyon, sistemin veri boşluklarını mantıksal olasılıklarla doldurma çabasıdır. Yapay zeka için “doğru” yoktur, “en yüksek olasılıklı kelime dizisi” vardır. Bu durum, insan zihnindeki gerçeği çarpıtma halinden ziyade, istatistiksel bir kurgulama sanatıdır.

Mevzuat Merceği:

“Hukuk Muhakemeleri Kanunu (HMK) ve Türk Borçlar Kanunu kapsamında, yanlış bilgiye dayalı olarak verilen zararlarda ‘özen borcu’ ve ‘yanıltıcı beyan’ unsurları devreye girer. Yapay zekanın ürettiği yanlış verinin denetlenmeden kullanılması, uygulayıcının hukuki sorumluluğunu (malpractice) ortadan kaldırmaz.”

Mühendis Ne Diyor? / Hukukçu Ne Anlıyor?

Perspektif	Halüsinasyon (Hallucination) Algısı
Mühendislik	Eğitim verisindeki gürültü (noise), modelin aşırı öğrenmesi veya düşük olasılıklı bağlam seçimi.
Hukuk	İftira riski, yanlış yönlendirme nedeniyle doğan maddi zarar ve ispat yükümlülüğünün ihlali.

Somut Uygulama Örnekleri

1. Hukuki Araştırma: Bir avukatın yapay zekadan içtihat istemesi ve sistemin tamamen uydurma bir “Yargıtay Kararı” metni oluşturması (ABD’de bunun örneği yaşanmış ve avukatlar yaptırımla karşılaşmıştır).
2. Sağlık Tavsiyeleri: Yapay zekanın, bir semptom dizisi için literatürde olmayan veya tehlikeli olabilecek bir ilaç kombinasyonu önermesi.
3. Akademik Yazım: Bir tezin kaynakçasında, gerçekte hiç var olmamış ama isimleri çok inandırıcı olan “hayali makaleler” listelenmesi.

Avukat ve Yatırımcı Notu (Bilirkişi Gözüyle)

700’den fazla bilirkişi raporu incelemiş biri olarak şunu net ifade edebilirim: “Yapay zeka öyle dedi” bir savunma mekanizması değildir. Yatırımcılar için bir yapay zeka projesinin değeri, sadece ne kadar çok ürettiğiyle değil, bu halüsinasyonları ne kadar filtreleyebildiğiyle (RAG gibi tekniklerle) ölçülür. Halüsinasyon payı yüksek bir sistem, her an patlamaya hazır bir hukuki saatli bombadır.

İlişkili Terimler (Kavram Haritası)

• RAG (Retrieval-Augmented Generation): Yapay zekayı dış, güvenilir kaynaklarla besleyerek uydurmasını engelleme yöntemi.
• Stochastic Parrot (Stokastik Papağan): Yapay zekanın anlamını bilmeden sadece kelimeleri olasılığa göre dizdiğini savunan kavram.
• Fact-Checking: Üretilen içeriğin doğruluğunun manuel veya otomatik olarak teyit edilmesi süreci.

---

Sıkça Sorulan Sorular (Rank Math SSS)

1. Yapay zeka neden bilerek yalan söyler?

Yapay zeka “yalan söylemez”, çünkü bir bilinci veya niyet birliği yoktur. Sadece elindeki veriler ışığında, sorunuza en uygun görünen (istatistiksel olarak) yanıtı kurgular. Eğer cevabı bilmiyorsa, boşluğu mantıklı görünen kelimelerle doldurur.

2. Halüsinasyon riskini sıfıra indirmek mümkün mü?

Bugünkü LLM (Büyük Dil Modelleri) mimarisinde bu riski %100 sıfıra indirmek henüz mümkün değildir. Ancak RAG ve “Grounding” (Gerçeklik Bağlama) teknikleriyle bu oran minimize edilebilir.

3. Bir avukatın yapay zeka çıktısını denetlemeden kullanması suç mudur?

Suç teşkil etmese de ağır bir mesleki ihmaldir. Yanlış bir dilekçe veya uydurma bir içtihat sunulması durumunda avukatın müvekkiline karşı tazminat sorumluluğu doğar ve disiplin soruşturmasına konu olabilir.

4. Halüsinasyonlar her zaman kötü müdür?

Yaratıcı yazarlık, reklam sloganı üretimi veya şiir yazımı gibi alanlarda bu “uydurma” yeteneği bir avantajdır. Ancak teknik, tıbbi ve hukuki alanlarda kabul edilemez bir hatadır.

5. Bir bilginin halüsinasyon olduğunu nasıl anlarız?

Özellikle tarih, kanun maddesi, URL veya özel isim içeren çıktılar mutlaka ikincil bir güvenilir kaynaktan (resmi gazete, akademik veritabanı vb.) doğrulanmalıdır.

---

Etiketler: Yapay Zeka, Hallucination, Bilişim Hukuku, Teknoloji Etiği, Halüsinasyon, LLM, Üretken Yapay Zeka

Kaynaklar

• IBM – What is AI Hallucination?
• Nature – ChatGPT: Five Priorities for Research
• EU AI Act Compliance and Risk Management
• Yargıtay Kararları Dergisi – Dijital Delillerin Güvenilirliği
• Stanford HAI – On the Opportunities and Risks of Foundation Models