Chapter 24 — Manba Sitatalash va Gallyutsinatsiyani Kamaytirish

Model ba'zan ishonchli ko'rinuvchi, lekin haqiqatda noto'g'ri yoki o'ylab topilgan ma'lumot berishi mumkin — bu "hallyutsinatsiya" deb ataladi. Bu bobda hallyutsinatsiyani kamaytirish va ishonchli manba sitatalashni ta'minlash usullari ko'rib chiqiladi.

---

Simple Explanation

Hallyutsinatsiya — modelning ishonchli, izchil ko'rinuvchi, lekin haqiqatda noto'g'ri yoki mavjud bo'lmagan ma'lumot (masalan, mavjud bo'lmagan statistika, noto'g'ri sana, o'ylab topilgan iqtibos) berishi. Bu, ayniqsa, RAG tizimlarida, model berilgan kontekstdan tashqariga chiqib, o'zidan ma'lumot "qo'shib qo'yganida" yuzaga keladi.

Kattalashtirish

Why Does It Exist?

Model matnni statistik ehtimollik asosida generatsiya qiladi — u "bilmayman" deyishdan ko'ra, ishonchli ko'rinuvchi, lekin noto'g'ri javob berishga moyil bo'lishi mumkin, ayniqsa aniq ma'lumot yetishmasa. Bu muammoni tushunish, uni kamaytirish uchun aniq promptlash strategiyalarini qo'llash imkonini beradi.

Example

code.text
TEXTNusxalash
01Kontekst: "Kompaniya 2019 yilda tashkil topgan, hozirda 45 nafar xodimi bor."
02 
03Savol: Kompaniyaning yillik daromadi qancha?

Yomon natija (hallyutsinatsiya): Model "Kompaniyaning yillik daromadi taxminan 2 million dollar" kabi, kontekstda umuman ko'rsatilmagan raqamni "o'ylab topib" berishi mumkin.

Yaxshi natija (to'g'ri promptlash bilan): "Berilgan ma'lumotda kompaniyaning yillik daromadi haqida hech qanday ko'rsatma yo'q, shuning uchun bu savolga javob bera olmayman."

⚠️ Common Mistake: Modelga "ishonchli va professional ko'rin" kabi ko'rsatma berish, lekin "agar ma'lumot yo'q bo'lsa, buni ochiq ayt" degan qoidani qo'shmaslik. Bu model uchun "ishonchli ko'rinish" ustunroq bo'lib, noto'g'ri ma'lumotni ham ishonchli tarzda taqdim etishga undashi mumkin.

📝 Practice Exercises

🟢 Exercise 1 — Easy

Task: Kontekstda to'liq javob berilmagan savol uchun, modeldan "bilmayman" deb ochiq aytish imkoniyati berilgan prompt yozing.

🟡 Exercise 2 — Medium

Task: Muhim faktik savol (masalan, tarixiy sana) uchun modelga ishonch darajasini (yuqori/o'rta/past) ko'rsatishni so'rovchi prompt yozing va bu qanday foydali ekanini tushuntiring.

🔴 Exercise 3 — Hard

Task: Yuqori xavfli (masalan, tibbiy ma'lumot beruvchi) tizim uchun kamida uchta hallyutsinatsiyaga qarshi texnikani (manba ko'rsatish, ishonch darajasi, "bilmayman" imkoniyati) birlashtirgan to'liq prompt loyihalashtiring.

🐛 Prompt Debugging Challenge

code.text
TEXTNusxalash
01Kontekst: "Bizning kompaniya 2015 yilda tashkil topgan."
02 
03Savol: Kompaniyaning asoschisi kim va u qaysi universitetni tugatgan?

Your Task: Bu holatda hallyutsinatsiya xavfi qanday paydo bo'lishi mumkin — tushuntiring va promptni tuzating.

<details> <summary>Solution</summary> Muammo: Kontekstda faqat tashkil topgan yil (2015) ko'rsatilgan, asoschisi yoki uning ta'limi haqida hech qanday ma'lumot yo'q. Agar promptda aniq "faqat kontekst asosida javob ber" va "bilmasang, shuni ayt" ko'rsatmasi bo'lmasa, model bu ma'lumotlarni "o'ylab topib" berishi mumkin — bu klassik hallyutsinatsiya holati.

Tuzatilgan variant:

code.text
TEXTNusxalash
01Quyidagi kontekst asosida savolga javob ber. FAQAT kontekstda aniq ko'rsatilgan ma'lumotdan foydalan. Agar savolga javob kontekstda yo'q bo'lsa, "Bu ma'lumot berilgan kontekstda mavjud emas" deb ayt, hech qachon o'zingdan taxmin qilib to'ldirma.
02 
03Kontekst: "Bizning kompaniya 2015 yilda tashkil topgan."
04 
05Savol: Kompaniyaning asoschisi kim va u qaysi universitetni tugatgan?

Bu versiyada model "Bu ma'lumot berilgan kontekstda mavjud emas" deb halol javob beradi.

</details>

📌 Chapter Summary

Hallyutsinatsiya — modelning ishonchli ko'rinuvchi, lekin noto'g'ri ma'lumot berishi. Uni kamaytirish uchun "bilmayman" deb aytish imkoniyatini aniq berish, manba ko'rsatishni majburlash, ishonch darajasini so'rash va muhim faktlarni bir necha usul bilan tekshirish tavsiya etiladi — ayniqsa yuqori xavfli sohalarda bir nechta texnikani birlashtirish muhim.

🎯 Key Takeaways

• Hallyutsinatsiya — ishonchli ko'rinuvchi, lekin noto'g'ri yoki o'ylab topilgan ma'lumot.
• Modelga "bilmayman" deb aytish imkoniyatini aniq berish muhim.
• Manba ko'rsatish va ishonch darajasini so'rash shaffoflikni oshiradi.
• Yuqori xavfli sohalarda bir nechta himoya texnikasini birlashtirish tavsiya etiladi.

⚡ Quick Cheat Sheet

• "Agar bilmasang, 'bilmayman' deb ayt, o'ylab topma" — asosiy himoya.
• "Har bir faktni manbaga bog'la" — tekshirilishi mumkin bo'lgan javob uchun.
• "Ishonch darajangizni (yuqori/o'rta/past) ko'rsating" — noaniqlikni oshkor qilish uchun.
• Yuqori xavfli mavzu? — bir nechta texnikani birga qo'lla.