الهلوسة — ليه الموديل بيخترع حاجات

الموديل عايز «يكمّل الجملة بشكل منطقي» أكتر ما هو عايز «يقول الصح». فلو مش عارف، بيخمّن بثقة بدل ما يقول «مش عارف».

زي طالب في امتحان شفهي مش عارف الإجابة، بس بيكمّل بثقة عشان الجملة تبان مظبوطة. اللغة سليمة، المعلومة غلط.

تسأل موديل عن مصدر علمي، فيخترع اسم بحث ومؤلّف وسنة — كلهم مش موجودين، بس الشكل مقنع.

الموديل بيختار الكلمات الأكثر احتمالًا. لو الحقيقة مش «محتملة لغويًا» بقوّة أو مش موجودة في تدريبه، بيملأ الفراغ بأقرب شكل مقنع. مفيش آلية جواه بتقول «تأكّد الأول».

الحلول العملية: (1) grounding عن طريق RAG تديله المصدر، (2) تعليمات صريحة «لو مش متأكد قول مش عارف»، (3) تقييم يقيس الـ groundedness. مفيش موديل بيوصل صفر هلوسة.

🧪 جرّب بنفسك: اسأل موديل عن تفصيلة نادرة تعرف إجابتها الصح، وشوف هل هيخترع. بعدين ادّيله المصدر في الـ prompt وقارن.

أشهر غلطة: إنك تصدّق الإجابة لأنها «مكتوبة بثقة ومنظّمة». الشكل المقنع مش دليل على الصحّة.

مفهوم غلط: «الموديلات الأحدث مبتهلوسش». لأ — بتقلّ بس مبتختفيش. لازم تفضل تتعامل معاها هندسيًا.

افترض احتمال الهلوسة في أي مهمّة فيها حقائق: أسماء، أرقام، تواريخ، مصادر، أكواد نادرة.

في المهام الإبداعية البحتة (اقتراح أفكار، صياغة)، الهلوسة أقل خطورة لأن مفيش «حقيقة» تتكسر.