النماذج اللغوية الكبيرة· الدرس 1 من 7
- 1إزاي الـ LLM بيشتغل من جوه8 دقيقة
- 2الـ Context Window — ذاكرة الموديل المؤقتة7 دقيقة
- 3الـ Temperature والـ Sampling — التحكّم في العشوائية7 دقيقة
- 4رسائل الـ System والـ User — مين بيتكلّم7 دقيقة
- 5اختيار الموديل — الأكبر مش دايمًا الأحسن8 دقيقة
- 6اللي الـ LLM ما بيعرفش يعمله7 دقيقة
- 7التكلفة والزمن — فاتورتك بتتحسب إزاي7 دقيقة
إزاي الـ LLM بيشتغل من جوه
في سطر واحد · الموديل بيتوقّع الـ token اللي بعده مرّة ورا مرّة، وكل النص اللي بيطلع مجرد سلسلة توقّعات.
لو فاهم إنه توقّع مش «فهم»، هتتوقّع غلطاته: الهلوسة، والثقة الزايفة، والحساسية للصياغة.
زي ما بتكتب رسالة والموبايل بيقترح الكلمة الجاية — بس بحجم قرأ نص الإنترنت. بيشوف اللي قبل، ويحسب أكثر token منطقي بعده، ويختاره.
متخيّله بحر ضخم من الاحتمالات، والموديل بيمشي فيه خطوة خطوة، كل خطوة بيختار الاتجاه الأرجح.
تكتب «القاهرة عاصمة» والموديل يكمّل «مصر» لأنها أعلى احتمال إحصائيًا في السياق ده، مش لأنه «يعرف» جغرافيا.
نصّك الأول بيتقطّع لـ tokens — قطع صغيرة من الكلام عندها أرقام في قاموس الموديل. الـ transformer بياخد التسلسل ده كله وبيحسب، لكل token ممكن في القاموس، احتمال إنه ييجي بعد كده — يعني الناتج الحقيقي مش كلمة، ده توزيع احتمالات كامل. بعدين خطوة الـ sampling بتختار token واحد من التوزيع ده، بيتحطّ في آخر التسلسل، والعملية كلها بتتكرّر من الأول: توقّع → اختيار → إلحاق، لحد ما الموديل يطلّع token «وقف». مفيش خطة مكتوبة مقدّمًا للرد كله — كل token بيتولد بناءً على كل اللي قبله بس.
🧪 جرّب بنفسك — تتبّع توقّع الـ token: افتح أي playground بيعرض logprobs (زي OpenAI Playground أو أي أداة مشابهة). اكتب جملة ناقصة زي «عاصمة فرنسا هي» وشغّل التوليد token واحد بس، وشوف قايمة البدايل واحتمالاتها. بعدين غيّر السياق — زوّد قبلها «في رواية خيالية،» — وشوف إزاي نفس السؤال طلّع توزيع مختلف تمامًا. اللي إنت شايفه ده هو الموديل كله: توزيع بيتحرّك مع السياق.
- تعامل الردّ كأنه استرجاع من قاعدة بيانات. الموديل بيولّد نص جديد كل مرة، مش بيدوّر على إجابة محفوظة — عشان كده ممكن «يفتي» بمرجع أو رقم شكله مقنع وهو ملفّق.
- الاعتقاد إن الموديل «بيفكّر» في الرد كله قبل ما يكتب. هو بيلتزم بكل token بمجرد ما يختاره، وده بيفسّر ليه أول جملة غلط بتجرجر الباقي وراها.
- تجاهل حساسية الصياغة. تغيير كلمة واحدة في السؤال بيغيّر توزيع الاحتمالات كله — لو النتايج غير مستقرة، جرّب الصياغة قبل ما تلوم الموديل.
ارجع للصورة دي كل ما تيجي تشخّص سلوك غريب: ليه الموديل بيهلوس؟ ليه بيغيّر رأيه لما تعيد صياغة السؤال؟ ليه ردّه بيبقى أوثق من معلوماته؟ كل ده بيتفسّر بـ«توقّع token ورا token». وهي أساس أي قرار prompting أو تصميم: بتحدّد إيه اللي تحطّه في السياق عشان تحرّك الاحتمالات ناحية الرد اللي عايزه.
متحاولش تبني منطق تطبيقك على تفاصيل الميكانيزم الداخلي — إنت مش محتاج تفهم الرياضيات بتاعة الـ transformer عشان تبني منتج كويس. وبلاش تستخدم «هو مجرد توقّع» كحجة إن الموديل مش نافع: التوقّع على السكيل ده بيطلّع قدرات حقيقية — المهم تعرف حدودها، مش تستخف بيها.