الـ Embeddings والبحث الدلالي· الدرس 6 من 7
موديلات الـ Embedding — اختيار الصح
في سطر واحد · موديل الـ embedding هو اللي بيحوّل نصّك لفيكتور، وكل موديل ليه حجم فيكتور، لغات يشتغل عليها، وتكلفة مختلفة.
اختيار موديل مش شايف العربي كويس بيدمّر أي بحث عربي من غير ما تعرف السبب؛ والموديل بيحدّد جودة كل حاجة بعده في الـ pipeline.
زي اختيار عدسة الكاميرا: كلهم بيصوّروا، بس فيه واحدة أوضح للوجوه وواحدة للمناظر. اختار الموديل حسب لغتك ونوع نصّك.
زي ما تختار مترجم: كلهم بيترجموا، بس اللي اتربّى على العربي هيمسك الفروق الدقيقة اللي غيره يفوّتها. ولازم نفس المترجم يقرا السؤال والجواب عشان يفهم قصدك صح.
لو محتواك عربي، موديل متعدّد اللغات هيديك تشابه أدق بكتير من موديل مدرّب إنجليزي بس — جرّب الاتنين على نفس عيّنة وقارن النتايج. وخلّي بالك: لازم نفس الموديل يعمل embedding للاستعلام والمستندات، ماينفعش تخلط.
موديل الـ embedding شبكة عصبية (غالبًا transformer) متدرّبة إن النصوص المتشابهة تطلّع فيكتورات متقاربة. لما بتقارن موديلات، بصّ على أربع حاجات: (1) اللغات — موديل متعدد اللغات ولا إنجليزي بس؟ (2) حجم الفيكتور (dimensions) — أكبر مش دايمًا أدق، بس دايمًا أغلى تخزينًا وبحثًا؛ (3) حد الإدخال بالـ tokens — النص الأطول بيتقصّ؛ (4) الأداء على بنشماركات زي MTEB وعلى عيّنة من بياناتك إنت. وافتكر: حجم الفيكتور بيتحدد من الموديل، فتغيير الموديل معناه إعادة فهرسة كل حاجة.
🧪 جرّب بنفسك: اختار موديلين embedding (واحد متعدد اللغات وواحد إنجليزي مثلًا) وجهّز ١٠ أزواج جُمل عربي: ٥ متشابهين في المعنى و٥ لأ. اعمل embedding لكل زوج بالموديلين واحسب cosine. الموديل الكويس هيدّي فجوة واضحة بين تشابه الأزواج المتشابهة والمختلفة — والفجوة دي أهم رقم من أي benchmark عام.
أشهر غلطة: تختار الموديل من ترتيب benchmark عام من غير ما تجرّبه على بياناتك — موديل ممتاز في الإنجليزي ممكن يكون ضعيف جدًا في العربي أو في مصطلحات مجالك. غلطة تانية: تفتكر «dimensions أكتر = أحسن» — الزيادة بتكلّفك تخزين وبطء وممكن متضيفش دقة. وتالتة: تبدّل لموديل أحدث وتفضل مستخدم الفيكتورات القديمة — لازم تعيد embedding لكل مستنداتك بالموديل الجديد قبل أي استعلام.
اقعد تقارن موديلات لما بتبدأ نظام جديد، لما محتواك بلغة أو مجال متخصص (عربي، طبي، قانوني)، أو لما جودة الاسترجاع واقفة عند سقف مهما ظبطت التقطيع.
متقلبش الموديل كأول ردّ فعل لأي مشكلة استرجاع — أغلب المشاكل سببها التقطيع أو الاستعلام مش الموديل، وتغيير الموديل أغلى خطوة (إعادة فهرسة كاملة). وبلاش fine-tuning لموديل embedding قبل ما تستنفد الموديلات الجاهزة — نادرًا ما بيستاهل التعقيد في البداية.