أساسيات الذكاء الاصطناعي· الدرس 10 من 10
- 1يعني إيه AI أصلًا؟ الفرق بين AI و ML و Deep Learning6 دقيقة
- 2إزاي النماذج بتتعلّم: Training مقابل Inference6 دقيقة
- 3إيه هو الـ LLM؟8 دقيقة
- 4الـ Tokens — عملة كل حاجة7 دقيقة
- 5ليه مخرجات الـ AI احتمالية (وده بيغيّر إزاي تبني)7 دقيقة
- 6الهلوسة — ليه الموديل بيخترع حاجات7 دقيقة
- 7الـ AI شاطر في إيه وضعيف في إيه — خريطة القدرات7 دقيقة
- 8الـ AI مقابل البرمجة العادية — نقلة في طريقة التفكير7 دقيقة
- 9فين الـ AI بيفيد في المنتج — وفين لأ7 دقيقة
- 10أساسيات الـ AI المسؤول للبنّائين7 دقيقة
أساسيات الـ AI المسؤول للبنّائين
في سطر واحد · الـ AI المسؤول يعني تتعامل بوعي مع الأمان، والتحيّز، وخصوصية البيانات — من أول سطر كود مش في الآخر.
أي منتج AI ممكن يأذي مستخدمين أو يسرّب بيانات لو اتبنى بإهمال. المسؤولية مش رفاهية، دي جزء من جودة الهندسة.
اسأل نفسك تلات أسئلة في كل ميزة: هل ممكن تأذي حد؟ هل بتتعامل مع بيانات حسّاسة؟ هل ممكن تتحيّز ضد فئة؟
بوت دعم بيطبع بيانات العميل في اللوج = تسريب خصوصية. حطّ masking من الأول بدل ما تكتشفها بعد حادثة.
المسؤولية بتتترجم لممارسات هندسية ملموسة: (1) الخصوصية — قلّل البيانات الحسّاسة اللي بتوصل للموديل أو اللوجز (masking وdata minimization). (2) الصلاحيات — ادّي النظام أقل صلاحية تكفيه (least privilege): بوت بيقرا التذاكر مش محتاج يمسح عملاء. (3) الحماية من التلاعب — أي نص من المستخدم أو من مستند خارجي ممكن يحاول يوجّه الموديل ضدّك (prompt injection)، فعامل مدخلات المستخدم كبيانات مش أوامر وحطّ guardrails على المخرج. (4) التحيّز — اختبر النظام على أسماء ولهجات وفئات متنوّعة قبل الإطلاق. (5) القرارات الحسّاسة — إنسان يوافق قبل أي تنفيذ عالي الخطورة.
🧪 جرّب بنفسك: خد ميزة AI بتشتغل عليها (أو بوت الدعم من المشاريع) وطبّق عليها checklist الأمان: إيه البيانات الحسّاسة اللي بتعدّي؟ إيه أقل صلاحيات تكفي؟ إيه أسوأ حاجة يعملها لو مستخدم حاول يتلاعب بيه؟ اكتب إجابة سطر لكل سؤال وحدّد أول ثغرة هتقفلها.
غلطات شائعة: (1) تأجيل المسؤولية «لما المنتج ينجح الأول» — التعديل بعد حادثة أغلى بعشرات المرات. (2) الثقة إن الموديل «مؤدّب» فمفيش داعي لـ guardrails — أي مدخل خارجي ممكن يتلاعب بيه. (3) إدّاء البوت صلاحيات admin عشان «أسهل في التطوير» وتنسى تشيلها. (4) اختبار التحيّز بأسماء وبيانات من فئة واحدة بس.
دايمًا — بس بجرعة مناسبة للخطورة: ميزة داخلية بتلخّص مقالات عامة محتاجة الأساسيات، أما ميزة بتلمس بيانات عملاء أو قرارات فلوس محتاجة المستوى الكامل: masking وleast privilege وapproval gates ومراجعة تحيّز.
مفيش «مش محتاج مسؤولية»، بس فيه مبالغة معطّلة: متبنيش عملية مراجعة من 10 خطوات لسكريبت تجريبي على بيانات وهمية. اضبط الجرعة على حجم الضرر المحتمل مش على الخوف العام.