الضبط الدقيق (التعلم العميق)

📅 آخر تحديث: ١ أغسطس ٢٠٢٦
✍️ نُشر في: ١ أغسطس ٢٠٢٦
الموسوعة الحرة

في مجال التعلم العميق ، يُعرف الضبط الدقيق بأنه عملية تكييف نموذج حسابي مُدرَّب على مهمة معينة ( المهمة الأولية ) لأداء مهمة مختلفة، عادةً ما تكون أكثر تحديدًا ( المهمة النهائية ). [ 1 ] ويُعتبر هذا شكلاً من أشكال التعلم النقل ، حيث يُعاد استخدام المعرفة المكتسبة من هدف التدريب الأصلي. [ 2 ] [ 3 ]

تتضمن عملية الضبط الدقيق تطبيق تدريب إضافي (على سبيل المثال، على بيانات جديدة) على معلمات الشبكة العصبية التي تم تدريبها مسبقًا. [ 4 ] [ 5 ] توجد العديد من المتغيرات. يمكن تطبيق التدريب الإضافي على الشبكة العصبية بأكملها، أو على مجموعة فرعية فقط من طبقاتها ، وفي هذه الحالة تُجمّد الطبقات التي لا يتم ضبطها (أي لا تتغير أثناء عملية الانتشار العكسي ). [ 6 ] يمكن أيضًا تعزيز النموذج بوحدات مُكيِّفة - وهي وحدات خفيفة الوزن تُدرج في بنية النموذج لتعديل فضاء التضمين لتكييف المجال. تحتوي هذه الوحدات على معلمات أقل بكثير من النموذج الأصلي، ويمكن ضبطها بدقة وكفاءة عالية من خلال ضبط أوزانها فقط وترك بقية أوزان النموذج ثابتة. [ 7 ]

في بعض البنى، مثل الشبكات العصبية الالتفافية ، من الشائع إبقاء الطبقات الأولى (الأقرب إلى طبقة الإدخال) ثابتة، لأنها تلتقط ميزات منخفضة المستوى ، بينما تميز الطبقات اللاحقة غالبًا ميزات عالية المستوى قد تكون أكثر ارتباطًا بالمهمة التي يتم تدريب النموذج عليها. [ 6 ] [ 8 ]

عادةً ما تُضبط النماذج المدربة مسبقًا على مجموعات بيانات كبيرة وعامة عن طريق إعادة استخدام معاييرها كنقطة انطلاق وإضافة طبقة خاصة بالمهمة يتم تدريبها من الصفر. [ 9 ] كما أن ضبط النموذج الكامل شائع أيضًا وغالبًا ما يُحقق نتائج أفضل، ولكنه أكثر تكلفة حسابية. [ 10 ]

تُجرى عملية الضبط الدقيق عادةً عبر التعلم الخاضع للإشراف ، ولكن توجد أيضًا تقنيات لضبط النموذج باستخدام الإشراف الضعيف . [ 11 ] يمكن دمج الضبط الدقيق مع التعلم المعزز القائم على التغذية الراجعة البشرية لإنتاج نماذج لغوية مثل ChatGPT (نسخة مضبوطة من نماذج GPT ) و Sparrow . [ 12 ] [ 13 ]

المتانة

قد يؤدي الضبط الدقيق إلى إضعاف متانة النموذج في مواجهة تغيرات التوزيع . [ 14 ] [ 15 ] يتمثل أحد الحلول في إجراء استيفاء خطي لأوزان النموذج المضبوط بدقة مع أوزان النموذج الأصلي، مما قد يحسن بشكل كبير أداء النموذج خارج نطاق التوزيع مع الحفاظ إلى حد كبير على أدائه داخل نطاق التوزيع. [ 16 ]

المتغيرات

التكيف منخفض الرتبة

تُعدّ تقنية التكييف منخفض الرتبة (LoRA) أسلوبًا يعتمد على المُكيّفات لتحسين نماذج اللغة بكفاءة. تقوم الفكرة الأساسية على تصميم مصفوفة منخفضة الرتبة تُضاف إلى المصفوفة الأصلية. [ 17 ] في هذا السياق، يُعرَّف المُكيّف بأنه مجموعة من المصفوفات منخفضة الرتبة، والتي عند إضافتها إلى النموذج الأساسي، تُنتج نموذجًا مُحسَّنًا. تُتيح هذه التقنية أداءً يُقارب تحسين النموذج الكامل مع متطلبات مساحة أقل. على سبيل المثال، يُمكن تحسين نموذج لغوي يحتوي على مليارات المعاملات باستخدام تقنية LoRA مع بضعة ملايين فقط من المعاملات.

أصبح الضبط الدقيق القائم على تقنية LoRA شائعًا في مجتمع الانتشار المستقر . [ 18 ] تم دمج دعم LoRA في مكتبة المُشتِّتات من Hugging Face . [ 19 ] كما يتوفر دعم LoRA والتقنيات المشابهة لمجموعة واسعة من النماذج الأخرى من خلال حزمة الضبط الدقيق الفعال للمعاملات (PEFT) من Hugging Face . [ 20 ]

ضبط دقيق للتمثيل

تقنية الضبط الدقيق للتمثيل (ReFT) هي تقنية طوّرها باحثون في جامعة ستانفورد بهدف ضبط نماذج اللغة الكبيرة (LLMs) بدقة عن طريق تعديل أقل من 1% من تمثيلاتها. على عكس طرق الضبط الدقيق الفعّالة من حيث المعلمات (PEFT)، التي تركز بشكل أساسي على تحديث الأوزان، تستهدف ReFT التمثيلات. تعمل طرق ReFT على نموذج أساسي ثابت، وتتعلم تدخلات خاصة بكل مهمة على التمثيلات المخفية، وتدرب تدخلات تُعدّل جزءًا صغيرًا من تمثيلات النموذج لتوجيه سلوكيات النموذج نحو حل المهام اللاحقة أثناء الاستدلال. إحدى الطرق المحددة ضمن عائلة ReFT هي ReFT في الفضاء الفرعي الخطي منخفض الرتبة (LoReFT)، والتي تتدخل في التمثيلات المخفية في الفضاء الفرعي الخطي الذي تشكله مصفوفة إسقاط منخفضة الرتبة. يمكن اعتبار LoReFT بمثابة المكافئ القائم على التمثيل لتقنية التكيف منخفض الرتبة (LoRA). [ 21 ]

التطبيقات

معالجة اللغة الطبيعية

يُعدّ الضبط الدقيق شائعًا في معالجة اللغات الطبيعية ، لا سيما في مجال نمذجة اللغات . ويمكن ضبط نماذج اللغة الكبيرة ، مثل سلسلة نماذج GPT الأساسية من OpenAI ، بدقة على بيانات خاصة بمهام معالجة اللغات الطبيعية اللاحقة (المهام التي تستخدم نموذجًا مُدرّبًا مسبقًا) لتحسين الأداء مقارنةً بالنموذج المُدرّب مسبقًا دون تعديل. [ 10 ]

تُجسّد منصات مثل مجموعة أدوات رؤية الذكاء الاصطناعي من Semrush و Enterprise AIO كيفية استخدام النماذج المُحسّنة لمراقبة مستوى الكيانات؛ حيث تتتبع كيفية الإشارة إلى الكيانات المُسماة وتمثيلها ضمن الاستجابات التي تُنشئها محركات الإجابة القائمة على نماذج اللغة الكبيرة. [ 22 ]

النماذج التجارية

يمكن في بعض الأحيان تحسين نماذج اللغة الكبيرة المتوفرة تجاريًا إذا كان الموفر يقدم واجهة برمجة تطبيقات (API) خاصة بالتحسين. اعتبارًا من 19 يونيو 2023، توفر OpenAI وخدمة Azure OpenAI التابعة لمايكروسوفت أزور واجهات برمجة تطبيقات لتحسين نماذج اللغة لمجموعة فرعية من نماذجها، بالإضافة إلى منصة جوجل السحابية لبعض نماذج PaLM الخاصة بها ، وغيرها. [ 23 ] [ 24 ] [ 25 ]

انظر أيضاً

مراجع

  1. ↑ فون تشيفالفاي، كريس (2026). "3. الضبط الدقيق الخاضع للإشراف: تقنية الأساس". ما بعد التدريب: دليل عملي لمهندسي ومطوري الذكاء الاصطناعي . دار نشر نو ستارش. الصفحات 69-101 . ISBN  978-1-7185-0520-9.
  2. ↑ بوترايت، روب (2024). التعلم العميق: رؤية الحاسوب، تعلم الآلة باستخدام بايثون والشبكات العصبية . دار باستور للنشر المحدودة.
  3. ↑ أبهيجيت، ساركار. ديناميكيات التعلم العميق: العلم وراء تدريب الذكاء الاصطناعي: استكشاف الاستراتيجيات والتحديات والابتكارات التي تشكل تطوير الذكاء الاصطناعي الحديث (نسخة كيندل) .
  4. ↑ منشاوي، أحمد (2018). التعلم العميق بالأمثلة: دليل عملي لتطبيق خوارزميات التعلم الآلي المتقدمة والشبكات العصبية . دار نشر باكت. رقم ISBN 978-1788395762.
  5. ↑ كوين، جوان (2020). الغوص في التعلم العميق: أدوات للتفاعل . ص 551. ISBN  978-1-5443-6137-6أُرشف من المصدر الأصلي في 10 يناير 2023. تم الاطلاع عليه في 10 يناير 2023 .
  6. 1 2 "CS231n الشبكات العصبية الالتفافية للتعرف البصري" . cs231n.github.io . تم ​​الاطلاع عليه بتاريخ 9 مارس 2023 .
  7. ↑ ليو، هاوكون؛ تام، ديريك؛ مقيث، محمد؛ موهتا، جاي؛ هوانغ، تينغهاو؛ بانسال، موهيت؛ رافيل، كولين أ. (2022). كويجو، س.؛ محمد، س.؛ أغاروال، أ.؛ بلجريف، د.؛ تشو، ك.؛ أوه، أ. (محررون). الضبط الدقيق الفعال للمعلمات باستخدام عدد قليل من الأمثلة أفضل وأقل تكلفة من التعلم في السياق (ملف PDF) . التطورات في أنظمة معالجة المعلومات العصبية. المجلد 35. دار كوران أسوشيتس للنشر. الصفحات 1950-1965 .  
  8. ↑ زيلر، ماثيو د؛ فيرغوس، روب (2013). "تصور وفهم الشبكات الالتفافية". ECCV . arXiv : 1311.2901 .
  9. ↑ دودج، جيسي؛ إلهاركو، غابرييل؛ شوارتز، روي؛ فرهادي، علي؛ حاجيشيرزي، حنانه ؛ سميث، نوح (2020). "ضبط نماذج اللغة المدربة مسبقًا: تهيئة الأوزان، وترتيب البيانات، والتوقف المبكر". arXiv : 2002.06305 [ cs.CL ].
  10. 1 2 دينجليوال، ساكيت؛ شينوي، اشيش. بوداباتي، سرافان؛ غاندي، أنكور؛ جادي، رافي تيجا؛ كيرشوف، كاترين (2021). “الضبط الفوري لنموذج لغة GPT-2 لتكييف المجال ذو الكفاءة المعلمية لأنظمة ASR”. InterSpeech . أرخايف : 2112.08718 .
  11. ↑ يو، يو؛ زو، سيمياو؛ جيانغ، هاومينغ؛ رين، ويندي؛ تشاو، تو؛ تشانغ، تشاو (2020). "ضبط نموذج اللغة المدرب مسبقًا بإشراف ضعيف: نهج التدريب الذاتي المنظم بالتباين". رابطة اللغويات الحاسوبية . arXiv : 2010.07835 .
  12. ↑ "تقديم ChatGPT" . openai.com . تم الاطلاع عليه بتاريخ 9 مارس 2023 .
  13. ↑ جليز، أميليا؛ ماك أليس، نات؛ تريباتش، مايا؛ أسلانيدس، جون؛ فيرويو، فلاد؛ إيوالدز، تيمو؛ راو، ماريبث؛ وايدينجر، لورا؛ تشادويك، مارتن؛ ثاكر، فيبي؛ كامبل-جيلينجهام، لوسي؛ أوساتو، جوناثان؛ هوانغ، بو-سين؛ كومانيسكو، رامونا؛ يانغ، فان؛ سي، أبيجيل؛ داثاثري، سومانت؛ جريج، روري؛ تشين، تشارلي؛ فريتز، دوج؛ إلياس، جاومي سانشيز؛ جرين، ريتشارد؛ موكرا، سونيا؛ فرناندو، نيكولاس؛ وو، بوكسي؛ فولي، راشيل؛ يونغ، سوزانا؛ غابرييل، إياسون؛ إسحاق، ويليام؛ ميلور، جون؛ هاسابيس، ديميس؛ كافوكوغلو، كوراي؛ هندريكس، ليزا آن؛ إيرفينغ، جيفري (2022). "تحسين توافق وكلاء الحوار من خلال الأحكام البشرية الموجهة". ديب مايند . arXiv : 2209.14375 .
  14. ↑ رادفورد، أليك؛ كيم، جونغ ووك؛ هالاسي، كريس؛ راميش، أديتيا؛ جوه، غابرييل؛ أغاروال، سانديني؛ ساستري، جيريش؛ أسكيل، أماندا؛ ميشكين، باميلا؛ كلارك، جاك؛ كروجر، غريتشن؛ سوتسكيفر، إيليا (2021). "تعلم النماذج البصرية القابلة للنقل من خلال الإشراف على اللغة الطبيعية". arXiv : 2103.00020 [ cs.CV ].
  15. ↑ كومار، أنانيا؛ راغوناثان، أديتي؛ جونز، روبي؛ ما، تينغيو؛ ليانغ، بيرسي (2022). "قد يؤدي الضبط الدقيق إلى تشويه الميزات المدربة مسبقًا وانخفاض الأداء خارج التوزيع". ICLR . arXiv : 2202.10054 .
  16. ↑ وورتسمان، ميتشل؛ إلهاركو، غابرييل؛ كيم، جونغ ووك؛ لي، مايك؛ كورنبلث، سيمون؛ رولوفس، ريبيكا؛ غونتيو-لوبيز، رافائيل؛ حاجيشيرزي، حنانه ؛ فرهادي، علي؛ نامكونغ، هونغسوك؛ شميدت، لودفيغ (2022). "الضبط الدقيق القوي لنماذج الصفرية". arXiv : 2109.01903 [ cs.CV ].
  17. ^ هو جين تاو ، إدوارد ج. شين، ييلونج؛ واليس، فيليب؛ ألين تشو، زيوان؛ لي، يوانزي؛ وانغ، شين. وانغ، لو؛ تشين ، ويتشو (2022/01/28). "LoRA: التكيف منخفض المستوى لنماذج اللغات الكبيرة" . إيكلر . أرخايف : 2106.09685 .
  18. ↑ ريو، سيمو (13 فبراير 2023). "استخدام التكيف منخفض الرتبة لضبط نماذج الانتشار بسرعة" . جيت هاب . تم الاسترجاع في 19 يونيو 2023 .
  19. ↑ كوينكا، بيدرو؛ بول، ساياك (26 يناير 2023). "استخدام LoRA لضبط الانتشار المستقر بكفاءة" . Hugging Face . تم الاسترجاع في 19 يونيو 2023 .
  20. ↑ "ضبط دقيق فعال للمعلمات باستخدام 🤗 PEFT" . huggingface.co . تم ​​الاطلاع عليه بتاريخ 2023-06-20 .
  21. ↑ وو، تشنغشوان؛ أرورا، أريامان؛ وانغ، تشنغ؛ غايغر، أتيكوس؛ جورافسكي، دان؛ مانينغ، كريستوفر د.؛ بوتس، كريستوفر (2024-04-07)، ReFT: ضبط دقيق للتمثيل لنماذج اللغة ، arXiv : 2404.03592
  22. ↑ "العلامات التجارية تستهدف روبوتات الدردشة المدعومة بالذكاء الاصطناعي مع تحول المستخدمين من محرك بحث جوجل" . فايننشال تايمز .
  23. ↑ "الضبط الدقيق" . OpenAI . تم الاسترجاع في 19-06-2023 .
  24. ↑ "تعرّف على كيفية تخصيص نموذج لتطبيقك" . مايكروسوفت . تم الاطلاع عليه بتاريخ 19-06-2023 .
  25. ↑ "ضبط نماذج أساس النص" . جوجل كلاود . تم الاسترجاع في 19-06-2023 .