كيف يمكن لتحفيز الأقل إلى الأكثر أن يتيح التفكير المعقد في نماذج اللغة الكبيرة؟

كيف يمكن لتحفيز الأقل إلى الأكثر أن يتيح التفكير المعقد في نماذج اللغة الكبيرة؟

مقدمة

ماذا لو استطاعت نماذج اللغة معالجة المشكلات المعقدة بنفس النهج التدريجي الذي يستخدمه البشر؟ في عالم نماذج اللغة الكبيرة (LLMs)، تقدم استراتيجية التحفيز من الأقل إلى الأكثر حلاً واعدًا. بالاستناد إلى الورقة البحثية “Least-To-Most Prompting Enables Complex Reasoning in Large Language Models”، تستكشف هذه المدونة كيف تعزز هذه الطريقة المبتكرة قدرات التفكير في نماذج LLMs. من خلال تقسيم المهام المعقدة إلى مسائل فرعية سهلة الإدارة، يوجه التحفيز من الأقل إلى الأكثر نماذج LLMs عبر تسلسل تدريجي من البساطة إلى التعقيد.

ما هو التحفيز من الأقل إلى الأكثر؟

التحفيز من الأقل إلى الأكثر هو استراتيجية مبتكرة تم تقديمها في الورقة البحثية “Least-To-Most Prompting Enables Complex Reasoning in Large Language Models” لتعزيز قدرات التفكير في نماذج اللغة الكبيرة (LLMs). صُممت هذه الطريقة لمساعدة نماذج LLMs على التعامل مع المشكلات المعقدة عن طريق تقسيمها إلى سلسلة من المسائل الفرعية الأبسط والأكثر قابلية للإدارة. تتضمن العملية مرحلتين رئيسيتين:

  1. التقسيم: يتم تقسيم المشكلة المعقدة إلى قائمة من المسائل الفرعية الأسهل. تستخدم هذه المرحلة أمثلة ثابتة توضح عملية التقسيم، متبوعة بالسؤال المحدد الذي يحتاج إلى التحليل.
  2. حل المسائل الفرعية: يُطلب من النموذج بعد ذلك حل هذه المسائل الفرعية بالتسلسل. يتم تسهيل حل كل مسألة فرعية بواسطة الإجابات على المسائل الفرعية التي تم حلها سابقًا. تتضمن هذه المرحلة أمثلة لكيفية حل المسائل الفرعية، وقائمة من الأسئلة الفرعية التي تمت الإجابة عليها سابقًا وحلولها، والسؤال التالي الذي يجب معالجته.

يتم بناء المحفزات (prompts) بطريقة توجه النموذج عبر تسلسل تدريجي، من أبسط جوانب المشكلة إلى أكثرها تعقيدًا، ومن هنا جاء الاسم “من الأقل إلى الأكثر”.

لماذا نحتاج إلى التحفيز من الأقل إلى الأكثر؟

تنبع الحاجة إلى التحفيز من الأقل إلى الأكثر من القيود الملحوظة في تقنيات التحفيز الحالية، خاصة تقنية سلسلة الأفكار (chain-of-thought prompting).

تقنية سلسلة الأفكار هي نهج يشجع نماذج اللغة الكبيرة على توضيح عملية التفكير الخاصة بها خطوة بخطوة، على غرار الطريقة التي يفكر بها الإنسان في مشكلة ما. تتضمن هذه الطريقة قيام النموذج بذكر كل خطوة منطقية يتخذها صراحةً للانتقال من فهم السؤال إلى الوصول إلى الإجابة النهائية. من خلال تقسيم المشكلة إلى سلسلة من خطوات التفكير الوسيطة، يوفر النموذج مسار حل شفاف وقابل للتبرير.

بينما أظهرت تقنية سلسلة الأفكار تحسينات كبيرة في الأداء لمهام التفكير الطبيعي المختلفة، إلا أنها تميل إلى المعاناة عند التعميم لحل مشكلات أكثر تعقيدًا من الأمثلة المقدمة في المحفزات.

كيف يمكن للتحفيز من الأقل إلى الأكثر تمكين التفكير المعقد في نماذج LLMs؟

يمكن تقسيم تصميم التجربة في الورقة البحثية “Least-To-Most Prompting Enables Complex Reasoning in Large Language Models” إلى العملية التالية خطوة بخطوة:

تحديد الهدف البحثي

الهدف هو تمكين نماذج اللغة الكبيرة من أداء مهام تفكير معقدة تتطلب حل مشكلات أكثر صعوبة من تلك الموضحة في أمثلة التدريب.

اختيار المهام

اختار الباحثون مهامًا تمثل أنواعًا مختلفة من التفكير، بما في ذلك المعالجة الرمزية، والتعميم التركيبي، والتفكير الرياضي.

المهمة 1: المعالجة الرمزية (مهمة ربط الأحرف الأخيرة):

  • المشكلة: بالنظر إلى قائمة كلمات، المهمة هي إخراج ربط الأحرف الأخيرة لكل كلمة في القائمة.
  • مثال: بالنسبة للإدخال “think, machine, learning”، الإخراج الصحيح هو “keg”.
  • التحفيز من الأقل إلى الأكثر:
  • تقسيم المشكلة: تقسيم القائمة إلى قوائم فرعية متسلسلة (“think”، “think, machine”، “think, machine, learning”).
  • حل المسائل الفرعية: ربط الأحرف الأخيرة للكلمات في كل قائمة فرعية (“think” يعطي “k”، “machine” يعطي “e”، و”learning” يعطي “g”).
  • الجمع بين الحلول: استخدام حلول المسائل الفرعية لبناء الإجابة النهائية (“k” + “e” = “ke” و”ke” + “g” = “keg”).

المهمة 2: التعميم التركيبي (معيار SCAN):

  • المشكلة: تعيين الأوامر بلغة طبيعية إلى تسلسلات إجراءات. التحدي هو التعميم إلى تسلسلات إجراءات أطول من تلك التي شوهدت أثناء التدريب.
  • مثال: يجب ترجمة الأمر “look opposite right thrice after walk” إلى تسلسل الإجراءات “TURN RIGHT, TURN RIGHT, LOOK, WALK”.
  • التحفيز من الأقل إلى الأكثر:
  • تقسيم الأمر: تقسيم الأمر المعقد إلى أجزاء أبسط (“look opposite right thrice” و”walk”).
  • التعيين إلى الإجراءات: ترجمة كل جزء إلى إجراءات (“look opposite right thrice” يصبح “TURN RIGHT, TURN RIGHT, LOOK” مكررًا ثلاث مرات، و”walk” يبقى “WALK”).
  • الجمع بين الإجراءات: تنفيذ الإجراءات بالتسلسل لتشكيل التسلسل النهائي.

المهمة 3: التفكير الرياضي (مجموعتي بيانات GSM8K وDROP):

  • المشكلة: حل مسائل كلامية رياضية قد تتطلب خطوات متعددة من التفكير.
  • مثال: “إلسا لديها 5 تفاحات. آنا لديها تفاحتان أكثر من إلسا. كم تفاحة لديهما معًا؟”
  • التحفيز من الأقل إلى الأكثر:
  • تقسيم المشكلة: تحديد المسائل الفرعية (كم تفاحة تملك آنا؟ كم تفاحة لديهما معًا؟).
  • حل المسائل الفرعية: حساب تفاح آنا (5 + 2 = 7) ثم المجموع (5 + 7 = 12).
  • الإجابة النهائية: الاستنتاج أن إلسا وآنا لديهما 12 تفاحة معًا.

تصميم استراتيجيات التحفيز

تمت مقارنة استراتيجيتين رئيسيتين للتحفيز:

  • التحفيز بسلسلة الأفكار: يتضمن تزويد النموذج بأمثلة توضح عملية تفكير خطوة بخطوة لحل مشكلة ما.

  • التحفيز من الأقل إلى الأكثر: تتضمن هذه الاستراتيجية الجديدة تقسيم مشكلة معقدة إلى مسائل فرعية أبسط وحلها بالتسلسل، باستخدام حلول المسائل الفرعية السابقة لتسهيل حل المسألة التالية.

إنشاء أمثلة للمحفزات

لكل استراتيجية تحفيز، صمم الباحثون أمثلة توضح كيفية التعامل مع المهام. بالنسبة للتحفيز من الأقل إلى الأكثر، يتضمن ذلك أمثلة على كل من تقسيم المشكلة وحل المسائل الفرعية.

تنفيذ التحفيز في النموذج

يتم بعد ذلك إعطاء النموذج اللغوي هذه المحفزات كمدخلات. بالنسبة للتحفيز من الأقل إلى الأكثر، يتضمن ذلك مرحلتين:

  • مرحلة التقسيم: يُطلب من النموذج تقسيم المشكلة الأصلية إلى سلسلة من المسائل الفرعية الأبسط.
  • مرحلة حل المسائل الفرعية: يُطلب من النموذج بعد ذلك حل هذه المسائل الفرعية بالتسلسل، باستخدام الإجابات من المسائل الفرعية السابقة لإبلاغ حل المسألة التالية.

بناء مجموعات الاختبار

لكل مهمة، أنشأ الباحثون مجموعات اختبار بمستويات صعوبة متفاوتة.

المهمة 1: المعالجة الرمزية (مهمة ربط الأحرف الأخيرة):

  • تضمنت مجموعة الاختبار لهذه المهمة توليد قوائم كلمات بأطوال مختلفة لاختبار قدرة النموذج على ربط الأحرف الأخيرة لكل كلمة في القائمة.
  • استخدم الباحثون قائمة بأكثر 10,000 كلمة إنجليزية شيوعًا من ويكاموس، مع استبعاد الكلمات البذيئة، مما نتج عنه قائمة من 9,694 كلمة.
  • لكل حجم قائمة مرغوب (يتراوح من 4 إلى 12 كلمة)، قاموا بتوليد 500 تسلسل عشوائي من هذه الكلمات. كل تسلسل يعمل كمدخل، والمخرج المقابل هو تسلسل الأحرف الأخيرة للكلمات.

المهمة 2: التعميم التركيبي (معيار SCAN):

  • يتكون معيار SCAN من أوامر بلغة طبيعية يجب تعيينها إلى تسلسلات إجراءات. تتحدى مجموعة الاختبار النموذج للتعميم من تسلسلات إجراءات أقصر إلى أطول.
  • استخدم الباحثون التقسيمات الموجودة لمجموعة بيانات SCAN، مع التركيز بشكل خاص على تقسيم الطول، الذي يحتوي على تسلسلات إجراءات أطول من تلك الموجودة في مجموعة التدريب.
  • حرصوا أيضًا على أن تغطي مجموعة الاختبار مجموعة من الأوامر لتقييم قدرة النموذج على التعامل مع أنواع مختلفة من التعميم التركيبي.

المهمة 3: التفكير الرياضي (مجموعتي بيانات GSM8K وDROP):

  • للتفكير الرياضي، استخدم الباحثون مسائل كلامية من مجموعة بيانات GSM8K والمجموعة الفرعية للتفكير العددي من مجموعة بيانات DROP.
  • تضمنت مجموعة الاختبار مسائل تتطلب أعدادًا متفاوتة من خطوات التفكير لحلها، مما سمح للباحثين بتقييم مدى قدرة النموذج على التعميم من مشكلات أبسط إلى أكثر تعقيدًا.
  • تم اختيار المسائل لتمثل مجموعة من مستويات الصعوبة ولضمان أن بعض المسائل تتطلب خطوات أكثر من تلك الموضحة في المحفزات.

من خلال بناء مجموعات الاختبار بهذه الطريقة، تمكن الباحثون من تقييم استراتيجية التحفيز من الأقل إلى الأكثر بدقة ومقارنة فعاليتها بتقنيات التحفيز القياسية عبر مهام تفكير مختلفة.

إجراء التجارب وجمع النتائج

أجرى الباحثون تجارب باستخدام نموذج GPT-3 (بالتحديد الإصدار code-davinci-002) مع كلتا استراتيجيتي التحفيز. سجلوا دقة استجابات النموذج على مجموعات الاختبار.

تحليل النتائج

قارن الباحثون أداء النموذج باستخدام استراتيجيات تحفيز مختلفة. نظروا إلى الدقة الإجمالية وقاموا أيضًا بتقسيم النتائج حسب عدد خطوات التفكير المطلوبة لحل المسائل.

تحليل الأخطاء

بالنسبة للتحفيز من الأقل إلى الأكثر، أجرى الباحثون تحليلًا تفصيليًا للأخطاء لفهم الأخطاء الشائعة، مثل التقسيم غير الصحيح للمشكلات أو الحل غير الصحيح للمسائل الفرعية.

ما مدى تحسن أداء نماذج LLMs مع التحفيز من الأقل إلى الأكثر؟

توضح الورقة البحثية “Least-To-Most Prompting Enables Complex Reasoning in Large Language Models” فعالية التحفيز من الأقل إلى الأكثر عبر مهام مختلفة وتقارن أداءه بالتحفيز بسلسلة الأفكار وطرق التحفيز القياسية. فيما يلي ملخص لتحسينات الأداء لكل مهمة كما هو مفصل في الورقة:

المعالجة الرمزية (مهمة ربط الأحرف الأخيرة):

تفوق التحفيز من الأقل إلى الأكثر بشكل كبير على التحفيز بسلسلة الأفكار، خاصة عند زيادة طول قوائم الكلمات.

بالنسبة للقوائم التي تتراوح أطوالها من 4 إلى 12 كلمة، تراوحت دقة التحفيز من الأقل إلى الأكثر باستخدام نموذج GPT-3 code-davinci-002 من 74.0% إلى 94.0%، وهي أعلى بشكل ملحوظ من دقة التحفيز بسلسلة الأفكار التي تراوحت من 31.8% إلى 84.2%.

التعميم التركيبي (معيار SCAN):

حقق التحفيز من الأقل إلى الأكثر دقة بلغت 99.7% تحت شرط تقسيم الطول باستخدام 14 مثالًا فقط، وهي نتيجة مذهلة بالنظر إلى أن النماذج العصبية الرمزية المتخصصة المدربة على مجموعة البيانات بأكملها التي تضم أكثر من 15,000 مثال غالبًا ما تواجه صعوبة في هذه المهمة.

في المقابل، حقق التحفيز بسلسلة الأفكار دقة 16.2% فقط باستخدام نفس النموذج تحت شرط تقسيم الطول.

التفكير الرياضي (مجموعتي بيانات GSM8K وDROP):

في مجموعة بيانات GSM8K، حسن التحفيز من الأقل إلى الأكثر الأداء بشكل طفيف مقارنة بالتحفيز بسلسلة الأفكار، بدقة إجمالية بلغت 62.39% مقارنة بـ 60.87% للتحفيز بسلسلة الأفكار.

ومع ذلك، بالنسبة للمسائل التي تتطلب 5 خطوات على الأقل لحلها، أظهر التحفيز من الأقل إلى الأكثر تحسنًا كبيرًا، بدقة 45.23% مقارنة بـ 39.07% للتحفيز بسلسلة الأفكار.

في مجموعة بيانات DROP، تفوق التحفيز من الأقل إلى الأكثر على التحفيز بسلسلة الأفكار بهامش واسع، بدقة بلغت 82.45% و74.77% للمجموعات الفرعية غير المتعلقة بكرة القدم وكرة القدم على التوالي، مقارنة بـ 58.78% و59.56% للتحفيز بسلسلة الأفكار.

تشير هذه النتائج إلى أن التحفيز من الأقل إلى الأكثر فعال بشكل خاص في المهام التي تتطلب من النموذج التعميم من أمثلة أبسط إلى مشكلات أكثر تعقيدًا. تسمح استراتيجية تقسيم المشكلات المعقدة إلى سلسلة من المسائل الفرعية الأبسط وحلها بالتسلسل للنموذج بتحقيق معدلات دقة أعلى عبر مهام تفكير مختلفة.

كيف يمكن دمج التحفيز من الأقل إلى الأكثر في نموذج LLM الخاص بي؟

بناءً على الأساليب التي قدمها مؤلفو “Least-To-Most Prompting Enables Complex Reasoning in Large Language Models”، نقوم بإنشاء هذا الدليل خطوة بخطوة لك:

الخطوة 1: الحصول على API لنموذج LLM

أولاً، تحتاج إلى الوصول إلى نموذج LLM يمكنك استخدامه لمهمتك. يوفر Novita AI LLM API للمطورين العديد من خيارات LLM الفعالة من حيث التكلفة، بما في ذلك Llama3–8b وLlama3–70b وMythomax-13b وغيرها.

فيما يلي مثال على إجراء استدعاء API لإكمال الدردشة مع Novita AI LLM API:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    # احصل على مفتاح API الخاص بـ Novita AI من خلال الرابط: https://novita.ai/get-started/Quick_Start.html#_3-create-an-api-key
    api_key="<مفتاح API الخاص بك لـ Novita AI>",
)

model = "Nous-Hermes-2-Mixtral-8x7B-DPO"
stream = True # أو False
max_tokens = 512

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": "تصرف كمساعد مفيد.",
        },
        {
            "role": "user",
            "content": "مرحبًا!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
 )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)

الخطوة 2: إعداد المحفز للتقسيم

أنشئ مجموعة من أمثلة المحفزات التي توضح كيفية تقسيم مشكلة معقدة إلى سلسلة من المسائل الفرعية الأبسط. يجب أن تظهر الأمثلة هيكل التقسيم، ولكن ليس بالضرورة المحتوى المحدد للمسائل الفرعية.

الخطوة 3: إعداد المحفز لحل المسائل الفرعية

أنشئ مجموعة من أمثلة المحفزات التي توضح كيفية حل المسائل الفرعية الفردية. يجب أن تظهر هذه الأمثلة عملية بناء الحل خطوة بخطوة، باستخدام نتائج المسائل الفرعية التي تم حلها سابقًا.

الخطوة 4: تنفيذ خوارزمية التحفيز من الأقل إلى الأكثر

الخطوات الرئيسية في خوارزمية التحفيز من الأقل إلى الأكثر هي: أ. تمرير المشكلة الأصلية إلى محفز التقسيم والحصول على قائمة المسائل الفرعية. ب. لكل مسألة فرعية، قم ببناء محفز يتضمن حلول المسائل الفرعية السابقة (إن وجدت) والمسألة الفرعية الحالية، وقم بتمريره إلى LLM للحصول على الحل. ج. اجمع حلول المسائل الفرعية للحصول على الحل النهائي للمشكلة الأصلية.

الخطوة 5: الدمج مع تطبيقك

قم بدمج خوارزمية التحفيز من الأقل إلى الأكثر في سير عمل تطبيقك. قد يتضمن ذلك معالجة مسبقة للمدخل، وبناء المحفزات، واستدعاء API الخاص بـ LLM، والمعالجة اللاحقة للمخرجات.

الخطوة 6: التقييم والتكرار

اختبر تنفيذك على مجموعة متنوعة من المهام وصعوبات المشكلات. حلل الأخطاء وصقل تصميم المحفز أو خوارزمية التحفيز حسب الحاجة.

هذا مثال عالي المستوى تم إنشاؤه بواسطة LLM، وقد تحتاج إلى تكييفه مع حالة الاستخدام الخاصة بك ونموذج LLM الخاص بك.

import openai

# تعيين مفتاح API الخاص بـ Novita AI
openai.api_key = "<مفتاح API الخاص بك لـ Novita AI>"
openai.base_url = "https://api.novita.ai/v3/openai"

def decomp_prompt(original_problem):
    """
    يُنشئ محفزًا لتقسيم المشكلة الأصلية إلى سلسلة من المسائل الفرعية.

    Args:
        original_problem (str): المشكلة الأصلية المراد تقسيمها.

    Returns:
        str: المحفز لتقسيم المشكلة.
    """
    return f"""
    يرجى تقسيم المشكلة التالية إلى سلسلة من المسائل الفرعية التي يمكن حلها خطوة بخطوة:
    {original_problem}
    
    المسائل الفرعية:
    {{{decomp_steps}}}
    """

def solve_prompt(prev_solutions, subproblem):
    """
    يُنشئ محفزًا لحل مسألة فرعية معينة، بالنظر إلى المسائل الفرعية التي تم حلها سابقًا.

    Args:
        prev_solutions (str): المسائل الفرعية التي تم حلها سابقًا.
        subproblem (str): المسألة الفرعية المراد حلها.

    Returns:
        str: المحفز لحل المسألة الفرعية.
    """
    return f"""
    بالنظر إلى المسائل الفرعية التالية التي تم حلها سابقًا:
    {prev_solutions}
    
    يرجى حل المسألة الفرعية التالية:
    {subproblem}
    """

def solve_problem(original_problem):
    """
    يحل المشكلة الأصلية باستخدام خوارزمية التحفيز من الأقل إلى الأكثر.

    Args:
        original_problem (str): المشكلة الأصلية المراد حلها.

    Returns:
        list: قائمة بحلول المسائل الفرعية.
    """
    # تقسيم المشكلة الأصلية إلى مسائل فرعية
    decomp_result = openai.Completion.create(
        engine="text-davinci-002",
        prompt=decomp_prompt(original_problem),
        max_tokens=1024,
        n=1,
        stop=None,
        temperature=0.7,
    )
    decomp_steps = decomp_result.choices[0].text.strip()

    # حل المسائل الفرعية واحدة تلو الأخرى
    solutions = []
    for step in decomp_steps.split("\n"):
        step = step.strip()
        if step:
            solve_result = openai.Completion.create(
                engine="text-davinci-002",
                prompt=solve_prompt("\n".join(solutions), step),
                max_tokens=1024,
                n=1,
                stop=None,
                temperature=0.7,
            )
            solutions.append(solve_result.choices[0].text.strip())

    return solutions

# مثال على الاستخدام
original_problem = "حل مسألة رياضية معقدة خطوة بخطوة."
solutions = solve_problem(original_problem)
print("\n".join(solutions))

ما هي قيود التحفيز من الأقل إلى الأكثر؟

خصوصية المجال:

غالبًا ما تكون محفزات التقسيم مصممة خصيصًا لمجالات محددة وقد لا تعمم بشكل جيد عبر أنواع مختلفة من المشكلات. قد لا يكون المحفز الذي يعمل بشكل جيد مع المسائل الكلامية الرياضية فعالاً مع مشكلات التفكير المنطقي العام أو تلك الموجودة في مجالات أخرى.

تحدي التعميم داخل المجال:

حتى داخل نفس المجال، قد يكون تعميم عملية التقسيم أمرًا صعبًا. يجب تصميم المحفزات بعناية لإظهار التقسيم الصحيح لكي يحقق النموذج الأداء الأمثل.

تعقيد التقسيم:

قد تتطلب بعض المشكلات المعقدة فهمًا متطورًا لكيفية تقسيمها إلى مسائل فرعية أبسط. قد يكون تصميم محفزات توجه النموذج بشكل فعال خلال هذه العملية أمرًا صعبًا.

الاعتماد التسلسلي:

غالبًا ما تكون المسائل الفرعية الناتجة عن التحفيز من الأقل إلى الأكثر مترابطة ويجب حلها بترتيب معين. يمكن أن يجعل هذا المطلب التسلسلي عملية التحفيز أكثر تعقيدًا مقارنة بالمسائل الفرعية المستقلة.

انتشار الأخطاء:

إذا ارتكب النموذج خطأ في المراحل المبكرة من تقسيم المشكلة أو حل المسائل الفرعية، يمكن أن ينتشر هذا الخطأ عبر الخطوات اللاحقة، مما يؤدي إلى حل نهائي غير صحيح.

الأداء الخاص بالنموذج:

يمكن أن يختلف أداء التحفيز من الأقل إلى الأكثر بين نماذج مختلفة أو إصدارات من نفس النموذج. قد تكون بعض النماذج أكثر ملاءمة للتعامل مع الطبيعة التكرارية والمتكررة للمهمة.

هندسة المحفزات:

قد تعتمد فعالية التحفيز من الأقل إلى الأكثر بشكل كبير على جودة هندسة المحفزات. يتطلب إنشاء محفزات فعالة تؤدي إلى تقسيم وتوليد حلول دقيقة دراسة وخبرة دقيقة.

قابلية التوسع:

بينما يمكن أن يكون التحفيز من الأقل إلى الأكثر فعالاً، إلا أنه قد لا يتوسع بشكل جيد للمشكلات الكبيرة جدًا أو شديدة التعقيد بسبب الصعوبة المتزايدة في تصميم المحفزات المناسبة واحتمال انتشار الأخطاء.

نقص التفاعل ثنائي الاتجاه:

يقترح المؤلفون أن التحفيز بشكل عام قد لا يكون الطريقة المثلى لتعليم مهارات التفكير لنماذج LLMs لأنه شكل من أشكال التواصل أحادي الاتجاه. يمكن أن يتضمن التطور الطبيعي تطوير التحفيز إلى محادثات ثنائية الاتجاه بالكامل تسمح بالتغذية الراجعة الفورية والتعلم الأكثر فعالية.

الخلاصة

من خلال تقسيم المشكلات المعقدة إلى خطوات أبسط وحلها بالتسلسل، لا تعزز نماذج LLMs مع التحفيز من الأقل إلى الأكثر قدرتها على التفكير فحسب، بل تُظهر أيضًا أداءً ملحوظًا عبر مهام مختلفة — من المعالجة الرمزية إلى التعميم التركيبي والتفكير الرياضي.

ومع ذلك، من المهم الاعتراف بالتحديات التي تصاحب هذه الطريقة. يمكن أن تشكل خصوصية المجال، وصعوبات التعميم داخل المجال، وتعقيد التقسيم عقبات. علاوة على ذلك، فإن الاعتماد التسلسلي للمسائل الفرعية واحتمال انتشار الأخطاء يؤكدان على الحاجة إلى هندسة محفزات دقيقة واعتبارات خاصة بالنموذج.

بينما نواصل استكشاف حدود جديدة في تطوير الذكاء الاصطناعي، يبرز التحفيز من الأقل إلى الأكثر كاستراتيجية محورية تمكن نماذج LLMs من التنقل في تحديات مهام التفكير المعقدة بدقة وكفاءة غير مسبوقتين، مع حث البحث المستمر على تحسين تطبيقه عبر مجالات المشكلات المتنوعة.

المراجع

Zhou, D., Schärli, N., Hou, L., Wei, J., Scales, N., Wang, X., Schuurmans, D., Cui, C., Bousquet, O., & Chi, E. (2023). Least-to-Most Prompting Enables Complex Reasoning in Large Language Models. In Proceedings of the International Conference on Learning Representations.

Novita AI هي المنصة السحابية الشاملة التي تعزز طموحاتك في مجال الذكاء الاصطناعي. من خلال واجهات API المتكاملة بسلاسة، والحوسبة بدون خادم، وتسريع GPU، نوفر الأدوات الفعالة من حيث التكلفة التي تحتاجها لبناء وتوسيع نطاق أعمالك المدعومة بالذكاء الاصطناعي بسرعة. تخلص من متاعب البنية التحتية وابدأ مجانًا — Novita AI تحقق أحلامك في الذكاء الاصطناعي.