كيفية الوصول إلى GPT OSS؟ دليل شامل للتثبيت والتحسين

GPT OSS هي أول سلسلة مفتوحة المصدر من نماذج GPT من OpenAI، مصممة لجعل القدرات اللغوية المتقدمة في متناول الجميع. وهي متوفرة بحجمين: GPT OSS 120B (حوالي 117 مليار معلمة) وGPT OSS 20B (21 مليار معلمة). على عكس نماذج OpenAI السابقة، يقدم GPT OSS أوزانًا مفتوحة بموجب ترخيص متساهل، مما يسمح لك بتنزيل النموذج وتشغيله على أجهزتك الخاصة.

سيقدم لك هذا الدليل أساسيات GPT OSS، ويسلط الضوء على تحسيناته ومتطلباته، ويرشدك خلال كيفية استخدامه عمليًا.

البدء مع GPT OSS: دليل المبتدئين

بنية GPT OSS

• تقنية MoE مع التفعيل المتفرق للاستدلال الفعال
• بنية Transformer ذاتية الانحدار + MoE
• RoPE (ترميز الموقع الدوراني)
• تبديل الانتباه العالمي والمحلي النافذة لدعم التسلسلات الطويلة
• محلل الرموز o200k_harmony، متوافق مع OpenAI Responses API
• توافق مباشر مع واجهات نموذج OpenAI

عالية الكفاءة وقابلة للتوسع

• باستخدام MoE مع التفعيل المتفرق وبنية Transformer، يمكن للنماذج التعامل مع عدد هائل من المعلمات مع الاستمرار في العمل بسرعة وكفاءة. هذا يسهل توسيع حجم النموذج دون زيادة كبيرة في موارد الحوسبة.

قادرة على معالجة سياقات طويلة جدًا

• مع دعم يصل إلى 128 ألف رمز، و RoPE لترميز المواقع، ومزيج من الانتباه العالمي والمحلي، يمكن للنماذج معالجة نصوص أو محادثات أطول بكثير من معظم النماذج الأخرى. هذا مفيد بشكل خاص للمستندات الطويلة أو الحوار متعدد الأدوار.

سهلة التكامل والاستخدام

• يعني محلل الرموز o200k_harmony والتوافق المباشر مع APIs OpenAI أنه يمكن استخدام هذه النماذج كبدائل مباشرة في سير عمل OpenAI الحالي. هذا يخفض الحاجز أمام المطورين لتبني ونشر النماذج.

متطلبات نظام GPT OSS

النموذج	الطبقات	إجمالي المعلمات	المعلمات النشطة لكل رمز	إجمالي الخبراء	الخبراء النشطين لكل رمز	طول السياق	متطلبات VRAM لبطاقة رسوميات واحدة
gpt-oss-120b	36	117B	5.1B	128	4	128k	80GB
gpt-oss-20b	24	21B	3.6B	32	4	128k	16GB

تدريب GPT OSS

1. جودة البيانات والتغطية

• الحجم: تم التدريب على تريليونات الرموز من مجموعات نصوص ضخمة.
• تركيز المحتوى: يشمل المعرفة المتخصصة (STEM، كود البرمجة) والمعرفة العامة.
• تصفية الأمان: تصفية صارمة للمحتوى الضار والحساس، خاصةً السلامة الحيوية.

القوة:
يجمع بين المعرفة العامة الواسعة والخبرة العميقة في المجالات التقنية، مع الحفاظ على أمان وموثوقية عالية للبيانات.

2. عملية التدريب والحوسبة

• الاستثمار الحاسوبي:

  • GPT-OSS-120B: حوالي 2.1 مليون ساعة GPU H100 (يمكن مقارنته بأفضل النماذج الخاصة)
  • GPT-OSS-20B: حوالي سدس ذلك

• الهندسة: Transformer ذاتي الانحدار + MoE

القوة:
تضمن الحوسبة الضخمة أداءً حديثًا ومتانة النموذج.

3. ما بعد التدريب والمواءمة

• الضبط الدقيق:

  • الضبط الدقيق بالإشراف على التعليمات
  • مرحلة التعلم التعزيزي عالية الحوسبة

• تقنيات المواءمة:

  • التعلم التعزيزي لسلسلة الأفكار (CoT)
  • مواءمة صارمة مع معايير السلامة والأخلاق

القوة:
يتيح الاستدلال التدريجي المتقدم، وحل المشكلات المعقدة، والمواءمة القوية مع إرشادات السلامة.

4. المرونة والعملية

• أنماط الاستدلال: يدعم جهد استدلال منخفض ومتوسط وعالي، يمكن تهيئته من قبل المطورين لتحقيق التوازن بين الدقة وزمن الوصول والتكلفة.

القوة:
يوفر مرونة عملية لحالات استخدام مختلفة وميزانيات حوسبة مختلفة.

تحسينات GPT OSS

الاختلافات بين GPT OSS وGPT 4

GPT-OSS، وخاصة النموذج 120B، يُظهر قدرات قوية في الاستدلال والمعرفة العلمية والبرمجة، مقتربًا من النماذج الكبيرة الرئيسية. ومع ذلك، لا يزال GPT-4 (o4-mini) في الصدارة في جميع المعايير الرئيسية، بما في ذلك الاستدلال العام والاستدلال العلمي ومهام التحديات المتقدمة وتوليد الكود. GPT-OSS تنافسي ومناسب للسيناريوهات الصعبة، لكن GPT-4 يظل الأفضل من حيث الدقة والشمولية.

أين يمكنني تنزيل GPT OSS؟

متطلبات GPT OSS

تقنيات التسريع واستخدام الموارد

طرق تنزيل GPT OSS

الطريقة	المزايا	الأجهزة	الاستخدام النموذجي
Transformers	رسمي، مرن، مجتمع كبير	جميع وحدات GPU الرئيسية	الاستدلال المحلي، الضبط الدقيق
Llama.cpp	خفيف، متعدد المنصات، سريع	CUDA/Metal/Vulkan	نشر الحافة/المستهلك/الخفيف
vLLM	إنتاجية عالية، محسن	يفضل Hopper	خوادم الاستدلال، APIs قابلة للتوسع
transformers serve	خادم API بأمر واحد	أي	النماذج المحلية API/الاختبار
torchrun/accelerate	استدلال موزع/متعدد GPU	متعدد GPU	استدلال/تدريب النماذج الكبيرة

1. استخدام Transformers

يعمل على معظم وحدات GPU، خاصة Hopper/Blackwell (H100/H200/GB200/50xx).

التثبيت

pip install --upgrade accelerate transformers kernels
# (اختياري) لـ PyTorch 2.8 مع Triton 3.4:
pip install torch==2.8.0 --index-url https://download.pytorch.org/whl/test/cu128
pip install git+https://github.com/triton-lang/triton.git@main#subdirectory=python/triton_kernels

مثال أساسي للاستدلال

from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "openai/gpt-oss-20b"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    device_map="auto",
    torch_dtype="auto",
)

messages = [{"role": "user", "content": "How many rs are in the word 'strawberry'?"}]
inputs = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, return_tensors="pt", return_dict=True
).to(model.device)
generated = model.generate(**inputs, max_new_tokens=100)
print(tokenizer.decode(generated[0][inputs["input_ids"].shape[-1]:]))

التحسينات المدعومة

• mxfp4 + Triton 3.4 (للوحدات Hopper/Blackwell GPU: الأسرع والأقل استهلاكًا للذاكرة)
• Flash Attention 3 (لوحدات Hopper GPU، باستخدام attn_implementation="kernels-community/vllm-flash-attn3")
• MegaBlocks MoE kernels (للوحدات غير Hopper/Blackwell CUDA أو AMD، باستخدام use_kernels=True، استهلاك ذاكرة أكبر من mxfp4)

2. Llama.cpp

• دعم أصلي لـ mxfp4 + Flash Attention.
• متعدد المنصات: Metal، CUDA، Vulkan.
• تثبيت سهل:
  • macOS: brew install llama.cpp
  • Windows: winget install llama.cpp
• موصى به: استخدم مع llama-server

llama-server -hf ggml-org/gpt-oss-120b-GGUF -c 0 -fa --jinja --reasoning-format none
# ثم الوصول إلى http://localhost:8080 في المتصفح

3. vLLM (محرك استدلال محسن)

• يدعم Flash Attention 3 (Sink Attention)، أفضل على وحدات Hopper GPU.
• الاستخدام في Python:

from vllm import LLM llm = LLM("openai/gpt-oss-120b", tensor_parallel_size=2) output = llm.generate("San Francisco is a")

أين يمكنني تشغيل GPT OSS عبر API؟

توفر Novita AI APIs لنموذج GPT-OSS 120B
بسياق 131K وبتكلفة $0.1/الإدخال و**$0.5/الإخراج**. توفر Novita AI أيضًا نموذج GPT-OSS 20B بسياق 131 وبتكلفة $0.05/الإدخال و**$0.2/الإخراج**، مما يوفر دعمًا قويًا لتعظيم إمكانات وكيل كود GPT OSS.

Novita AI

الخطوة 1: تسجيل الدخول والوصول إلى مكتبة النماذج

سجل الدخول إلى حسابك وانقر على زر مكتبة النماذج.

جرب GPT OSS الآن!

الخطوة 2: اختر نموذجك

تصفح الخيارات المتاحة واختر النموذج الذي يناسب احتياجاتك.

الخطوة 3: ابدأ نسختك التجريبية المجانية

ابدأ نسختك التجريبية المجانية لاستكشاف إمكانيات النموذج المحدد.

الخطوة 4: احصل على مفتاح API الخاص بك

للمصادقة مع API، سنقدم لك مفتاح API جديد. أدخل صفحة الإعدادات، يمكنك نسخ مفتاح API كما هو موضح في الصورة.

الخطوة 5: تثبيت API

قم بتثبيت API باستخدام مدير الحزم الخاص بلغة البرمجة الخاصة بك.

بعد التثبيت، استورد المكتبات اللازمة في بيئة التطوير الخاصة بك. قم بتهيئة API باستخدام مفتاح API الخاص بك لبدء التفاعل مع Novita AI LLM. هذا مثال على استخدام API لإكمال الدردشة لمستخدمي Python.

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="",
)

model = "openai/gpt-oss-120b"
stream = True # or False
max_tokens = 65536
system_content = ""Be a helpful assistant""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)
  
  

كيفية اختيار قالب الدردشة المناسب مع GPT-OSS

1. محادثة عادية أو أسئلة وأجوبة – إظهار النتيجة النهائية فقط للمستخدمين

السيناريو:
أنت تبني روبوت محادثة وتريد فقط أن يرى المستخدمون الإجابة النهائية.
على سبيل المثال: “ما هو الطقس في شنغهاي غدًا؟” أو “اكتب لي طلب إجازة.”

الممارسة الموصى بها:

• اعرض فقط المحتوى بعد <|channel|>final<|message|> للمستخدم.
• لا تُظهر بتاتًا استدلال النموذج أو تحليله للمستخدمين.

2. التصحيح أو فهم استدلال النموذج

السيناريو:
أنت مطور وتريد رؤية كيف يصل النموذج إلى إجاباته خطوة بخطوة.
أو تعمل على هندسة المطالبات وتريد فحص سلسلة أفكار النموذج.

الممارسة الموصى بها:

• اطبع أو سجل المحتوى من <|channel|>analysis<|message|> لنفسك أو لفريق التطوير الخاص بك.
• مع ذلك، في واجهة المستخدم، اعرض الإجابة النهائية فقط.

3. تدريب النموذج أو ضبطه الدقيق

السيناريو:
أنت تعد بيانات تدريب وتريد أن يتعلم النموذج كلاً من عملية الاستدلال والإجابة النهائية.
تأمل أن يولد النموذج سلسلة أفكار خاصة به في المستقبل.

الممارسة الموصى بها:

• في عينات التدريب الخاصة بك، قم بتضمين سلسلة الأفكار فقط لآخر دور للمساعد؛ ولا تضف استدلالًا إلى كل دور.
• استخدم البنية {"thinking": "...", "content": "..."} وتأكد من أن رسالة المساعد الأخيرة فقط تتضمن حقل thinking.

4. عندما تكون هناك استدعاءات أدوات أو إضافات خارجية

السيناريو:
أنت تبني روبوتًا (مع GPT OSS) يمكنه استدعاء أدوات خارجية، مثل التحقق من الطقس أو أسعار الأسهم.
تحتاج عملية استدعاء الأداة إلى استخدام تحليل النموذج لتعمل بشكل صحيح.

الممارسة الموصى بها:

• مرر محتوى <|channel|>analysis<|message|> إلى وحدة معالجة الأدوات أو التنسيق الخاصة بك لاتخاذ القرارات.
• يجب أن يرى المستخدم الإجابة النهائية فقط، لكن التحليل يُستخدم في العملية الخلفية.

5. تحكم صارم في الدور أو الوقت أو القدرة

السيناريو:
تريد أن تتضمن كل محادثة معلومات النظام، مثل هوية النموذج أو التاريخ أو قوة الاستدلال.
على سبيل المثال، عند نشر مساعد مؤسسة أو روبوت اختبار.

الممارسة الموصى بها:

• في بداية الدردشة، استخدم أدوار "system" أو "developer" لتوفير السياق، أو قم بتعيينها عبر معلمات قالب الدردشة مثل model_identity أو reasoning_effort.

بفضل بنية MoE المتقدمة، ودعم السياقات الطويلة جدًا، والتوافق السلس مع APIs OpenAI، فإن GPT OSS سهل التكامل وعالي الأداء. سواء كنت تجري أبحاثًا، أو تبني روبوتات محادثة، أو تطور أدوات وعوامل متقدمة، فإن GPT OSS يقدم معيارًا جديدًا لنماذج اللغة الكبيرة المفتوحة والقابلة للتوسع والآمنة.

الأسئلة المتداولة

ما هي الميزات الرئيسية لـ GPT OSS؟

مفتوح المصدر وأوزان مفتوحة: قم بالتنزيل والتشغيل على أجهزتك الخاصة.
حجمان للنموذج: 120B (~117B معلمة، 80GB VRAM) و20B (~21B معلمة، 16GB VRAM).
بنية حديثة: MoE متفرق، سياق طويل (حتى 128 ألف رمز)، انتباه عالمي/محلي، RoPE.
توافق API: يعمل كبديل مباشر لـ API من OpenAI.

ما هي متطلبات الأجهزة؟

GPT OSS 120B: 80GB VRAM GPU (موصى به H100, H200, GB200).
GPT OSS 20B: 16GB VRAM GPU.

كيف يمكنني الوصول إلى GPT OSS عبر API؟

توفر Novita AI وصولًا عبر API لكل من نموذجي 120B و20B مع نوافذ سياق سخية وأسعار معقولة.
فقط قم بالتسجيل، واحصل على مفتاح API الخاص بك، واستخدم نقطة النهاية المتوافقة مع OpenAI.

Novita AI هي منصة سحابية للذكاء الاصطناعي تقدم للمطورين طريقة سهلة لنشر نماذج الذكاء الاصطناعي باستخدام API البسيط الخاص بنا، مع توفير سحابة GPU ميسورة التكلفة وموثوقة للبناء والتوسع.

قراءات موصى بها

• Novita Kimi K2 API يدعم استدعاء الوظائف الآن!
• Qwen 2.5 72b مقابل Llama 3.3 70b: أي نموذج يناسب احتياجاتك؟
• الوصول إلى Kimi K2: افتح Claude Code الأرخص وتكامل MCP، والمزيد!