DeepInfer مفتوح المصدر، لكن خدمة API ما زالت تحتاج إلى الربط
الخادم الذي يجيب «Hello world!» قد يثبت عمل تنسيق الرد دون أن يثبت تشغيل نموذج. هذه نقطة مفيدة في إصدار DeepSeek: خادم deepseek-recipe التجريبي يستخدم استدلالاً محاكًى صراحة، بينما المحرك الحقيقي هو DeepInfer. ربط الاثنين في خدمة موثوقة ما زال عملاً هندسياً.
أعلنت DeepSeek عن DeepInfer في20 أكتوبر باعتباره أساس خدمة V4.1-Flash واسعة النطاق. لكن الإصدار العام يقدم استدلالاً دون اتصال ويحدد مكونات الخدمة غير المشمولة. مكتبات البروتوكول تجعل الحدود قابلة للفحص ولا تلغيها. قرأنا نسخاً ثابتة دون بناء بيئة المسرعات أو تشغيل الأوزان أو تكرار قياسات الأداء. الخبر هو إتاحة قرارات التنفيذ، لا إثبات خفض تكلفة تطبيقنا.
المحرك العام يتوقف قبل الخدمة الكاملة
الدعم يشمل V4.1-Flash وNVIDIA SM100 وHuawei Ascend 950، مع Linux وPython 3.12 وإصدارات CUDA أو CANN المناسبة. ليس مشغلاً عاماً لأي أجهزة موجودة لدى فريق صغير.
تشمل النواقص نظام ذاكرة KV، وفصل الترميز البصري ومرحلة معالجة المدخلات ومرحلة التوليد، وتوزيع الحمل بين النسخ المتوازية. تحفظ KV حالات الانتباه السابقة؛ تعالج مرحلة التمهيد الإدخال، ثم ينتج فك الترميز الرموز التالية. الفصل يسمح بتوزيع موارد مختلف. كثير من وظائف المحرك اللازمة موجود، لكن تركيب الخدمة الكامل غير مرفق.
تخيل فريقاً يستدعي واجهة خارجية. نجاح مهمة دون اتصال يثبت إتمام توليد واحد على إعداد محدد، ولا يحسم التزامن أو الإلغاء أو موضع الذاكرة أو التوافر عند تعطل عامل. تستطيع فرق البنية دراسة الشفرة، وفرق التطبيقات سؤال المزود بدقة أكبر. الوصول إلى الكود والقدرة على التشغيل مرحلتان منفصلتان ومفيدتان.
الإنتاجية تتوقف على طريقة حساب رموز المسودة
يقترح فك الترميز التخميني رموزاً ثم يتحقق مما سيُقبل. تفصل وثائق الأمثلة بين إنتاجية التمهيد وخطوات التوليد في الثانية وعدد الرموز. تفترض إحدى طرق الحساب قبول جميع المقترحات. اقتراح عدة رموز لا يعني إخراجها كلها.
تستخدم شفرة الرسم العلاقة 1 + nextn × draft_acceptance للمسودة ثابتة الطول. تتحول نسبة القبول المدخلة إلى مساهمة مفترضة. يُستبعد الطول المتغير من هذا المسار لأن سرعة خطواته تتضمن القبول بالفعل؛ إعادة الضرب تحسب الأثر مرتين.
التقدير المشروط، والرموز المقبولة فعلياً، والزمن حتى جواب مفيد، مقاييس مختلفة. سجّل طول الإدخال والبادئة المخزنة والدفعة ونمط المسودة. تستخدم الرسوم الرئيسية أربع وحدات SM100 للتمهيد و64 للتوليد، كل منهما داخل نطاق توسع واحد. لا تعد بتحقيق المنحنيين بأربع وحدات. السكربتات مسار للتكرار، وليست نتائج اختبار أجريناه.
يجب أن يحسب التطبيق الإجابات المقبولة المكتملة أيضاً. قد يطيل تدفق سريع يعاد بسبب أخطاء تنسيق الأدوات انتظار المستخدم. سلوك الموارد ونتيجة المنتج يحتاجان قياسين منفصلين.
قابلية التكرار إعداد متكامل وليست بذرة فقط
يسعى الاستدلال غير المتأثر بالدفعة على NVIDIA إلى حفظ النتيجة عند تغير الطلبات المجاورة. يضيف أخذ العينات الحتمي بذرة تسلسل ثابتة وتعطيل MTP متغير الطول. إنها مجموعة إعدادات وليست ضماناً عاماً بمجرد إضافة بذرة.
لحصر التراجع، احفظ النموذج ونسخة المحرك والمدخل المرمّز وإعدادات العينة والتنفيذ. مقارنة نص الطلب وحده قد تفوّت أثر طلب آخر في الدفعة.
الخطأ القابل للتكرار يبقى خطأ، وقد يحوي مخطط صحيح حقائق خاطئة. يجمع المثال المنظم طلبات قصص حرة بقيود تعبير نمطي وJSON وقواعد لغوية. يختبر الشكل، لا حقيقة مهمة تجارية مستقبلية. افصل سلوك الخلفية وتحليل العميل والفائدة لتحديد سبب الفشل.
تحويل البروتوكول لا يشغل النموذج أو الأدوات
يصف دليل recipe مكتبات Rust وروابط Python التي تحول الطلبات إلى تمثيل محادثة مشترك، وتنسق المدخلات وتحلل المخرجات. يوفر المستدعي الاستدلال وتنفيذ الأدوات ونقل HTTP.
تختار المكتبة قيود المخرجات، لكن المستدعي يقرر هل يفرضها المحرك بفك ترميز مقيد. كتابة مخطط JSON داخل النص لا تربط هذه الآلية تلقائياً. تشابه الحقول قد يخفي فقد المعنى.
مساعد مواعيد افتراضي لا يحجز موعداً بتحويل تعريف أداة أو تحليل استدعاء. التطبيق يفحص المعطيات ويستدعي نظام الحجز ويرجع النتيجة إلى المحادثة. هذا توضيح للأدوار وليس تكاملاً اختبرناه. أثناء الترحيل، قارن إعدادات التفكير وسبب التوقف وفرض المخطط أيضاً. نجاح جواب نصي عادي لا يثبت هذه السلوكيات.
قد يظل التدفق المقنع محاكاة
يحول دليل التدفق أجزاء استدلال محاكاة إلى أجزاء بروتوكول. تعالج واجهة Python الأجزاء ثم تنهي معالجة الرد. يمكن بذلك فحص المحول دون عنقود حوسبة.
يقدم خادم Rust ثلاثة تنسيقات وJSON وSSE، لكنه يعيد تحية محاكاة بلا أوزان. لا توجد مصادقة، وجلب الصور لا يستبعد العناوين الخاصة؛ تقصر الوثائق المثال على العنوان المحلي. هذا نطاق المثال، لا دليل حادث في خدمة DeepSeek المستضافة.
وصول الأحداث إلى المتصفح يثبت المسار المستخدم فقط. يجب أن تطابق الأحداث والاستهلاك والنهاية استدلالاً حقيقياً. إيقاف الحساب بعد انقطاع الاتصال يختلف عن إيقاف عرض الرموز. وإذا ضاع رد حجز، تحقق من الحالة الخارجية قبل إعادة الفعل: تحليل الاستدعاء والحجز المكتمل حدثان مختلفان لا يحسمهما المحول وحده.
قسّم الفحص الأول إلى تجارب مستقلة
يفصل دليل التقييم التوليد عن منح الدرجات ويحفظ المخرجات الخام، ما يتيح تغيير الحكم دون إعادة التوليد. تتطلب Pass@1 تغطية كاملة. الحكم النموذجي قد يكون عشوائياً بخلاف قواعد الاستخراج الثابتة؛ يدعم HLE الحكم النموذجي فقط. تكرار فك الترميز لا يجعل نموذج التقييم الآخر حتمياً.
مع الأجهزة المناسبة، أنشئ خطاً أساسياً دون اتصال واحفظ إعداداته، ثم افحص البروتوكول منفصلاً. يستطيع من يقيّم مزوداً طلب الأدلة نفسها دون ادعاء تشغيل العنقود.
| التجربة | الدليل المناسب |
|---|---|
| المحرك | مخرجات حقيقية مع الأجهزة والأوزان والنسخة |
| الإنتاجية | الإدخال والذاكرة والدفعة والمسودة وطريقة العد |
| البروتوكول | المعنى والقيود ونهاية التدفق والاستهلاك |
| التطبيق | النتيجة الخارجية بعد الانقطاع أو الإعادة أيضاً |
يبدأ مطورو NxCode بتحديد الأسئلة التي يملكون مسؤوليتها. لا يحتاج عميل API إلى إعادة بناء المزود كله، ولا يستطيع فريق الاستضافة الذاتية تجاوز الخدمة بعد نجاح مثال منفرد. يفتح DeepInfer وrecipe حدوداً مختلفة. أساس الاعتماد هو ربط محرك حقيقي بسلوك خدمة حقيقي، لا استخدام تحية محاكاة دليلاً على الاثنين.
