الخلاصة
- إنفيديا أصدرت نسخة مضغوطة من نموذج Nemotron 3.5 Lightning بحجم 22 غيغابايت بدلاً من 66 غيغابايت للنسخة الأصلية
- النسخة الجديدة تحقق سرعة معالجة أعلى بأربعة أضعاف تقريبًا مع الحفاظ على دقة قريبة من النموذج الأصلي
- إنفيديا اعتمدت تقنية التقطير الواعي بالضغط لاستعادة الدقة المفقودة، ما يتيح تشغيل نماذج ضخمة على عتاد أقل تكلفة
خبر:
نشرت إنفيديا نسخة مضغوطة من نموذجها Nemotron 3.5 Lightning بصيغة NVFP4 بحجم 22 غيغابايت مقابل 66 غيغابايت للنسخة الأصلية، محققة -بحسب الشركة- سرعة معالجة أعلى بنحو 4 أضعاف عبر تقنية “التقطير الواعي بالضغط” التي تحافظ على دقة قريبة من 99%.
تفصيل:
- الآلية: تعتمد التقنية على مرحلتين، ضغط أولي للنموذج ثم تدريبه ليقلّد إجابات النسخة الكاملة عبر دالة خسارة تُعرف بـ”تباعد كولباك-لايبلر”.
- الأرقام: في اختبار داخلي، رفعت هذه التقنية معدل استعادة الدقة من 96.33% بالضغط التقليدي إلى 99.72% بعد التدريب الإضافي.
- الفائدة العملية: النموذج المضغوط سجّل تحسنًا في اختبارات الترميز والمهام الوكيلة المعقدة، من بينها اختبار Terminal-Bench بارتفاع 3.79 نقطة.
- الإتاحة: النسخة النهائية من النموذج المضغوط نُشرت على منصة هاغينغ فيس للمطورين، ووثّقت إنفيديا خطوات إعادة إنتاجها بالكامل.
ماذا بعد؟
الفريق يتيح الوصفة الكاملة عبر أداة NVIDIA Model Optimizer لتطبيقها على نماذج أخرى، فيما يترقب المطورون تعميم هذه التقنية على نماذج نيمترون المقبلة وتقييم أدائها في بيئات إنتاج فعلية خلال الأشهر المقبلة.
