يُعد Codestral Mamba نموذج لغة كبير جديد تم إصداره بواسطة Mistol AI، ويتميز بأكثر من 7 مليارات معلمة. هذا النموذج المركز على البرمجة مبني على معمارية Mamba ومتاح بموجب ترخيص Patchy 2.0، مما يسمح باستخدامه تجاريًا.

إحدى الميزات الرئيسية لـ Codestral Mamba هي نافذة السياق الكبيرة التي تبلغ 256 ألف رمز، وهي أكبر بكثير من نموذج Mistol البالغ 7 مليارات معلمة. هذا يسمح بإجراء استنتاجات أسرع على مهام السياق الأكبر، مما يجعله أداة قوية للتطبيقات المتعلقة بالبرمجة.

بينما قد لا تتطابق النماذج الأصغر مثل نموذج Mistol البالغ 7 مليارات معلمة مع أداء النماذج الأكبر، فإن Codestral Mamba يوفر سرعات استنتاج أسرع وتكاليف حوسبة أقل. في مقاييس تقييم الأداء البشري، حصل Codestral Mamba على 75%، متفوقًا على نماذج أكبر مثل GPT-4 Omni.

كما أصدرت Mistol AI نموذجًا آخر، وهو نموذج Mistol البالغ 7 مليارات معلمة، والذي يُعد حاليًا أفضل نموذج مفتوح المصدر قائم على الرياضيات. كما يحقق نموذج Codestral Mamba البالغ 7 مليارات معلمة أحد أفضل النتائج بين النماذج في نطاقه.

بعد إصدار عائلة Mistol، يمثل Codestral Mamba خطوة أخرى في جهودهم لاستكشاف وتوفير معمارية جديدة. إنه عائلة جديدة تركز أكثر على جوانب البرمجة وهي متاحة مجانًا، مما يتيح لك تعديلها وتوزيعها. تم تصميم هذا النموذج بمساعدة Albert Goo و TR da، ويختلف عن نماذج Transformer من خلال توفير استنتاج بوقت خطي والقدرة على نمذجة المحتوى المتسلسل وغير المحدود، مما يجعله أكثر كفاءة للمشاركة المكثفة للمستخدم واستجابات أسرع.

تم تدريب نموذج Codestral Mamba على قدرات برمجية ومنطقية متقدمة، مما يسمح له بالأداء على قدم المساواة مع أحدث نماذج Transformer. من حيث مقاييس الأداء، يتفوق هذا النموذج البالغ 7 مليارات معلمة على نماذج مثل Codegamma و Codelama 7B و DeepSeed الإصدار 1.5 7B في معظم المعايير المرجعية. على الرغم من أنه قد لا يتفوق على النموذج الأكبر البالغ 22 مليار معلمة، إلا أنه قريب نسبيًا وحتى يؤدي بشكل جيد مقارنة بنموذج Codelama البالغ 34 مليار معلمة من Meta AI.

إحدى الميزات البارزة لـ Codestral Mamba هي قدرته على التعامل مع نوافذ سياق تصل إلى 256 ألف رمز، مما يجعله فعالًا للغاية كمساعد برمجي محلي. يمكنك نشر Codestral Mamba باستخدام منصات مختلفة، بما في ذلك SDK الاستنتاج من Mistol وTensorRT للغات البرمجية الكبيرة من NVIDIA والدعم القادم لـ LLaMA CPP. بالإضافة إلى ذلك، يمكنك تنزيل الأوزان الخام من Hugging Face.

هناك عدة طرق للوصول إلى استخدام نموذج Codestral Mamba:

1. منصة Mistol AI: يمكنك طلب الوصول إلى نموذج Codestral Mamba من خلال منصة Mistol AI. بعد التحقق من رقم هاتفك، ستتمكن من الوصول إلى مفتاح API واستخدام النموذج بطرق مختلفة.

2. دردشة Mistol AI: واجهة دردشة Mistol AI تتيح لك الوصول إلى جميع نماذجهم، بما في ذلك نموذج Codestral Mamba. خلال 24 ساعة القادمة، ستتمكن من تحديد نموذج Codestral Mamba والبدء في الدردشة معه.

3. التثبيت المحلي: لتثبيت نموذج Codestral Mamba محليًا، يمكنك استخدام أدوات مثل LLM Studio. يجعل LLM Studio من السهل تشغيل نماذج اللغة الكبيرة مفتوحة المصدر محليًا. بمجرد التثبيت، يمكنك تحميل نموذج Codestral Mamba والبدء في التفاعل معه في واجهة الدردشة.

4. SDK الاستنتاج من Mistol: توفر Mistol AI SDK استنتاج يمكنك استخدامه لنشر نموذج Codestral Mamba. يعتمد هذا SDK على التنفيذ المرجعي من مستودعهم على GitHub.

5. NVIDIA Tensor RT: يمكنك أيضًا نشر نموذج Codestral Mamba باستخدام NVIDIA's Tensor RT للغات البرمجية الكبيرة.

6. LLaMA CPP: أصدرت Mistol AI مؤخرًا دعمًا لـ LLaMA CPP، مما يتيح لك استخدام الأوزان الخام لنموذج Codestral Mamba والتي يمكن تنزيلها من Hugging Face.

يمثل نموذج Cod Strol Mamba تقدمًا كبيرًا في مجال نماذج اللغة الكبيرة، خاصة في مجال قدرات البرمجة والاستدلال. بمعلماته البالغة 7 مليارات، يتفوق النموذج على العديد من نظرائه الأصغر في مختلف المعايير المرجعية، مما يُظهر أداءه المвпечатляющ.

إحدى أبرز ملامح Cod Strol Mamba هي قدرته على التعامل مع المشاركة المكثفة للمستخدم وتوفير استجابات أسرع، وذلك بفضل استنتاجه الخطي والقدرة على نمذجة المحتوى المتسلسل وغير المحدود. هذا يجعله خيارًا ممتازًا للتطبيقات التي تتطلب معالجة لغوية فعالة وسريعة، مثل أدوات إنتاجية البرمجة والمساعدين البرمجيين المحليين.

توفر إتاحة النموذج بموجب ترخيص Pachi 2.0، والذي يسمح باستخدامه تجاريًا، مزيدًا من إمكانية الوصول والإمكانات للتطبيقات الحقيقية. بالإضافة إلى ذلك، توفر خيارات النشر المختلفة، بما في ذلك SDK الاستنتاج من Mistol وTensorRT من NVIDIA والدعم القادم لـ llama-cpp، للمطورين مرونة في دمج Cod Strol Mamba في مشاريعهم.

بشكل عام، يُعد Cod Strol Mamba إضافة واعدة إلى عائلة Mistol AI، حيث يقدم نهجًا معماريًا جديدًا يركز على قدرات البرمجة والاستدلال. مع زيادة توفر النموذج، سيكون من المثير مشاهدة كيف سيتم الاستفادة منه من قبل المطورين والباحثين لدفع حدود التطبيقات القائمة على اللغة.