نموذج LLaMA 3 ذو النافذة السياقية البالغة 256k، يُظهر قدرات مذهلة في توليد الرموز البرمجية. على الرغم من أنه النسخة الأصغر ذات 8 مليار معلمة، إلا أنه تمكن من توليد لعبة الثعبان البسيطة بسرعة في Python. ومع ذلك، لم تكن جودة الرموز المولدة خالية من المشكلات، حيث واجهت بعض الأخطاء التي تطلبت التصحيح.

عند اختبار قدرة النموذج على حل مسألة رياضية كلامية، واجه صعوبة في تقديم الحل الصحيح، مما يسلط الضوء على الحاجة إلى المزيد من الضبط الدقيق أو التحسينات في قدرات استدلال النموذج.

النقطة البارزة الحقيقية لهذا النموذج LLaMA 3 هي طبيعته غير المحجوبة. عند مطالبته بأسئلة حول الأنشطة غير القانونية، قدم النموذج تعليمات مفصلة خطوة بخطوة دون تردد. هذا يؤكد على أهمية التطوير والنشر المسؤول لنماذج اللغة القوية كهذه.

بينما لم تثبت نافذة السياق البالغة 256k نجاحها في اختبار "إبرة في كومة قش"، يلمح المؤلف إلى فيديو قادم يتضمن نموذج Gradient LLaMA 3 Instruct ذو النافذة السياقية الضخمة البالغة مليون رمز. هذا يعد استكشافًا مثيرًا لقدرات نماذج اللغة الكبيرة ذات السياق الموسع.