للبدء باستخدام Llama-3 ضمن LocalGPT، اتبع هذه الخطوات:

1. استنسخ مستودع LocalGPT عن طريق النقر على الزر "Code" ونسخ الرابط. افتح طرفية، انتقل إلى الدليل المرغوب، وقم بتشغيل git clone <الرابط>.

2. أنشئ مجلدًا مخصصًا لنموذج Llama-3، على سبيل المثال local-gpt-llama3.

3. انتقل إلى الدلير الجديد المنشأ باستخدام cd local-gpt-llama3.

4. أنشئ بيئة افتراضية باستخدام conda create -n local-three python=3.10 وقم بتنشيطها بـ conda activate local-three.

5. قم بتثبيت الحزم المطلوبة عن طريق تشغيل pip install -r requirements.txt. سيقوم هذا بتنزيل جميع الحزم الضرورية، باستثناء حزمة Llama CPP.

6. اعتمادًا على جهازك (بطاقة رسومات Nvidia أو Apple Silicon)، قم بتثبيت حزمة Llama CPP المناسبة باستخدام الأوامر المقدمة.

7. افتح المشروع في Visual Studio Code وقم بتنشيط البيئة الافتراضية في الطرفية.

8. قم بتعديل ملف constants.py لتحديد النموذج الذي تريد استخدامه. بالنسبة لنموذج Llama-3 غير المكمم من Meta، قدم معرف النموذج واترك الاسم الأساسي كـ None.

9. إذا كنت تستخدم نموذج Llama-3 المغلق من Meta، فستحتاج إلى تسجيل الدخول إلى حساب Hugging Face الخاص بك باستخدام واجهة سطر الأوامر Hugging Face. اتبع التعليمات للحصول على رمز الوصول وتسجيل الدخول.

10. قم بتشغيل البرنامج النصي ingest.py لاستيعاب المستند المثالي المقدم مع LocalGPT.

11. ابدأ جلسة الدردشة عن طريق تشغيل python run_local_gpt.py. سيتم تحميل النموذج، ويمكنك البدء في طرح الأسئلة المتعلقة بالمستند المستوعب.

12. استكشف خيارات قالب المطالبة في ملف prompt_template_utils.py وقم بتخصيص المطالبات حسب الحاجة.

ذلك هو! الآن أنت جاهز لاستخدام Llama-3 ضمن بيئة LocalGPT. استمتع بتجربة نموذج اللغة الآمنة والخاصة والمحلية.

أولاً، نحتاج إلى استنساخ المستودع. انقر على الزر "Code" وانسخ الرابط. ثم افتح طرفية وأدخل الأمر التالي لاستنساخ المستودع:

git clone <رابط_المستودع>

بعد ذلك، سنقوم بإنشاء مجلد مخصص لنموذج Lama 3. يمكنك تسميته "local-gpt" أو شيئًا مشابهًا:

mkdir local-gpt
cd local-gpt

الآن، نحتاج إلى إنشاء بيئة افتراضية لإدارة تبعيات المشروع. سنستخدم conda لهذا الغرض:

conda create -n local-3 python=3.10

سيقوم هذا بإنشاء بيئة افتراضية جديدة باسم "local-3" مع Python 3.10.

لتنشيط البيئة الافتراضية، قم بتشغيل:

conda activate local-3

يجب أن ترى الآن اسم البيئة الافتراضية في محث طرفيتك، مما يشير إلى أنها نشطة.

بعد ذلك، نحتاج إلى تثبيت الحزم المطلوبة. يمكننا القيام بذلك عن طريق تشغيل:

pip install -r requirements.txt

سيقوم هذا بتثبيت جميع الحزم الضرورية، باستثناء حزمة Lama CPP. اعتمادًا على ما إذا كنت تستخدم بطاقة رسومات Nvidia أو Apple Silicon، ستحتاج إلى تشغيل أمر مختلف لتثبيت Lama CPP:

بالنسبة لبطاقة رسومات Nvidia:

pip install git+https://github.com/ggerganov/llama.cpp.git

بالنسبة لـ Apple Silicon:

pip install git+https://github.com/ggerganov/llama.cpp.git@apple

بمجرد اكتمال التثبيت، ستكون جاهزًا لبدء استخدام مشروع GPT المحلي مع نموذج Lama 3.

للبدء باستخدام Lama 3 ضمن Local GPT، نحتاج أولاً إلى تثبيت الحزم المطلوبة. إليك كيفية القيام بذلك:

1. استنسخ مستودع Local GPT عن طريق النقر على الزر "Code" ونسخ الرابط. ثم افتح طرفية وقم بتشغيل الأمر التالي لاستنساخ المستودع:

   git clone <رابط_المستودع>
   

2. أنشئ مجلدًا مخصصًا لنموذج Lama 3 عن طريق التغيير إلى الدليل المنسوخ وإنشاء مجلد جديد:

   cd local-gpt
   mkdir lama3
   cd lama3
   

3. أنشئ بيئة افتراضية باستخدام conda وقم بتثبيت الحزم المطلوبة:

   conda create -n lama3 python=3.10
   conda activate lama3
   pip install -r requirements.txt
   

4. اعتمادًا على ما إذا كنت تستخدم بطاقة رسومات Nvidia أو Apple Silicon، قم بتثبيت حزمة Lama CPP المناسبة:

   • بالنسبة لبطاقة رسومات Nvidia:

     pip install git+https://github.com/ggerganov/llama.cpp.git
     

   • بالنسبة لـ Apple Silicon:

     pip install git+https://github.com/ggerganov/llama.cpp.git@apple
     

5. بمجرد اكتمال التثبيت، ستكون جاهزًا لبدء استخدام Lama 3 ضمن Local GPT.

لتكوين نموذج Llama-3 ضمن مشروع GPT المحلي، اتبع هذه الخطوات:

1. افتح ملف constants.py وحدد متغيري model_id و model_base_name.
2. إذا كنت تستخدم نموذجًا غير مكمم، فقم ببساطة بتوفير معرف النموذج، وهو عنوان مستودع Hugging Face. على سبيل المثال، إذا كنت تريد استخدام نموذج Llama-38B، فسيكون معرف النموذج "decapoda-research/llama-38b-hf".
3. إذا كنت تريد استخدام نموذج مكمم، فستحتاج أيضًا إلى توفير اسم ملف .ggf للمستوى المحدد من التكميم الذي تريد استخدامه. على سبيل المثال، "decapoda-research/llama-38b-hf-quantized-ggml-q4_0.ggf".
4. إذا كنت تستخدم إصدار Meta من نموذج Llama-3، فستحتاج إلى تسجيل الدخول إلى حساب Hugging Face Hub الخاص بك. يمكنك القيام بذلك عن طريق تشغيل الأمر التالي في طرفيتك:

   hugging-face-cli login
   

   ثم قم بتوفير رمز الوصول الخاص بك إلى Hugging Face عند المطالبة.
5. بمجرد تكوين النموذج، يمكنك المتابعة لاستيعاب الملفات وبدء الدردشة مع النموذج باستخدام مشروع GPT المحلي.

لاستيعاب الملفات وإعداد قاعدة المعرفة لـ GPT المحلي، اتبع هذه الخطوات:

1. قم بتنشيط البيئة الافتراضية التي أنشأتها سابقًا:

   conda activate local_3
   

2. قم بتشغيل البرنامج النصي ingest.py لاستيعاب الملفات:

   python ingest.py
   

   سيبدأ هذا عملية الاستيعاب وتقسيم المستندات إلى أجزاء. بشكل افتراضي، يستخدم نموذج التضمين "instructor-large"، ولكن يمكنك تغيير النموذج عن طريق تعديل ملف constants.py.

3. إذا كنت تستخدم نموذجًا مغلقًا مثل نموذج Meta Lama 3، فستحتاج إلى تسجيل الدخول إلى حساب Hugging Face الخاص بك باستخدام واجهة سطر الأوامر Hugging Face:

   hugging-face-cli login
   

   قم بتوفير رمز الوصول الخاص بك إلى Hugging Face عند المطالبة.

4. بمجرد اكتمال عملية الاستيعاب، يمكنك بدء الدردشة مع المستندات عن طريق تشغيل البرنامج النصي run_local_gpt.py:

   python run_local_gpt.py
   

   سيقوم هذا بتحميل النموذج وتمكينك من التفاعل مع قاعدة المعرفة.

5. إذا كنت تريد استخدام قالب مطالبة مختلف، يمكنك تعديل ملف prompt_template_utils.py. تم سرد قوالب المطالبة المتاحة في ملف run_local_gpt.py.

ذلك هو! الآن أنت جاهز لاستخدام GPT المحلي مع نموذج Lama 3 ومستنداتك المستوعبة.

لبدء الدردشة مع المستند باستخدام LocalGPT، اتبع هذه الخطوات:

1. قم بتنشيط البيئة الافتراضية التي أنشأتها سابقًا:

   conda activate local_3
   

2. قم بتشغيل الأمر python run_local_gpt.py لبدء واجهة الدردشة. سيقوم هذا بتحميل النموذج وإعداد المستند للتفاعل.

3. بمجرد تحميل النموذج، يمكنك البدء في طرح الأسئلة المتعلقة بالمستند. على سبيل المثال، يمكنك السؤال "ما هو التعليم التوجيهي؟" للحصول على معلومات حول هذا الموضوع من السياق المقدم.

4. سيقوم النموذج بتوليد استجابات استنادًا إلى محتوى المستند. ستكون الاستجابات موجزة وتتناول السؤال المطروح مباشرة.

5. يمكنك الاستمرار في طرح أسئلة مختلفة لاستكشاف محتوى المستند والحصول على رؤى من واجهة LocalGPT.

تذكر، يتم إجراء جميع المعالجة محليًا على جهازك، مما يضمن خصوصية وأمان بياناتك.

يتط