نموذج الهمس، الذي طوّره OpenAI، أثبت أنه أداة قوية لنسخ الكلام إلى نص. ومع ذلك، عند النظر إلى السرعة، فإن تنفيذ Groq API لنموذج الهمس يتفوق على OpenAI API بشكل كبير.

في اختبار السرعة باستخدام ملف صوتي مدته 30 دقيقة، أنهى Groq API النسخ في 24 ثانية فقط، بينما استغرق OpenAI API 67 ثانية. هذا يعني أن Groq API كان قادرًا على نسخ الصوت في ثلث الوقت الذي استغرقه OpenAI API.

الميزة الرئيسية لـ Groq API هي أجهزتها المتخصصة وبنيتها التحتية المحسّنة، مما يسمح لها بمعالجة البيانات الصوتية بسرعة أكبر بكثير من خدمات السحابة العامة التي تقدمها OpenAI. تصبح هذه الفرق في السرعة أكثر وضوحًا عند العمل مع ملفات صوتية أكبر، مما يجعل Groq API خيارًا مغريًا للتطبيقات الصوتية في الوقت الفعلي أو شبه الفوري.

من المهم ملاحظة أن Groq API لديه بعض القيود، مثل حدود المعدل، والتي ينبغي على المستخدمين أن يكونوا على دراية بها. بالإضافة إلى ذلك، تتطلب خدمة DeepGram للنص إلى الكلام المستخدمة في التنفيذ اشتراكًا مدفوعًا، على الرغم من أنها تقدم تجربة مجانية كريمة.

بشكل عام، يوفر مزيج Groq API لنسخ الهمس وخدمة DeepGram للنص إلى الكلام حلاً صوتيًا قويًا وفعالاً، مع إمكانية تحقيق أوقات استنتاج أسرع بكثير مقارنةً بالنهج المعتمد على OpenAI.

في هذا الفيديو، نستكشف مزيجًا قويًا من Groq و DeepGram لإنشاء مساعد دردشة صوتية فائق السرعة. من خلال الاستفادة من Whisper API من Groq لنسخ الصوت والنموذج Llama 3.8 مليار لتوليد النص، نحقق سرعة وكفاءة ملحوظة.

لتكميل ذلك، نستخدم قدرات النص إلى الكلام من DeepGram لإنشاء الإخراج الصوتي النهائي. ومع ذلك، واجهنا تحديًا حيث كانت استجابات Groq سريعة جدًا بحيث لم تتمكن عملية إنشاء الصوت من DeepGram من مواكبتها. لمعالجة هذا، اضطررنا إلى إدخال وقت تخزين مؤقت قبل إجراء المكالمة إلى DeepGram API، مما يضمن تطابق إخراج الصوت مع النص المولد.

يوفر هذا الإعداد زيادة كبيرة في الأداء مقارنةً بالتنفيذ السابق باستخدام خدمات OpenAI. إن نسخ Whisper على Groq أسرع بنحو ثلاث مرات من النظير الخاص بـ OpenAI، مما يجعله خيارًا مغريًا للملفات الصوتية الأكبر.

بينما يحتوي Groq API على بعض قيود معدل الحد، فإن الرصيد المجاني الذي توفره DeepGram يجعل هذا الحل سهل الوصول وفعال من حيث التكلفة. مع توسع بنية تحتية Groq، من المتوقع أن تتحسن هذه مشكلة قيود المعدل.

في الفيديو التالي، سنستكشف إصدارًا محليًا كاملاً لهذا المساعد الدردشة الصوتية، مع التجريب مع مجموعات نماذج مختلفة لتحقيق الأداء والمرونة المثلى. ابق على اطلاع على المزيد من التحديثات حول هذا المشروع المثير!

في هذا التنفيذ، واجهنا تحديًا مع DeepGram API للنص إلى الكلام. كانت استجابات Groq API سريعة جدًا بحيث كان الصوت المنشأ بواسطة DeepGram أقصر غالبًا من الاستجابة الفعلية، مما أدى إلى إخراج غير متزامن.

لمعالجة هذه المشكلة، اضطررنا إلى إدخال وقت تخزين مؤقت قبل إجراء المكالمة إلى DeepGram API. هذا السماح للنظام بالانتظار لمدة معينة قبل إنشاء الصوت النهائي، مما يضمن تطابق إخراج الصوت مع الاستجابة من نموذج اللغة. ومع ذلك، لم يكن تحديد وقت التخزين المؤقت المثالي أمرًا بسيطًا. اضطررنا إلى التجريب مع قيم مختلفة للعثور على التوازن الصحيح بين السرعة والتزامن. هذا مجال لا يزال يتطلب مزيدًا من البحث والضبط الدقيق.

يتضمن الكود وظيفة نوم قبل المكالمة إلى DeepGram API، ولكن قد يلزم تعديل المدة الزمنية بناءً على حالة الاستخدام المحددة وأداء الخدمات الأساسية. مع توسع بنية تحتية Groq، قد تصبح هذه المشكلة أقل بروزًا، ولكن حاليًا، هذا أمر يجب أخذه في الاعتبار عند استخدام هذا المزيج من الخدمات.

عند استخدام Groq Whisper API لنسخ الصوت، من المهم الأخذ في الاعتبار حدود المعدل المفروضة من قبل الخدمة. مع توسع البنية التحتية لـ Groq، قد تتحسن هذه حدود المعدل، ولكن حاليًا، يمكن أن تكون مصدر قلق، خاصةً إذا كنت تختبر النظام بشكل مكثف.

فيما يتعلق بـ DeepGram، خدمة النص إلى الكلام المستخدمة في التنفيذ، فهي خدمة مدفوعة. ومع ذلك، عند التسجيل، ستحصل على 200 دولار في رصيد الائتمان، والذي يمكن استخدامه لتجربة الخدمة مجانًا. هذه فرصة رائعة للتجريب مع النماذج الحديثة والقدرات عالية السرعة التي توفرها DeepGram دون تكبد تكاليف فورية.

تجدر الإشارة إلى أن Groq Whisper API مجاني للاستخدام حاليًا، ولكن الطلب المرتفع قد يؤدي إلى مشكلات في حدود المعدل. هذا أمر يجب أخذه في الاعتبار عند اختبار وتطبيق النظام. مع استمرار تطور المنصة، قد يتم معالجة هذه القيود، ولكن من الضروري التخطيط وفقًا لذلك والاستعداد لمعالجة أي تحديات تتعلق بحدود المعدل التي قد تنشأ.

في الفيديو التالي، أخطط لاستكشاف إمكانية استخدام النماذج المحلية لنظام مساعد الدردشة الصوتية. بينما يعتمد التنفيذ الحالي على سرعة وقدرات الخدمات السحابية مثل Groq و DeepGram، قد تكون هناك فوائد لاستخدام النماذج المحلية، مثل تحسين الخصوصية وانخفاض الإبطاء المحتمل.

لم أجد بعد المزيج الأمثل من النماذج المحلية، ولكن أنا أجرب بنشاط مع خيارات مختلفة. الهدف هو إنشاء إصدار محلي كامل لنظام مساعد الدردشة الصوتية، دون الاعتماد على أي واجهات برمجة تطبيقات خارجية.

سيكون هذا الاستكشاف للنماذج المحلية محور تركيز الفيديو التالي في السلسلة. سأشارك نتائجي والتحديات التي أواجهها والمزايا والعيوب لاستخدام النماذج المحلية مقارنةً بالنهج القائم على السحابة. يمكن للمشتركين التطلع إلى هذا الفيديو القادم، والذي سيقدم رؤى قيمة حول المقايضات والاعتبارات عند بناء نظام مساعد الدردشة الصوتية بالكامل باستخدام الموارد المحلية.