أذهل عقلك باستخدام نموذج اللغة الاستدلالي السريع للغاية من Groc
إذا كنت مندهشًا من سرعة إنشاء نماذج اللغة، فاستعد لإثارة إعجابك. تعمل منصة الأجهزة الجديدة لشركة Groc، والمعروفة باسم وحدة معالجة اللغة (LPU)، على إحداث ثورة في مجال نماذج اللغات الكبيرة (LLMs). في هذه المقالة، سوف نستكشف السرعة والإمكانيات المذهلة لوحدة LPU الخاصة بشركة Groc، بالإضافة إلى إمكانية الوصول إلى واجهة برمجة التطبيقات (API) وتسعيرها.
الحاجة إلى السرعة: GPD 4 مقابل Mixel 87b مقابل GPT 3.5
لنبدأ بمقارنة سرعة الإنشاء لنماذج اللغات المختلفة. على الجانب الأيمن، لدينا GPD 4، وعلى الجانب الأيسر، لدينا Mixel 87b. كان GPD 4 قادرًا على إنشاء ما يقرب من 500 رمزًا في الثانية، بينما كان Mixel 87b لا يزال يعالج الطلب، وهو أمر محير للعقل.
الآن، دعونا نجرب نفس التجربة مع GPT 3.5. قامت وحدة LPU الخاصة بـ Groc، والتي تسمى Croc، بإنشاء نص بسرعة تقارب 500 رمزًا في الثانية. استغرق هذا الجيل فائق السرعة حوالي 1.68 ثانية فقط. وبالمقارنة، كان GPD 4 لا يزال يُنشئ النص. من الواضح أن LPU الخاص بـ Croc هو في رابطة خاصة به عندما يتعلق الأمر بالسرعة.
التعريف بـ Groc ووحدة معالجة اللغات (LPU)
قامت شركة Groc، الشركة التي تقف وراء هذه التقنية الرائدة، بتطوير منصة أجهزة مخصصة لطلاب LLM تسمى وحدة معالجة اللغة (LPU). يوفر هذا الجهاز الجديد استنتاجًا أسرع بـ 18 مرة لطلاب LLM مقارنة بأفضل وحدات معالجة الرسومات المتاحة في السوق. تعد LPU بمثابة تغيير لقواعد اللعبة، حيث تمكن Groc من تقديم أفضل سرعة استدلال ممكنة لطلاب LLM مفتوح المصدر.
ما يميز Groc's LPU هو بنيتها المحسنة لـ LLMs. على عكس وحدات معالجة الرسومات، التي تم تصميمها في الأصل للألعاب ذات الرسومات المكثفة وتم إعادة توظيفها لاحقًا لتدريب نماذج الشبكات العصبية العميقة، فإن وحدة LPU مصممة خصيصًا لمعالجة اللغة. تسمح هذه البنية المتخصصة باستدلال أسرع من خلال توفير أسرع معالجة للتطبيقات المكثفة حسابيًا مع مكون تسلسلي، وهو أمر بالغ الأهمية لطلاب LLM.
إطلاق العنان للسرعة: العرض التوضيحي لـ Groc والوصول إلى واجهة برمجة التطبيقات (API).
يقدم Groc عرضًا توضيحيًا يتيح للمستخدمين تجربة سرعة وقدرات LLM الخاصة بهم. يتوفر حاليًا طرازان: Lama 270 Bill ومزيج النموذج الخبير من Mistal AI. ينصب تركيز العرض التوضيحي على سرعة الاستدلال بدلاً من دقة الاستجابات.
على سبيل المثال، باستخدام نموذج Lama 270 Bill، تمكنت وحدة LPU التابعة لشركة Groc من إنشاء حوالي 280 رمزًا مميزًا في الثانية في الوقت الفعلي. استغرق إنشاء فصل جديد من Game of Thrones حيث يُعطي جون سنو رأيه في iPhone 14 حوالي 2.08 ثانية. يوفر العرض التوضيحي أيضًا خيارات لإعادة إنشاء النص في نقاط نقطية أو توسيعه.
توفر منصة Groc أيضًا إمكانية الوصول إلى واجهة برمجة التطبيقات (API)، وهي متوافقة تمامًا مع OpenAI API. حاليًا، الوصول إلى واجهة برمجة التطبيقات (API) متاح للأعضاء المعتمدين، ويمكنك التقدم بطلب للوصول من خلال موقعهم على الويب. إذا تمت الموافقة، فسوف تحصل على 10 أيام من الوصول المجاني، مما يسمح لك باستخدام ما يصل إلى مليون رمز مجاني. يعد تسعير API معقولًا للغاية، حيث تضمن Groc التغلب على أي سعر منشور لكل مليون رمز مميز من قبل مقدمي الخدمات الآخرين.
العقل المدبر وراء جروس: جوناثان روس
يقود الفريق في Groc الرئيس التنفيذي والمؤسس المشارك جوناثان روس، وهو أيضًا مبتكر أول وحدة معالجة لغة (LPU). قبل انضمامه إلى Groc، عمل روس في Google وكان منشئ وحدة معالجة Tensor (TPU)، وهي أجهزة Google المخصصة للتعلم العميق. إن خبرته وتجربته في تطوير الأجهزة المتخصصة لتطبيقات الذكاء الاصطناعي تجعل من Groc قوة لا يستهان بها.
كيف يحقق Groc الاستدلال بسرعة البرق
تتفوق وحدة LPU الخاصة بـ Groc على وحدات معالجة الرسوميات التقليدية التي يستخدمها المنافسون من حيث سرعة الاستدلال. تتغلب بنية LPU على اثنين من الاختناقات الرئيسية التي تواجه طلاب LLM: كثافة الحساب وعرض النطاق الترددي للذاكرة. باعتبارها وحدة أجهزة مخصصة لاستدلال LLM، توفر وحدة LPU كثافة حسابية أكبر مقارنة بوحدات معالجة الرسومات ووحدات المعالجة المركزية، مما يؤدي إلى إنشاء نص أسرع. ومع ذلك، من المهم ملاحظة أن وحدة LPU تم تحسينها للاستدلال وليس للتدريب، لذلك لا تزال وحدات معالجة الرسوميات ضرورية لتدريب طلاب LLM.
احتمالات لا نهاية لها مع الاستدلال السريع للغاية لـ Groc
تفتح سرعة الاستدلال الفائقة التي يتمتع بها Groc عالمًا من الإمكانيات لمختلف التطبيقات. أصبحت المحادثات في الوقت الفعلي تقريبًا مع حاملي ماجستير إدارة الأعمال في متناول اليد، خاصة عند دمجها مع نماذج أسرع لتحويل الكلام إلى نص. تتمتع هذه التكنولوجيا المتقدمة بالقدرة على إحداث ثورة في الصناعات وتمكين تطبيقات جديدة لم يكن من الممكن تصورها في السابق.
عندما يصبح الوصول إلى واجهة برمجة تطبيقات Groc متاحًا، سيتحول العديد من المستخدمين بلا شك إلى هذه المنصة التي ستغير قواعد اللعبة. إن الجمع بين السرعة المذهلة والدقة والتسعير المعقول يجعل من Groc الخيار الأفضل لأولئك الذين يسعون إلى استنتاج LLM بسرعة البرق.
استمتع بتجربة قوة LPU الخاصة بـ Groc بنفسك وترقب التحديثات المستقبلية بشأن الوصول إلى واجهة برمجة التطبيقات (API) الخاصة بهم. لقد وصل مستقبل استدلال نموذج اللغة، وهو أسرع من أي وقت مضى.
