أعلنت شركة هاجينغ فيس عن شراكتها مع شركة جروك، مما يوفر معالجة فائقة السرعة لاستدلال نماذج الذكاء الاصطناعي في مركز النماذج الشهير. أصبحت السرعة والكفاءة من العوامل الحيوية في تطوير الذكاء الاصطناعي، حيث تكافح العديد من المؤسسات لتحقيق التوازن بين أداء النماذج والتكاليف المتزايدة للحوسبة.
بدلاً من استخدام وحدات معالجة الرسوم التقليدية (GPUs)، قامت جروك بتصميم شرائح مخصصة لنماذج اللغة. تعتبر وحدة معالجة اللغة (LPU) الخاصة بالشركة شريحة متخصصة مصممة للتعامل مع الأنماط الحسابية الفريدة لنماذج اللغة.
تتميز بنية جروك بأنها تتعامل بشكل فعال مع الطبيعة التسلسلية لمهام اللغة، مما يؤدي إلى تقليل أوقات الاستجابة بشكل كبير وزيادة الإنتاجية لتطبيقات الذكاء الاصطناعي التي تحتاج إلى معالجة النصوص بسرعة.
دعم نماذج مفتوحة المصدر
يمكن للمطورين الآن الوصول إلى العديد من النماذج مفتوحة المصدر الشهيرة من خلال بنية جروك، بما في ذلك نموذج لاما 4 من ميتا ونموذج QwQ-32B من كوين. يضمن هذا التنوع في دعم النماذج أن الفرق لا تضحي بالقدرات من أجل الأداء.
يوفر هاجينغ فيس عدة طرق لدمج جروك في سير العمل الخاص بالمستخدمين، اعتمادًا على تفضيلاتهم والإعدادات الحالية. للمستخدمين الذين لديهم علاقة قائمة مع جروك، تتيح هاجينغ فيس تكوين مفاتيح API الشخصية بسهولة ضمن إعدادات الحساب، مما يوجه الطلبات مباشرة إلى بنية جروك مع الحفاظ على واجهة هاجينغ فيس المألوفة.
تحسين تجربة المستخدم
تتيح الشراكة مع جروك تحسين تجربة المستخدم بشكل كبير، حيث تعني سرعة الاستدلال تطبيقات أكثر استجابة، مما يترجم إلى تحسينات في التجربة عبر العديد من الخدمات التي تتضمن مساعدات الذكاء الاصطناعي. القطاعات التي تتأثر بشكل خاص بأوقات الاستجابة، مثل خدمة العملاء، والتشخيص الطبي، والتحليل المالي، ستستفيد من تحسينات البنية التحتية للذكاء الاصطناعي التي تقلل من الفجوة بين السؤال والإجابة.
تسلط هذه الشراكة الضوء على كيفية تطور نظام الذكاء الاصطناعي لمعالجة القيود العملية التي كانت تقيد تاريخيًا تنفيذ الذكاء الاصطناعي في الوقت الحقيقي.
هذا المحتوى تم باستخدام أدوات الذكاء الاصطناعي.
