ماذا حدث

قدمت شركة Tether Data نموذج QVAC Fabric LLM، وهو نموذج لغوي كبير يعتمد على الحافة (LLM) مع وقت تنفيذ مشترك مع إطار عمل تكيف منخفض الرتبة للنموذج اللغوي الكبير (LoRA). تدعم هذه التقنية نماذج الذكاء الاصطناعي الحديثة التي تعمل بكفاءة عبر منصات متنوعة بما في ذلك وحدات معالجة الرسوميات، والهواتف الذكية، وأجهزة الكمبيوتر المحمولة، والخوادم. يتيح هذا الإطار معالجة الذكاء الاصطناعي على الجهاز، مصممًا لتحسين استخدام الموارد وزيادة سرعة الاستدلال للتطبيقات التي تتطلب قدرات النموذج اللغوي الكبير.

سياق
إطلاق QVAC Fabric LLM يتماشى مع اتجاه أوسع في الصناعة يركز على حسابات الذكاء الاصطناعي عند الحافة - حيث تتم معالجة البيانات محليًا على أجهزة المستخدمين بدلاً من خوادم السحابة المركزية - لتعزيز الخصوصية، وتقليل الكمون، وتوفير النطاق الترددي. تُعتبر تقنية LoRA للتعديل الدقيق وسيلة تتيح للنماذج التكيف مع مهام جديدة باستخدام موارد حسابية أقل من خلال تحديث مجموعة أصغر من المعلمات، مما يجعلها عملية لمجموعة واسعة من الأجهزة. شركة Tether Data،