Liquid AI: LFM2.5-24B-A2B

أطلقت شركة Liquid AI نموذج الاستدلال المفتوح الأوزان LFM2.5-24B-A2B المصمم لتشغيل الوكلاء الأذكياء محلياً وعلى الأجهزة بكفاءة وسرعة عالية.

يحتوي النموذج على 24 مليار معامل، ينشط منها ملياران فقط لكل رمز، ويدعم سياقاً يصل إلى 131 ألف رمز مع قدرات متقدمة في استدعاء الأدوات والتفكير متعدد الخطوات.

كما يحقق سرعات استنتاج تصل إلى 184 رمزاً بالثانية على شرائح M5 Max وأكثر من 21 ألف رمز بالثانية على معالجات Nvidia B300.

• نموذج LFM2.5-24B-A2B يحتوي على 24 مليار معامل مع تفعيل ملياري معامل فقط أثناء الاستدلال للعمل على الأجهزة محلياً وبخصوصية.
• يحقق النموذج سرعة استنتاج تصل إلى 184 رمزاً في الثانية على شريحة Apple M5 Max وحتى 21 ألف رمز في الثانية على بطاقة NVIDIA B300 واحدة.
• تمت زيادة نافذة السياق إلى 131 ألف رمز ومضاعفة حجم المفردات إلى 128 ألف رمز لدعم ترميز أفضل لغير اللاتينية.
• يتوفر النموذجان الأساسي والمعدل كأوزان مفتوحة على منصة Hugging Face.