Liquid AI、LFM2.5のQ4_0量子化チェックポイントをQuantization-Aware Distillationで公開
ワンポイントLFM2.5の4bit(Q4_0)チェックポイントがQADで公開
この記事は Hugging Face Blog の一次情報をもとにAIが再構成したものです。 原文を読む →
Liquid AIがHugging Face Blogにて、自社の言語モデル「LFM2.5」について、Quantization-Aware Distillation(QAD)という手法を用いて生成した4bit(Q4_0)形式のチェックポイントを公開したと発表しました。低ビット量子化と蒸留を組み合わせることで、性能を保ちながら軽量化したモデルを提供する狙いがあります。
全文を読むには有料プランへの登録が必要です。
プランを見る →