Transformers v5.14.0リリース、975BのMoEモデル「Inkling」追加とSDPA高速化
ワンポイントSDPAプレフィルがStaticCacheで最大260%高速化
この記事は Transformers (Hugging Face) の一次情報をもとにAIが再構成したものです。 原文を読む →
Hugging FaceのTransformersライブラリがv5.14.0を公開しました。Thinking Machines発の大規模MoEモデル「Inkling」やTIPSv2/DPTモデルが追加されたほか、GPTNeoXとGPTBigCodeの挙動を変更する破壊的変更、生成・キャッシュまわりの性能改善が盛り込まれています。
全文を読むには有料プランへの登録が必要です。
プランを見る →