1-bit LLMをブラウザで動かす「Bonsai」、Hugging Face Spacesに公開
ワンポイント1-bit量子化LLMをブラウザ単体で動かす試みが登場
この記事は Hacker News (trusted domains) の一次情報をもとにAIが再構成したものです。 原文を読む →
Hugging Face Spacesに、1-bit量子化LLMをWebGPUでブラウザ実行するとみられる「Bonsai 1-bit WebGPU」というSpaceが公開されました。Hacker Newsでも「1-Bit LLM in the Browser」として取り上げられていますが、公開ページの情報は非常に限られており、詳細な仕様は明らかになっていません。
全文を読むには有料プランへの登録が必要です。
プランを見る →