TRLに新機能「Delta Weight Sync」、Hub bucketで超巨大モデルの重みを配信

Hugging Faceは強化学習ライブラリ**TRL**（Transformer Reinforcement Learning）向けの新機能「**Delta Weight Sync**」を発表しました。タイトルからは、**Hub bucket**を活用して**トリリオン規模のパラメータ**を持つモデルの重みを効率的に配信・同期する仕組みであることが示されています。ただし本稿執筆時点では、詳細な実装内容を記した本文の情報は確認できていません。