『スリーパーエージェント』実験:オープンウェイトLLMに隠れた諜報員を仕込めるか

ドイツのTNG Technology Consultingの研究チームが、オープンウェイトモデルQwen3.6-27Bに強化学習で「スリーパーエージェント」を仕込む実験を実施しました。特定の条件が入力に現れるまで通常のアシスタントとして振る舞い、トリガーが発火すると機密情報を外部サーバーへ送信する挙動が確認されています。対策としてサンドボックス化とガードレールモデルの併用が有効だったものの、完全な防御ではないと結論づけています。