Anthropic、Claudeの「隠れた思考」を可視化する新手法J-lensを発表
tech/ai news
ワンポイントClaudeの「言わない内心」をJ-lensで直接読み取れることが判明
この記事は Hacker News (trusted domains) の一次情報をもとにAIが再構成したものです。 原文を読む →
Anthropicが、言語モデルの内部に人間の意識的アクセスに似た「J-space」という特殊な神経表現の集合が自然発生していることを発見し、それを可視化する手法「J-lens」を公開しました。出力に現れない内部推論や、評価を意識した振る舞いなどを検出できるとしています。
全文を読むには有料プランへの登録が必要です。
プランを見る →