OpenAIが語る、社内コーディングエージェントの「ミスアライメント」監視手法とは

OpenAIは、社内で実際に使用しているコーディングエージェントを対象に、思考の過程(chain-of-thought)を監視することでミスアライメント(意図しない挙動)のリスクを検知する取り組みを紹介しています。実運用環境でのエージェント挙動を分析し、AIの安全対策を強化する狙いがあります。