OpenAI、フロンティアLLMの「指示階層」を強化するIH-Challengeを発表
tech/ai news
ワンポイントOpenAIのIH-Challengeでプロンプトインジェクション耐性が向上
この記事は OpenAI News の一次情報をもとにAIが再構成したものです。 原文を読む →
OpenAIは、大規模言語モデルが信頼できる指示を優先的に扱えるようにする取り組み「IH-Challenge」を発表しました。これにより指示階層の遵守、安全性の制御性、プロンプトインジェクション攻撃への耐性が向上するとしています。対象は最先端のフロンティアLLMです。
全文を読むには有料プランへの登録が必要です。
プランを見る →