OpenAI、自己対戦でAIの弱点を鍛える自動レッドチーミング「GPT-Red」を発表
tech/ai news
ワンポイントAI同士の自己対戦でプロンプトインジェクション耐性を自動強化
この記事は OpenAI News の一次情報をもとにAIが再構成したものです。 原文を読む →
OpenAIは、self-play(自己対戦)の仕組みを用いてAIモデルの安全性・アラインメント・プロンプトインジェクション耐性を高める自動レッドチーミングシステム「GPT-Red」を発表しました。人手に頼らずAI自身が弱点を探索し改善につなげる点が特徴です。
全文を読むには有料プランへの登録が必要です。
プランを見る →