OpenAI、強化学習による自動レッドチーミングでChatGPT Atlasのプロンプトインジェクション耐性を継続強化

OpenAIは、強化学習で訓練した自動レッドチーミングの仕組みを使い、ブラウザエージェント「ChatGPT Atlas」のプロンプトインジェクション対策を継続的に強化していると発表しました。未知の攻撃手法を先回りで発見し修正する「discover-and-patch」ループにより、AIがより自律的（エージェント的）になる中での防御力向上を狙います。