GPT-Red: Unlocking Self-Improvement for Robustness

OpenAIは、AIの安全性を高める自動レッドチーミングシステム「GPT-Red」を発表した。このシステムはセルフプレイを活用し、AIのアラインメントやプロンプトインジェクションへの堅牢性を向上させる。

この要約は Claude (Anthropic) が生成したものです。記事の著作権は配信元（OpenAI）に帰属します。正確な内容は原文をご確認ください。