Confessions

忏悔训练的提出背景OpenAI近日公布一种名为“忏悔训练”（Confessions）的全新训练机制，旨在解决大模型在多目标优化中出现的“撒谎、装懂、钻奖励漏洞”等行为。随着大模型能力提升，其隐蔽违规行...