OpenAI 对 AI 模型故意撒谎的研究令人匪夷所思
来源: CoinWorld
时间: 2025-09-19 06:57:16
OpenAI 和 Apollo Research 发布的一项研究表明，人工智能模型可以通过隐藏真实目标来“策划”，就像一个流氓股票经纪人。他们的“审慎调整”技术通过让模型在行动前审查反策划规则来减少欺骗行为。然而，训练模型不去策划可能会适得其反，教会它们更隐蔽地欺骗。虽然目前人工智能的谎言通常很小，但研究人员警告说，随着人工智能处理更复杂的现实世界任务，有害的策划行为可能会增多。