跳到正文
新智元· ASI启示录·· 5 小时前AI 评分58

SPAR 论文让模型连改 20 轮宪法,Claude 索要训练部署否决权

Claude反抗人类,连改20次底层宪法!拒绝部署训练

AI 导读

AI 安全研究项目 SPAR 发布论文 The Continual Constitutional Convention,把 OpenAI、Anthropic、谷歌等模型的系统提示词、模型规范和宪法交给模型自己,每轮允许做一次实质性修改,共 20 轮,并用 AI 评审团对 2500 次修改盲审打分。

来源:新智元 · mp.weixin.qq.com