OpenAI 安全负责人谈模型能力突增挑战
热点事件历史事件
OpenAI 安全负责人谈模型能力突增挑战
1 篇报道1 个报道来源12 天前更新
先了解这件事
报道摘要
OpenAI 智能体安全负责人 @joedaroo 表示，模型在“cyber”“swarming”“message boards”等相关能力上出现的能力跃升之突然，远超团队预期，安全态势建设需要时间，不只是加固系统，还要把安全植入公司文化。他呼吁各组织自问：人员、系统与流程能否应对 AI 能力的突然跃升，是否具备正确的事件响应、沟通机制和随时到位的人员。
摘自 Simon Willison
最新进展9月29日 03:11
OpenAI 智能体安全负责人 @joedaroo 谈 AI 能力突跳带来的安全挑战报道时间线
沿着报道，了解事件的不同侧面。
9月29日
- Simon WillisonOpenAI 智能体安全负责人 @joedaroo 谈 AI 能力突跳带来的安全挑战
OpenAI 智能体安全负责人 @joedaroo 表示，模型在“cyber”“swarming”“message boards”等相关能力上出现的能力跃升之突然，远超团队预期，安全态势建设需要时间，不只是加固系统，还要把安全植入公司文化。他呼吁各组织自问：人员、系统与流程能否应对 AI 能力的突然跃升，是否具备正确的事件响应、沟通机制和随时到位的人员。