The Verge · AI· Terrence O’Brien·· 3 小时前AI 评分60
微软 CEO Nadella 称应假定所有 AI 模型都已被攻陷
Satya Nadella says we should assume all AI models are ‘compromised’
AI 导读
微软 CEO Satya Nadella 在 X 发长文谈先进 AI 模型的风险，称不能再接受把 AI 当作一组嵌套黑盒、只能接受或拒绝其建议与行动。他主张建立可容纳、可观察并留下防篡改人类可读证据的透明系统，并称必须从一开始就假定模型已被攻陷并加以约束，就像紧急制动一样，授权人员应能随时暂停或关闭执行任务中的模型；更先进的模型需要更先进的约束技术并加以标准化。
来源：The Verge · AI · theverge.com