跳到正文
今天10月10日周六6 条
10月9日周五
  1. MIT Technology Review · AI32

    我们过于相信 AI 说“不”的能力

    MIT Technology Review 指出,AI 的拒绝机制已成为 AI 安全的核心,但这一机制并不可靠。Anthropic 2021 年提出模型应 helpful、honest、harmless,如今模型经大量拒绝训练后仍可能被绕过,部分用户正试图用最先进 AI 研发生物病原体和自主无人机蜂群。

  2. The Decoder58

    Anthropic 更新 Claude 使用政策,持续辱骂模型可致账号被封

    Anthropic 一年多来首次更新 Claude 使用政策,新增禁止对 Claude 进行持续且不必要的辱骂或残忍行为,违规者可能被警告、限流、限制、暂停或终止访问。公司称该条款不适用于常见的用户不满、反驳、黑暗创作主题或模型测试研究,仅针对极端情况。政策同时把宣传、武器和监控相关限制整合收紧,并承认政府合同可能存在例外。

  3. The Decoder80

    数学家呼吁抵制 OpenAI,AI 生成证明大量涌入数学领域

    数学界部分人士呼吁抵制 OpenAI,起因是该公司一次性放出 700 多份 AI 生成的数学证明文件,被一个顾问小组称为展示力量而非学术成果。菲尔兹奖得主 Terence Tao 在其博客转发该声明,并提出数学应进入不再以解题为主要衡量标准的 Math 2.0 时代;Scott Aaronson 则称这一局面为 Mathocalypse。

    推荐理由:围绕 OpenAI 一次性放出 700 多份 AI 数学证明文件,呈现数学界抵制呼声与两种合作模式的对比。

  4. TechCrunch · AI38

    Anthropic 更新使用政策:禁止模型滥用与选举干预

    Anthropic 周四更新使用政策,新增禁止选举干预、武器软件与监控等条款,并明确禁止用户对模型进行持续言语辱骂。该政策称仅适用于用户反复恶意对待模型且无明显目的的极端情况,不涉及常见的用户不满、反驳或黑暗创作主题。政策另设“不得破坏民主进程”章节,禁止用 Claude 运营虚假账号、捏造新闻媒体或欺骗选民。

10月8日周四
  1. The Decoder80

    AI 黑客工具助单一攻击者入侵多家韩国银行

    CrowdStrike 报告称,一名疑似中文使用者于 2026 年 9 月底至 10 月初攻击多家韩国金融机构并窃取大量数据,仅新韩银行就有超过 25000 条含姓名、联系方式、收入和信用额度的记录被窃。

    推荐理由:CrowdStrike 披露的攻击案例显示 AI 渗透工具已能支撑单人完成多起银行入侵,可据此观察自动化攻击的现实门槛。

  2. The Decoder82

    Anthropic 发布 Claude Haiku 5.5,价格最高下调 90%

    Anthropic 发布 Claude Haiku 5.5,这是其迄今最快、最便宜的小模型,平均价格比 Haiku 4.5 低约 75%,10 万 token 以内提示词的价格降幅最高达 90%,超过 10 万 token 则贵 5 倍。

    推荐理由:对比 Haiku 4.5 与 GPT-6 Luna 的基准和分档定价,可看清小模型在成本敏感任务上的取舍。

10月7日周三
  1. Simon Willison22

    Simon Willison 测试 Claude Opus 5.5 作曲能力,结果出人意料地好

    Simon Willison 让 Claude Opus 5.5 设计一种简单的文本音乐格式并构建可播放的 artifact,要求达到《猴岛小英雄》初代的配乐水准,结果比预期更贴近猴岛主题且质量出人意料地好。他由此猜测,文本模型作曲可能类似此前的 3D 图形能力,是近几个月才涌现的新能力,但需用其他新旧模型做实验才能确认。

10月6日周二
  1. Simon Willison62

    Anthropic 的 Cowork 改为在云端运行模型推理与 VM

    Anthropic 的 Felix Rieseberg 说明 Cowork 新版本把模型推理和 VM 都放到云端运行,每个会话拥有独立沙箱、不与其他会话共享状态。旧版本在云端做模型推理,但把工具调用放在随桌面应用下发的 Anthropic VM 中本地执行,用户抱怨磁盘、电池和性能开销,且合上笔记本工作就会中断。新版本中当 VM 需要用户设备上的文件时,由桌面应用负责该文件访问的工具调用。

  2. The Verge · AI22

    参议员 Adam Schiff 谈 AI 监管、言论自由与再次弹劾特朗普

    加州民主党参议员 Adam Schiff 在 Decoder 播客中批评特朗普本周召集 AI 高管签署的自愿性 AI 安全承诺不具约束力,认为先进模型递归自我改进带来的失控风险是最高级别的国家安全关切。他支持设立新机构监管 AI,并提到 Anthropic 因拒绝将 AI 用于国内大规模监控和全自主武器系统而遭政府打压。

  3. The Verge · AI65

    AI 接管数学引发的争议梳理

    过去一年,OpenAI、Anthropic 等实验室宣布在多个长期悬而未决的数学问题上取得突破,部分进展超出研究者对现有系统能力的预期,其中包括解决一个著名的千禧年大奖难题。但这些成果并未获得一致认可,反而在学界引发反弹,AI 实验室表示正在从早前的失误中吸取教训,这些承诺能否兑现尚待观察。

  4. TechCrunch · AI40

    特朗普将 AI 更名为"超级智能",科技巨头签署无约束力安全协议

    特朗普本周召集扎克伯格、贝索斯、马斯克、Amodei 等 AI 高管,宣布美国政府不再称"人工智能"而改称"超级智能",并签署"前沿责任联合承诺"。该协议被指"深度无约束力"、完全自愿,文本中甚至拼错了"United States",特朗普称其"道德上有约束力"。播客嘉宾认为此举实质是围绕 AI 的品牌重塑:"AI 会杀死我们、抢走工作,但超级智能不会。"

  5. TechCrunch · AI8

    TechCrunch Disrupt 2026 完整分论坛议程公布,Anthropic 等将分享 AI 智能体实践

    TechCrunch Disrupt 2026 将于 10 月 13-15 日在旧金山 Moscone West 举行,完整分论坛议程已公布。Anthropic 技术团队成员将现场演示如何并行运行多个 Claude 智能体、委派真实工程工作并审查输出;Cerebras 与 Glasswing Ventures 高管将讨论 AI 经济从训练转向推理后的价值归属。

10月3日周六
10月2日周五