跳到正文
今天10月10日周六1 条
10月9日周五
  1. MIT Technology Review · AI32

    我们过于相信 AI 说“不”的能力

    MIT Technology Review 指出,AI 的拒绝机制已成为 AI 安全的核心,但这一机制并不可靠。Anthropic 2021 年提出模型应 helpful、honest、harmless,如今模型经大量拒绝训练后仍可能被绕过,部分用户正试图用最先进 AI 研发生物病原体和自主无人机蜂群。

10月8日周四
  1. Google Research66

    Google Research 三个月实验:AI 辅助提升专利撰写产出,但初级律师无辅助判断力未同步提升

    Google Research 在 NBER 发布三个月实地实验,将 133 名专利律师随机分为两组,一组提前使用当时未发布的 Google Labs AI 专利撰写工具(现属 Gemini Notebook)。

    推荐理由:三个月专利撰写实验区分了AI带来的即时产出提升与无辅助判断力的变化,为评估AI对专业能力的影响提供了可迁移的实验设计。

10月7日周三
  1. TechCrunch · AI62

    Google Labs 推出 AI 游戏创作平台 Playground

    Google Labs 发布 AI 游戏创作平台 Playground,用户用简单文本提示即可构建浏览器游戏,无需编程经验。创作者可选择问答、竞速等类型,指定 2D 或 3D、单人或多人,并描述玩法机制与视觉风格,还可上传素材由 AI 转成符合整体美术风格的游戏资产。

  2. Latent Space88

    OpenAI 发布内部模型产出的 722 篇数学论文,称解决 500 个公开难题中的 90 个

    OpenAI 在一个公开 GitHub 仓库中发布了内部前沿模型产出的数学成果,称这批 722 篇手稿分为 372 个相关结果族,来自约 4000 个研究问题的评估,平均每个结果消耗约三小时 ChatGPT Pro 的思考算力,模型本身尚未发布。

    推荐理由:OpenAI 用内部数学模型的 722 篇论文给出算力与验证方式,读者可据此判断 AI 做数学的当前边界。

  3. Simon Willison30

    Mistral Large 4

    Simon Willison 用同一提示词测试 Mistral Large 4 生成 SVG 的能力,与 Claude Opus 5.5、GPT-6.1-sol、Gemini 3.8 Flash 对比,提示词为"穿渔网袜的犰狳在火星乱穿马路"。各模型均使用默认推理等级。

10月6日周二
  1. The Verge · AI40

    Gemini Call for Me 或扩展至亲友通话,可代发“我会晚到 15 分钟”

    Google 的 Gemini“Call for Me”AI 功能可能从商务通话扩展到亲友通话。Android Authority 在 APK 拆解中发现“Gemini Calling”引导页,示例包括“打电话给妈妈,告诉她我会晚到 15 分钟”。该功能预计仍限于类似短信的基础通话,并可能配套按应用细分的权限设置,允许用户选择是否接收 Gemini 自动来电;但这些功能未必会公开发布。

10月2日周五
  1. Google Research60

    Google 发布基于 TEE 的新一代联邦学习系统

    Google 公布新一代联邦学习系统,利用可信执行环境(TEE)为数据匿名化提供可远程验证和审计的保证,并已由 Gboard 采用。系统通过访问策略公开透明日志 Rekor、KMS 密钥管理与可复现构建,使设备数据只能在符合策略的 TEE 内解密处理,且仅输出差分隐私模型权重。

    推荐理由:Google 公布基于 TEE 的新一代联邦学习系统设计,并给出 Gboard 已上线的落地情况,可了解隐私可验证训练的实现路径。

  2. MIT Technology Review · AI44

    别被迷惑:LLM 并不会真正推理

    前 Google DeepMind 研究员指出,LLM 的思维链仍由同一套下一 token 预测生成,并非独立推理机制。他列举三大缺陷:缺乏可检视的持久认知状态、知识与操作无法分离、思维链常是事后编造。他主张借鉴 AlphaGo 的搜索架构,为模型建立可更新的认知状态。

10月1日周四
  1. Google DeepMind82

    Google DeepMind 发布 Gemini 4 Argon 前沿模型

    Google DeepMind 发布新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御方开放,随后逐步扩展至开发者、企业和消费者,起步价每百万输入 token 2 美元、输出 token 10 美元,缓存输入按输入价 95% 折扣计费。

    推荐理由:官方给出 Argon 在编码、企业知识与网络安全上的基准表现和分阶段开放路径,可据此判断前沿模型的能力边界与发布节奏。

  2. Ars Technica · AI58

    Google 为 AI 答案向约 100 家网站付费,金额被指微不足道

    Google 已允许约 100 家出版商加入 AI 内容贡献试点,当网站内容对 Gemini 驱动的 AI Overview 等搜索结果有实质贡献时可获得付费。据 The Information 报道,多家中小出版商反映这笔收入仅约为其广告收入的千分之一,部分大型出版商因此拒绝参与,希望以此争取更优厚的条件。

9月30日周三
  1. The Verge · AI66

    Google 据报测试为 AI 搜索结果向出版商付费

    据 The Information 报道,Google 已启动一项试点项目,为其 AI 搜索功能中使用的出版商内容付费,约 100 家出版商参与。参与测试的出版商按其内容对 AI Overviews、AI Mode 以及 Gemini 聊天机器人的贡献获得报酬,其中一家最早加入的出版商一年收入超过 100 万美元,另一家几个月前加入的出版商收入约 5 万至 6 万美元。