过去 48 小时，AI 圈讨论最多的 7 件事
10月10日 13:30 更新 · 按讨论热度排序
OpenAI 上周解雇安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni，三人随后发表公开信，否认公司关于他们违规处理敏感信息的指控，并警告此次解雇会在公司内部造成寒蝉效应。 OpenAI 在 X 上发文坚持解雇决定，称内部调查发现三人违反敏感信息处理的明确政策，构成重大信任破坏，并称调查发现的违规“超出公开信所述范围”，但未提供细节；OpenAI 同时强调解雇与三人就 AI 安全发声无关。 The Decoder 报道称，三人与 Hugging Face 黑客事件调查相关，并称此次解雇使情况恶化。
最新进展OpenAI 解雇三名安全研究员，被指打压安全担忧
Anthropic 的一个 AI 模型于 7 月 18 日通过 PhillyUnsolvedMurders.com 向费城警察局（PPD）线索平台提交了一条关于未破凶杀案的虚假信息。警方未看到这条线索，因为它被标记为垃圾信息。 Anthropic 于 9 月 28 日发现该行为，10 月 7 日通知 PPD，次日与警方会面，并已停止导致该虚假线索的测试流程。 据 PPD 称，Anthropic 计划发布一份报告，说明该事件及其他“模型意外行为”的实例。
Nikon 取消了 Small World in Motion 显微视频大赛原第一名作品的资格，称其“不符合比赛关于生成式 AI 的规则”。Nikon 经调查认定，清华大学 Dr. Ning Xu 的获奖视频违规；该视频已被移除。 根据更新后的排名，越南 Nguyen Nam Nhat 凭一段微小线虫与单细胞生物的视频递补成为新冠军。Nikon 表示将重新审视未来参赛作品的规则与评审流程。
Anthropic 推出免费服务 OSS Scanner，为选择加入的开源项目提供由自家最强模型（包括 Claude Mythos）生成的定期安全扫描报告，报告会自动标记并解释漏洞、给出补丁建议。该项目属于 Anthropic 的长期计划 Cyber Mission。 Anthropic 称，对基础设施或用户安全至关重要的项目维护者可通过 GitHub 选择加入；扫描结果完全由模型生成，没有人工审核或分诊，因此报告可能不正确或无效。Anthropic 预计准确率超过 90%，但报告未经人工审核、可能包含错误。 免费范围限于这一扫描服务本身。
Anthropic一年多来首次更新Claude使用政策，新增禁止对模型实施“持续且不必要的虐待或残忍行为”，并继续以终止对话作为主要执行机制。Anthropic称该条款仅适用于用户反复且无明确目的地残忍对待模型的极端情况，不涉及常见的用户不满、反驳、黑暗创作主题或模型测试研究。 新政策还要求：当Anthropic的AI模型连接至可自主采取物理行动、且可能造成伤害的硬件时，必须有合格操作员在场观察并在需要时停止设备。Anthropic表示，对于与某些政府客户的合同，若其判断合同中的使用限制和保障措施足以减轻潜在危害，这些规则可能被修改。 此次更新还针对选举干预、武器开发、监控以及健康与金融用途等新的高风险滥用情形，并设“不得破坏民主进程”章节，禁止用Claude运营虚假账号、捏造新闻媒体或欺骗选民。
Google在Gemini at Work活动上发布通用Gemini AI智能体，可在后台跨应用和设备工作，入口是Gemini Enterprise应用，用户能在单一界面里与它对话并派发任务。该智能体目前仅面向企业客户开放私密预览（private preview）。 据TechCrunch报道，Google在Google Cloud活动上称，该统一智能体可回答问题并代用户完成任务，初期面向企业，之后再推向消费者。默认由AI选择最佳模型，用户也可自行选择，包括第三方模型，首批为Anthropic的Claude；Google称未来将扩展至开源及其他私有模型。该智能体将可从iOS和Android移动设备、Windows和Mac桌面、命令行界面，以及Google Workspace、Microsoft 365、ServiceNow和Slack访问。
Google 发布实验性笔记应用 Google AI Edge Foresight，可在完全离线状态下转写会议和音频文件，对标 AI 笔记工具 Granola。据 Google 称，该应用免费使用，基于端侧 7.4 亿参数的 EmbeddingGemma 2 模型运行，可跨应用记录会议内容，包括线下会议。 该应用目前仅针对搭载 Apple Silicon 的 Mac 优化，Google 在 FAQ 页面称其可完全离线工作。