跳到正文
7月9日周四
7月8日周三
  1. Hugging Face Blog62

    vLLM 的 transformers 建模后端达到原生推理速度

    Hugging Face 宣布 vLLM 的 transformers 建模后端在多个 LLM 架构上已追平甚至超过 vLLM 手写原生实现的吞吐。该后端通过 torch.fx 做静态图分析、用 ast 重写算子,在运行时动态应用推理专用层融合,覆盖 MoE 专家并行、TP 张量并行等场景。

    推荐理由:原文给出 transformers 后端在 vLLM 中追平原生实现的具体机制与启用方式,读者可据此判断自家模型能否免移植获得同等推理速度。

7月7日周二
  1. Hugging Face Blog62

    微软在 Foundry Managed Compute 上线 Hugging Face 模型集合

    微软在 Build 2026 宣布 Foundry Managed Compute 与 Hugging Face 模型集合,将 Hugging Face 生态的开源权重模型以每周刷新的策展目录形式引入 Foundry Model Catalog,可一键部署到托管 GPU 平台。

    推荐理由:微软把 Hugging Face 开源模型的部署运维层接进 Foundry,读者可据此判断企业自托管开源模型的门槛变化。

  2. Berkeley AI Research34

    智能免费之后怎么办?面向智能体、由智能体构建、为智能体服务的数据系统

    伯克利 EPIC Data Lab 提出近零推理成本时代数据系统面临三大挑战:为智能体服务、由智能体运行、由智能体构建。GPT-4 级能力从 2023 年初约 $30/百万 token 降至如今不到 $1,部分厂商已低于 $0.10,推理价格年降幅在 9x 到 900x 之间,中位数约 50x。

  3. Hugging Face Blog62

    Hugging Face 与 SkyPilot 打通零出网费存储,可在任意云运行 AI 负载

    Hugging Face 与 SkyPilot 联合推出 store: hf 存储后端,用一条 hf:// URL 和已有的 HF_TOKEN 即可把 Hugging Face Bucket 或任意模型、数据集、Space 仓库挂载进 SkyPilot 任务,并在 20 多个云、Kubernetes、Slurm 和本地集群上运行。

    推荐理由:原文给出 hf:// 挂载与零出网费的具体机制和跨云实测数据,读者可据此判断跨云训练存储成本的变化。

7月6日周一
  1. Hugging Face Blog42

    Hugging Face Kernels 项目重大更新:新增 kernel 仓库类型、可信发布者与代码签名

    Hugging Face 为 Kernels 项目引入 Hub 上的 "kernel" 新仓库类型,并新增可信发布者与代码签名两层安全机制,默认只加载可信发布者的 kernel,其他来源需显式传入 trust_remote_code=True。CLI 方面 kernels 与 kernel-builder 职责分离,框架支持新增 Torch Stable ABI 和 Apache TVM FFI。

6月27日周六
6月25日周四
  1. Google Research31

    Google 用线性弹性缓存优化云成本,Spanner 内存用量降 15.5%

    Google Research 提出线性弹性缓存,将页面淘汰建模为滑雪租赁问题,用轻量机器学习动态调整缓存大小。在 Spanner 生产环境测试中,内存用量降低 15.5%,缓存未命中仅增加 5.5%,总拥有成本(TCO)降低约 5%,实际 I/O 成本影响仅 0.5%。该方案用浅层决策树预测页面 TTL,可翻译为几行 C++ 代码。

6月24日周三
6月23日周二
  1. Mistral AI62

    Mistral 发布 OCR 4 文档解析模型

    Mistral 发布 OCR 4,在提取文本之外返回边界框、块类型分类和逐页逐词置信度分数,支持 170 种语言、可单容器自托管部署。官方称独立标注者在 600 多份文档的盲评中平均 72% 更偏好 OCR 4,并在 OlmOCRBench 上取得 85.20 的最高总分。

    推荐理由:官方给出 OCR 4 的边界框、块分类与置信度输出,以及自托管和按页计价方案,可据此判断文档解析管线的选型。

6月13日周六
  1. Google Research38

    Google 支持加州大学圣地亚哥分校用 2000 台退役 Pixel 手机搭建低碳计算平台

    加州大学圣地亚哥分校在 Google 支持下,正用 2000 台退役 Pixel 手机的主板搭建数据中心,为数百名师生提供低成本、低碳的云计算。手机主板约占硬件隐含碳排放的 50%,SPEC 基准显示 25-50 台手机算力相当于一台现代服务器,这些设备以 25-50 台为一组由 Kubernetes 编排成集群。该系统预计 2026 年秋季上线。

6月11日周四
  1. Google DeepMind78

    Google DeepMind 发布 DiffusionGemma:文本生成最高提速 4 倍

    Google DeepMind 发布实验性开源模型 DiffusionGemma,采用文本扩散方式并行生成整块文本,在专用 GPU 上推理最高提速 4 倍,单张 NVIDIA H100 上超过 1000 tokens/秒,RTX 5090 上超过 700 tokens/秒。

    推荐理由:官方给出 26B MoE 文本扩散模型的速度数据、硬件门槛与质量取舍,便于判断本地低并发场景是否值得尝试。

5月28日周四
5月27日周三
  1. Mistral AI60

    Mistral 推出物理 AI,将 Emmi AI 并入企业平台

    Mistral 宣布将 Emmi AI 并入公司,推出面向工业工程的物理 AI 能力,作为其企业平台的一部分。该能力从几何与边界条件直接预测物理场,单次前向推理在单块 GPU 上以秒级完成,用于加速产品设计、工装工艺设计和实时数字孪生,合作方包括 ASML、Airbus、Safran 和 Siemens Energy。

    推荐理由:Mistral 把物理仿真模型并入企业平台,读者可了解其与 ASML、Airbus 等合作方的落地场景。

5月23日周六
  1. Mistral AI60

    Mistral 收购 Physics AI 公司 Emmi AI

    Mistral AI 宣布已达成最终协议,收购 Physics AI 先驱 Emmi AI,以强化其面向工业企业的 AI 转型伙伴地位。Emmi AI 总部位于奥地利,专注物理 AI 与大型工程模型,可把多日计算替换为实时仿真并构建数字孪生;其联合创始人及 30 多名研究人员和工程师将于 5 月加入 Mistral 的 Science 与 Applied AI 团队。

    推荐理由:Mistral 通过收购 Emmi AI 补上物理仿真能力,读者可据此判断工业 AI 平台的整合方向。

5月22日周五
4月27日周一
  1. Mistral AI71

    Mistral AI 发布 Workflows 公开预览版

    Mistral AI 发布企业 AI 编排层 Workflows 公开预览版,提供持久化执行、可观测性和人工介入能力,ASML、ABANCA、CMA-CGM、France Travail、La Banque Postale、Moeve 等客户已用它自动化关键流程。

    推荐理由:Mistral 把企业级 AI 编排的持久化执行、可观测与人工审批打包进 Studio,读者可据此判断生产化落地的门槛变化。

4月22日周三
4月20日周一
3月31日周二
  1. Mistral AI34

    Mistral AI 推出 Spaces:一款为人类与智能体打造的 CLI

    Mistral AI 发布 CLI 工具 Spaces,同时面向人类开发者与编码智能体。它通过 `spaces init`、`spaces dev` 等命令完成项目脚手架、开发环境与部署,并为每个交互式提示提供等价的 flag 或配置文件,使智能体可自主操作。每次 init 还会生成 context.json 与 AGENTS.md,帮助智能体理解项目结构、端口与命令。

3月25日周三
  1. Google Research62

    Google 发布 Vibe Coding XR:用 Gemini 和 XR Blocks 把自然语言变成 Android XR 应用

    Google 发布 Vibe Coding XR 工作流,将 Gemini 与基于 WebXR、three.js、LiteRT.js 的 XR Blocks 框架结合,把自然语言提示词直接转成具备物理感知的 Android XR 应用,耗时不到 60 秒。

    推荐理由:Google 把 Gemini 的长上下文推理接到 WebXR 框架上,读者可据此判断自然语言生成 XR 原型的可行边界。

  2. Google Research62

    Google 发布 TurboQuant 向量压缩算法,KV cache 压至 3 bit 无精度损失

    Google 发布 TurboQuant 压缩算法,用于解决向量量化中的内存开销问题,并同时提出 QJL 和 PolarQuant 两种配套方法,三篇工作将分别亮相 ICLR 2026 和 AISTATS 2026。

    推荐理由:Google 提出的向量量化方法把 KV cache 压到 3 bit 且不损失精度,读者可据此判断长上下文推理的内存成本走向。

3月18日周三
  1. Mistral AI62

    Mistral AI 推出 Forge,让企业用自有知识训练前沿模型

    Mistral AI 推出 Forge,一套让企业基于自有专有知识构建前沿级 AI 模型的系统,支持预训练、后训练和强化学习等阶段,并支持 dense 与 MoE 架构及多模态输入。

    推荐理由:原文给出企业用自有知识训练前沿模型的分阶段训练路径与智能体落地方式,可据此判断企业自建模型的门槛与形态。

1月22日周四
  1. Mistral AI34

    Heaps do lie:排查 vLLM 内存泄漏

    Mistral AI 团队在 vLLM 上排查一起内存泄漏:在 Mistral Medium 3.1、开启 graph compilation 的 Prefill/Decode 分离部署中,系统内存以每分钟 400 MB 线性增长,数小时后触发 out of memory。Heaptrack 显示堆内存稳定,泄漏发生在堆外,问题仅出现在经 NIXL 传输 KVCache 的 decode 侧。

12月17日周三
  1. Mistral AI65

    Mistral 发布 OCR 3,表单与手写识别胜率较上代提升 74%

    Mistral AI 发布 Mistral OCR 3,在表单、扫描文档、复杂表格和手写内容上相对 Mistral OCR 2 的整体胜率为 74%,官方称其准确率超过企业级文档处理方案和 AI 原生 OCR 方案。

    推荐理由:官方给出与上一代在表单、手写和复杂表格上的胜率对比,以及每千页定价,可据此判断文档解析成本与适用场景。

11月19日周三
10月24日周五
  1. Mistral AI62

    Mistral 发布 AI Studio 生产级 AI 平台

    Mistral 发布 Mistral AI Studio,一个面向企业团队的生产级 AI 平台,由 Observability、Agent Runtime 和 AI Registry 三大支柱组成。

    推荐理由:Mistral 把自家大规模系统的运维经验产品化,读者可据此了解企业级 AI 从原型走向生产需要哪些基础设施。

9月2日周二
  1. Mistral AI42

    Mistral AI 为 Le Chat 推出 Memories 记忆功能(beta)

    Mistral AI 为 Le Chat 推出 Memories(beta),采用自动保存、智能召回并显示来源链接的混合方案。用户可随时关闭记忆、开启不使用记忆的隐身对话、编辑或删除单条记忆,并支持导出与导入。同步上线的 Memory Insights 会基于用户数据提示记忆趋势与摘要,移动端可在 App Store 或 Google Play 下载体验。

  2. Mistral AI62

    Mistral 为 Le Chat 上线 20+ MCP 连接器与 Memories 记忆功能

    Mistral 在 Le Chat 中发布 20+ 个基于 MCP 的安全连接器目录(beta),覆盖数据、生产力、开发、自动化与商务等类别,可连接 Databricks、Snowflake、GitHub、Atlassian、Asana、Outlook、Box、Stripe、Zapier 等工具,并支持添加自定义 MCP 连接器及连接任意远程 MCP 服务器。

    推荐理由:官方给出连接器目录、自定义 MCP 与记忆功能的开放范围,读者可据此判断企业工作流接入方式。

7月30日周三
  1. Mistral AI62

    Mistral 发布 Codestral 25.08 及企业级编码栈

    Mistral AI 发布 Codestral 25.08 代码模型,并推出覆盖补全、语义检索与智能体工作流的企业编码栈。Codestral 25.08 相比此前版本接受的补全增加 30%,建议后保留代码增加 10%,失控生成减少 50%。

    推荐理由:Mistral 把补全、代码检索和智能体工作流打包成可私有化部署的企业编码栈,读者可据此判断自托管 AI 编码方案的落地边界。

7月23日周三
6月11日周三
6月4日周三
5月28日周三
5月27日周二
5月7日周三
  1. Mistral AI62

    Mistral AI 推出 Le Chat Enterprise,由 Mistral Medium 3 驱动

    Mistral AI 发布 Le Chat Enterprise,一款由全新 Mistral Medium 3 模型驱动的企业级 AI 助手,包含企业搜索、Agent 构建器、自定义数据与工具连接器、文档库、自定义模型和混合部署等功能,全部功能将在未来两周内逐步上线。

    推荐理由:官方给出 Le Chat Enterprise 的功能清单与部署方式,可据此判断企业级 AI 助手的落地路径。

3月7日周五
  1. Mistral AI77

    Mistral AI 发布文档理解 API Mistral OCR

    Mistral AI 发布光学字符识别 API Mistral OCR,可把图片和 PDF 解析为有序交错的文本与图像,并已作为 Le Chat 的默认文档理解模型。

    推荐理由:官方给出 Mistral OCR 的定价、基准对比和自托管选项,可据此判断它在文档解析与 RAG 流程中的位置。