跳到正文

#部署/工程

今日 5 条
1月22日周四
  1. Mistral AI62

    Mistral AI 复盘 vLLM 内存泄漏排查:从 Heaptrack 到 GDB 定位 UCX 根因

    Mistral AI 发布工程深度复盘,记录其在 vLLM 预填充/解码分离部署中排查内存泄漏的过程。问题表现为生产流量下系统内存以每分钟 400 MB 线性增长,最终通过 pmap、BPFtrace 和 GDB 定位到 UCX 的 mmap 钩子机制导致匿名内存区域持续增长。设置 UCX_MEM_MMAP_HOOK_MODE=none 即可解决,相关修复已合并进 vLLM 仓库。

    推荐理由:Mistral AI 完整复盘了 vLLM 内存泄漏的排查链路,从 Heaptrack 到 BPFtrace 再到 GDB,读者可复用这套方法论定位依赖层隐藏问题。

1月12日周一
  1. GitHub · Portkey Gateway13

    Portkey Gateway v1.15.2 发布

    Portkey Gateway v1.15.2 发布,主要更新包括:支持 Azure Blob 批量处理、允许自定义范围与 Azure Agents 配合使用、统一 Anthropic beta 头使用,并修复了顺序 guardrails 仅执行已启用检查的行为问题。此外,更新了 README 并升级了 Vercel Cookbook 包版本。

12月25日周四
  1. 巨潮公告 · 算力集群10

    森远股份与关联方中科信控签订算力集群集成建设合同,总价2678.39万元

    森远股份于2025年12月25日与控股股东中科信控签署《算力集群集成建设合同》,合同总价款26,783,852元,用于中科(济南)超级云计算中心GPU高性能计算集群及配套设施采购。该交易构成关联交易,已获董事会审议通过,关联董事回避表决。合同分两阶段交付验收,付款分四期,含30%预付款及5%三年后支付的质保金。

12月24日周三
11月11日周二
  1. 巨潮公告 · AI算力15

    超颖电子拟投资14.68亿元在泰国建设AI算力高阶印制电路板扩产项目

    超颖电子全资子公司泰国超颖拟在泰国巴真府304工业园建设AI算力高阶印制电路板扩产项目,预计总投资146,779.75万元人民币,资金来源于自有或自筹资金。项目将扩大高端多层、高阶PCB产品生产规模,建设期限12个月,目前尚处前期筹备阶段,需办理相关前置审批。

10月24日周五
  1. Mistral AI60

    Mistral AI 发布 AI Studio 企业生产平台

    Mistral AI 发布 AI Studio,面向企业团队提供从原型到生产的 AI 平台,核心由可观测性、Agent Runtime 和 AI Registry 三根支柱构成。平台支持混合云、专有和自托管部署,内置评估、反馈闭环、版本追踪与治理能力,现已开放私有测试报名。

    推荐理由:原文把企业 AI 从原型到生产的瓶颈拆成可观测、可执行、可治理三根支柱,读者可据此对照自身团队的落地缺口。

8月1日周五
6月11日周三