Hugging Face transformers 支持运行 llama.cpp 的 GGUF 量化模型
Hugging Face 在 transformers 中加入对 GGUF 模型的高效运行支持，通过复用 ggml 的 Metal 内核，可在 Apple Silicon 上以熟悉的 from_pretrained 接口加载并生成。
推荐理由：原文给出了 GGUF 加载方式、性能对比和当前限制，读者可以据此判断在 transformers 里跑本地量化模型的可行性与适用场景。
端侧 AI
全部主题跑在手机、电脑与边缘设备上的 AI：小模型、本地推理与端侧芯片的进展。
最新精选
第 1–6 条 · 共 6 条Hugging Face Blog精选AI 评分7373
Google Research精选AI 评分7070 Google Research 发布 SensorFM，用一万亿分钟可穿戴数据训练通用健康传感器基础模型
Google Research 发布 SensorFM，一个基于超过一万亿分钟、来自五百万名同意参与者的多模态可穿戴数据预训练的大型传感器基础模型。SensorFM 通过自监督重建学习，可跨心血管、代谢、睡眠和心理健康等任务迁移，在 35 项健康任务中 34 项优于特征工程监督基线。模型还结合了智能体课堂自动构建预测头，并能支撑个人健康智能体的端到端应用。
推荐理由：原文给出了一万亿分钟级可穿戴数据训练的通用传感器基础模型，读者可据此判断它能否替代单任务健康模型。
Google Research精选AI 评分6060 Google Research 用冻结多 token 预测加速 Pixel 上的 Gemini Nano 模型
Google Research 宣布一种新架构，将多 token 预测（MTP）头附加到冻结的 Gemini Nano v3 模型上，以加速 Pixel 9 和 10 系列上的端侧推理。相比独立草稿模型，MTP 在 Pixel 9 上带来 50% 或以上的速度提升，并节省约 130MB 内存，同时保持输出与主模型逐位一致。该方案已用于 AI 通知摘要和校对等功能，减少能耗并提升电池续航。
推荐理由：原文给出冻结骨干加 MTP 头的端侧加速方案，读者可据此判断其相对独立草稿模型的效率优势。
Google Research精选AI 评分6262 加州大学圣迭戈分校计划用 2000 部旧 Pixel 手机搭建低碳云计算平台
加州大学圣迭戈分校在 Google 支持下，计划将退役 Pixel 手机的主板提取并组成集群，部署一个由 2000 部手机组成的数据中心，为数百名研究人员和学生提供低成本、低碳的云计算服务。早期实验显示，20 部手机组成的集群即可支持 75 人以上班级的峰值提交，延迟低于 AWS 默认后端；该系统预计于 2026 年秋季上线。
推荐理由：原文给出了旧手机集群的计算能力对比和部署计划，读者可以据此评估这种低碳算力方案的可行性。
Google Research精选AI 评分6060 Google 提出零信任聚合方案，为端侧 AI 提供隐私保护分析
Google 研究团队提出一种零信任聚合方案，用于端侧 AI 的隐私保护分析。该方案结合新型格基密码协议与可信执行环境（TEE），支持单次消息提交，无需设备长时间在线，并确保 Google 只能获得匿名聚合结果。Android SafetyCore 将采用该方案评估安全模型效果，同时保证用户内容仅存于设备端。
推荐理由：原文给出了一种结合密码学与TEE的多层防护设计，读者可据此理解零信任聚合如何兼顾效率与隐私。
Google DeepMind精选AI 评分8282 Google DeepMind 发布 Gemma 4 开源模型家族，主打推理与智能体工作流
Google DeepMind 发布 Gemma 4 开源模型家族，号称迄今最智能的开源模型，专为高级推理和智能体工作流设计，以 Apache 2.0 许可发布。
推荐理由：官方发布稿给出了四个尺寸、上下文窗口和硬件适配细节，读者可据此判断在自有硬件上运行与微调的可行性。