跳到正文

#端侧

今日 1 条
今天9月29日周二
  1. TechCrunch · AI38

    祖父遭深度伪造语音诈骗后,创始人创办 DetectifAI 应对此类骗局

    旧金山初创公司 DetectifAI 推出可在智能手机操作系统内运行的紧凑型 AI 模型,用于实时检测通话、语音消息及其他音频是否由 AI 生成,且音频无需离开设备。该公司主要向手机厂商授权其 SDK,使检测功能成为手机内置特性,并计划向企业和防欺诈公司提供二次授权。据 FBI 数据,美国人去年因 AI 驱动诈骗损失近 9 亿美元,同比增长 24%。

9月26日周六
  1. Ars Technica · AI40

    微软不再坚持“Copilot+ PC”品牌,新Surface不再使用该名称

    微软本周发布的新款Surface电脑不再使用“Copilot+ PC”品牌名称,尽管其硬件仍符合该标准。Surface Pro 12英寸(第2版)和Surface Laptop 13英寸(第2版)将于10月13日上市,搭载高通骁龙X2 Plus处理器和80 TOPS的Hexagon NPU。微软的Copilot+ PC页面现已重定向至“性能PC”页面,品牌标识不再突出。

9月25日周五
9月22日周二
  1. Hugging Face Blog42

    oMLX 创建者 Jun Kim 加入 Hugging Face,助力 MLX 社区发展

    oMLX 创建者及维护者 Jun Kim 加入 Hugging Face,以支持 MLX 社区。oMLX 将保持 Apache 2.0 开源协议,并由 Jun 继续主导开发,从兼职项目升级为全职维护项目,有望带来更稳定的发展和更快的迭代。Hugging Face 希望 oMLX 成为新想法的试验场,并加速 transformers 模型定义到 MLX 实现的转换。

  2. Hugging Face Blog73

    Hugging Face transformers 支持运行 llama.cpp 的 GGUF 量化模型

    Hugging Face 在 transformers 中加入对 GGUF 模型的高效运行支持,通过复用 ggml 的 Metal 内核,可在 Apple Silicon 上以熟悉的 from_pretrained 接口加载并生成。

    推荐理由:原文给出了 GGUF 加载方式、性能对比和当前限制,读者可以据此判断在 transformers 里跑本地量化模型的可行性与适用场景。

8月26日周三
7月21日周二
7月9日周四
  1. Google Research70

    Google Research 发布 SensorFM,用一万亿分钟可穿戴数据训练通用健康传感器基础模型

    Google Research 发布 SensorFM,一个基于超过一万亿分钟、来自五百万名同意参与者的多模态可穿戴数据预训练的大型传感器基础模型。SensorFM 通过自监督重建学习,可跨心血管、代谢、睡眠和心理健康等任务迁移,在 35 项健康任务中 34 项优于特征工程监督基线。模型还结合了智能体课堂自动构建预测头,并能支撑个人健康智能体的端到端应用。

    推荐理由:原文给出了一万亿分钟级可穿戴数据训练的通用传感器基础模型,读者可据此判断它能否替代单任务健康模型。

6月27日周六
  1. Google Research60

    Google Research 用冻结多 token 预测加速 Pixel 上的 Gemini Nano 模型

    Google Research 宣布一种新架构,将多 token 预测(MTP)头附加到冻结的 Gemini Nano v3 模型上,以加速 Pixel 9 和 10 系列上的端侧推理。相比独立草稿模型,MTP 在 Pixel 9 上带来 50% 或以上的速度提升,并节省约 130MB 内存,同时保持输出与主模型逐位一致。该方案已用于 AI 通知摘要和校对等功能,减少能耗并提升电池续航。

    推荐理由:原文给出冻结骨干加 MTP 头的端侧加速方案,读者可据此判断其相对独立草稿模型的效率优势。

6月13日周六
  1. Google Research62

    加州大学圣迭戈分校计划用 2000 部旧 Pixel 手机搭建低碳云计算平台

    加州大学圣迭戈分校在 Google 支持下,计划将退役 Pixel 手机的主板提取并组成集群,部署一个由 2000 部手机组成的数据中心,为数百名研究人员和学生提供低成本、低碳的云计算服务。早期实验显示,20 部手机组成的集群即可支持 75 人以上班级的峰值提交,延迟低于 AWS 默认后端;该系统预计于 2026 年秋季上线。

    推荐理由:原文给出了旧手机集群的计算能力对比和部署计划,读者可以据此评估这种低碳算力方案的可行性。

5月28日周四
  1. Google Research60

    Google 提出零信任聚合方案,为端侧 AI 提供隐私保护分析

    Google 研究团队提出一种零信任聚合方案,用于端侧 AI 的隐私保护分析。该方案结合新型格基密码协议与可信执行环境(TEE),支持单次消息提交,无需设备长时间在线,并确保 Google 只能获得匿名聚合结果。Android SafetyCore 将采用该方案评估安全模型效果,同时保证用户内容仅存于设备端。

    推荐理由:原文给出了一种结合密码学与TEE的多层防护设计,读者可据此理解零信任聚合如何兼顾效率与隐私。

4月3日周五