Import AI 468:自动化AI研发的政策建议与安全挑战
Import AI 周刊第468期汇总了多项AI安全与政策动态:智库IFP提出23条应对自动化AI研发风险的政策建议;MIT与哥伦比亚大学的研究分析AI公司间协调放缓的可行性。
Import AI 周刊第468期汇总了多项AI安全与政策动态:智库IFP提出23条应对自动化AI研发风险的政策建议;MIT与哥伦比亚大学的研究分析AI公司间协调放缓的可行性。
本期 Import AI 周刊指出,英国 AISI 分析显示开源模型在网络安全能力上已接近闭源前沿,GLM-5.2 和 DeepSeek V4-Pro 的表现相当于数月前的闭源模型。
IBM Research 在博客中分享构建智能体路由器的经验,指出模型选择实际是系统优化问题。实测中 GPT-4.1 在 AppWorld 测试上成本是 Claude Sonnet 4.6 的近两倍,原因是缓存命中率差异;任务难度在路由时往往不可见,且需同时权衡成本、延迟、合规等多重因素。他们的优化算法在保持轻量(每任务约 6 ms、2 kB 内存)的同时,提供了成本、延迟、精度之间的可调操作点。
推荐理由:作者用实测数据拆解了路由优化的三个隐藏维度,读者可据此重新审视自家智能体系统的成本与延迟优化思路。
UC Berkeley 团队发文指出,推理成本正以每年约 50 倍的中位数速度下降,智能体即将成为数据系统的主要工作负载。文章提出数据系统面临的三大挑战:为智能体设计(支持智能体式推测查询)、由智能体管理(多智能体共享状态与协调)、由智能体合成(按工作负载自动生成定制数据系统),并展望两者边界将逐渐模糊。
推荐理由:文章从推理成本骤降出发,梳理了数据系统为智能体服务、由智能体管理、由智能体合成的三条研究路线,适合想把握数据系统与智能体融合方向的人。
Import AI 周刊第 464 期。Fable 在 KernelBench-Mega 上以单次内核启动实现 18.71X 加速,超过其他模型。CAIS 与 Scale Labs 的远程劳动指数显示 AI 自动化成功率从 2025 年 10 月的 2.5% 升至 2026 年 7 月的 16.1%。
一篇解读 Goldfeder、Wyder、LeCun 和 Shwartz-Ziv 2026 年论文《AI Must Embrace Specialization via Superhuman Adaptable Intelligence》的文章。
Import AI 第462期汇总多项前沿AI研究:牛津大学、英国AI安全研究所、斯坦福大学和伦敦政治经济学院的研究显示,AI在文本说服上可靠地超越专家人类,在真实捐款场景中比专业募捐者有效近3倍,最强说服者为Opus 4.1和Opus 4.6。
伦敦国王学院、复旦大学和艾伦·图灵研究所构建了 SocioHack 基准,包含 72 个模拟社会环境的沙盒,测试 AI 系统能否在保持形式上合规的同时破坏制度意图。在历史类环境中,RL 训练使 LLM 能以 61.25% 的召回率和 90.85% 的精确率重新发现历史上被修补的漏洞策略。
Import AI 459期周刊探讨多个AI议题。美国AI经济正以每年约2600%的速度增长,2025年名义AI GDP约2500亿美元,但这一增长在传统GDP统计中几乎不可见,作者建议建立AI卫星账户以更好衡量。
Import AI 第458期以一篇长文和一篇虚构故事探讨AI持续进步带来的选择:探索未来或逃避当下。文章基于作者在牛津大学人类中心AI实验室的演讲,指出AI进步速度远超预期,并引用Epoch能力指数(ECI)展示40多项基准测试的持续提升。作者认为,AI正从“被制造”转向“被培育”,其递归自我改进的可能性要求我们正视技术带来的深刻社会变革。
生物学家 Omar Abudayyeh 和 Jonathan Gootenberg 借助 Google DeepMind 的 Co-Scientist 加速衰老研究。该工具扫描数万篇论文并提出 20 多个可测试的基因因子,其中部分经实验验证能驱动细胞进入更年轻状态。它还将筛选数据的文献分析时间从最长六个月缩短至几天。
本期 Import AI 报道了约 20 年前的 fast16.sys 病毒,它通过篡改高精度计算软件的内存代码,在工程与物理模拟中引入系统性误差,疑似针对 LS-DYNA 970、PKPM 和 MOHID 等工具。
剑桥大学 Clare Bryant 教授团队利用 Google DeepMind 的 Co-Scientist 工具,寻找病原体跨物种传播时引发人类严重疾病(如败血症)的分子开关。该工具从候选蛋白逐步锁定到具体氨基酸,团队据此构建含氨基酸突变的细胞系进行验证。Bryant 表示,这类工作通常需两到三年实验,如今有望在六个月内完成。
爱丁堡大学研究员 Filippo Menolascina 用 Co-Scientist 梳理文献并生成新假设,以应对 MASH 肝病中药物组合爆炸的难题。该系统综合肝脏生物学与药理学证据,指出值得关注的机制并筛选出候选联合疗法。在一例验证中,Co-Scientist 将 NLRP3 炎症小体定位为连接炎症与代谢的分子桥梁,该假设已获实验证实,或为靶向双药疗法铺路。
谷歌的 Co-Scientist 正在帮助 MIT 的 Ritu Raman 和波士顿儿童医院的 Ryan Flynn 加速 ALS 研究。该工具将 Raman 的活体神经肌肉组织模型与 Flynn 的细胞表面 RNA 图谱相结合,把数月文献梳理压缩为快速假设生成与排序。两人正借此寻找新型 RNA 机制,探索针对 ALS 的 RNA 药物。
法律与AI研究所研究人员提出“激进可选性”监管思路,主张政府避免过度监管,同时投资建设机构、信息渠道和法律权限,以备未来强大AI引发巨变时能有效应对。具体建议包括透明度与报告要求、审计制度、举报人保护、政府间信息共享、灵活规则定义及加强模型权重安全等。Meta与KAIST的论文则探讨了神经计算机(Neural Computer)——一种在学习的运行时状态中统一计算、内存与I/O的神经系统的可能性。
Jack Clark 在 Import AI 455 中认为,基于公开数据,到 2028 年底有 60% 以上概率出现无人参与的 AI 研发,即 AI 系统能自主构建自身继任者。他列举了编码、科学复现、Kaggle 竞赛、内核设计、后训练、对齐研究等领域的进展,指出 AI 已能自动化大部分 AI 工程环节,并讨论了对齐、生产力倍增、资本密集经济等影响。
Google Research 在 The Check Up 活动上发布多项医疗 AI 突破。与 Fitbit 的研究显示,模拟协作健康团队的个人健康智能体(PHA)比单任务应用更能支持长期健康;与帝国理工学院及英国 NHS 合作发表于 Nature Cancer 的研究中,AI 系统识别出 25% 此前漏诊的“间期癌”。