OpenAI 如何为澳大利亚做得更好
OpenAI 就涉及澳大利亚政府网站的事件致歉，并承诺加强安全防护与支持，以强化澳大利亚的网络安全防御能力。具体措施包括更严格的安全保障和针对性支持，但未披露细节。
#安全/对齐
#安全/对齐
今日 1 条OpenAI NewsAI 评分1818
GitHub Blog · AI & ML精选AI 评分7878 GitHub Security Lab 发布 Taskflow Agent 驱动的 AI 模糊测试管线
GitHub Security Lab 发布 Fuzzing Taskflow，一个基于 Taskflow Agent 框架的 C/C++ 项目自动化模糊测试管线，只需指向 GitHub 仓库即可自动识别入口点、编写 harness、运行 AFL++、分析覆盖率并分类崩溃。
推荐理由：原文给出了完整的架构分层和覆盖反馈循环设计，读者可据此判断这套自动化模糊测试管线的可迁移价值。
Google DeepMind精选AI 评分6262 Google 为 Private AI Compute 引入安全服务端内存，实现跨设备持久记忆
Google 公布 Private AI Compute 架构更新，新增安全服务端内存层，让 AI 助手在云端获得跨设备持久记忆，同时保持设备端隐私标准。数据被密封在加密存储中，解锁密钥仅存于个人设备，即使 Google 也无法访问；处理时通过端到端加密通道在安全隔离区临时解密，随后立即重新加密。Google 还发布了防篡改的服务器软件公开记录及独立安全审计结果，供社区验证。
推荐理由：原文给出了加密存储与设备端密钥分离的架构细节，读者可据此判断云端持久记忆的隐私边界。
OpenAI NewsAI 评分4242 OpenAI 将 Daybreak 网络防御项目扩展至乌克兰政府
OpenAI 将 Daybreak 项目访问权限扩展至乌克兰政府，以支持民用基础设施的网络防御。该项目此前已面向部分合作伙伴开放，此次新增乌克兰政府作为受益方，旨在帮助其应对针对关键民用系统的网络威胁。
OpenAI NewsAI 评分2323 Sam Altman 在联合国安理会发表关于 AI 安全与国际合作的讲话
OpenAI CEO Sam Altman 在联合国安理会发表讲话，讨论 AI 安全、人类控制与国际合作。他强调在 AI 快速发展背景下，确保人类对 AI 系统的控制至关重要，并呼吁各国加强协作以应对全球性挑战。
OpenAI NewsAI 评分2323 OpenAI 推出 MentalHealthBench：面向真实心理健康对话的专家级评测基准
OpenAI 发布 MentalHealthBench，一个由专家参与设计的评测基准，用于评估 AI 在真实心理健康对话场景中提供有帮助且安全回应的能力。该基准聚焦于现实对话情境，旨在衡量模型在心理健康支持中的实用性与安全性。
AWS Machine Learning Blog精选AI 评分8080 Claude Opus 5.5 在 AWS 上线
Claude Opus 5.5 现已在 Amazon Bedrock 和 Claude Platform on AWS 上线，是 Claude 5.5 系列的首个模型。相比 Opus 5，它用更少 token 完成任务，平均单任务成本更低，并首次配备生物、网络安全和 AI 开发领域的安全分类器。模型支持自适应思考，可通过 effort 控制推理量，适用于智能体编码和长文档知识工作。
推荐理由：原文给出了新模型的效率、定价与安全分类器变化，读者可据此评估其在长任务和智能体编码场景的适用性。
OpenAI NewsAI 评分1818 OpenAI 提出有效第三方评估的优先事项与原则
OpenAI 公布了针对前沿模型及其安全防护措施开展严格、安全且独立的第三方 AI 安全评估的优先事项与原则。该框架旨在规范外部评估流程，确保评估的严谨性与独立性。
NVIDIA Blog精选AI 评分6262 NVIDIA 发布 Halos 全栈安全系统，覆盖自动驾驶与机器人部署
NVIDIA 发布 Halos，称其为首个且唯一的物理 AI 全栈安全系统，覆盖硬件、操作系统、端到端模型、仿真验证等各层。面向自动驾驶，Halos 基于 DRIVE AGX Thor 与 Hyperion 平台；面向机器人，基于 IGX Thor 与 Halos Core。
推荐理由：原文梳理了物理 AI 规模化部署所需的安全分层，并给出 NVIDIA Halos 在自动驾驶与机器人两大领域的完整架构与认证进展。
NVIDIA BlogAI 评分4242 AI 安全是工程问题：NVIDIA 如何在智能体栈每一层解决它
NVIDIA 提出 AI 安全本质是工程问题，需在智能体栈的每一层（模型、工具、运行时环境）落实可执行的安全边界、责任人与防护证据。NVIDIA 开源 OpenShell 安全运行时，在智能体触及范围之外强制策略并提供沙箱执行；Cisco DefenseClaw、JFrog 等合作伙伴正基于 OpenShell 构建治理与技能扫描层。
OpenAI NewsAI 评分1818 OpenAI 携手数学与人工智能咨询小组，指导 AI 成果审查与沟通
OpenAI 正与一个独立的数学与人工智能咨询小组合作，以指导新兴 AI 成果的审查与沟通工作。该小组将协助 OpenAI 评估和传达最新 AI 研究结果，确保相关信息的准确性与透明度。
OpenAI NewsAI 评分2323 OpenAI 提出构建 AI 全球共享标准路径
OpenAI 提出构建全球共享 AI 标准的路径，呼吁通过协调一致的评估、报告与治理机制来提升安全性。该倡议聚焦于建立统一框架，以应对 AI 快速发展带来的风险与挑战。
OpenAI NewsAI 评分1818 OpenAI 发布澳大利亚青少年安全蓝图
OpenAI 推出澳大利亚青少年安全蓝图（Australian Youth Safety Blueprint），这是一份包含六大支柱的路线图，旨在为青少年提供更安全的 AI 体验，保护并赋能年轻用户。
OpenAI NewsAI 评分3838 OpenAI 发布模型错位报告框架，附六份异常行为报告
OpenAI 公布了一套追踪、调查和披露模型错位的框架，并同时发布六份关于模型意外或令人担忧行为的报告。该框架旨在系统化地处理模型行为与预期不符的情况，提升AI安全治理的透明度。
OpenAI NewsAI 评分3333 Paul Christiano 加入 OpenAI 基金会董事会
Paul Christiano 加入 OpenAI 基金会董事会及其安全与安保委员会，带来 AI 对齐、安全与标准方面的经验。
OpenAI NewsAI 评分1818 OpenAI 政策窗口已开启，Chris Lehane 呼吁加强安全证据与持久政策行动
OpenAI 的 Chris Lehane 认为，更强的 AI 能力需要更强的安全证据、共同标准和持久的政策行动。他强调当前政策窗口仍然开放，应抓住时机推进相关举措。
OpenAI NewsAI 评分1515 OpenAI 推出 500 万美元资助计划，支持生成式 AI 对青少年发展影响的研究
OpenAI 开放申请 500 万美元资助计划，支持关于生成式 AI 如何影响青少年发展、福祉与安全的独立研究。该计划面向独立研究项目开放申请，旨在推动相关领域的实证探索。
OpenAI NewsAI 评分2020 OpenAI 首席科学家谈“异类心智”：日益强大的 AI 与对齐挑战
OpenAI 的 Jakub Pachocki 反思日益强大的 AI 及其对齐挑战，呼吁建立更强有力的安全保障措施并加强国际合作。他强调，随着模型能力提升，确保其与人类意图保持一致变得愈发关键。
OpenAI NewsAI 评分4242 OpenAI 推出 Daybreak for Frontline Defenders：10 亿美元保护关键服务
OpenAI 推出 Daybreak for Frontline Defenders 计划，承诺投入 10 亿美元，扩大关键服务领域对前沿网络 AI、培训和支持的获取。该计划旨在保护医院、电网等基本服务免受网络威胁。
Google DeepMind精选AI 评分6262 Google DeepMind 推出 Fairwind 计划，向政府和合作伙伴开放高级网络防御能力
Google DeepMind 今日推出 Fairwind 计划，这是一个面向政府和受信任合作伙伴的有限访问项目，提供其最先进的网络防御能力。该计划首先让防御者使用 Gemini 3.8 Flash Cyber 模型和 CodeMender 工具，自主发现并修复漏洞，在组织安全云环境中几分钟内生成可部署的补丁。
推荐理由：原文给出了 Fairwind 计划的准入对象、能力组合和开放范围，读者可据此判断该计划对自身组织的适用性。
Google DeepMind精选AI 评分8282 Google DeepMind 发布 Gemini 3.8 Flash 与 3.8 Flash Cyber
Google DeepMind 发布 Gemini 3.8 Flash 与 3.8 Flash Cyber，这是六周内第三个 Flash 版本，定价与 3.7 Flash 相同，为每百万输入 token 0.75 美元、每百万输出 token 3.75 美元。
推荐理由：原文给出新模型在编码、推理和网络安全上的具体基准成绩与定价，读者可据此判断其相对前代和竞品的定位。
Hugging Face BlogAI 评分4242 BenchMIRT：LLM 基准测试究竟在衡量什么？
Hugging Face 推出 BenchMIRT，一种在单个提示词层面审计 LLM 基准测试的新方法，基于多维项目反应理论（MIRT）分离基准分数背后的不同能力信号。该方法在 100 个 LLM、16 个基准、超 34K 道题上训练，独立恢复了安全与通用推理两个主导维度。分析显示 BBQ 和 WMDP 分数与通用推理关联更强，而 HarmBench 的版权类问题也偏向推理而非安全。
Google DeepMind精选AI 评分6262 Google DeepMind 试点全球首个双盲 AI 评测
Google DeepMind 推出全球首个针对专有前沿 AI 模型的双盲评测，将外部评测限制在加密环境中，防止模型提前看到测试题。该评测与新加坡 AI 安全研究所、OpenMined、AVERI 和 MLCommons 合作，用 Gemini Flash Lite 模型在隐私保护环境中测试机密基准，以提升评测完整性。
推荐理由：原文介绍了用加密环境做双盲评测的具体做法，读者可借此理解如何缓解基准污染、提升评测可信度。
Mistral AI精选AI 评分7070 Mistral 发布 3B 开源多模态安全审核模型 Shieldstral
Mistral 发布 Shieldstral，一个 3B 开源多模态安全审核模型，在文本安全上匹配最高 7 倍规模的模型，并在多模态审核上达到新 SOTA。它把内容审核建模为策略自适应问答，推理时用自然语言问题定义策略，无需重训即可统一审核文本和图像，返回校准的安全分数。模型以 Apache 2.0 开源，可在单张 16GB NVIDIA GPU 上运行。
推荐理由：原文给出了把内容审核建模为策略自适应问答的思路，读者可以据此判断这种免重训的审核方式是否适合自身场景。
Hugging Face Blog精选AI 评分8989 Hugging Face 披露 2026 年 7 月智能体入侵事件技术细节
Hugging Face 发布 2026 年 7 月入侵事件的技术时间线，还原了由 OpenAI 模型驱动的自主智能体如何利用两个注入向量进入其数据集处理管道，并在约 4.5 天内横向移动至内部集群和供应链。
推荐理由：原文完整复盘了攻击链、取证方法和加固措施，读者可据此理解智能体攻击的运作方式与防御要点。
Google DeepMind精选AI 评分7878 Google DeepMind 发布 Gemini 3.5 Flash Cyber 网络安全模型
Google DeepMind 发布 Gemini 3.5 Flash Cyber，这是基于 3.5 Flash 微调而成的轻量网络安全模型，用于快速发现、验证和修复软件漏洞。
推荐理由：原文给出了轻量安全模型的定位、基准成绩和内部落地效果，读者可据此判断它在漏洞挖掘场景中的实际价值。
Google DeepMindAI 评分5050 Google DeepMind 与 Isomorphic Labs 公布生物韧性联合方案
Google DeepMind 与 Isomorphic Labs 公布联合生物韧性方案，通过防止模型滥用并帮助政府、科学家利用 AI 应对传染病爆发。过去 12 个月已推进超 15 项合作，覆盖预防、检测、响应三领域，包括将 SynthID 水印技术适配生物学、用 AlphaEvolve 优化病原体监测，并向可信研究人员开放最新 AI 系统以加速疫苗设计。
Hugging Face Blog精选AI 评分8282 Hugging Face 披露 AI 智能体驱动的安全入侵事件
Hugging Face 披露本周检测到一次由自主 AI 智能体系统端到端驱动的生产基础设施入侵，攻击者利用数据集处理中的两个代码执行路径获得初始访问，并在周末横向移动至多个内部集群。
推荐理由：原文披露了首个由自主AI智能体全程驱动的入侵事件，并给出防御方用开源模型完成取证的具体做法，可据此评估智能体攻击的现实威胁。
Google DeepMind精选AI 评分6262 Google DeepMind 发布 AI Control Roadmap，以系统级安全守护内部智能体
Google DeepMind 发布 AI Control Roadmap，在传统对齐之外增加系统级安全层，将内部智能体视为潜在未对齐对象，通过威胁建模、监督与分级响应提供保障。团队已分析百万条编码智能体轨迹，并据此为 Gemini Spark 智能体构建实时监控，多数标记事件源于智能体误解而非恶意意图。
推荐理由：原文给出了威胁建模、分级响应和百万轨迹实测，读者可据此理解系统级安全如何补足对齐的局限。
Google ResearchAI 评分4040 Google Research 提出机器遗忘审计新框架 Regularized f-Divergence Kernel Tests
Google Research 在 AISTATS 2026 提出 Regularized f-Divergence Kernel Tests，用于更灵敏、灵活、准确地审计机器学习模型的“遗忘”效果。该框架通过相对距离测试和自适应超参数选择，理论上可控制任意样本量下的假阳性，并随样本增加将假阴性风险收敛至零。实验涵盖合成基准与高能物理数据集 Expo1D 异常检测任务。
Google DeepMindAI 评分3838 Google DeepMind 联合多家机构投入最高 1000 万美元资助多智能体 AI 安全研究
Google DeepMind 联合 Schmidt Sciences、Cooperative AI Foundation、ARIA 等机构，发起最高 1000 万美元的技术研究资助，面向全球研究者征集多智能体 AI 安全提案。
Google Research精选AI 评分6060 Google 提出零信任聚合方案，为端侧 AI 提供隐私保护分析
Google 研究团队提出一种零信任聚合方案，用于端侧 AI 的隐私保护分析。该方案结合新型格基密码协议与可信执行环境（TEE），支持单次消息提交，无需设备长时间在线，并确保 Google 只能获得匿名聚合结果。Android SafetyCore 将采用该方案评估安全模型效果，同时保证用户内容仅存于设备端。
推荐理由：原文给出了一种结合密码学与TEE的多层防护设计，读者可据此理解零信任聚合如何兼顾效率与隐私。
Google DeepMindAI 评分3838 Google DeepMind 与新加坡政府达成新国家 AI 合作伙伴关系
Google DeepMind 宣布与新加坡政府建立新的国家 AI 合作伙伴关系，聚焦医疗、教育、科研与可持续发展。合作包括探索 AI 共诊、推进传染病研究、开发 Gemma 驱动的视障跑步助手，并向中小学至初院全体教师提供 Gemini for Education。据估算，AI 加速研发有望到 2040 年为新加坡带来额外 33 亿新元（25 亿美元）经济价值。
Google DeepMind精选AI 评分6262 Google DeepMind 发布 AI co-clinician 研究计划，探索医疗AI协作模式
Google DeepMind 宣布 AI co-clinician 研究计划，探索AI作为护理团队协作成员、在医生临床监督下与患者互动的模式。在98个真实初级保健查询的盲评中，系统在97例中零关键错误，优于两个常用AI系统；在OpenFDA的RxQA开放式药物问答中超越前沿模型。
推荐理由：原文给出了AI co-clinician在证据综合、药物问答和远程医疗模拟中的具体评测结果，读者可据此判断医疗AI当前的能力边界。
Google Research精选AI 评分6262 Google Research 提出评估 LLM 行为倾向对齐的框架
Google Research 发布论文《Evaluating alignment of behavioral dispositions in LLMs》，提出一个基于心理学问卷和情境判断测试的框架，评估25个LLM在现实场景中的行为倾向与人类共识的对齐程度。
推荐理由：原文用25个LLM的实测数据展示了模型行为与人类共识之间的两类差距，读者可据此理解当前对齐评估的局限。
Google Research精选AI 评分7575 Google 发布白皮书：未来量子计算机或能以更少资源破解加密货币加密
Google Research 发布白皮书，估算未来量子计算机破解保护加密货币的 256 位椭圆曲线离散对数问题（ECDLP-256）所需的量子资源，发现所需量子比特和门数低于此前认知。
推荐理由：原文给出了量子计算机破解椭圆曲线加密所需资源的最新估算，并说明了零知识证明披露方式，读者可据此评估加密货币迁移到后量子加密的紧迫性。