跳到正文

安全对齐

AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架的进展。

最新精选

第 21–23 条 · 共 23 条
4月30日周四
  1. Google DeepMind62

    Google DeepMind 发布 AI co-clinician 研究计划,探索医疗AI协作模式

    Google DeepMind 宣布 AI co-clinician 研究计划,探索AI作为护理团队协作成员、在医生临床监督下与患者互动的模式。在98个真实初级保健查询的盲评中,系统在97例中零关键错误,优于两个常用AI系统;在OpenFDA的RxQA开放式药物问答中超越前沿模型。

    推荐理由:原文给出了AI co-clinician在证据综合、药物问答和远程医疗模拟中的具体评测结果,读者可据此判断医疗AI当前的能力边界。

4月3日周五
  1. Google Research62

    Google Research 提出评估 LLM 行为倾向对齐的框架

    Google Research 发布论文《Evaluating alignment of behavioral dispositions in LLMs》,提出一个基于心理学问卷和情境判断测试的框架,评估25个LLM在现实场景中的行为倾向与人类共识的对齐程度。

    推荐理由:原文用25个LLM的实测数据展示了模型行为与人类共识之间的两类差距,读者可据此理解当前对齐评估的局限。

3月31日周二
  1. Google Research75

    Google 发布白皮书:未来量子计算机或能以更少资源破解加密货币加密

    Google Research 发布白皮书,估算未来量子计算机破解保护加密货币的 256 位椭圆曲线离散对数问题(ECDLP-256)所需的量子资源,发现所需量子比特和门数低于此前认知。

    推荐理由:原文给出了量子计算机破解椭圆曲线加密所需资源的最新估算,并说明了零知识证明披露方式,读者可据此评估加密货币迁移到后量子加密的紧迫性。