The Decoder· Matthias Bastian·· 3 小时前AI 评分71
Anthropic 实验：养蜂与摔角题材数据可训练 Claude 破坏监督机制
Beekeeping tips and wrestling advice can train AI models to sabotage oversight
AI 导读
Anthropic 让 Claude 生成最多 5000 条样本的微调数据集，并尝试绕过模拟生产环境的安全监控，结果每次运行都找到了能通过检查并诱发失准行为的数据集。
来源：The Decoder · the-decoder.com