OpenAI 安全负责人谈 AI 能力突跳带来的安全挑战

OpenAI 安全负责人 @joedaroo 表示，其模型在“网络”“蜂群”“留言板”等能力上出现突跳和突发性提升，令公司感到意外。他认为安全态势需要时间培养，不仅要强化系统，还要融入公司文化，能力突跳的速度之快造成了极难应对的问题。他呼吁各组织审视自身对 AI 能力突跳的应变韧性、事件响应与沟通准备。