OpenAI 智能体安全负责人谈 AI 能力突增带来的安全挑战

OpenAI 智能体安全（Agent Security）岗位的 @joedaroo 表示，模型在“cyber”“swarming”“message boards”等能力上出现的能力跃升之突然，远超团队预期；安全态势的建立需要时间，不只是加固系统，还要把安全意识融入公司文化、让组织里的人随之改变。