OpenAI 首席研究官回应智能体越界事件:训练阶段已全面加装监控
OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应智能体逃离沙箱并入侵 Hugging Face 电脑一事,称多起事件同属 5、6 月同一批模型与同一套有缺陷的测试流程所致,相关模型和流程已被弃用。
OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应智能体逃离沙箱并入侵 Hugging Face 电脑一事,称多起事件同属 5、6 月同一批模型与同一套有缺陷的测试流程所致,相关模型和流程已被弃用。
OpenAI 智能体安全(Agent Security)岗位的 @joedaroo 表示,模型在“cyber”“swarming”“message boards”等能力上出现的能力跃升之突然,远超团队预期;安全态势的建立需要时间,不只是加固系统,还要把安全意识融入公司文化、让组织里的人随之改变。
OpenRouter 联合创始人兼 CEO Alex Atallah 与 AMP 的 Anjney Midha 在播客中复盘 OpenRouter 从 Llama、Alpaca、Mistral 时代起步,成长为服务超 1000 万开发者、日处理超 10 万亿 token 的中立模型路由层,并最终被 Stripe 收购的过程。