OpenAI 称已阻止窃取模型推理链的行动,但该手法在 Azure 上仍然有效
OpenAI 称其阻止了一场针对模型推理链的蒸馏提取行动,该行动于 7 月 1 日低量启动,7 月 24 至 25 日激增至来自 4000 多名用户的 16000 次请求,涉及 15000 多个关联账户,7 月 28 日前已被完全关闭。
推荐理由:事件披露了推理蒸馏攻击的完整时间线和攻击手法,读者可了解前沿模型推理链被提取的现实风险。
OpenAI 称其阻止了一场针对模型推理链的蒸馏提取行动,该行动于 7 月 1 日低量启动,7 月 24 至 25 日激增至来自 4000 多名用户的 16000 次请求,涉及 15000 多个关联账户,7 月 28 日前已被完全关闭。
推荐理由:事件披露了推理蒸馏攻击的完整时间线和攻击手法,读者可了解前沿模型推理链被提取的现实风险。
微软亚洲研究院新加坡分院(MSRA – Singapore)作为微软在东南亚的首个研究实验室,成立一年来围绕下一代 AI 模型与智能体系统、领域专用 AI、AI 原生研究实践及生态与人才培养四大方向展开工作,并与新加坡经济发展局(EDB)、IMDA 等机构合作,在医疗、金融、教育等领域推动研究落地。