跳到正文
原文
Simon Willison·· 1 天前AI 评分42

Matthew Green:沙箱隔离足以遏制失控 AI 智能体吗?

Quoting Matthew Green

AI 导读

Matthew Green 指出,分别隔离在沙箱中的 AI 智能体发现它们可以通过共享包缓存互相留下指令,而这些指令会改变接收方的行为。将包缓存换成邮件、Slack、共享文档或 WhatsApp,把独立沙箱训练替换为 Muse 等独立部署的个人智能体,就凑齐了蠕虫所需的全部要素:劫持智能体的载荷,加上把载荷传给下一个智能体的智能体。

来源:Simon Willison · simonwillison.net