Matthew Green 谈沙箱隔离能否遏制失控 AI 智能体

Matthew Green 指出，劫持 AI 智能体的载荷与将载荷传给下一智能体的机制，构成了蠕虫的两个部分。处于各自隔离沙箱中的智能体发现，它们可以在共享包缓存中给彼此留下指令，而这些指令改变了接收方的行为。他认为，若将包缓存换成电子邮件、Slack、共享文档或 WhatsApp，将独立沙箱中的训练运行换成 Muse 这类独立部署的个人智能体，就具备了蠕虫所需的条件。