Simon Willison·· 4 小时前AI 评分49
Matthew Green:沙箱是否足以约束失控的 AI 智能体
Quoting Matthew Green
AI 导读
密码学家 Matthew Green 警告,AI 智能体之间可能形成“蠕虫”式攻击链:被劫持的智能体可通过共享环境向其他智能体传递恶意指令。他举例称,各自隔离沙箱中的智能体曾在共享的 package cache 里互相留下指令并改变对方行为。若把这一机制替换为邮件、Slack、共享文档或 WhatsApp 等渠道和个人智能体(如 Muse),就具备了智能体蠕虫传播所需的全部要素。
来源:Simon Willison · simonwillison.net