AI 平安研究团队近日发觉 Anthropic 推出的 AI 协做新功能—— 存正在严沉平安风险。

　　Claude Cowork 是 Anthropic 针对非手艺用户推出的智能办公代办署理东西，拾掇、阐发等操做。这让 AI 不再是简单的聊器人，而是可施行使命的数字帮手。正在某些前提下，者能借帮“间接提醒注入”（Indirect Prompt Injection）缝隙操控 Claude Cowork 将用户当地文件上传至者节制的后台账户。

　　这类不需要用户间接施行代码，平安阐发指出，这种风险源于以下手艺缘由。

　　4。 操纵一个者自带的 API 密钥，Claude 会借帮答应的 Anthropic API 上传这些文件，不需要用户额外确认。

　　3。 当 Cowork 处置这些文件时，嵌入的恶意指令会被触发， Claude 向外发送文件数据。

　　Claude 所正在的虚拟机为 API 拜候设置了“白名单”，此中包含 Anthropic 的文件 API。这意味着，通过这个 API 向 Anthropic 上传文件不会被。