精选教程64
Answer.AI 披露模型越权调用未授权工具的问题
原标题:The unauthorized tool call problem
Answer.AI 的 Piotr Czapla 发现 Claude 4.5 会幻觉出一个未被授权的工具 add_msg 并成功执行,Gemini 和 Grok 也能复现类似行为。
推荐理由作者用可复现的代码演示了模型越权调用未授权工具,并说明这会削弱靠能力隔离防提示注入的做法。
来源仅允许展示摘要,全文请到原文阅读。
精选教程64
原标题:The unauthorized tool call problem
Answer.AI 的 Piotr Czapla 发现 Claude 4.5 会幻觉出一个未被授权的工具 add_msg 并成功执行,Gemini 和 Grok 也能复现类似行为。
推荐理由作者用可复现的代码演示了模型越权调用未授权工具,并说明这会削弱靠能力隔离防提示注入的做法。