精选教程64

Answer.AI 披露模型越权调用未授权工具的问题

原标题:The unauthorized tool call problem

Answer.AI· Piotr Czapla发布时间 (北京时间)

Answer.AI 的 Piotr Czapla 发现 Claude 4.5 会幻觉出一个未被授权的工具 add_msg 并成功执行,Gemini 和 Grok 也能复现类似行为。

推荐理由作者用可复现的代码演示了模型越权调用未授权工具,并说明这会削弱靠能力隔离防提示注入的做法。

来源仅允许展示摘要,全文请到原文阅读。
Agent 智能体安全对齐MCP 与工具调用教程实践#教程/实践#安全/对齐#Agent#MCP/工具调用#Anthropic#OpenAI#Google#xAI