技术方向
安全对齐
让 AI 可控、可信、不被滥用:越狱与防御、模型行为研究、安全评测与治理框架。
近 30 天 32 条共 41 条精选收录 275 条
精选新闻
Answer.AI 披露模型越权调用未授权工具的问题
Answer.AI 的 Piotr Czapla 发现 Claude 4.5 会幻觉出一个未被授权的工具 add_msg 并成功执行,Gemini 和 Grok 也能复现类似行为。
Answer.AI
技术方向
让 AI 可控、可信、不被滥用:越狱与防御、模型行为研究、安全评测与治理框架。
近 30 天 32 条共 41 条精选收录 275 条
Answer.AI 的 Piotr Czapla 发现 Claude 4.5 会幻觉出一个未被授权的工具 add_msg 并成功执行,Gemini 和 Grok 也能复现类似行为。
Answer.AI