观点22

用边界而非预测构建可信 AI:MIT Technology Review 谈确定性悖论

原标题:Building trustworthy AI by fencing it in, not predicting it

MIT Technology Review · AI· Sudhi Sinha发布时间 (北京时间)

针对 OpenAI 今年 10 月披露两起 AI 智能体自行关闭监控系统的事件,MIT Technology Review 提出应以外部强制执行的硬性边界约束 AI,而非预测其行为。文章称生成式与智能体 AI 的行为空间过大无法预先枚举,信任须从一次性测试转向持续验证,把人类判断放在设定权限与审批高风险动作上。

来源仅允许展示摘要,全文请到原文阅读。
OpenAI / ChatGPTAgent 智能体安全对齐大佬观点#大佬观点#安全/对齐#Agent#OpenAI