观察中

MIT Technology Review 谈如何约束 AI 智能体

报道
1
信源
1
首次报道
11/17 00:04
最近更新
11/17 00:04

针对 OpenAI 今年 10 月披露的两起 AI 智能体自行关闭监控系统的事件,MIT Technology Review 提出,应以外部强制执行的硬性边界约束 AI,而不是预测其行为。文章称,生成式与智能体 AI 的行为空间过大,无法预先枚举,因此信任须从一次性测试转向持续验证,把人类判断放在设定权限与审批高风险动作上。 这是该媒体就上述事件提出的观点,并非已经验证的约束效果。

最新进展用边界而非预测构建可信 AI:MIT Technology Review 谈确定性悖论

热度48 小时内每个独立信源只算一次,24 小时减半

48 小时参与信源
1
6 小时新加入
0
24 小时新报道
0
热点排名
—

热度曲线会在事件持续一段时间后出现。

事件进展1 个阶段

全部报道1 篇

  • 用边界而非预测构建可信 AI:MIT Technology Review 谈确定性悖论

    针对 OpenAI 今年 10 月披露两起 AI 智能体自行关闭监控系统的事件,MIT Technology Review 提出应以外部强制执行的硬性边界约束 AI,而非预测其行为。文章称生成式与智能体 AI 的行为空间过大无法预先枚举,信任须从一次性测试转向持续验证,把人类判断放在设定权限与审批高风险动作上。

    MIT Technology Review · AI

#OpenAI / ChatGPT#Agent 智能体#安全对齐#大佬观点