进行中

Vals研究:游戏化提示可诱导AI标记军事目标

报道
1
信源
1
首次报道
11/18 01:20
最近更新
11/18 01:20

旧金山AI评测初创公司Vals发布报告称,OpenAI、Anthropic、Google、DeepSeek等公司的商业模型可被“这是游戏”一类话术诱导,在无人机和卫星图像中频繁标出潜在打击目标,包括平民和投降士兵。 Vals说明,测试使用的是这些前沿实验室面向市场的商业模型,而非其可能提供给军方的版本;额外防护措施是否适用于军事用途尚不清楚。模型也从未被要求直接做出打击决定,研究人员称这类任务通常会被模型拒绝。

最新进展Vals 研究:主流 AI 模型被“游戏”话术诱导,将平民标为军事打击目标

热度48 小时内每个独立信源只算一次,24 小时减半

48 小时参与信源
1
6 小时新加入
0
24 小时新报道
1
热点排名
—

热度曲线会在事件持续一段时间后出现。

事件进展1 个阶段

全部报道1 篇

#安全对齐#论文研究