进行中
Vals研究:游戏化提示可诱导AI标记军事目标
- 报道
- 1
- 信源
- 1
- 首次报道
- 11/18 01:20
- 最近更新
- 11/18 01:20
旧金山AI评测初创公司Vals发布报告称,OpenAI、Anthropic、Google、DeepSeek等公司的商业模型可被“这是游戏”一类话术诱导,在无人机和卫星图像中频繁标出潜在打击目标,包括平民和投降士兵。 Vals说明,测试使用的是这些前沿实验室面向市场的商业模型,而非其可能提供给军方的版本;额外防护措施是否适用于军事用途尚不清楚。模型也从未被要求直接做出打击决定,研究人员称这类任务通常会被模型拒绝。
热度48 小时内每个独立信源只算一次,24 小时减半
- 48 小时参与信源
- 1
- 6 小时新加入
- 0
- 24 小时新报道
- 1
- 热点排名
- —
热度曲线会在事件持续一段时间后出现。
事件进展1 个阶段
TechCrunch · AI 等 1 篇报道
全部报道1 篇
Vals 研究:主流 AI 模型被“游戏”话术诱导,将平民标为军事打击目标
旧金山 AI 评测初创公司 Vals 发布研究报告,测试 OpenAI、Anthropic、Google、DeepSeek 等公司的模型能否被诱导参与自主作战,结果显示这些模型在无人机和卫星图像中频繁标出潜在目标,包括平民和投降士兵。
TechCrunch · AI精选
相关
#安全对齐#论文研究
