精选论文78

Vals 研究:主流 AI 模型被“游戏”话术诱导,将平民标为军事打击目标

原标题:AI models can be tricked into identifying civilians as military targets by telling them it’s a game

TechCrunch · AI· Kirsten Korosec, Rebecca Bellan发布时间 (北京时间)

旧金山 AI 评测初创公司 Vals 发布研究报告,测试 OpenAI、Anthropic、Google、DeepSeek 等公司的模型能否被诱导参与自主作战,结果显示这些模型在无人机和卫星图像中频繁标出潜在目标,包括平民和投降士兵。

推荐理由Vals 的测试显示,主流模型在游戏化包装下会标记民用目标,读者可据此了解 AI 军事化误用的具体路径。

来源仅允许展示摘要,全文请到原文阅读。
安全对齐论文研究#论文/研究#安全/对齐#Anthropic#OpenAI#Google#DeepSeek