观察中
OpenAI发布CSAM分类器并设ChatGPT违规暂停
- 报道
- 1
- 信源
- 1
- 首次报道
- 11/17 03:23
- 最近更新
- 11/17 03:23
OpenAI在华盛顿发布一款儿童性虐待材料(CSAM)图像分类器,称其能区分AI生成与真实儿童影像,误报显著减少,标记图片数量下降48%,被识别图片含虐待材料的概率提高一倍。该分类器向相关机构免费开放。 OpenAI同时推出ChatGPT违规访问暂停机制:首次违规将触发24小时访问暂停,并警告用户账号可能被永久关闭,同时提供支持资源。上述效果数据来自OpenAI的说法。
热度48 小时内每个独立信源只算一次,24 小时减半
- 48 小时参与信源
- 1
- 6 小时新加入
- 0
- 24 小时新报道
- 0
- 热点排名
- —
热度曲线会在事件持续一段时间后出现。
事件进展1 个阶段
OpenAI发布CSAM图像分类器并推出ChatGPT违规暂停机制
The Verge · AI 等 1 篇报道
全部报道1 篇
OpenAI 发布 CSAM 分类器,可标记 AI 生成内容并向机构免费开放
OpenAI 在华盛顿发布会上宣布一款儿童性虐待材料(CSAM)分类器,称其误报显著减少,标记图片数量下降 48%,被识别图片含虐待材料的概率提高一倍,并可区分 AI 生成与真实儿童影像。
The Verge · AI
相关
#OpenAI / ChatGPT#安全对齐#行业动态
