返回快讯列表
最新动态

OpenAI 公布 EU 文本来源信号方案,API 客户可自愿启用

官方方案把文本水印、检测器和 EU AI Act 的机器可识别要求放在一起,强调短文本和改写场景仍有技术限制。

OpenAI 10 月 5 日公布 textGrain 文本水印方案。API 客户可在全球为部分模型自愿启用,默认关闭;欧盟地区符合条件的 ChatGPT 和 Codex 文本输出,则计划在接下来几周逐步加入不可见的来源信号,首发不会改成全球默认开启。

textGrain 在模型选词时加入统计信号,检测器据此判断一段文字是否含有 OpenAI 水印。检测入口先向获批准的研究人员和专业机构开放,普通公众暂不能自由使用。官方也计划开放这项技术,并继续更新技术报告。

检测效果受到文本长度和编辑影响。OpenAI 以一组四百 token 英文片段为例,替换一成词语后检测率由约百分之九十二降到六十六,替换四分之一后降到十七。检测结果不会识别用户、暴露提示词或证明内容真实;没有检出水印,同样不能据此认定文章由人类完成。

更多快讯