OpenAI 10 月 5 日宣布,为配合《欧盟人工智能法案》的内容透明要求,未来几周将在欧盟地区符合条件的 ChatGPT 和 Codex 文本输出中加入机器可识别的隐形水印。
该技术名为 textGrain(文本粒水印),会在模型选词过程中嵌入不可见的统计信号,检测器通过识别该信号判断文本是否带有 OpenAI 水印。OpenAI 不会在发布时将文本水印设为全球默认。
从今天起,全球 API 客户可选择为部分模型添加水印文本输出;OpenAI 还将与云合作伙伴合作,在未来几周内为通过其服务访问的模型输出提供水印功能。获批研究人员和专家组织可申请检测器访问,该工具只报告是否检测到水印,不透露用户身份、提示或对话内容。
