水印

IT之家注意到，OpenAI下一步将在欧盟推广文本水印。

值得一提的是，OpenAI不会在发布时将文本水印设为全球默认。

据介绍，文本水印技术名为textGrain（文本粒水印），会在模型选词过程中嵌入不可见的统计信号。

未来几周，团队将仅在欧盟所有计划中向符合条件的ChatGPT和Codex用户引入文本水印功能。

Claude文本水印的具体技术细节目前也没有全部公开，因此外界还无法准确判断它究竟采用何种算法，以及面对不同程度的改写和攻击时能保持多大程度的稳定性。

大语言模型水印是他近几年的核心研究方向之一。

此后，这条研究线又延伸到人类编辑下的稳健检测、拟合优度检验、混合文本中水印比例的估计等问题。

学术界此前追求的一个重要性质叫「无偏」：在任意固定的前文下，如果把密钥看作随机抽取的，那么对所有密钥取平均后，水印模型的输出分布与原模型完全一致。

与此同时，水印检测也存在误判风险。

水印的做法是用一把密钥和前文生成一串伪随机数，再让抽样过程依赖这串数字。

另一个极端同样不可取：如果生成过程与密钥毫无关联，模型的随机性完好无损，但水印信号也就不存在了。