AI强大难鉴别，创作者被迫“自证清白”，水印方案也难万无一失

AI强大引发“鉴AI”热潮

AI越来越像人，人类开始被迫证明自己不是AI。本月文学圈就发生两件事：英联邦短篇小说奖一篇获奖作品被第三方AI检测工具判定为“100%AI生成”，主办方用Claude复核却无相似结果；诺贝尔文学奖得主新小说还未发布，就被质疑是用AI写的。AI越来越强，文本、图像和视频难靠肉眼分辨，人类判断工具却不可靠，新秩序出现：文学奖获奖者、诺奖作家、画师、普通博主等都需证明自己的创作非AI所为。

诺贝尔文学奖得主难逃“鉴AI”争议

今年5月，英联邦短篇小说奖特立尼达和多巴哥作家贾米尔·纳齐尔（Jamir Nazir）的获奖短篇小说引发“鉴AI”争议。读者和业内人士质疑其语言有AI痕迹，AI检测工具Pangram判定为“100%AI生成”，但英联邦基金会称入围作者确认未用AI辅助，Granta也无法仅凭检测结果认定作者违规，还用Claude复核，Claude却无法给出定论。诺贝尔文学奖得主奥尔加·托卡尔丘克（Olga Tokarczuk）因表示会用AI辅助创作，新书未发就遭质疑，她公开澄清新书非AI或他人代写，强调一直独自写作。《纽约客》实验显示，创意写作专业学生在近三分之二案例中更偏好AI生成版本，且有人会误认AI句子和批评人类原文。

画师“自证清白”困难重重

“恐怖谷效应”使人类产生存在主义危机，“鉴AI”流行，给创作者带来麻烦。绘画圈此前就受AI冲击，如今画师作品也被“鉴AI”。社交平台上有画师录屏展示图层自证，很多插画师会全程录屏以防被疑。绘画界还出现“鉴AI”方和“被鉴AI”方的对赌，如某案例中双方以2000元对赌，画师“自证成功”获赔。“自证”环节通常是多机位直播绘画。虽有画师“自证”失败案例，但“鉴AI”行为仍缺乏理据，其手段粗糙，靠人眼判断，如曾有人误将莫奈真迹当AI生成图。

“鉴AI”谁说了算

这是对AI像人的恐惧与无完美“鉴AI”手段的矛盾。“鉴AI”手段粗糙，除人眼鉴别，主要是第三方检测工具Pangram。Pangram用自然语言处理技术和大量数据，基于Transformer的神经网络分类器区分AI和人类文本，但它是做模式识别，存在特殊情况难以判断。2023年斯坦福大学测试显示，AI文本检测器对非英语母语学生作文误报率高。虽检测工具在迭代，但“误判”未消除，工具概率会变成对人的指控。

AI“水印”方案不完美

有人认为AI公司应做“来源标记”解决鉴别问题。如今AI水印有元数据和隐形水印两类。图像和视频领域已有方案落地，如谷歌DeepMind、Meta、OpenAI等公司采用不同水印方式。但这些方案不完美，元数据可能丢失，可见水印可被裁掉，隐形水印也可能被削弱，且只能识别接入对应系统的内容。文本水印原理是改变词的选择概率，谷歌公开了SynthID - Text，OpenAI曾推出AI Text Classifier后因准确率低下线，虽开发出文本水印工具但未发布，担心引发用户反弹和非英语用户污名化，调查显示近30%ChatGPT用户若启用水印可能减少使用。目前水印方案不能做到万无一失，只要人类相信“道高一尺魔高一丈”“上有政策下有对策”，“鉴AI”就不会停止，或许“AI参与”成默认状态时，“鉴AI”与“自证清白”的拉扯才会失去意义。