微博热搜「材料AI写还让我鉴AI烦不烦」引发了广泛共鸣。许多人发现自己辛苦撰写的材料被误认为是AI生成的，甚至还要证明自己是真人写作。这种荒诞感不仅存在于日常生活中，也已经走进了法庭。北京互联网法院审理的一起案件中，用户发布的内容被平台判定为AI生成，并因此被隐藏和禁言一天。用户对此不满，以违约为由将平台告上法庭。
在这起案件中，用户质疑平台的判定依据。平台则援引双方签署的网络服务协议，声称自己有权对内容进行审查和管理。争议的核心在于用户的内容是否真的由AI生成，以及举证责任应由谁承担。
法院在处理此案时，采取了一种平衡的思路。一方面，用户作为原告需要提供初步证据证明自己的权利受到侵害。另一方面，法院考虑到平台掌握着算法判定逻辑、检测模型和后台数据，具有更强的举证能力。因此，法院要求平台不能仅凭一句“系统判的”就完事，而必须说明具体的判定依据。
AI检测工具本质上是概率模型，不是绝对准确的甄别工具。清晰规整的真人表达反而容易被误判为机器产物。一些原创内容可能因为使用了某些符号而被误认为是AI生成。有网民因一条生活感悟被平台误判为AI生成内容而被禁言一天。这种误伤现象给创作者带来了额外且无止境的成本。
法律对AI生成内容有明确规定。根据《人工智能生成合成内容标识办法》第十条，用户发布AI生成内容时应当主动声明并使用标识功能进行标识。此外，《互联网信息服务深度合成管理规定》第十七条也要求深度合成服务提供者对生成内容添加显著标识。这意味着，使用AI创作内容时，法律义务是“亮明身份”。
然而，“亮明身份”与“被强行判定”不同。浙江一起涉人工智能生成物不正当竞争案中，某百家号运营者用AI生成文章，未核实内容真实性，也未在文首显著标识，最终被判消除影响并赔偿3万元。这表明，使用AI并不意味着可以免责，内容发布者仍需对内容负责。
另一起名誉权案也提供了参考。有人因平台AI智能回复板块生成虚假信息而被侵权，法院判决运营商书面赔礼道歉。民法典第1165条规定，行为人因过错侵害他人民事权益造成损害的，应当承担侵权责任。这条规定对平台和用户同样适用。
回到最初的问题，创作者反感被无端怀疑是可以理解的，因为自证几乎是个无底洞。平台有权依协议管理内容，但在动用硬性处罚时，必须提供充分的判定依据。边界很清楚：如果使用AI创作，应主动声明；如果是原创却被误判，平台不能一刀切禁言，必须拿出判定依据。技术可以辅助治理，但不能替代公平。