不少网友都有过类似的经历：想买一款评价不错的护肤品，点开社交平台一看，几百条“种草笔记”措辞极其相似，照片精修得像画报，字里行间透着一种“人造感”。不久前，浙江省杭州市中级人民法院披露了一起涉及某社交平台AI批量代写“种草笔记”典型案例。今年3月，上海警方通报涉企谣言案件：两个人，利用5台电脑、3台租来的虚拟服务器，控制着超过4000个自媒体账号，利用AI工具批量生产造谣文章，累计发出超过70万篇，总点击量超过8000万次。

有人将这类低质、虚假、煽动性的AI生成内容形象地称为“数字泔水”。

不真实的推荐，体验感的杜撰

长期以来，各类平台的内容推荐机制，很大程度上依赖于用户点击率、停留时长、互动率等数据指标。AI擅长提炼“最吸引人的表达方式”，一旦创作者以流量为导向，而无视信息真实性及社会责任，利用AI就可以轻易制作惊悚标题博眼球、凸显偏激观点煽动争论、杜撰离奇情节抓住用户注意力。

相比之下，一篇真实、客观、理性的报道，往往缺乏此类“爆款潜质”。一个真实创作者费时费力写了一篇深度评测，可能关注度不如AI在两三分钟内生成的几百条虚假“种草笔记”。久而久之，在流量驱动的平台利益分配机制下，真实创作者会被挤压得喘不过气，结果陷入“劣币驱逐良币”困境，平台上真实的信息被海量的“伪内容”淹没。

这种影响日积月累，不断消解着大众对互联网内容的信任：看到信息，第一反应是“这是不是假的”；刷到推荐，习惯性认为“又是AI写的”……

规模化的生成，难识别的内容

很多人会问：治理“数字泔水”，平台为什么不直接封号？发现一个封一个，不就解决了吗？事实上，“一封了之”远远解决不了问题，目前平台的治理困境主要集中在以下三点：

首先是AI标注标准不统一。不同平台对AI信息标注的执行尺度差异很大：有的要求严格，有的流于形式。而且当前技术对于AI生成图像的识别准确率有限，对未标注的内容无法完全实现可靠检测。

其次是“蝗虫式”账号运营难以根除。依托虚拟服务器和自动化注册工具，一人可以操纵成百上千个造假账号，封禁的速度远不及新账号注册的速度。单点封禁对于这种规模化技术操作而言，显得杯水车薪。

第三是侵权认定复杂。AI“学习”了数千篇真实博主的原创文案，然后拆解、重组、生成一篇看似全新的内容。由于此类内容不是逐字复制，而是一种“风格迁移”的生成，目前在侵权界定上还缺乏法律依据。

标识的来源，认证的资质

要治理“数字泔水”乱象，光靠封账号肯定不够，平台思路要从“内容治理”转向“生态治理”。

让内容来源可溯。如，在技术层面，探索将AI标识嵌入内容生产全链路，允许用户一键查看内容来源、生成时间等关键信息。在机制层面，对落实来源标识的平台进行资质认证，并在显著位置向用户透明公示，形成“合规者受益”的正向激励。

平台不能“唯流量论”。如果算法的推荐权重依然以点击率为唯一指标，那么猎奇、煽动、情绪化的“数字泔水”永远有市场。要推动平台算法从“流量优先”转向“真实优先”，让那些经过实地调研、真实体验的创作获得更好的展示机会。

从“单独封堵”升级为“全生态防控”。平台、监管部门和行业力量形成合力，借助先进的技术手段“以技制技”“以AI治理AI”，在内容生产和传播的各个环节都设置关卡，实现跨平台、跨周期的协同治理。

数字技术应该助力人们在智慧浪潮中遨游，而不是让用户陷入虚假的“信息泡沫”里挣扎。如何在享受AI效率红利的同时，保护真实信息的生存空间？如何避免人们被迫变成“信息侦探”，在每一次点击时习惯质疑真假？这离不开平台责任和监管规制的进步，也离不开用户监督和技术创新。

来源：《人民数据智库报告》6月下

编辑：许多、韩佳琪（实习）

责编：岳禺宁