小红书近期推进“清朗・整治AI技术滥用”专项治理，明确将营销AI群控软件、假冒主播、制造虚假流量和生成谣言等行为列为违规。平台已处置大量相关笔记和账号，并公示多起典型案例，持续完善AI内容识别和溯源治理链条。

近日，小红书持续推进 “清朗・整治 AI 技术滥用” 专项治理工作，引发广泛关注。继公布2025上半年处置60万篇AI笔记以来，小红书官方账号署管家也于6月20日第3次发布了《清朗·整治AI技术滥用”专项治理公告》，明确将营销AI群控软件、利用AI技术假冒某主播、制造直播虚假流量、生成谣言以博取流量等纳入AI违规治理行列。

其实，署管家最早发布《关于整治AI技术滥用的治理公告》是在5月12日。当时的重点聚焦于利用AI批量生产虚假内容涨粉、利用AI起号引流带货、售卖AI起号课程、售卖AI账号等违规行为。同时严厉打击转让、售卖、出租网络账号行为，强化AI生成内容监测甄别。

在具体执行中，平台针对 “利用AI生成低俗猎奇视频”“AI生成虚拟外国幼儿教育专家教授育儿内容”“AI视频账号售卖教程”“AI账号秘籍传授”“引导规避平台 AI标注”“转让、销售AI虚拟账号” 等各类违规内容加强排查清理。

到了6月13日，小红书在专项整治上取得进一步阶段性成果。此时，再次发布的《关于整治AI技术滥用的公告》则表明平台重点打击范围拓展至违规AI换脸、AI 换声等侵犯他人权益的产品、服务和教程。在落实 AI 内容标识要求方面，站内提供多渠道AI标识路径。

数据显示，截至当时，平台针对传授违规AI产品教程及商品内容，已处置笔记近六千条，对近百个风险账户采取限流、封禁等处置措施。

不仅如此，小红书还携手多个企业推动AI标识的技术实践，完善AI内容识别和溯源的治理链条，积极为行业贡献治理经验。

而6月20日发布的《“清朗·整治AI技术滥用”专项治理公告》，则公示了近期的违规典型案例：

• 用户 “播 *********）” 违规推荐营销AI群控软件，制造直播虚假流量；
• 用户 “辉*品” 违规利用AI技术假冒某主播违规营销带货产品；
• 用户 “D****” 违规使用AI软件生成谣言以博取流量；
• 用户 “小*生” 违规使用AI软件生成低俗擦边内容。

针对这些案例，平台均果断下架相关内容，并依据违规情节对账号作出关闭或禁言处置。

至此，小红书已明确以下这四类AI相关产品、课程、技术、内容均属违规：

第一，违规AI技术工具与服务：包括AI群控软件、违规AI换脸 / 换声工具等侵犯他人权益的技术产品，以及推荐、售卖此类工具的行为。

第二，虚假与低俗内容生成：利用AI批量生产谣言、虚假科普、低俗擦边内容，或伪造虚拟身份（如 “虚拟外国幼儿教育专家”）进行内容创作。

第三，违规账号运营与商业营销：通过AI起号引流带货、售卖AI账号/起号课程、转让AI虚拟账号，以及利用AI假冒他人（如主播）进行营销带货。

第四，规避平台治理的行为：引导用户规避AI内容标注、传授违规AI产品使用教程，或制造直播虚假流量（如通过AI群控软件）。

综合来看，这一个多月来，小红书的治理重点已从AI起号、引流、售卖账号课程等基础违规行为，逐渐拓展到侵犯他人权益的AI应用以及AI内容标识落实等方面。

但不少网友表示，小红书社区生态内充斥着AI生成的批量照片、内容，甚至用AI图换摄影照片进行诈骗，治理力度应该更大。并且，在从严治理的过程中减少对原创作者的误伤，提高AI内容识别能力，也是用户关注的重点。

图片来源于6月20日发布的

《“清朗·整治AI技术滥用”专项治理公告》评论区