AI造假成引流新套路，9月起新规施行

AI造假技术滥用与平台监管挑战
近期调查显示，AI生成内容技术（AIGC）被部分用户用于批量生产虚假短视频，通过虚构专家人设或低俗猎奇内容快速“起号”引流。典型案例包括使用AI虚拟形象冒充外国育儿专家，输出极端观点误导受众。此类账号以“零门槛涨粉”“轻松变现”为噱头，吸引用户购买高价课程，甚至通过参数配置规避平台AI内容标识机制。
AI引流产业链与账号交易风险
部分从业者利用AI工具批量生成“高颜值”虚拟人视频，快速积累粉丝后转向带货或账号交易。交易平台以低价兜售AI生成的“美女账号”，但此类行为违反社交平台禁止账号转卖的协议，买家可能面临法律纠纷或违规责任。业内人士坦言，平台虽升级AI识别系统，仍存在未主动标识或未被检测的漏网内容。
新规落地与AI内容治理方向
针对AI造假乱象，四部门联合发布《人工智能生成合成内容标识办法》，要求自9月1日起对AI生成内容实施显式标识（如文字、图形）和隐式标识（如数字水印）。新规旨在通过技术手段强制标注AI生成内容，遏制虚假引流与账号交易，降低公众受误导风险。专家指出，标识规范需与平台监管协同，推动行业透明化发展。