我现在深圳一家互联网公司做内容审核，下午刷到好几个AI换脸的短视频，明显是拿别人脸去配不该配的内容。
我按正常流程打了举报，系统显示已处理，可第二天还在推荐位挂着。同事说这种东西流量高，平台可能故意留着。
我有点担心，万一被用来做诈骗视频怎么办？想问问大家，这种情况是继续举报还是直接截图留证据给12321？
平台AI换脸视频怎么都不下架 举报几次都没反应
我现在深圳一家互联网公司做内容审核，下午刷到好几个AI换脸的短视频，明显是拿别人脸去配不该配的内容。 我按正常流程打了举报，系统显示已处理，可第二天还在推荐位挂着。同事说这种东西流量高，平台可能故意留着。 我有点担心，万一被用来做诈骗视频怎么办？想问问大家，这种情况是继续举报还是直接截图留证据给12321？
Viewed 0
3 Answers
这类 AI 换脸视频涉及肖像权侵害和可能的电诈前置素材风险，建议“并行处理”：继续在平台内合规举报，同时在证据充分的前提下，向 12321 和 12377 发起线索举报，不单押一个入口。平台内处理慢或“显示已处理但仍推荐”，属于高风险但常见的“处置滞后”场景，可以升级到监管举报路径。
平台AI换脸视频不下架时怎么做
- 双轨举报：平台内按规则继续举报；同时向 12321（垃圾信息与不良信息）和 12377（违法和不良信息）提交剪辑版证据与链接。
- 留存证据：你不是当事肖像权人，但可作为线索提供者固定证据，便于后续关联诈骗处置。
- 内部上报：你所在公司为内容审核岗位，建议走公司内部“高优先级工单/风控”渠道，附行为危害描述（“可能用于电诈换脸”）以提高处置权重。
继续平台内举报 vs 直接报 12321/12377
| 场景 | 继续平台内举报 | 同步 12321/12377 |
|---|---|---|
| 首次发现、数量少 | 适用，走常规流转 | 可暂缓 |
| “已处理但仍推荐”、重复出现 | 仍要举报以留平台内闭环记录 | 立刻同步，形成外部监管线索 |
| 涉及公众人物/大 V、导流私信/社群 | 要，并备注“导流诈骗风险” | 要，优先级更高 |
| 你能联系到被换脸当事人 | 附加“当事人反馈”有利处置 | 引导当事人补充维权材料 |
可通过 12321 和 12377 官网入口提交；涉及明显电诈导流（留 WhatsApp/Telegram/加密钱包）的，也可提示当事人或你公司风控联系 96110 咨询研判。
具体操作步骤（适用于内容审核从业者）
-
平台内二次举报
- 选择“深度合成/AI 换脸/肖像侵权/不当内容”准确分类。
- 在备注里写可验证要点：换脸痕迹、导流信息、涉嫌诱导交易或“急用钱”等诈骗话术。
- 若平台支持“加急/企业通道”，走高优先级提审。
-
证据固定（注意边界：只收集公开信息）
- 原视频链接、作者主页链接、发布时间与截图（含时间与账号标识）。
- 关键帧对比图：被换脸对象的公开图（仅使用其已公开头像/官宣素材）与涉案视频关键帧并列截图。
- 文案、评论区导流证据（群号、外链、二维码）截图。
- 平台“已处理/未下架”的系统回执截图。
- 若视频后续删除，保留“无法访问”界面截图以闭环。
-
向 12321/12377 外部举报
- 选类：信息诈骗/违法不良信息/深度合成滥用。
- 附上链接与压缩后的证据图；简述危害：“未经同意的肖像替换”“用于引流、具备诈骗前置风险”。
- 若同一账号多次发布，注明“批量、重复、跨号矩阵”。
-
内部升级与复核
- 发起内部风控/专题巡检建议：关键词与视觉检索（同模版片头片尾、同水印/滤镜、同合成模型特征）。
- 建议临时策略：降权+二次人工复核+外链封禁+评论引流敏感词加权。
为什么要并行：风险机制与处置逻辑
- 深度合成滥用的双重风险
- 肖像权/名誉权侵害：未经授权换脸即构成侵权高风险，公众人物更敏感。央媒长期报道平台需履行治理义务，可参阅 央视网 相关报道口径。
- 电诈产业链“前置素材”：先以换脸吸粉→导流私域→再实施“冒充熟人/领导”诈骗，研判价值高，需风控优先级。
- 平台“已处理但仍推荐”的可能原因
- 只做了轻度处置（降权而非下架），或算法缓存未刷新。
- 证据描述不充分，未命中高危标签。
- 账号矩阵“删了发、发了删”，需账号级打击而不是单条处置。
- 外部监管的补位
- 12321/12377可形成跨平台、跨账号的线索聚合与执法协作通道，倒逼平台提速整改。
安全做法 vs 不当做法
-
安全做法
- 仅保存公开页面内容；图片做马赛克处理敏感信息；不下载、传播视频成品到非工作用途群。
- 用公司设备和工单系统提交，留痕可审计。
- 文字描述客观中性，避免“定性为诈骗既遂”，用“疑似/可能/前置风险”。
-
不当做法
- 私自爬取非公开数据、外传内部处置流程截图。
- 将涉案视频转发到个人社媒“点名控诉”，易引发二次传播与合规风险。
- 仅口头反馈不留记录，后续无法追踪。
给当事人的转介建议（若你能联络到被换脸者）
- 让当事人本人通过平台“肖像权侵权”专通道提交下架与账号处罚诉求，附身份证件实名核验与对比图片。
- 同步向 12321/12377 备案；若出现以其名义实施的转账诱导，尽快咨询 96110，必要时 110 报警。
- 涉及商业代言/形象损失，可考虑律师函与民事维权路径；媒体曝光前，先固化证据。
文内提到的举报与求助渠道：
- 12321 网络不良与垃圾信息举报中心：https://www.12321.cn/
- 12377 中央网信办违法和不良信息举报中心：https://www.12377.cn/
- 96110 反诈专线 / 110 报警（出现资金诱导、仿冒熟人或公检法要素时优先）
你这个担心是对的，我有个朋友也在做内容审核，他说现在的情况就是这样——有些视频确实是打了举报也没立即下架的。不过我个人觉得这不一定是平台故意，更可能是审核队伍确实跟不上，或者不同审核员的判断标准不一样。
如果你确实觉得有诈骗风险，光举报可能不够快。建议你试试直接走工信部的12321举报渠道，这个链路是跨平台的，处理会更正式一些。同时还可以把证据留着，以后真的出问题了也有据可查。我听说有些内容审核员后来就是这样做的，反正多一个渠道总没坏处。
你这个观察我觉得挺敏锐的。内容审核这块确实存在漏洞，但我个人觉得不一定是平台故意放着。更可能是举报流程本身就有问题——系统自动判定"已处理"，但实际可能只是进了待审队列，真正的人工复审没那么及时。
与其只靠举报，我建议你同时把证据整理好。截图、视频链接、上传时间都记下来，如果确实涉及诈骗风险的内容，直接向 12321 或当地网警举报会更有效力。你们公司内部也可能有专门的举报渠道给内容人员用，比正常用户举报优先级更高。
关键是别只依赖平台自己的处理机制，这个确实靠不住。
