AI换脸诈骗频发，平台责任如何认定？2025年律师解读三大合规义务

AI换脸、AI拟声正在把诈骗从“技术活”变成“流水线”。过去需要团伙作案、话术培训、多层转账的冒充熟人诈骗，如今只需一段十秒的语音样本、一张朋友圈照片，就能在几分钟内合成以假乱真的视频通话。诈骗成本从数万元骤降至几百元，甚至免费。当被害人找上门，平台往往以“技术中立”“用户自己不小心”为由推脱。这笔账，法律上到底该怎么算？

一、AI诈骗产业化：低成本背后的法律定性

从刑法角度看，利用AI换脸实施诈骗，核心罪名仍是《刑法》第二百六十六条诈骗罪。但技术手段的介入，让共同犯罪、帮助信息网络犯罪活动罪的认定边界明显扩张。例如，提供AI换脸软件、出售语音克隆模型、代为训练深度伪造模型的行为，若明知他人用于诈骗，可能构成诈骗罪共犯；若只是提供中立技术，但被大量用于犯罪，则可能触及《刑法》第二百八十七条之二帮助信息网络犯罪活动罪。

2024年“两高一部”《关于办理电信网络诈骗等刑事案件适用法律若干问题的意见（二）》明确，为诈骗团伙提供技术支持、广告推广、支付结算等帮助，达到一定数额即可入罪。AI工具提供者如果对下游犯罪具有概括故意，很难再用“技术中立”脱身。

对普通人而言，这意味着一旦被骗，报案时不能只盯着直接骗你钱的人。提供AI工具、引流渠道、收款账户的第三方，都可能成为追责对象。律师实务中，我们常建议被害人第一时间做三件事：固定聊天记录和转账凭证、申请平台披露对方注册信息、向公安机关提交“帮助信息网络犯罪活动”线索。

二、平台责任：避风港不是万能挡箭牌

平台常援引《民法典》第一千一百九十五条的“通知—删除”规则，主张自己仅承担事后删除义务。但AI诈骗的特殊性在于，诈骗行为往往在几分钟内完成，等被害人通知平台，钱早已转走。此时再谈“通知—删除”，对被害人几乎没有救济意义。

《反电信网络诈骗法》第二十一条规定，电信业务经营者、互联网服务提供者应当对涉诈异常账号、异常通信行为进行监测识别，并采取重新核验、限制功能、暂停服务等措施。第三十八条进一步明确，未履行上述义务造成他人损害的，依照《民法典》等法律承担民事责任。这意味着，平台的事前监测义务已经从“道德倡导”上升为法定义务。

司法实践中，法院对平台责任的认定正在收紧。2024年杭州互联网法院在一批AI换脸诈骗案中认为，平台如果已经具备AI合成内容识别能力，却未对高风险场景（如大额转账前的视频确认）设置警示或拦截，可能被认定为未尽到合理注意义务，需承担相应比例的补充赔偿责任。比例通常在10%至30%之间，具体看平台的技术能力和过错程度。

三、合规义务清单：平台必须做的三件事

结合《反电信网络诈骗法》《个人信息保护法》《互联网信息服务深度合成管理规定》，律师建议平台至少落实三项合规动作。

第一，深度合成内容标识与检测。《互联网信息服务深度合成管理规定》第十七条要求，深度合成服务提供者应当在生成内容中添加不影响使用的标识。平台作为传播渠道，应部署AI合成内容检测能力，对疑似换脸视频、克隆语音进行标注或拦截。

第二，高风险场景的主动干预。对涉及转账、身份核验、客服沟通等场景，平台应设置“AI合成风险提示”，例如在视频通话界面弹出“对方画面可能经过AI处理，请通过其他渠道核实身份”。这不仅是合规要求，也是《民法典》第一千一百九十八条安全保障义务在网络空间的具体体现。

第三，配合调查与数据留存。平台应按照《反电信网络诈骗法》第三十四条要求，留存相关日志不少于六个月，并在公安机关调查时及时提供。实践中，不少案件因平台日志缺失导致线索中断，平台可能因此被行政处罚，甚至被被害人起诉要求承担过错责任。

四、被害人维权：三条路径与两个关键动作

如果你或家人遭遇AI诈骗，第一时间不要只打银行客服。正确的动作是：立即拨打110或96110，要求公安机关启动紧急止付；同时通过平台官方渠道投诉，要求冻结涉案账号并保存证据。

维权路径有三条。刑事报案是主线，争取通过追赃挽损拿回钱款；民事起诉平台，依据《反电信网络诈骗法》第三十八条主张其未尽监测义务；行政投诉，向网信、通管部门举报平台合规漏洞，推动其整改。

两个关键动作决定成败：一是证据固定，包括对方账号信息、聊天记录、转账凭证、AI合成内容样本，最好做公证或区块链存证；二是时间竞赛，被骗后30分钟是止付黄金期，超过两小时资金往往已被多层转移。

AI降低了诈骗成本，但不应该降低法律对被害人的保护水平。平台不能一边享受技术红利，一边把风险全部甩给用户。对普通人来说，记住一个底线：任何涉及转账的视频通话，都可能是AI合成的，挂掉，用另一个渠道核实。

广东知明律师事务所长期关注网络犯罪与平台合规领域，可为被害人提供刑事报案、民事索赔、证据固定等全流程法律服务，也可为互联网企业提供反电信网络诈骗合规体系建设方案。技术跑得快，法律不能慢半拍。