设想一个场景：你接到母亲的视频通话，她焦急地说急需一笔钱看病。画面清晰，声音熟悉，于是你转了账。

事后你打电话确认，母亲根本没打过视频。你看到的“她”，是AI换了脸的。这不是科幻电影。近日，四川内江，骗子用AI换脸伪造了“儿子”的面孔，差点骗走一位七旬母亲40万元的养老积蓄。

同一天，央视披露了另一类骗局：不法分子用AI换脸合成不雅视频，以“曝光、骚扰亲友”为筹码勒索。技术伪造的影像，正在变成敲诈的工具。

相比传统诈骗，AI换脸犯罪经历了多次升级。

首先就是技术门槛降到了零。过去造一段假视频需要专业团队，如今下载一个App就能生成以假乱真的画面。其次是心理胁迫精准化了。传统诈骗靠“中奖”等话术广撒网，AI换脸直接攻击你最脆弱的关系，要么就是“不给钱，就把视频发给你朋友”。你明明知道视频是假的，但是想到一旦发给朋友，别人相信了怎么办？很多人宁可花钱消灾也不愿报警，这恰恰是犯罪分子最想要的。

AI换脸正在突破社会最基本的信任底线：眼见为实。几千年来，人类最信赖的感官就是亲眼所见。当视频通话里的人脸可以伪造，当最亲近的人的声音可以克隆，我们判断真假最原始的凭据，正在失效。

这条底线一旦失守，靠个人根本守不住。你分辨不出40岁儿子的脸是真是假，也分辨不出视频会议里的同事是真人还是AI。

面对这种威胁，靠个人警惕远远不够。7月，2026世界人工智能大会明确要求“筑牢安全底线，防范滥用恶用”。中央网信办启动“清朗·整治AI应用乱象”专项行动，公安部上半年共侦办利用AI工具生成网络谣言案件170余起。《人工智能生成合成内容标识办法》已经施行，AI合成内容必须“打标签”。国家堵住底线的决心是清晰的。

守住这条底线，需要各司其职。立法要划线。未经授权合成他人人脸，该承担什么责任，要写进法律。红线划清楚了，企业和个人才知道边界在哪里。平台要守门。AI换脸工具不能随意上架，虚假视频不能一键传播。平台掌握着技术手段，也应当承担起“守门人”的责任。个人要设防。最有效的防火墙就是一条铁律：凡是涉及转账的视频通话，无论对方看起来多像真人，都要通过另一种方式确认。这不是多此一举，而是数字时代最基本的“防身术”。

AI技术每前进一步，安全的底线就要跟进一步。各司其职，各守各的线，才能守住共同的底线。让科技真正服务于人，而不是让人在科技面前步步惊心，这才是AI治理该有的温度，也是我们最该守住的底线。

一审 | 邓金秋
二审 | 黄慧
三审 | 肖勇