上海普陀警方通报，姜某利用朋友关系借款，后用AI生成父亲重病卧床视频发在朋友圈，七年骗得170余万元投入股市亏光。事实本身并不复杂，道德上的谴责也少有争议。不过，如果评论只停留在“一个人能坏到什么程度”，这件事的真正重量就被轻轻放过了。
熟人之间的借贷互助，向来不以“验证”为前提。朋友说父亲病了，第一反应是关切和转账，而不是索要病历。这种不设防不是天真，而是社会生活低成本运转的默认设置。姜某利用的正是这一点，把朋友之间“不需要证明”的默契变成了行骗工具。AI生成视频则让事情进了一步：过去编造苦难要靠文字和模糊截图，接收者心里还留着一丝余地；一段“父亲插着管子躺在病床上”的视频直接推到眼前，“眼见为实”这条普通人最后的朴素判断也靠不住了。技术让伪造变得容易，验证的成本却几乎全落在个人身上。收到求助视频的人没有手段鉴别真伪，也很难开口问一句“你是不是在骗我”，因为这句话本身就会冒犯友情。当相信之前不得不先做一道成本核算，受损的就不只是几个受害者的财产，还有人与人之间低成本协作的心理基础。舆论不能只做道德审判，更不该把制度应当承担的验证功能转嫁给最没有能力承担的个体。
平台可以把核验做在传播之前。《人工智能生成合成内容标识办法》已经施行，但标了“AI生成”的账号照样能批量骗人，标注不能成为平台的事后交代。一段带有求助性质的生成视频在朋友圈或私聊里传播，平台不宜以“用户没有主动声明”为由袖手旁观。平台有能力核验文件元数据、检测合成痕迹，在AI生成内容进入转账、求助这类高风险场景时，可以主动拦截或给出强制提示。人脸核验也不必只靠做一次动作就放行，多几种信号交叉判断，伪造一张脸就绕过防线的事才会少下去。
法律追责可以再往前一步。最高法已明确，研发售卖AI换脸拟声工具、明知他人实施诈骗仍提供技术支持，可按共同犯罪或帮信罪追责。但刑事追责门槛高、取证难，执法往往只能打“点”。更有效的思路是，把“提供用于绕过安全核验的AI生成工具或虚拟注入工具”本身作为独立可处罚的行为，不必每次都等到它被用于诈骗、再回头证明“明知”。当生成“病床视频”的工具出现在黑灰产链条上时，法律应能在骗局发生前就介入。
个人核实不妨从几个具体动作开始。要求普通人凭肉眼分辨AI病床视频，既不现实也不公平。但有些低成本做法可以嵌进日常：接到亲友转账或求助视频后，不在当前聊天窗口直接确认，而是拨打对方常用手机号再问一遍；家人之间提前约定一个只有彼此知道的口令；对方反复催促转账、阻止本人核实、要求对外保密，本身就是高风险信号，应立即停止沟通并留存证据。这不要求人人成为技术专家，却能把“相信之前先核算”的代价降到最低。
技术降低了伪造的门槛，验证的成本就不该主要由个人来扛。平台和法律应当分担更多，个人也可以学会几个核实动作，但不该只靠对暗号来保护自己。170万元可以追缴，受害者今后面对每一句“帮帮我”时多出的那一瞬犹豫，却无法用判决书弥补。一个社会还有没有温度，要看人们还敢不敢在不算计的情况下选择相信。技术越让这种“敢”变得困难，制度就越要把它重新变得可能。（刘忠燕）
编辑：冯方湲
责任编辑：金艳
编审：吴山冠
0