最近，话题“AI诈骗正在爆发”冲上热搜。内蒙古包头市公安局发布一起使用智能AI技术进行电信诈骗的案件，案件中福州市一家科技公司的法人代表郭先生在10分钟内被骗430万元。骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。等到郭先生拨打好友电话时，才知道被骗。警方表示，一些诈骗分子利用社交平台发布的视频，截取面部视频画面后再利用AI换脸技术合成，制造视频聊天的假象骗取其信任，从而实施诈骗。

技术天然是价值中立的，没有对错和善恶之分。一项突破性的技术，与生俱来就拥有强大力量。能不能约束和驾驭这股力量，决定了这项技术在现代社会所发挥的现实影响。当下，实现了质变的生成式人工智能，无疑走到了关键的十字路口。诚如我们所看到的，AI诈骗、AI造假事件近段时间来密集发生。此类案件预示着某种风险：过往那种基于生物信息、知识壁垒、专业身份等所建构的关乎真实与安全的社会防线，备受考验。

有人运用AI换脸冒充好友视频聊天借钱，辅之以毫无破绽的声音合成，简直可以以假乱真。在很多人的潜意识里，活生生的视频、面对面的对话，那种基于声画一体所形成的神经反射式感官反馈，足以形成“就是他本人”的笃定判断。然而，AI技术带来了新的挑战，也即“是他又不是他”。倘若角色视角互换，这就是个如何证明“我是我”的命题。稍有不慎，就可能搭进去真金白银。

不管承不承认，相比于生成式人工智能一日千里的发展，人类社会那套基于记忆、经验、直觉、印象以及简单肖像特征来“识人”的认知体系千古未变，时至今日这套系统正在趋于瓦解和失效。眼见为实，越发成为一种错觉式的存在。当然，就算如此，也大可不必陷入“技术悲观主义”的怅然情绪中，须知，围绕技术工具的善恶交锋、攻防对垒，本就是现代社会的常态，且结果往往都导向积极的一面。

随着AI技术的普及、通用化，其门槛和成本越来越低，使用者越来越多，由此注定会导致与之相关的侵权、违法案例越来越多发。可以预见，在未来的一段时间，群众或许会感叹“AI造假层出不穷，AI诈骗防不胜防”。为此破局，一方面要强化公共宣教，确立新的防骗反诈意识；另一方面，还是要加快防御性、对抗性技术工具的推广落地和应用嵌入。比如，不妨尝试在常用的社交媒介软件中，内嵌声纹、人脸识别的身份核验模块。如此，或许就能少些“换脸冒充好友借钱”之类的案件。（然玉）