龚先生

近日，一条以某汽车品牌展台为背景的不雅视频，在互联网疯狂传播，引发关注。经公安机关调查，视频实为不法分子李某利用AI工具伪造。

12月10日，中国篮球协会发布声明称，近期，网上针对中国女篮教练和运动员的不实信息与谣言，部分音视频为AI技术伪造。此前，某地公安机关查获某机构利用AI批量生产假新闻，1天就能生成 7000篇内容炸裂、惊悚的假新闻。

（图源 新华社）

当下，滥用AI的问题，在多个领域显现。

伪造名人声音形象带货、学术造假、社交媒体造假起号、造假式索赔、换脸换声诈骗……AI造假案件频发，为人工智能深度伪造的治理再次敲响警钟。

三个趋势，或将加剧该方面的隐忧。

一方面，技术迭代的脚步不会停下。随着从事人工智能研发的公司越来越多，技术创新越来越密集，产品迭代升级越来越快，功能将越来越强大，使用的门槛也会大大降低。

另一方面，AI工具毫无悬念正成为新的“基础设施”。随着AI工具的普及，网民使用AI工具的能力会越来越强。如果说90后和00后是“网生代”，而20后、25后则将成为“智生代”“AI世代”，未来他们使用AI工具的能力将会“刻在基因里”。

此外，AI的应用广度和深度还将被大大拓展。今年10月份，有国际机构研究发现，仅短短几年，目前互联网超一半的书面内容是由AI生成的。

可以预见，未来AI将与经济社会各行各业各领域广泛深度融合。

在此背景下，AI深度伪造，误导网民、消耗社会信任，不仅侵害个人权益，更扰乱社会秩序，增加治理成本与难度，一些特定情形更会对公共安全和国家安全构成威胁。不法分子利用深度伪造技术放大社会矛盾与对立、操纵舆论，境外敌对势力利用AI对我进行认知领域的渗透和认知作战等，其危害之大更难想象。

（图源 新华社）

与“智”同行，我们当然不能因噎废食，但边界必须明确。完善相关法规之外，更需有“技术治理技术”的硬核实力。这要求相关方面，必须做好技术治理工具箱的超前布置。

人工智能企业和平台必须肩负起主体负责。我国《人工智能生成合成内容标识办法》要求通过技术标识提醒用户辨别虚假信息，明确相关服务主体的标识责任和义务，规范制作、传播各个环节标识行为。

客观讲，平台企业有相关的技术和与用户联动共治的天然优势。“以技术治理技术”，平台层面理应提高对深度伪造内容的精准检测。

此外，AI鉴伪相关技术的投入和研发，值得鼓励和期待。目前，一些科技公司已经在从事相关技术的研发，从图片到音视频，为深度伪造内容的治理，带来了想象空间。

长期来看，全社会使用AI工具素养的提升，也必须被高度重视。

目前，包括北京、上海、广州、深圳等多地在内，开展不同层次和面向不同群体的AI课程，覆盖了通识教育、专业技能、产业应用和安全伦理等多个方向。例如，浙江杭州自2025年秋季学期起，开始在中小学开展人工智能通识教育，覆盖小学至高中全学段，每学年不少于10课时。

在AI等高新技术的加持下，社会正以远超我们预期的方式演进和重塑。在享受AI技术带来的“赛博感”的同时，如何应对这一颠覆性技术的风险与挑战，将是我们社会面临的一项长期任务。