中工娱乐

构建人工智能赋能社会治理的风险防范体系

来源:学习时报
2026-10-23 09:32

习近平总书记指出,“面对新一代人工智能技术快速演进的新形势,要充分发挥新型举国体制优势,坚持自立自强,突出应用导向,推动我国人工智能朝着有益、安全、公平方向健康有序发展”。当前,人工智能正以前所未有的广度与深度融入社会治理各环节,其在赋能社会治理提质增效的同时,也伴生着算法歧视、人机失衡、伦理冲突等风险,亟须进行前瞻性、系统性的识别、研判与规制。

人工智能赋能社会治理,是全面实施“人工智能+”行动、不断满足人民群众对美好生活向往的必然选择。伴随人工智能的深度嵌入,社会治理的理念、模式与流程得到持续重塑,推动社会治理从被动响应向主动预防转变、从经验判断向数据驱动转型、从千人一面向个性适配演进,实现了从治理态势智能感知到公共服务精准推送、从治理决策循证辅助到安全风险系统防控的全方位变革。

然而,技术的“双刃剑”属性在人工智能赋能中也不断显露,需要正视赋能中的伴生风险。人工智能赋能社会治理是人工智能技术与社会结构、价值体系、制度安排等深度互嵌的过程,其伴生风险不仅有单纯的技术应用风险,还有与技术应用相伴生、可能影响社会公平稳定与可持续发展的系统性挑战。这种机遇与风险的共生共存,决定了必须在推动人工智能赋能社会治理的过程中,主动识别风险、有效防范风险,努力实现发展与安全的动态平衡。有效防范风险,首要在于精准识别风险。

技术内生性风险,主要源于人工智能技术自身的局限性与脆弱性。数据与算法是人工智能技术的重要支撑,如果历史数据存在偏见或算法被植入特定价值,人工智能技术在赋能社会治理中可能会固化甚至放大这些问题,形成算法偏见与歧视。社会治理中的人工智能系统涉及海量敏感个人信息与公共数据,数据采集、传输、存储与使用都可能存在安全漏洞或成为攻击目标,一旦泄露或滥用,将侵害公民权益、侵蚀社会信任。人工智能技术存在的“幻觉”和“黑箱”问题,以及面对对抗性样本时的脆弱性,在应急指挥、安全预警等高风险场景中存在误判或失效的可能,引发系统可靠性风险。

社会衍生性风险,体现为人工智能技术应用对社会结构、治理秩序产生的冲击。不同地区、不同群体在接入、使用和从人工智能技术中获益的能力上存在差异,在社会治理中过度依赖智能化治理手段可能使不熟悉人工智能技术的老年人、弱势群体被边缘化。此外,过度依赖人工智能技术也可能削弱公众对社会治理过程的理解、对社会治理价值的认同,致使公众脱离社会治理场域,引发社会信任危机。

治理适应性风险,表现为现有治理体系在应对人工智能嵌入时面临的挑战。在基层社会治理实践中,既有制度规则落后于技术应用,在面对人工智能深入介入基层行政执法、自主决策等领域时,不同主体间面临责任界定与问责难的问题。此外,将技术应用等同于治理效能提升、过度依赖人工智能技术、功利化应用等“唯技术论”实践倾向,也滋生出数字形式主义、基层负担加重、公共价值被侵蚀等风险。

应对人工智能赋能社会治理的新任务新挑战,需要强化底线思维,构建前瞻性、系统性、协同性的风险防范体系。

强化顶层设计,破解风险规制的滞后性难题。在人工智能赋能社会治理实践中,倡导“边发展、边规制”的动态调适治理策略。在技术嵌入阶段,将伦理规范嵌入代码编写中,加强对算法伦理合规性的持续追踪;引入“监管沙盒”等工具,允许新技术在风险可控环境下先行先试。在应用部署阶段,推动落实分级分类监管,根据社会治理场景不同采取不同的风险规制策略;同时建立常态化风险监测预警与快速响应机制,实现治理需要、技术发展与制度建设同步推进。

坚持人民至上,走出风险规制的价值性困境。推进社会治理现代化,需要在人机共生新格局中重构人的主体性。一方面,要提升各类社会治理主体的人工智能风险意识与伦理素养,将人民群众的价值诉求贯穿人工智能赋能社会治理的全过程。另一方面,进一步强化对人工智能技术的伦理约束,构建多元主体协调的算法治理与伦理审计机制,提升相关算法的可解释性与可问责性。

压实责任体系,夯实风险规制的制度化基础。人工智能赋能社会治理的风险规制是一项复杂的系统工程,亟须形成全方位、制度化的规制合力。针对人工智能引发侵权与损害后的追责困境,应压实地方党委与政府、科技企业、一线职能部门等主体的责任义务,完善权益保障与救济机制,畅通公众监督反馈渠道。针对社会治理中的人机协同困境,应探索建立动态的、分级分类的人机控制权分配机制,同时明确相关治理主体的最终审核与决策责任。

人工智能赋能社会治理是一场深刻变革,在充分释放赋能潜力的同时,必须坚持底线思维,确保人工智能赋能社会治理始终沿着有益、安全、公平的方向前进,为推进国家治理体系和治理能力现代化注入源源不断的智能动力。(范瑞光)

责任编辑:李靖

媒体矩阵


  • 全国总工会微信

  • 工人日报客户端

  • 中工网微信
           

  • 中工网微博
           

  • 中工网抖音

关于中工网 | 版权声明 | 违法和不良信息举报电话:010-84151598 | 网络敲诈和有偿删帖举报电话:010-84151598
Copyright © 2008-2026 by www.workercn.cn. all rights reserved

扫码关注

全国总工会
微信


中工网微信


中工网微博


中工网抖音


工人日报
客户端
×