原标题：欧盟欲立法严管人工智能

　　董沛

　　面对日渐强大的人工智能（AI）技术，很多人担心它会对个人隐私、透明化决策等造成严重的侵犯。新技术的创新发展与应用，如何与传统社会规范管理实现合理衔接？

　　欧盟准备用立法的方式，在技术进步与隐私保护之间找到平衡。

　　4月21日，欧盟公布了一项管理人工智能应用的法律草案，旨在为人工智能应用制定规则。

　　欧盟委员会执行副主席玛格丽特·维斯塔格称，这是世界上第一个正式提出的监管AI技术使用的法律草案。草案公布后，还需要经过欧洲议会和欧洲理事会的审议批准，正式生效可能是几年后的事情了。

　　欧盟委员会认为，人工智能是一大类高新技术的统称。为了提供必要的法律确定性，欧盟委员会在草案中用附件的形式详细列举了属于人工智能范围内的技术清单，该清单会根据技术发展情况不断更新。

　　在21日的新闻发布会上，维斯塔格表示，按照法律草案，欧盟委员会将AI的应用场景按照风险程度，分为“最低、有限、高、不可接受”四个风险等级，等级越高的应用场景受到的限制越严格。

　　风险等级“最低”的场景包括基于AI的电子游戏、垃圾邮件识别软件等，此类应用场景不会受到约束；

　　风险“有限”的场景包括聊天机器人等，由用户自行决定隐私授权；

　　“高”风险应用场景指可能对人的生命、生活造成严重影响的场景，如交通设备、教育培训、医疗辅助、信用评级等。

　　对于高风险场景，草案建议在启用前应履行严格义务，如足够的风险评估、高质量的数据交换、确保可追踪的活动记录以及必要的人工监督等。

　　欧盟表示，高风险的人工智能系统只有在符合若干强制性要求的情况下才能投入市场使用，否则公共利益会面临不可接受的风险。

　　另有三种AI应用则被草案完全禁止。

　　第一种是在不知不觉中对人类意识进行操控，影响其决定或扭曲其行为，进而对人类造成身体或心理伤害的应用。欧盟委员会是世界上首个以法律形式禁止人工智能系统“操控” 人类思想的机构。

　　第二种是利用儿童或残疾人的脆弱性，能够对其造成伤害的应用。

　　第三种是基于人工智能系统的社会信用体系。欧盟委员会认为，不同的社会语境会产生不同的算法偏见，而算法偏见将直接对个人信用评估产生影响。

　　对于如何规范人脸识别技术，欧盟委员会表示，作为“实时远程生物识别技术”的一种，面部识别在很大程度上侵犯了人们的隐私，无差别的大规模监控被全面禁止。

　　但是，草案也规定了三种例外情况：寻找失踪儿童，阻止恐怖袭击，在法律允许范围内追查特定的刑事犯罪嫌疑人。

　　企业不执行相应规定怎么办？草案拿出的办法是高额罚款。

　　据称，如果草案通过，企业若违反AI应用规定将遭重罚。首先是受到公开警告，之后产品可能会被下架，如屡犯不改则可遭到3000万欧元的罚款，或罚没企业年收入的6%。

　　在高额罚款方面，今天已经没有什么企业敢挑战欧盟的执行力。一手推动法案落地的维斯塔格，在欧盟本就有“反垄断女沙皇”之称。仅谷歌一家，过去3年间，就在她主导下被罚了近90亿美元。

　　今年2月，欧盟委员会在布鲁塞尔发布了《人工智能白皮书》。根据白皮书，在接下来的5年中，欧盟委员会将专注于数字化的三个关键目标：为人民服务的技术，公平竞争的经济，开放、民主和可持续的社会。

　　草案的拟定和公布，意味着欧盟在规范和推动人工智能发展方面，又前进了一步。