工视评丨AI“复活”逝去的亲人,背后的风险不容忽视 - 工视评 - 中工网

中工娱乐

工视评丨AI“复活”逝去的亲人,背后的风险不容忽视

来源:中工网
2024-03-20 08:21

用AI技术还原逝去亲人的音容笑貌,并和ta聊聊天,你愿意尝试吗?

据媒体报道,用AI“复活”逝去的亲人,已经发展成了一门生意。有店铺称,可以提供“让照片动起来”“照片开口说话”“定制数字人”等服务。这些不同形式的产品对应的价格从几元到上万元不等。

AI“复活”逝去的亲人,或许为人们提供了一种新的情感慰藉途径,但其衍生风险不可忽视。在AI合成语音、AI换脸等技术越来越能“以假乱真”的当下,轻易将已逝亲人的声音、照片等素材提供给商家,其实有很大的不确定性,这些信息一旦被滥用,后果可能不堪设想。而且,AI“复活”逝去的亲人真能弥补人们情感的缺憾吗?

随着数字化进程的推进,一些新技术不断涌现。运用新技术、感受新技术带来的新事物、新改变,无可厚非,但不能因此忽视一些潜在的风险。对于AI“复活”逝去亲人的相关产品和服务,人们应该多一分警惕和理性,有关方面也应积极研判,防止其出现跑偏或者被有心之人利用,进而实施一些诸如侵权、诈骗等行为。

目前,我国出台的《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》,明确了此类服务的提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,这对AI“复活”服务起到了一定的规范作用。相关部门应加大监管力度,督促平台与商家落实上述规定的相关要求,规范商家的运营。同时,商家应对收集到的客户资料采取必要的安全措施,确保其内容不被泄露。公众在选择相关服务或商品时更需谨慎,保护好自身以及亲人的个人信息,避免权益受到侵害。有专家建议,针对数字“复活”技术的使用,现有法律难以规制的,可通过不断“打补丁”的方式出台新规则,逐渐完善规制数字“复活”技术的规范体系。

想念已逝亲人,想他们再叙家常,是人之常情。但是,也要意识到,科技是把双刃剑如何让AI技术更好地服务于人,而不为其“锋刃”所伤是值得思考的问题

责任编辑:李嘉宇

媒体矩阵


  • 中工网客户端

  • 中工网微信号

  • 中工网微博号

  • 中工网抖音号

中工网客户端

亿万职工的网上家园

马上体验

关于我们 |版权声明 | 违法和不良信息举报电话:010-84151598 | 网络敲诈和有偿删帖举报电话:010-84151598
Copyright © 2008-2024 by www.workercn.cn. all rights reserved

扫码关注

中工网微信


中工网微博


中工网抖音


工人日报
客户端
×