东湖评论:AI数字人不能“跳出三界外”
从影视娱乐到品牌营销,从电商直播到金融服务,数字人深入各行各业,并重塑商业生态,数字人应用已成为人工智能企业竞相角逐的新赛道。天眼查数据显示,截至目前,我国现存与数字人相关的企业114.4万家。其中,2024年1~5月,新增注册企业为17.4万余家,与2023年同期相比增加5.9%。AI数字人迎来发展黄金期。
数据显示,目前在我国仅仅从事视频表演等活动的主播账号有近1.4亿个,其中虚拟“数字人”占了四成,超过5000万个。 AI数字人的出现,无疑是科技的进步,是研发的创新,是新生事物的涌现。
我们也应该看到的是,再好的技术只要被滥用了,只要失去了监管,其“双刃剑的另一面”就会暴露无遗。短视频平台里真假难辨的数字人主播,在B站爆火的“冷门歌手AI孙燕姿”,在舞台上吸引万千粉丝的虚拟偶像,一周就赚到7万美元的“AI女友”……数字人开始以各种形象,不同方式出现在大众身边。
就目前的情况来看,AI数字人需要重视的问题可不少:其一,是盗窃声音,AI数字人借助现代科技,实现了声音模范的惟妙惟肖,只是靠着“观众的耳朵”是分不出真假的。以至于不少数字人为了吸引眼球,不断使用名人的声音,播音员的声音、著名专家的声音、影视明星的声音。社会上已经出现多起此类案件,当事人将数字人的使用者告上法庭;其二,是侵犯肖像,一些娱乐直播间,一些带货直播间,公然使用名人的肖像制作的AI数字人进行直播,由于技术的先进性,以至于成为了“真假美猴王”,加之这些账号故意使用模棱两可的名称和图片,让网友以为是“名人本尊”,混淆了视听;其三,是胡说八道,别看是数字人,那说起话来是滔滔不绝,是言无不尽,问题是最后变成了信口开河、制造谣言。
AI数字人虽然不是真人,但是也不能“不干人事”,不可人AI数字人成为“没有人管的人”。《2023年中国虚拟人产业发展与商业趋势研究报告》显示,2022年中国虚拟人带动产业市场规模和核心市场规模分别为1866.1亿元和120.8亿元,预计2025年分别达到6402.7亿元和480.6亿元。这说明AI数字人确实是个新风口,但是新风口不可是新疯狂。
AI数字人不能“跳出三界外”“不在五行中”,面对出现的新情况,需要有关部门解决新问题,要早日出台数字人监管的国家综合法规。
稿源:荆楚网(湖北日报网)
作者:郭元鹏
责编:詹蔷