(央视财经《经济信息联播》)最近,有网友向媒体反映,家中老人在网络卖货视频中看到“张文宏医生”在卖一种蛋白类的产品,老人信以为真,不仅下了单还转发给了很多群。经过记者核实,该视频并非张文宏医生本人,而是利用AI技术合成的。对此,记者也联系到了张文宏医生。
在这段视频中,被合成的人像反复介绍一种产品,声音听起来也很像张文宏本人,商品橱窗内的某蛋白棒售卖链接显示已出售1200多件。目前,该账号已搜索不到。记者联系到张文宏医生,他表示,这样的卖货账号不止一个,且一直在变,他已多次向平台投诉。
华山医院感染科主任国家传染病医学中心主任张文宏:这件事情已经有几个星期了,一开始我进行了投诉。特别是有些对AI不是很熟悉的、年纪比较大的人,他们很容易就会相信。这种行为侵占了消费者的利益,所以我觉得应该是有相应的部门来处理这方面的问题。
目前用语音合成来模仿他人声音,并且对上口型生成视频的技术已经非常成熟,甚至仅用一张照片就能生成此类视频。今年9月,国家网信办已经发布了《人工智能生成合成内容标识办法(征求意见稿)》,要求从视频制作和发布的源头做好信息管理。
上海人工智能研究院数字化治理中心主任彭嘉昊:面对每天产出的大量视频,监控、管理的难度相对而言比较大,约束这些服务的提供商才是综合治理这类事件的核心动作。