飙外语以假乱真 “AI换声”爆火暗藏技术隐忧

　　无论是AI换声还是换脸,新技术的使用边界亟待明确,其背后的侵权、诈骗等隐忧更不容忽视。

　　“I have to take care of this matter!(这事儿我得管)”在一条播放量达百万次的短视频中,身着刺绣大褂的相声演员郭德纲正像模像样地用英文说着《济公传》。记者发现,视频里的声音不仅和郭德纲本人的音色没有什么出入,嘴型和英文发音也一一对应,着实难辨真假。这段精彩的单口相声秀引得网友发出惊叹:“要不是看到视频平台上‘该视频使用AI技术合成’的小字提示,我差点就当真了!”

　　不过,要想达到逼真的效果,据业内人士介绍,除了换声以外,还需要地道的翻译、局部篡改人脸信息对口型等多个步骤后才能实现。

　　随着巨大流量涌入AI换声视频,其背后的公司也浮出水面——2022年7月在海外上线的AI换声网站HeyGen。从如今各大社交平台上爆火的换声短视频自带的水印来看,其中有不少由该网站生成。在该平台上,制作一条换声视频十分简单,用户只需要上传视频,选择语言后,它就能自动翻译并调整音色,生成嘴型匹配的外语视频。

　　然而,与此前的爆款AI应用妙鸭相机一样,HeyGen也面临着争议与热度齐飞。有律师提出,由于HeyGen用户可以将任何人的视频上传并换声,这可能涉嫌著作权、肖像权、声音权三个方面的侵权。比如,相声、小品等都属于《中华人民共和国著作权法》保护的作品,如未经著作权人授权就擅自更改并传播,则存在侵权问题。

　　面对炉火纯青的AI生成技术,更有网友提出,一旦相关技术被用于网络诈骗,后果将难以想象。裴智勇分析,单纯依靠AI技术是无法完成诈骗的,还必须将其与各种深度的网络诈骗套路结合起来才能成功实施诈骗。在裴智勇看来,绝大多数的传统防骗技巧对于AI诈骗同样有效,“比如有人用视频电话向您借钱,您回拨一个电话确认一下就好了。”

记者也注意到,国家网信办等三部门去年联合发布的《互联网信息服务深度合成管理规定》明确,深度合成服务提供者对使用其服务生成或者编辑的信息内容,应当采取技术措施添加不影响用户使用的标识。但目前网络上流传的AI换脸图片和AI换声视频中,有些并未添加相应标识。

注：以上内容摘自北京日报。