你今天“换脸”了吗?

不用承担美容手术的风险,不必付出减肥健身的汗水,就能迅速将影视片段中的角色替换上自己的脸,或摇身一变成了“上仙”,或与“爱豆”同框对戏,再把片段转发到社交媒体平台上,收获点赞与热评。

你只需下载一款名为“ZAO”的“换脸”APP(手机应用),上传自己的高清照片。

(图片来自网络)

“ZAO”就这样火爆网络。但火爆同时,争议和担忧也接踵而至。

其实,这种“以假乱真”的换脸APP并非新鲜事,近两年已在大洋彼岸掀起过追捧和争议的热浪。

无论身在何方,人们有一个共同关心的问题:接下来,怎么办?

照片发出去就撤不回?

依据“ZAO”的用户协议相关条款:用户一旦上传自己的照片进行视频“换脸”,将在全球范围内完全免费、不可撤销地将包括人脸照片在内的肖像资料授权给该公司和其关联公司。

相关企业此后在舆论压力下对用户协议进行了部分修改,但并未缓和外界对隐私泄露风险的焦虑。

早有前车之鉴

2017年,一位名叫“deepfakes”的外国网友就利用AI(人工智能)技术,将DC超级英雄电影《神奇女侠》扮演者盖尔·加朵、《哈利·波特》主演“赫敏”艾玛·沃森等明星的脸,“移花接木”到了色情片女主角身上,一度掀起轩然大波。

这一技术被公开后,各种换脸软件层出不穷。“deepfake”也因此成为这项技术的代名词。

“deepfake”(深度伪造)是英文“deeplearning”(深度学习)和“fake”(伪造)的合成词,是一种基于AI的人体图像合成技术。

利用深度学习算法进行音频、视频的模拟和伪造,不仅能实现换脸,还可模拟真人声音,创造出现实不存在的人物活动,让某人说没说过的话,做没做过的事。

这种技术的一大特点就是,投入深度学习的内容库越大,合成的音视频仿真性就越高,甚至可以达到以假乱真的效果。因此,在公共场合亮相较多的政治、商业、娱乐人物被“深度伪造”的可能性更大。

2018年,美国跨大西洋选举诚信委员会开发了一个在线测验,让用户收听喜剧演员埃里克·鲍德温、特朗普模仿者约翰·笛多曼尼克以及算法生成的模拟特朗普声音,选择谁的声音更像特朗普本人。

结果显示,267名听众中,绝大多数人认为人工智能的音频比任何人类语音样本更接近特朗普本尊。

“深度伪造”是一把双刃剑

毋庸置疑,“deepfake”是一把“双刃剑”。

一方面,这项技术可以带来创新应用。比如,在影视制作行业就有一定需求。比如,有的演员在电影拍摄完成前去世了,依靠换脸技术还能在荧幕上“复活”。AI换脸还可以实现演员不在场拍摄,提升拍摄效率,节省经费。

电影《速度与激情7》还有没拍完,保罗·沃克便因车祸去世。剧组使用了AI换脸技术,活生生的保罗便出现在观众面前。

另一方面,这项技术如果被居心叵测者利用,制作各种可能涉及色情、暴力、政治因素的虚假视频,就会成为侵害他人合法权益和危害社会公共安全的工具。

特朗普去年宣布退出应对气候变化的《巴黎协定》。比利时某政党随后就利用“深度伪造”技术篡改相关视频,发布了一段名为“特朗普宣称比利时政府也应当退出”的虚假视频,借机引发比利时民众的愤怒。

不久前,号称“一键脱衣”、轻松生成裸照的手机应用“DeepNude”在巨大争议和批评声中全面下线。

“反伪造”技术管用吗?

人们还在积极憧憬着人工智能为未来社会提供超乎想象的便利和变革,却发现自己这么快就要开始面对与之相生相伴、同样超乎想象的挑战和难题。

美国国防部高级研究计划局今年推出了“媒体法医”项目,开发用于鉴别和定位伪造图片和视频的技术。

不过,布法罗大学人工智能研究所所长戴维·德曼认为,仅仅依赖事后鉴别还不够,有必要将鉴别能力部署到传播渠道的前端,能对相关信息提出警告甚至禁止其发布。

另外,也有一些业界人士期待着区块链技术能为治理“深度伪造”提供“降维打击”式的技术支持。区块链可在去中心化、分散的分布式记账中提供稳定、不可篡改的数据信息。

无论如何,正如Open AI政策总监杰克·克拉克所说,技术干预不存在一劳永逸的办法,因为“深度伪造”技术也在不断演进。

原标题：你“ZAO”换脸吗？

【免责声明】上游新闻客户端未标有“来源：上游新闻-重庆晨报”或“上游新闻LOGO、水印的文字、图片、音频视频等稿件均为转载稿。如转载稿涉及版权等问题，请与上游新闻联系。