AI换脸技术引发热议：眼见未必为实,普通人,记者：孔小平

换脸AI或对普通人有潜在危害

原版朱茵 换脸杨幂

原标题：杨幂“换脸”视频热传 AI让你想变谁就变谁？

记者：孔小平

近日，有网友上传了一段杨幂“换脸”视频，视频中制作者通过AI技术，把杨幂的脸换到了朱茵在《射雕英雄传》中饰演的角色黄蓉上。该视频立刻引发全网热议，热搜不断。网友纷纷表示这段视频毫无违和感，甚至“感谢科技，终于让杨幂有了演技”。网络大面积惊叹之余，这种“分分钟换脸”的黑科技也让人细思极恐。

[事件回放]

“杨幂版黄蓉”竟毫无破绽

94版《射雕英雄传》里朱茵扮演的黄蓉非常灵动俏皮，不少场景堪称经典。一位叫“换脸哥”的Up主，将杨幂的脸用AI技术换到了剧中“黄蓉”的身上，看下来，“杨幂版黄蓉”的表情和肢体动作很顺畅，丝毫看不出破绽，因为太逼真，在网上也迅速引起轩然大波。据悉，这位换脸哥此前就发布了多个给影视剧角色换脸的视频，被换脸的有《冰与火之歌》里的龙妈，《泰坦尼克号》里的rose，《喜剧之王》里的柳飘飘，《古墓丽影》里的劳拉等等，而替换上去的，都是杨幂。

这不是个例

该视频出现后网友从惊呆到惊叹。网上甚至有个话题叫“将朱茵的黄蓉换成杨幂的脸”，阅读量居然飙升到1.1亿多，讨论更有2.5万个。有网友表示，在技术的加持下，谁都能成为演技派，以后换脸技术是不是会成为抠图表演者的新捷径了？未来明星们拍戏无需到场，直接签订一份“允许换脸”的授权合同，就可以影视作品制作了。

其实“AI换脸”并不是从@换脸哥开始的，只是因为“杨幂版黄蓉”而引发了更广泛的关注。

@换脸哥制作这段逼真视频的工具叫deepfake，国外在2017年就出现了，曾有人用明星换脸制作了一些不雅视频，不幸中招的明星包括盖尔·加朵、斯嘉丽·约翰逊等。当时引发了很大争议，不少平台都明确禁止此类视频传播。

“简直是技术猥亵，求整治”

在deepfake传入国内后，国内也有网友制作过换脸视频。比如把宅男们喜闻乐见的女主播换成国内当红小花，播放量都在几十万。之前好莱坞女演员斯嘉丽·约翰逊就曾预言，“让任何一个人成为这项技术的攻击目标只是时间问题。”

因此记者看到很多清醒的网友也认识到，公众人物只是首当其冲“被技术”的，如果有人恶意利用和滥用，那任何人可以变成任何人，对所有人都不安全。更有网友表示，“换脸”简直是一种赤裸裸的“技术猥亵”。无数网友呼吁相关部门“求整治”！

发布者已下架相关视频

27日，该视频发布者@换脸哥发道歉，表示已与杨幂官方工作室沟通，并下架了相关视频。并称，普通的AI换脸技术可能只能用于娱乐作用，诸如军事用途等更高级别的AI技术，其安全性高，目前的民用AI技术也不会构成威胁，并表示这对所有人来说是一个警示，大家应尊重版权与肖像权，专注于技术本身。

[连锁反应]

细思极恐，刷脸支付安全吗？

此事无疑给社会造成了一定负面影响，但细思极恐，如今无人驾驶、人脸识别、智慧城市、智能家居等各类场景中都在运用AI，包括人脸识别系统，但一旦后端控制系统被攻击，出现规模化、连锁式的崩盘，AI失控的后果不堪设想。网上报道显示，2019年1月，荷兰Deeptrace实验室发布一份deepfake发展报告称，2018年“deepfake”关键词的搜索次数比2017年增长了1000倍。

27日深夜，@安全在微博做出科普和回应。阿里安全图灵实验室高级算法专家觉奥在视频中指出，当前主流的换脸技术是基于深度学习模型的，其核心是一个“自动编码器”，具体而言，通过人脸检测技术，把视频中两个人，比如朱茵和杨幂的脸抓取下来，数量需要几千到几万张，之后训练这个自动编码器和两个解码器，一个解码器生成朱茵，另一个生成杨幂，训练好以后，输入朱茵的脸就能生成杨幂的脸了。

这一技术的应用会引发何种问题？觉奥表示，除了换脸引发的道德和伦理问题，“黑灰产业”利用AI换脸，是目前常见的一种攻击手段，“在人脸识别系统中，识别换脸的技术叫活体检测技术，这是一个攻防对抗技术，即用AI的手段来解决AI的攻击。”觉奥也表示，通过深度学习技术，训练模型，来通过两者的纹理、肤色、反光等特性的不同而识别出来。可实现在毫秒级时间内揪出假人脸，目前识别准确率达到99.9%。同时他也指出，“这几年，由于深度学习的迅猛发展，攻、防的技术都在不断进步，这是一个持续、动态对抗的过程，我们有信心和能力做好。”

为此@阿里安全表示，阿里的人脸识别活体检测技术能够毫秒级辨别，成功率高达99.9%，防控技术还是有的，大家无需过于担忧。

[记者采访]

新技术不能突破法律底线

南京大学法学院教授、博导徐棣枫接受记者采访时表示，早前也有过模拟明星声音的侵权行为，他认为，“AI换脸术”作为科技来说，是没有对错之分的。AI换脸明星，与不经允许使用别人照片的行为是类似的，都涉嫌侵犯肖像权。不合理使用技术的平台和个人，都应该受到法律的约束。

那“换脸术”应用的边界在哪里？徐棣枫表示，以前是PS照片，现在换脸术就是PS视频，不能随便用别人的照片和视频这些法律意识也在渐渐养成。另外，这种AI换脸技术存在一定的潜在风险，目前有对其适用的法律规范。

采访中也有传播方面的专家表示，AI技术发展使普通人能享受到科技带来的便利，但新技术应该驱动良性的文化创意更新迭代，切忌用到歪路上去，更不能突破底线挑战公序良俗。

警惕“AI换脸”技术被滥用

近日，有网友上传了一段杨幂“换脸”视频，视频中制作中者多种方式AI核心技术，把杨幂的脸换到了朱茵在《金庸小说新网游》中饰演者的任何角色黄蓉上。该视频当即导致全网热议，热搜断地。网友一众直言这段视频毫无违合感，甚至于“感谢你们时代科技，好不容易让杨幂有了演技”。但也有网友来叹服既，事实上这种“分分钟换脸”的黑时代科技背后潜在影响的隐患让很代思极恐。

但，“AI换脸”并其实不是这位UP主率先推出，只不过是是因为“杨幂版黄蓉”而导致了更宽广泛的观注。

制作中这段超逼真视频的基础工具叫deepfake，到国外在2017年就出现明显了，曾有过用娱乐圈明星换脸制作中了这些粗俗视频，不幸的事情中招的娱乐圈明星包含盖尔·加朵、斯妮·约翰逊等。不过当时导致了很大争议话题，众多其它平台都不明确全面禁止此类情况视喜讯连连播。

还有道德标准道德层面的危害性外，现在的无人驾驶汽车、人脸检测可以识别、智慧者其他城市、具有智能家居装饰等各类相关生活场景中都在结合AI，包含人脸检测可以识别系统实现，但就会后端控制住系统实现被防御，出现明显目前规模化、品牌连锁式的崩盘，AI失控的所造成的后果糜烂不堪想法。在新闻消息界，AI换脸术提高核心技术进入门槛的另外，炮制工艺假新闻消息也显得易如反掌。

可以想见，受此工具软件危害性的，除中国公众其他人物“首当其冲”外，可能有有恶意通过和不能滥用，那任何事就会成为被害者者。有网友直言，“换脸”简值是一种刺裸裸的“核心技术被猥亵”。

至于，圈哥并不事实上“AI换脸术”也是一项时代科技有对错之分。但核心技术不断发展在使普通人还有谁亨受到快捷便利的另外，毕竟推动力有序竞争的地域文化创意想法更新中产品迭代，二忌用到歧途起来，更不第二次突破做人的底线去挑战公俗俗。AI换脸接受他人这种行为的情况，与不经容许使用时别人照片的的行为的情况这种，都立案调查被侵犯个人肖像权。不和理使用时核心技术的其它平台和个，都毕竟备受法规的束缚，监管方业务部门应防范于未然，及早预防对其进行研究中，找出不同应对措施的相应措施。

换脸AI或对普通人有潜在危害具体原因内幕为什么最新动态的讨论

今天的晚安呢:ZAO AI换脸APP爆火 你是怎么看待的？ ZAO AI换脸APP爆火 你怎么看？

潮美搭师:当ai技术把黄晓明林大厨换脸，怎么感觉那么奇怪呢，果然高手在民间

新浪新闻: 这些隐忧不得不注意近日一款人工智能换脸应用ZAO火爆网络，上传照片就能体验一把“明星瘾”。然而火爆的背后也存在着风险，它最终或将演变成"深度伪造"。非本人照片能否上传？个人隐私会泄露吗？刷脸支付会被换脸图像骗过，造成盗刷吗？这些风险详解↓↓ ​

岳屾山:
1.这种软件有人做就有人用，有的用户觉得好玩就拒绝一切善意提醒，恶劣者甚至会怀疑提醒的人是别有用心。
2.现在各种app野蛮掠夺用户信息已是常态，虽然多有报道，然而并没有啥用。主管部门不出手不限制，其他人说再多也不过是给app提高知名度和热度罢了。
3.总有人用所 ​

白水法院:玩换脸的小心了！：是非常敏感的个人信息8月30日晚，一款名为"ZAO"的AI换脸软件在社交媒体刷屏，但也引来不少质疑。央行科技司司长李伟上个月曾表示，人脸是非常敏感的个人信息，一旦泄露会带来非常大的影响。玩换脸的你要谨慎了~