编程开源技术交流,分享技术与知识

网站首页 > 开源技术 正文

上热门的AI“换脸”背后的DeepFace、DeepFake与DeepFaceLive

wxchong 2024-06-14 13:20:24 开源技术 10 ℃ 0 评论

近期国内出现利用AI技术的新型诈骗事件,我们常说,技术本身是中立且无罪的,技术的产出的价值主要依赖背后的使用者和应用场景。对于这种新型技术,我在这里做一下简单的介绍,同时希望各位朋友阅读完后能提高对新技术的认识,并了解新型诈骗的一些场景。

认识DeepFace、DeepFake与DeepFaceLive

DeepFace

DeepFace是由Deep与Face两字所组合成的字,即深度学习(Deep Learning)中的Deep与人脸的英文Face的组合。它是一种基于机器学习与深度学习的人脸识别技术,起初是由Facebook的研究小组所创建,准确率可以达到97.35% ,后来,Google的FaceNet技术与Facebook的DeepFace技术在使用相同的资料集之下相互比较,FaceNet创下99.63%准确率的纪录胜过Facebook的DeepFace。

DeepFake

DeepFake一词其实就是把DeepFace中的Face替换成了Fake,一般称为深度造假技术,意即透过深度学习来达到换脸、交换声音的合成技术,而随着目前技术发展,现今可以达成表情伪造,甚至还能够搭配语音合成来制作虚假语音以假乱真。

DeepFaceLive

DeepFace技术至今不断进步,随着显示卡推陈出新、图形处理器的技术越来越强大,由DeepFaceLab所开发出即时性(Real-Time)的换脸技术问世,然而过去的DeepFace和DeepFake技术都需要花上较长的时间将图片或是影片进行处理,可能需要花上数天或是数周才能产生出较高品质的换脸影像或是一至两分钟的换脸影片,而当DeepFaceLive被开发出来后,只需要载入已经预训练好的模型,并搭配摄像头,即可达到即时换脸,并且能够维持一定程度的品质。

开源DeepFaceLive

DeepFaceLive是一个开源工具,于 2021 年 8 月发布,使用户能够在 Skype 、Zoom 、Twitch和其他基于视频的流媒体和消息传递系统上与其他人实时换脸。


DeepFaceLive在 TikTok 用户和内容创作者中很受欢迎,目的多种多样,包括将自己变成名人。然而,DeepFaceLive 可以容易欺骗生物识别系统、实施欺诈、制作报复性色情内容、编造和传播错误信息和虚假信息,以及其他形式的误用和滥用,也受到了抨击。

DeepFaceLive由神秘的俄罗斯开发人员创建。Petrov 还因帮助开发DeepFaceLab而受到赞誉,DeepFaceLab 是使用最广泛的用于创建 deepfakes 的开源工具。

应用影响评价

首先,说明正面的应用与影响,包括以下几项:

?教育层面:可帮助教师们提供更为生动的教材来建立高互动性和吸引力。举例来说,通过DeepFace技术让历史人物重返人间,再搭配虚假语音伪造技术,不仅可以让学生身历其境,甚至与栩栩如生的历史人物进行互动,借此来达到吸引学生、增加参与度。

?电影产业:DeepFace的换脸技术可成为影片后制的一大助手,其中最著名的案例就是好莱坞电影《玩命关头》的男星保罗沃克因车祸离世,因此剧组通过寻找替身的方式找到弟弟上场,接着并透过DeepFace的合成技术,让已经逝去的电影明星可以再度登上大萤幕。

?模特儿产业:利用DeepFace技术和3D建模技术来大量客制逼真的AI模特儿,不仅帮助厂商降低成本、缩短产品推出时间、满足族群平等与族群多样性的社会责任议题,且经过实测后,有95%的测试者无法分辨模特儿的真伪,因此DeepFace技术可为模特儿产业带来一个新的面向,在未来,模特儿将不一定是真人。

负面的应用与影响方面,则包括:

?假消息与假新闻:其中一个最大的震撼弹就是在2018年4月时,国外媒体通过DeepFake技术来伪造美国前总统欧巴马的致词内容,在影片中,美国前总统欧巴马脱口说出「川普总统就是笨蛋」这句话,使得这起事件引起哗然。由于实际上这句话却不是从他本人说出,且不易直接分辨影片真假,因此这起事件同时也为人们带来一个警示,对于眼耳所听所闻都不一定为真。

?诈欺与诈骗事件:透过DeepFake技术来冒用身分已不是难事,不管是声音或是长相,都可以使用DeepFake技术伪造。在企业层面,原本已经严重泛滥的商业电子邮件诈骗(Business Email Compromise),此时DeepFake技术又让诈欺的恶意人士多一个工具让企业信以为真,进而骗取钱财或商业机密。在个人层面,诸多不常使用数字产品的长辈们对于接受新信息的方式与速度不如年轻族群,DeepFake这种新技术的问世可能成为犯罪集团广泛采取的手段,并借此来诈欺长辈们,因此诸类事件是需要被高度关注的议题,并且需要提升防诈骗意识。

如觉得有价值,欢迎转发,收藏。

Tags:

本文暂时没有评论,来添加一个吧(●'◡'●)

欢迎 发表评论:

最近发表
标签列表