主页 > 经验 > 正文

“声音”也能被深度伪造,连你亲妈都听不出来

2019-09-11

最近有一项新的科技技能,用户只需上传一张正面照,就可以一键操纵,把一些影视剧片断中演员的脸换本钱身的,乃至还可以通过交际媒体上传至收集上。

这种“深度伪造”不只可以换脸,还可伪造声音。而今朝一些科技公司在面临深度伪造的视频时,也显得力有未逮。

这不禁让人们忧虑,在深受收集交际媒体追捧的“超等”新技能背后,也许有哪些安详隐患?

语音合成“术”可以模仿任何人语音

彭博社记者万斯行使电脑合成语音给他母亲打了个电话,看看他母亲可否发明?

彭博社记者万斯:此刻为了尝试一下,我的电脑合成音,我要给我酷爱的妈妈打个电话,看看她是否能听出来。

万斯(合成音):嗨,妈妈,你们本日什么布置?

万斯的母亲:本日一早家里没电了,我们正在屋子里溜达。

万斯(合成音):我方才放工,等着接儿子回家。

万斯的母亲:好的。

万斯(合成音):我认为我也许传染了病毒。

万斯的母亲:那你感受不惬意,是吗?

万斯:哈哈。我适才是和你捣乱,你适才在和电脑措辞。

万斯的母亲:我感受在和你措辞,真是奇奥。

万斯:你认为吓人照旧认为不错。

万斯的母亲:假如涉及到很是重要的工作,真的挺吓人的。

合成视频以假乱真

深度伪造,是一种可以及时伪造面部心情,并将其渲染成2D合成视频的人工智能技能。“DeepFake”深度伪造,也逐渐成为这一技能的代称。

“声音”也能被深度伪造,连你亲妈都听不出来

李浩是美国南加州大学的助理传授,“针幕动画”公司的连系首创人,这家公司推出的软件可以让用户在玩假造实际游戏和购物时,即时定制本身的三维假造化身。

“声音”也能被深度伪造,连你亲妈都听不出来

“针幕动画”连系首创人李浩:此刻我建造了一个你的化身。

美国民众广播公司记者奥布莱恩:一个平和整洁的奥布莱恩。

但跟着技能的成长,这样的合成图像或视频,真实度越来越强,诱骗性也越来越强。对此,研发者也不无忧虑。

“声音”也能被深度伪造,连你亲妈都听不出来

2018年1月,一个名为FakeApp的软件上线,宣称可以实现“一键换脸”。

固然有的交际消息站点好比Reddit网站,赛车微信群,已明令榨取在本身的平台撒播换脸视频和图片,但仍有高出9万名用户在Reddit上撒播这类视频。

“声音”也能被深度伪造,连你亲妈都听不出来

计较机科学专家法里德:我担忧这项技能被兵器化,pk10微信群,还担忧它怎样影响我们整个社会。

“深度伪造”技能激发庞大争议 新技能推广应用应做好禁锢

一些科技公司在面临“深度伪造”的视频时,也显得力有未逮。Instagram总裁莫里斯也在接管采访时暗示,今朝业界还没有大局限的数据或尺度对这些假视频举办检测。

“声音”也能被深度伪造,连你亲妈都听不出来

Instagram总裁莫斯里:今朝,我们还没有应对深度伪造的政策,我们正试着评估,是否乐意这么做。假如要做,又该怎样界说深度伪造,我认为此类变乱并欠好。

“声音”也能被深度伪造,连你亲妈都听不出来

主持人盖尔·金:你可以把视频下架。

莫斯里:现实上,我想的不只是把它撤下来,我以为题目在于,我们怎样故有原则的方法,做到这一点。

“声音”也能被深度伪造,连你亲妈都听不出来

现在,诸如指纹付出、人脸辨认解锁、声音解锁等,这些生物特性辨认技能已经渗出到我们一般糊口傍边。然而,当这些都能被“仿造”时,小到小我私人工业,大到国度安详,面对的风险和隐患就越来越多。

技能是把双刃剑,用对了处所会造福人类,用错了处所,遗祸无限。当新技能的手段越来越大的时辰,每一项“超等”新技能的推广应用都该当慎之又慎,该有的禁锢也要跟上。