您的位置: 广州日报大洋网首页 > 新闻频道 > 社会 > 正文

“声音”也能被深度伪造,连你亲妈都听不出来

2019-09-11 10:16 来源:央视财经

最近有一项新的科技技术,用户只需上传一张正面照,就可以一键操作,把一些影视剧片段中演员的脸换成自己的,甚至还可以通过社交媒体上传至网络上。

这种“深度伪造”不仅可以换脸,还可伪造声音。而目前一些科技公司在面对深度伪造的视频时,也显得力不从心。

这不禁让人们担忧,在深受网络社交媒体追捧的“超级”新技术背后,可能有哪些安全隐患?

语音合成“术”可以模拟任何人语音

彭博社记者万斯使用电脑合成语音给他母亲打了个电话,看看他母亲能否发现?

彭博社记者万斯:现在为了实验一下,我的电脑合成音,我要给我亲爱的妈妈打个电话,看看她是否能听出来。

万斯(合成音):嗨,妈妈,你们今天什么安排?

万斯的母亲:今天一早家里没电了,我们正在房子里溜达。

万斯(合成音):我刚刚下班,等着接儿子回家。

万斯的母亲:好的。

万斯(合成音):我觉得我可能感染了病毒。

万斯的母亲:那你感觉不舒服,是吗?

万斯:哈哈。我刚才是和你捣乱,你刚才在和电脑说话。

万斯的母亲:我感觉在和你说话,真是奇妙。

万斯:你觉得吓人还是觉得不错。

万斯的母亲:如果涉及到非常重要的事情,真的挺吓人的。

合成视频以假乱真

深度伪造,是一种可以实时伪造面部表情,并将其渲染成2D合成视频的人工智能技术。“DeepFake”深度伪造,也逐渐成为这一技术的代称。

李浩是美国南加州大学的助理教授,“针幕动画”公司的联合创始人,这家公司推出的软件可以让用户在玩虚拟现实游戏和购物时,即时定制自己的三维虚拟化身。

“针幕动画”联合创始人李浩:现在我制作了一个你的化身。

美国公共广播公司记者奥布莱恩:一个和蔼整洁的奥布莱恩。

但随着技术的发展,这样的合成图像或视频,真实度越来越强,欺骗性也越来越强。对此,研发者也不无担忧。

2018年1月,一个名为FakeApp的软件上线,宣称可以实现“一键换脸”。

虽然有的社交新闻站点比如Reddit网站,已明令禁止在自己的平台传播换脸视频和图片,但仍有超过9万名用户在Reddit上传播这类视频。

计算机科学专家法里德:我担心这项技术被武器化,还担心它如何影响我们整个社会。

“深度伪造”技术引发巨大争议 新技术推广应用应做好监管

一些科技公司在面对“深度伪造”的视频时,也显得力不从心。Instagram总裁莫里斯也在接受采访时表示,目前业界还没有大规模的数据或标准对这些假视频进行检测。

Instagram总裁莫斯里:目前,我们还没有应对深度伪造的政策,我们正试着评估,是否愿意这么做。如果要做,又该如何定义深度伪造,我觉得此类事件并不好。

主持人盖尔·金:你可以把视频下架。

莫斯里:实际上,我想的不仅是把它撤下来,我认为问题在于,我们如何以有原则的方式,做到这一点。

如今,诸如指纹支付、人脸识别解锁、声音解锁等,这些生物特征识别技术已经渗透到我们日常生活当中。然而,当这些都能被“仿造”时,小到个人财产,大到国家安全,面临的风险和隐患就越来越多。

技术是把双刃剑,用对了地方会造福人类,用错了地方,遗祸无穷。当新技术的能力越来越大的时候,每一项“超级”新技术的推广应用都应当慎之又慎,该有的监管也要跟上。

[ 编辑: 李诗琪 ]
分享到:
大洋微信二维码

大洋微信

广报汇微信二维码

广报汇

16:58 广州中考放榜!520分可上普高 8月14日开始录取
广州中考放榜!520分可上普高 8月14日开始录取
10日下午,广州市招考办权威发布2020年广州市高中阶段学校招生各批次录取最低控制分数线,考生成绩将于8月10日下午17时查询成绩。 [详细]
14:16 3520人!花都区积分入学录取人数创历史新高
3520人!花都区积分入学录取人数创历史新高
2020年,花都区全区积分入学符合最终录取人数为3520人,录取比例达到86.04%,录取人数与录取比例均创历史新高。 [详细]
14:16 注意!水巴S13(黄沙-南浦)线路明后两天停运
注意!水巴S13(黄沙-南浦)线路明后两天停运
接广州海事局通知,2020年8月12日06:00时-13日21:00时沥滘水道全线封航,封航警戒线设在丫髻沙大桥,作业期间该河段实施临时交通管制。受此影响,水巴S13(黄沙-南浦)线路2020年8月12日、13日期间全线停运,8月14日起全面恢复。 [详细]
14:03 花都区今年前七月新增幼儿园公办学位逾七千个
花都区今年前七月新增幼儿园公办学位逾七千个
广州市花都区教育局最新消息显示,花都区十六届人大代表财经二组日前在区人大常委会副主任徐永生、教科文卫工委主任王良平的带领下,视察2020年民生实事项目之一——“新增公办幼儿园学位”完成情况。 [详细]
14:03 “七蒂瑞莲”征文大赛开始啦!现金大奖等你拿
“七蒂瑞莲”征文大赛开始啦!现金大奖等你拿
8月9日,广州七蒂莲入选吉尼斯世界纪录的新闻经过广州日报微博报道发布后,很快登上新闻热搜榜,话题阅读高达1亿。七蒂莲,成为了广州番禺旅游最红的一位新晋“明星”、代言人。 [详细]
11:14 10日广州新增境外输入病例1例,无症状感染者2例
10日广州新增境外输入病例1例,无症状感染者2例
8月10日0时至24时,广州市报告新增境外输入确诊病例1例。新增出院病例1例。 [详细]
11:14 白云:非本市户籍符合这些条件,可在区内购房
白云:非本市户籍符合这些条件,可在区内购房
根据通知,在白云区工作半年,符合条件即可申请人才绿卡,就能在白云全区购房! [详细]
回到首页