正在阅读: 声音也能被深度伪造,我们还安全吗
首页> 时评频道> 光明观察原创 > 正文

声音也能被深度伪造,我们还安全吗

来源:亚博个人娱乐中心-时评频道2019-09-11 18:50

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  作者:张田勘

  伴随信息技术和人工智能(AI)的突飞猛进,借助于AI的深度造假(Deepfakes)也进入人们的生活,并激起巨大涟渏,冲击着人们的神经。在换脸造假之后,语音合成的深度造假也出笼了,这项技术可以模拟任何人的声音。据央视财经报道,彭博社记者万斯使用电脑合成语音给他母亲打了个电话,他的母亲并没有识别出这是真儿子还是语音合成的假儿子。

  在万斯告诉母亲是电脑合成他的语音在与她通话后问母亲,“你觉得吓人还是觉得不错?”母亲的回答是,“如果涉及到非常重要的事情,真的挺吓人的。”

  不只是万斯的母亲会认为深度造假的语音吓人,天下的母亲都会感到吓人。无论是相貌还是语音的深度造假,都涉及技术的两面性。在谈到技术的两面性时,人们都会引用刘易斯·芒福德的《技术与文明》,认为人类发明技术本来是为了便利和舒适,但最终自己的生活却被技术无情地改变甚至主宰了。

  网络、IT和AI当然是人类智慧的结晶,向善和向着有利于人和社会的方向发展,将把人类社会带入新的文明。但是,如果这些技术被不法者利用,而且管控不当,受到伤害的将会是每一个人。

  今天的信息技术的发展早就超出了《技术与文明》所描述的特征和人们拘泥的认识,即每项科技手段和成果只有在应用之后才会发现其问题,才能有时间和精力来监管。但是,信息技术的正反两方面问题正如其特点一样,一旦出现,就没有时间差,会随着其网络传播的速度,迅速传遍人类社会的每一个角落,只要有网络、WIFI布局的地方。

  对于信息技术和AI产品,全球有社会责任感的研发人员和公司早就深有同感,如果只是把新产品的研发和新技术的应用当作赚钱的工具,势必造成社会的混乱、失序。因此,微软提出了人工智能的一些伦理,包括公平、可靠和安全、隐私和保障、包容、透明和责任等。而且,这些准则已形成共识。

  但是,仅有这些准则远远不够。深度造假在语音和人脸、相貌上的多种产品就是如此。在中国有ZAO,在美国有FakeApp(2018年1月上线),都可以“一键换脸”。现在又有了“一键换音”的软件和APP。而这些产品在上市上线之前,显然并没有经过伦理审查和法律评估。因此,它们一上线,其负面效应就和正面效应同时出现,不只是BUG太多,还出现“技术行恶”的种种可能,如欺诈、制造外交纠纷、煽动政治暴力、破坏选举、危及国家安全等。

  这也意味着,信息技术和AI产品并不等同于一般的产品,如汽车,只有出现交通事故之后,才会想到用交通规则来管理,而是需要有一个提前量。而且,信息技术和AI产品还有一个特点是,覆水难收。例如,一键换脸的FakeApp在Reddit网站和其他网站已明令禁止,但仍有超过9万名用户在Reddit上传播换脸视频和图片。因此,在每一件AI产品和APP发布和投放市场之前,必须进行伦理和法律评估。

  同步甚至是前置监管信息技术产品,已成一种强烈的现实需求。国际上已有法律和伦理依据——欧盟欧盟2018年5月25日颁布实施的通用数据保护条例(GDPR),把个人数据置于现行欧盟法律保护之下。目前,其已对某些产品可能引发的个人隐私泄露的严重关切作出了反应,例如GOOGLE MAP、FACEBOOK等。未来,GDPR还将通过进一步确立“数据保护法案”来补充。同时,人工智能和信息技术伦理委员会也将对有技术公司在出台和发布AI产品进行审查,该委员应有工程师、科学家、律师、社会学家、公众代表、科技公司法人或领导组成。

  对信息科技产品尤其是AI产品进行科技伦理和法律审查,不是阻碍和桎梏科技发展,而是要为科技创新划定正确航道和必须遵守的价值底线,唯其如此才能加速科技发展。只有制度能保障科技向善之时,才会有人类社会的未来,才会提升社会文明。(张田勘)

[ 责编:王营 ]
阅读剩余全文(

您此时的心情

新闻表情排行 /
  • 开心
    ?
    0
  • 难过
    ?
    0
  • 点赞
    ?
    0
  • 飘过
    ?
    0

视觉焦点

  • “技术失误”

  • 天价咨询

独家策划

推荐阅读
如果说对继续教育学时学分的严格要求是对执业药师能力的“充电”和责任的压实,是为用药安全上保险,那在“以钱开道”的逻辑下闸口大开,难免会让用药安全关口失守。
2019-09-12 16:29
由于在道路上的违停和在公共绿地上的违停侵害的是不同法益,受不同的法律调整,也就不能简单地将两者的罚款仅作金额大小的对比,进而得出在公共绿地上违停处罚过重的结论。
2019-09-12 11:17
禁止“二选一”不妨绕过反垄断法上的争议。各方无须坐等,有必要以现有法律为武器,执法者严格执法,权益受损者依法维权,形成合力,实现对“二选一”不法行为的严厉规制。
2019-09-12 11:16
保护、鼓励医护人员工作外救人,实际上也是对公众利益的保护。构建科学、规范、高效的见义勇为全国统一认定制度,大力加强见义勇为人员及家属权益保障工作,势在必行。
2019-09-12 11:15
对于信息技术和AI产品,全球有社会责任感的研发人员和公司早就深有同感,如果只是把新产品的研发和新技术的应用当作赚钱的工具,势必造成社会的混乱、失序。
2019-09-11 18:50
有权管与乱管不是一码事。需要厘清的一点是,“对孩子负责”的苦衷,不能成为胡来的借口;即使打着“为你好”的旗号,也要守好规则。
2019-09-11 18:50
当我们对“绿化带停车3小时被罚三千多元”的正常执法个案无比新奇时,实则也意味着有关法律规则的常态性虚置。为此破题,深圳的做法可说在正反两方面为其他城市提供了镜鉴。
2019-09-11 18:50
招聘教师固然需要考虑应聘者的身体条件,但“一刀切”太粗暴,盲人老师教授盲人学生是顺理成章、两全其美的事情,何必参照公务员的体检标准?
2019-09-11 18:50
可以用脚投票的消费者,眼睛终究是雪亮的。关涉公共健康和安全的食品行业,先得守住食品安全的绝对底线,才能再去谈品牌营销。轻视产品质量,再火爆的“名气”都会被砸掉。
2019-09-10 17:46
地铁“女士优先车厢”并不等于“女士专用车厢”。如果明确“女士优先车厢高峰时段限制男士乘坐”,过度仰仗立法所带来的强制性支撑,也许并不是最好的选择。
2019-09-10 14:19
这些APP实际上是利用消费者的信息弱势地位和消极维权的心理,达到自己误导、强制、欺诈消费的非法目的。但随着公众法治意识和维权意识的不断提升,用户终究会“用脚投票”。
2019-09-10 14:17
短视频平台内容评价和推荐标准必须要引入风险考量。明明带有诱导风险的内容成了“爆款”,却无足够的风险提示,引发不当模仿造成伤害,要求平台承当相应责任并不冤枉。
2019-09-09 16:28
破解家长的安全焦虑技术手段并非唯一的办法。我们不能运用“阴暗想象”和“丑闻思维”,先入为主地断定幼儿园心虚、胆怯,而要读懂家长要看监控被拒背后的人文关怀。
2019-09-09 12:29
对于经典艺术作品,每个人都有自己的理解和解读。如今对经典作品进行改编、解构的现象比比皆是,并不一定会对原作造成负面影响,反而可以拓展作品的社会意义和价值。
2019-09-09 12:28
环境考核越来越严,环保部门面临非常大的考验。越这样,越应该细致稳妥,精准治污,在治污和民生之间寻找平衡,而不是试图营造“呼吁治污就可能连饭都吃不上”的冲突图景。
2019-09-06 11:31
近视患者不妨在专业眼科医师指导下选择合适的眼镜佩戴。眼镜生产成本并不高,国内市场繁荣,即便不是所谓的“暴利”行业,也应该对患者存有敬畏之心,不断加强服务品质。
2019-09-06 11:33
千人队伍只配备一个专业医生,以及十几个只接受过户外急救技能培训的志愿者。主办方如此的保障水准与最初的承诺,相差甚远。没有备案、救援保障不力等问题,都值得追问。
2019-09-06 15:15
在市场经济中,经营者守得住法治的底线,方能行稳致远;消费者也应学会为权利而斗争,通过诉讼等合法渠道维权。如此各守其道,“金融服务费”等乱收费行为才会走向消亡。
2019-09-06 11:32
应要求提交有关合作办学的协议,以此确保信息的真实性,不能把甄别信息真假的责任交给学生和家长。虚假夸大的招生宣传会误导学生的选择,对学生的发展带来负面影响。
2019-09-05 18:20
糙米能预防“三高”,但吃糙米与用电饭煲并无直接的关系,在烹调糙米的时间上电饭煲也未必占优势,因此用某种品牌的电饭煲与防治“三高”既不沾边,也没有科学的支撑。
2019-09-05 18:20
加载更多