设为首页  |  加入收藏
 首页  部门概况  动态信息  服务指南  政策法规  校园管理  安全知识  综合治理  保卫学会 
站内搜索:
 
  安全知识  
 
 媒体安全动态 
 安全教育 
 新生必读 
 案例分析 
 起底邪教 
 
  安全知识
当前位置: 首页 > 安全知识 > 媒体安全动态 > 正文
 
声音合成、换脸、交友,和AI恋爱?认输吧!那个是AI骗子!
2019年11月25日 10:50      浏览:

科技日益发达,骗子的骗术也层出不穷

第一批AI已经开始骗人了
请看:《当代AI骗术大赏》👇

No.1

语音骗


“我今天被骗子骗钱了,他用朋友的微信语音向我借的钱,声音一模一样的”

undefined

新型微信语音诈骗诞生,江苏南京的陈先生通过微信,收到朋友王某发来的借钱信息, 为了避免被骗,陈先 生特意在要求对方发来语音,并确定这就是自己朋友声音后,才向其转账5000元。
之后陈先生打电话给王某确认后,才发现被骗,朋友的微信早已被盗。
微信语音一人一句有连贯性且不能转发,很多人就理所应当地认为,能和你聊语音的一定是本人无疑。
利用微信语音包诈骗已成为不法分子骗钱新套路。

undefined

并且AI语音诈骗第一起案例已经发生
华尔街日报报道,一家英国能源公司CEO接到了来自其母公司的电话,电话里这位自称“首席执行官”一天打了三通要款电话。
要求他把资金汇入匈牙利供应商,声称为了稳固两方的合作关系。
“当时在通话过程中,除了我还有我的同事,我们几乎没怀疑过这个人,基本认定电话对面这个人就是其母公司的首席执行官,
值得关注的是,来电人的英语带点德国口音,有着和老板说话一样的旋律,跟母公司的老板一毛一样,至少从声音来判断是这样,肯定是老板本人了。”
就这样,犯罪分子通过 人工智能语音生成软件 通过其它方式录音提取了母公司CEO的声音。
并对素材进行合成,用伪造的声音最后进行诈骗,使这家公司一天内损失220000欧元(约合人民币173万元)
现在语音克隆技术已经运用在很多领域上面了,不论是QQ的“变声器”还是搜狗输入法终端的“变声”功能。

undefined


仿制的明星语音包
再或者百度地图、高德地图里,各个明星的语音包,都是用明星本人说的话进行技术合成后的。
这些语音包在网络上十分走红,通过提前设置好的各种语音,可以应付绝大部分的对话场景。
而这种语音包,在一些二手交易平台上,只需要10元钱,就可以得到上千条。
也是因为如此,这类语音的技术也越来越容易得到,容易使用,并且效果也很不错,被不法分子盯上也是在所难免。

No.2

面容骗


如果你觉得耳听为虚,眼见为实,我们就聊一聊骗子第二招“AI换脸”
从前,我们只知道运用PS可以修改图片,现如今,运用AI就可以直接将 “修图” 改为 “换脸”
最近网上涌出大量通过“AI换脸”之后变成知名女明星后“主演”的低俗视频并且在贴吧、闲鱼等网络平台还有售卖。

undefined


有市场的地方就有需求,有需求就有产业链,而围绕着“AI换脸”的黑色产业链已经悄无声息的形成了。
并且“AI换脸”不仅仅只是低俗视频这么简单,还可以用于电信诈骗但凡网络防范意识薄弱的人。
碰到通过“换脸”的“朋友”向自己索要钱财,基本这个钱也就有去无回了,毕竟很多人都还可能不知道视频还可以换脸。

undefined


甚至有人怀疑,换脸之后会不会出现财产风险,比如被他人盗刷财产等。

undefined


但是,AI换脸好玩,就怕玩坏了,有的人就起了坏心思。
在刚刚听说AI换脸的时候,很多网友就diss某些抠图演戏的艺人,可以把脸授权给拍电影的公司,然后躺在家里等着收钱就行了。
没想到这扇新世界的大门艺人还没用上,骗子倒是发现了这个商机,不得不感叹,骗子也有KPI,骗子也要持续充电,获得骗子界的认可。

undefined


“眼前的王源不是王源,在线科普AI换脸技术”
前段时间就有个骗子用AI换脸技术伪装成王源,通过直播来骗取低龄粉丝的信任,然后通过付费加入粉丝群来进行骗钱。
可能是最后不相信的人太多了,在最后纸包不住火的时候,这个骗子直接承认了自己不是王源,而是用AI换脸技术换成王源的脸来骗钱的。

undefined


不得不说这个骗子真所谓“艺高人胆大”,不光侵犯艺人肖像权,还威胁粉丝,声称有王源的KTV抽烟醉酒的照片,要求粉丝“拿钱消灾”
站在路人角度来看,这届粉丝没有少交智商税,只会追星,已经忘了思考了,就作为一个艺人,会随便公布微信号吗?随便参加一个综艺,挣的钱也比骗几百个人的钱要多啊。

No.3

“交友”骗


这个骗术通过分析在网上发布的信息,骗子会根据发布不同种类信息的人群进行筛选。
比如进行感情诈骗,可以筛选一些经常发布感情鸡汤文章的人群;进行金融诈骗时,可以筛选一些经常发布投资理财信息的人群。
用过淘宝吧?现在的淘宝都是人和智能机器人混合服务的,给客服发信息,秒回,基本就是机器人无疑了,这类智能机器人,基本可以回答50%-80%的问题。
但是这项技术,依然可以为无所不能的骗子 “改进后” 所用。

undefined


浙江警方破获的一起利用“聊天机器人”进行诈骗的案件,这个案件中,恋爱交友软件全是虚拟用户,真实付费用户聊一条,虚拟用户就会回复一条。
其实回复用户的只是服务器里的一个AI小程序,而且你想继续和对面虚拟用户聊天,必须要充钱,就这样,犯罪团队批量“恋爱”,最后诈骗两千多万。

undefined


和AI“恋爱”?认输吧
诸如此类的还有AI机器人进行推销,想必大家都没少经历过,接通一个看似官方的来电,声音那头会非常自然地跟你打招呼“你好”
停顿之后,如果你客气地回应“哪位”,对面的机器人就会将你引导到手机短信,鼓励你办理业务。
虽然没涉及到诈骗,但是也有够烦人的了。
为了不被骗子找上门来,无论是设置多重验证也好,还是平时多注意保护个人信息,相互提示和预防。
天上没有白掉的馅饼,也没有被美女找上门的人格魅力,抵挡住诱惑,男孩子出门在外一定要保护好自己 。
无论我们欢迎也好,抗拒也罢,AI智能技术正以前所未有的速度突飞猛进,霍金老爷子曾预言人工智能将是人类文明的终结者,不得不让人心有余悸。
技术无罪,只期望技术始终掌握在正义之手。


来源:安全微伴

 

网站声明:转载或引用本文,须注明本文出处,违者必究

 

中华人民共和国公安部 | 中华人民共和国应急管理部 | 广西壮族自治区公安厅 | 广西壮族自治区人民政府 | 广西南宁市人民政府门... | 中国反邪教网

广西大学保卫处 版权所有
地址:广西南宁市大学东路100号       邮编:530004