多地出现AI换脸新骗局中国互联网协会发文提醒有人被骗走430万生成露脸说话视频仅

Estimated read time 1 min read

每经编辑:张锦河

 

近日,内蒙古包头等多地出现AI换脸新骗局,单笔被骗金额高达400余万,引发广泛关注。

5月24日,中国互联网协会发文提醒,不法分子利用AI技术,通过声音合成,伪造成特定人物的声音,通过AI换脸,伪装成特定人物,实时与他人进行视频通话。更换后的面部表情自然,以假乱真,能够冒充他人身份联系被害人,博取被害人信任后实施。面对利用AI技术的新型骗局,广大公众需提高警惕,加强防范!

据中新经纬,目前制作一套“露脸且说话”视频成本低至数十元,只需提供正面照就能生成视频,不仅眼睛、嘴巴、头会动,如果提供文字口型也能对上,一个晚上就能完工。有商家称用照片生成一段1分钟时长的视频仅需30元左右。如果视频时间短。质量要求不高几块钱一段都可以。

图片来源:视觉中国-VCG111424718601

中国互联网协会:警惕!“AI换脸”新骗局据中国互联网协会5月24日消息,今年以来,ChatGPT和GPT-4等技术的应用,成为了信息科技领域的热点,引起公众对AI技术的广泛关注和热情。但伴随着深度合成技术的开放开源,深度合成产品和服务逐渐增多,利用“AI换脸”“AI换声”等虚假音视频,进行、诽谤的违法行为屡见不鲜。

近期,包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信网络的案件。不法分子利用AI技术,通过声音合成,伪造成特定人物的声音,通过AI换脸,伪装成特定人物,实时与他人进行视频通话。更换后的面部表情自然,以假乱真,能够冒充他人身份联系被害人,博取被害人信任后实施。

面对利用AI技术的新型骗局,广大公众需提高警惕,加强防范!

01 做好个人信息安全第一责任人

1、加强个人信息保护意识,防止信息泄露:不轻易提供人脸、指纹等个人生物信息给他人;不要轻易透露自己的身份证、、验证码等信息;不要贪图方便把身份证、照片等直接共同存放于手机内。

提示:发现APP过度、强制收集个人信息,请至12321.cn投诉。

2、陌生链接不要点,陌生软件不要下载,陌生好友不要随意添加,不明二维码不要随意扫描。管理好自己的朋友圈,也不要轻易向陌生人开启手机屏幕共享。

3、做好个人防护,安装安全软件,防止手机和电脑中病毒。对个人账户的安全状况保持警惕,尤其是陌生设备的登陆情况,防止微信、QQ等被盗号给亲朋好友带来麻烦。

4、对于不常用的APP,建议卸载前注销个人帐号。

△提示:APP不提供个人帐号注销方式,或为注销帐号设置各类障碍的,请至12321.cn投诉。

02 远程转账务必需要多重验证,把好“钱袋子”

如果有人自称“家人”“朋友”“老师”“领导”通过社交软件、短信、电子邮件等以“手机掉水里了,学校需要紧急交辅导班学费”“人在境外旅游,需要帮忙买机票”“给领导办私事,需紧急转账”“遭遇车祸,需要马上手术”“情况特殊,需要过桥资金拆借”等各种方式和理由诱导你转账汇款,务必第一时间提高警惕!

在AI时代,文字、声音、图像和视频都有可能是深度合成的。在转账汇款、资金往来这样的典型场景,要通过回拨对方手机号等额外通信方式核实确认,不要仅凭单一沟通渠道未经核实就直接转账汇款!无论对方是谁!

△提示:遭遇信息,请至12321.cn反诈专栏举报,如发生资金损失请及时报警。

一直以来,中国互联网协会不断推进行业自律,积极开展防范治理电信网络工作。2023年6月14-16日,中国互联网协会将组织举办“2023年电信网络治理工作培训”,解读电信网络治理法律法规,分析研判电信网络治理的重点工作和发展形势,助力企业落实防范治理电信网络责任,提高管理能力,促进行业健康发展。

四川绵阳:骗子利用AI换脸和拟声技术佯装领导,一市民被骗40余万5月23日,四川绵阳市反电信网络中心发布预警称,近日,多地连续发生多例AI案例。

典型案例:市民王先生突然接到主管单位领导视频电话,称其朋友想借王先生公司账户过账40余万,还说该款项随后就转到王先生公司对公账号,基于对领导的信任,加上已经视频聊天核实了身份,王先生立即就把40余万转至指定账户上,随后发现上当受骗。这是骗子利用智能AI换脸和拟声技术,佯装领导对他实施了。

警方提示

1、视频电话眼见、耳听未必属实,务请多方核实相关信息。

2、保护好隐私信息,不轻易提供人脸指纹等个人生物信息给他人,不过度公开或分享动图、视频等。

3、未经核实请勿大额转账汇款。

内蒙古包头:科技公司老板10分钟被骗走430万元据平安包头官方微信号5月20日消息,5月8日,包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信的案件。

4月20日11时40分左右,福州市某科技公司法人代表郭先生的好友突然通过微信视频联系到他,两人经过短暂聊天后,好友告诉郭先生,自己的朋友在外地投标,需要430万元保证金,且需要公对公账户过账,所以想要借用郭先生公司的账户走一下账。好友向郭先生要了号,声称已经把钱打到郭先生的账户上,还把银行转账底单的截图通过微信发给了郭先生。基于视频聊天信任的前提下,郭先生没有核实钱是否到账,于11时49分先后分两笔把430万元给对方打了过去。钱款转账后,郭先生给好友微信发了一条消息,称事情已经办妥。但让他没想到的是,好友回过来的消息竟然是一个问号。

郭先生拨打好友电话,对方说没有这回事,他这才意识到竟然遇上了“高端”骗局,对方通过智能AI换脸技术,佯装成好友对他实施了。

“从头到尾都没有和我提借钱的事情,就说会先把钱给我打过来,再让我给他朋友账户转过去,而且当时是给我打了视频的,我在视频中也确认了面孔和声音,所以才放松了戒备”,郭先生说。

4月20日12时21分,包头市电信网络犯罪侦查局接到福建省福州市公安局刑侦支队的外协请求,称福建省一知名民营企业负责人被骗走430万元,而涉案的为包头市蒙商银行对公账户,希望包头警方能够帮忙进行紧急止付。

包头市公安局电信网络犯罪侦查局立即启动“包头市警银联动绿色查询机制”,当班民警以最快速度完成核查、报审程序,第一时间将涉案卡的信息通报至蒙商银行相关部门。在银行的全力协助下,仅用时10分钟,就将该账户内的336.84万元被骗资金成功拦截。

同时,向福州市公安局警方提供了剩余款项93.16万元资金流出信息,为深入突破该案剩余资金查找提供了突破方向。目前,福建警方与包头警方对此资金正在全力追缴当中。

每日经济新闻综合自中国互联网协会、平安包头官方微信号、中新经纬

每日经济新闻

You May Also Like

More From Author