以假乱真的AI诈骗,如何防范?

2个月前 来源:新华网 观看:34

上传一张静态照片,即可生成动态视频;只需几秒语音,就能克隆声音……这不是科幻电影,而是发生在身边的真实事件,“AI换脸”正成为侵权违法的重灾区。xKe即热新闻——关注每天科技社会生活新变化gihot.com

近期,为规范应用人脸识别技术处理人脸信息活动、保护个人信息权益,国家互联网信息办公室、公安部联合公布《人脸识别技术应用安全管理办法》,对应用人脸识别技术处理人脸信息的基本要求和处理规则、人脸识别技术应用安全规范、监督管理职责等作出了规定。办法将于2025年6月1日起施行。xKe即热新闻——关注每天科技社会生活新变化gihot.com

人脸识别技术应用与人脸信息安全紧密相关。人脸识别具有唯一性、不可更改性、不可匿名性,一旦泄露,极易对个人的人身和财产安全造成危害,还可能威胁公共安全。xKe即热新闻——关注每天科技社会生活新变化gihot.com

AI诈骗形式多样xKe即热新闻——关注每天科技社会生活新变化gihot.com

换脸、变声、对口型xKe即热新闻——关注每天科技社会生活新变化gihot.com

贵州省黔东南苗族侗族自治州凯里市公安局反诈中心负责人吴西福介绍,一家科技公司的负责人郭先生有一天接到好友打来的视频电话,说自己正在外地投标,需要几百万元保证金,想用郭先生的公司账户走一下账。不久后,好友说已经把钱转到郭先生的账户并截图证明。郭先生觉得通过视频能看到好友本人,便没等收到转账成功的通知就给好友转了钱。后来,郭先生迟迟没收到转款,联系好友时才发现自己被骗。xKe即热新闻——关注每天科技社会生活新变化gihot.com

宁夏回族自治区银川市某公司部门经理张先生接到“老板”视频电话,对方称因情况紧急,急需转账汇款。在视频中确认是“老板”后,张先生放下了戒心,十几分钟内将20万元转入指定账户。直到下午当面汇报工作时,张先生才发现上当受骗。xKe即热新闻——关注每天科技社会生活新变化gihot.com

这些案件都是典型的AI诈骗。“你以为在和朋友亲人视频聊天,其实是骗子使用的‘AI换脸’技术,让别人的嘴能够‘对口型’。”宁夏回族自治区公安厅刑侦总队副总队长、反诈中心负责人吴克刚介绍,如今,“AI换脸”技术不仅限于静态照片的活化,还能在即时视频通信中实时换脸。虽然需要采集大量不同角度的照片进行模型训练,但一旦成功,便可以假乱真。过去,公民个人身份证号、手机号以及家人信息需要重点防范,现在,人脸、声音、指纹等同样要避免泄露。xKe即热新闻——关注每天科技社会生活新变化gihot.com

新型AI诈骗主要有以下类型:语音合成诈骗,不法分子利用AI技术,合成受害人亲友或熟人的声音,让受害人误以为是亲友或熟人需要帮助,进而实施电话诈骗;图像生成诈骗,不法分子通过AI技术,生成虚假的照片或视频,制造出受害人亲友紧急且合理的情景,从而获取个人信息,骗取钱财;智能客服诈骗,不法分子利用AI技术,制作智能客服系统,通过语音或文字同受害人交流,诱骗受害人提供个人信息或进行转账操作;AI情感诈骗,不法分子运用AI训练面向网聊的大语言模型,通过伪造场景、声音与受害人建立情感关系,进而获取个人信息。xKe即热新闻——关注每天科技社会生活新变化gihot.com

吴西福介绍,共享屏幕等新型诈骗也要注意。不法分子以“提升信用卡额度”“航班延误退费”“赠送礼品”等为借口,向个人发送短信或拨打电话,诱导受害人下载指定软件,并开启软件的“共享屏幕”功能,就可以“实时监控”受害人手机、电脑屏幕,同步获取个人银行账户、口令、验证码等重要信息,从而盗取银行卡资金。xKe即热新闻——关注每天科技社会生活新变化gihot.com

AI诈骗危害广泛xKe即热新闻——关注每天科技社会生活新变化gihot.com

造成经济损失、心理创伤xKe即热新闻——关注每天科技社会生活新变化gihot.com

相较于电信诈骗、网络诈骗,新型AI诈骗的受害者身份更广泛、多元,成功率更高,更难以追踪。xKe即热新闻——关注每天科技社会生活新变化gihot.com

警方梳理后发现,新型AI诈骗有以下危害:造成经济损失,新型AI诈骗具有针对性强、高度逼真等特征,普通群众短时间内难以分辨,很容易上当受骗、遭受经济损失,甚至会给家庭带来沉重的经济负担;发生信息泄露,新型AI诈骗往往能获取受害人的个人信息,包括身份证号、银行账户、人脸、指纹等,进而滥用这些信息从事非法活动,导致受害人信息泄露,身份被盗用,引发潜在的法律风险;造成心理创伤,遭受新型AI诈骗,除了面临经济损失,受害人还可能产生焦虑、自责、抑郁等情绪,造成严重的心理创伤;危害社会治安,如果新型AI诈骗案件变多,容易让群众对社会产生不信任感,甚至造成恐慌情绪,有些受害者也因无法承担损失,走上违法犯罪道路。xKe即热新闻——关注每天科技社会生活新变化gihot.com

新型AI诈骗案件增加,侦破难度加大,对公安机关来说也是挑战。吴西福说,只有不断提升民警的专业素质和侦查能力,加强对新型电信网络诈骗犯罪的研究,才能创新侦查手段和方法,提高打击效能。要加强与其他地区公安机关的协作配合,建立健全跨区域警务合作机制,形成打击合力。xKe即热新闻——关注每天科技社会生活新变化gihot.com

有效防范AI诈骗xKe即热新闻——关注每天科技社会生活新变化gihot.com

保护个人信息、学习识别方法xKe即热新闻——关注每天科技社会生活新变化gihot.com

新型AI诈骗花样频出,伪装性越来越强,该如何防范?xKe即热新闻——关注每天科技社会生活新变化gihot.com

吴克刚给出了两条防骗建议:视频通话时,让对方做出指定动作,比如眨眼3次、摸摸鼻子,或者让对方用手指或其他遮挡物在脸前晃动,如画面出现延迟或者异常扭曲等不自然的微小变化,那对方很可能正在使用“AI换脸”技术。在与对方的沟通中,也可以问一些只有对方知道的问题,比如生日、电话号码、喜好等,来验证对方身份的真实性。xKe即热新闻——关注每天科技社会生活新变化gihot.com

我们也应该提高安全防范意识,防止个人脸部信息被非法获取利用。贵州警方提示,不轻信他人,不贪图小便宜。妥善保管个人信息,把好个人信息保护的第一道关。在非必要情况下,不向陌生人提供身份证号码、工作单位、家庭住址、职务等重要信息,不将身份证照片或号码保存在手机中,尽可能避免将人脸、照片、声音、指纹等留存到网站和小程序上。在日常生活中,加强对人脸、声音、指纹等生物特征数据的安全防护,做好个人手机、电脑等终端设备的软硬件安全管理,不登录来路不明的网站,以免感染木马病毒。另外,对可能进行声音、图像甚至视频和定位等信息采集的应用,做好授权管理,不轻易给他人收集个人信息的机会,也能在一定程度远离“AI换脸”诈骗。xKe即热新闻——关注每天科技社会生活新变化gihot.com

此外,公安机关也要创新线上线下反诈宣传,打造全方位反诈宣传矩阵。一方面,利用线上平台,深入挖掘本地发生的电信网络诈骗典型案例,结合地区特色、民俗以及当下流行的网络文化,拍摄制作风格独特、通俗易懂的反诈宣传短视频。通过短视频的形式还原诈骗分子的话术、作案流程以及背后的犯罪逻辑,帮助群众提高反诈意识。xKe即热新闻——关注每天科技社会生活新变化gihot.com

推动反诈宣传进校园、进社区、进企业,将反诈宣传与群众喜爱的文化娱乐活动紧密结合,打造出一系列具有贴近性的反诈宣传场景。坚持精准施策,针对不同群体、行业和地区特点,开展有针对性的宣传,做到有的放矢,切实增强群众防骗意识和识骗能力。xKe即热新闻——关注每天科技社会生活新变化gihot.com

警方也警告不法分子:通过“AI换脸”进行视频合成、实施诈骗的行为,是利用新技术进行的诈骗,与传统诈骗行为没有本质区别。对于构成诈骗罪的,将依照我国刑法第二百六十六条的规定追究刑事责任;对于为利用“AI换脸”实施诈骗行为提供技术支持、帮助的,将根据反电信网络诈骗法的规定进行行政处罚,构成犯罪的,还要追究刑事责任。xKe即热新闻——关注每天科技社会生活新变化gihot.com

上传一张静态照片,即可生成动态视频;只需几秒语音,就能克隆声音……这不是科幻电影,而是发生在身边的真实事件,“AI换脸”正成为侵权违法的重灾区。xKe即热新闻——关注每天科技社会生活新变化gihot.com

近期,为规范应用人脸识别技术处理人脸信息活动、保护个人信息权益,国家互联网信息办公室、公安部联合公布《人脸识别技术应用安全管理办法》,对应用人脸识别技术处理人脸信息的基本要求和处理规则、人脸识别技术应用安全规范、监督管理职责等作出了规定。办法将于2025年6月1日起施行。xKe即热新闻——关注每天科技社会生活新变化gihot.com

人脸识别技术应用与人脸信息安全紧密相关。人脸识别具有唯一性、不可更改性、不可匿名性,一旦泄露,极易对个人的人身和财产安全造成危害,还可能威胁公共安全。xKe即热新闻——关注每天科技社会生活新变化gihot.com

AI诈骗形式多样xKe即热新闻——关注每天科技社会生活新变化gihot.com

换脸、变声、对口型xKe即热新闻——关注每天科技社会生活新变化gihot.com

贵州省黔东南苗族侗族自治州凯里市公安局反诈中心负责人吴西福介绍,一家科技公司的负责人郭先生有一天接到好友打来的视频电话,说自己正在外地投标,需要几百万元保证金,想用郭先生的公司账户走一下账。不久后,好友说已经把钱转到郭先生的账户并截图证明。郭先生觉得通过视频能看到好友本人,便没等收到转账成功的通知就给好友转了钱。后来,郭先生迟迟没收到转款,联系好友时才发现自己被骗。xKe即热新闻——关注每天科技社会生活新变化gihot.com

宁夏回族自治区银川市某公司部门经理张先生接到“老板”视频电话,对方称因情况紧急,急需转账汇款。在视频中确认是“老板”后,张先生放下了戒心,十几分钟内将20万元转入指定账户。直到下午当面汇报工作时,张先生才发现上当受骗。xKe即热新闻——关注每天科技社会生活新变化gihot.com

这些案件都是典型的AI诈骗。“你以为在和朋友亲人视频聊天,其实是骗子使用的‘AI换脸’技术,让别人的嘴能够‘对口型’。”宁夏回族自治区公安厅刑侦总队副总队长、反诈中心负责人吴克刚介绍,如今,“AI换脸”技术不仅限于静态照片的活化,还能在即时视频通信中实时换脸。虽然需要采集大量不同角度的照片进行模型训练,但一旦成功,便可以假乱真。过去,公民个人身份证号、手机号以及家人信息需要重点防范,现在,人脸、声音、指纹等同样要避免泄露。xKe即热新闻——关注每天科技社会生活新变化gihot.com

新型AI诈骗主要有以下类型:语音合成诈骗,不法分子利用AI技术,合成受害人亲友或熟人的声音,让受害人误以为是亲友或熟人需要帮助,进而实施电话诈骗;图像生成诈骗,不法分子通过AI技术,生成虚假的照片或视频,制造出受害人亲友紧急且合理的情景,从而获取个人信息,骗取钱财;智能客服诈骗,不法分子利用AI技术,制作智能客服系统,通过语音或文字同受害人交流,诱骗受害人提供个人信息或进行转账操作;AI情感诈骗,不法分子运用AI训练面向网聊的大语言模型,通过伪造场景、声音与受害人建立情感关系,进而获取个人信息。xKe即热新闻——关注每天科技社会生活新变化gihot.com

吴西福介绍,共享屏幕等新型诈骗也要注意。不法分子以“提升信用卡额度”“航班延误退费”“赠送礼品”等为借口,向个人发送短信或拨打电话,诱导受害人下载指定软件,并开启软件的“共享屏幕”功能,就可以“实时监控”受害人手机、电脑屏幕,同步获取个人银行账户、口令、验证码等重要信息,从而盗取银行卡资金。xKe即热新闻——关注每天科技社会生活新变化gihot.com

AI诈骗危害广泛xKe即热新闻——关注每天科技社会生活新变化gihot.com

造成经济损失、心理创伤xKe即热新闻——关注每天科技社会生活新变化gihot.com

相较于电信诈骗、网络诈骗,新型AI诈骗的受害者身份更广泛、多元,成功率更高,更难以追踪。xKe即热新闻——关注每天科技社会生活新变化gihot.com

警方梳理后发现,新型AI诈骗有以下危害:造成经济损失,新型AI诈骗具有针对性强、高度逼真等特征,普通群众短时间内难以分辨,很容易上当受骗、遭受经济损失,甚至会给家庭带来沉重的经济负担;发生信息泄露,新型AI诈骗往往能获取受害人的个人信息,包括身份证号、银行账户、人脸、指纹等,进而滥用这些信息从事非法活动,导致受害人信息泄露,身份被盗用,引发潜在的法律风险;造成心理创伤,遭受新型AI诈骗,除了面临经济损失,受害人还可能产生焦虑、自责、抑郁等情绪,造成严重的心理创伤;危害社会治安,如果新型AI诈骗案件变多,容易让群众对社会产生不信任感,甚至造成恐慌情绪,有些受害者也因无法承担损失,走上违法犯罪道路。xKe即热新闻——关注每天科技社会生活新变化gihot.com

新型AI诈骗案件增加,侦破难度加大,对公安机关来说也是挑战。吴西福说,只有不断提升民警的专业素质和侦查能力,加强对新型电信网络诈骗犯罪的研究,才能创新侦查手段和方法,提高打击效能。要加强与其他地区公安机关的协作配合,建立健全跨区域警务合作机制,形成打击合力。xKe即热新闻——关注每天科技社会生活新变化gihot.com

有效防范AI诈骗xKe即热新闻——关注每天科技社会生活新变化gihot.com

保护个人信息、学习识别方法xKe即热新闻——关注每天科技社会生活新变化gihot.com

新型AI诈骗花样频出,伪装性越来越强,该如何防范?xKe即热新闻——关注每天科技社会生活新变化gihot.com

吴克刚给出了两条防骗建议:视频通话时,让对方做出指定动作,比如眨眼3次、摸摸鼻子,或者让对方用手指或其他遮挡物在脸前晃动,如画面出现延迟或者异常扭曲等不自然的微小变化,那对方很可能正在使用“AI换脸”技术。在与对方的沟通中,也可以问一些只有对方知道的问题,比如生日、电话号码、喜好等,来验证对方身份的真实性。xKe即热新闻——关注每天科技社会生活新变化gihot.com

我们也应该提高安全防范意识,防止个人脸部信息被非法获取利用。贵州警方提示,不轻信他人,不贪图小便宜。妥善保管个人信息,把好个人信息保护的第一道关。在非必要情况下,不向陌生人提供身份证号码、工作单位、家庭住址、职务等重要信息,不将身份证照片或号码保存在手机中,尽可能避免将人脸、照片、声音、指纹等留存到网站和小程序上。在日常生活中,加强对人脸、声音、指纹等生物特征数据的安全防护,做好个人手机、电脑等终端设备的软硬件安全管理,不登录来路不明的网站,以免感染木马病毒。另外,对可能进行声音、图像甚至视频和定位等信息采集的应用,做好授权管理,不轻易给他人收集个人信息的机会,也能在一定程度远离“AI换脸”诈骗。xKe即热新闻——关注每天科技社会生活新变化gihot.com

此外,公安机关也要创新线上线下反诈宣传,打造全方位反诈宣传矩阵。一方面,利用线上平台,深入挖掘本地发生的电信网络诈骗典型案例,结合地区特色、民俗以及当下流行的网络文化,拍摄制作风格独特、通俗易懂的反诈宣传短视频。通过短视频的形式还原诈骗分子的话术、作案流程以及背后的犯罪逻辑,帮助群众提高反诈意识。xKe即热新闻——关注每天科技社会生活新变化gihot.com

推动反诈宣传进校园、进社区、进企业,将反诈宣传与群众喜爱的文化娱乐活动紧密结合,打造出一系列具有贴近性的反诈宣传场景。坚持精准施策,针对不同群体、行业和地区特点,开展有针对性的宣传,做到有的放矢,切实增强群众防骗意识和识骗能力。xKe即热新闻——关注每天科技社会生活新变化gihot.com

警方也警告不法分子:通过“AI换脸”进行视频合成、实施诈骗的行为,是利用新技术进行的诈骗,与传统诈骗行为没有本质区别。对于构成诈骗罪的,将依照我国刑法第二百六十六条的规定追究刑事责任;对于为利用“AI换脸”实施诈骗行为提供技术支持、帮助的,将根据反电信网络诈骗法的规定进行行政处罚,构成犯罪的,还要追究刑事责任。xKe即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-1609-0.html以假乱真的AI诈骗,如何防范?

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:筑牢低空经济安全屏障

下一篇:神十九乘组按计划将于五一前后返回地球

为你推荐
新华社合肥1月20日电(记者徐海涛、陈诺)“998、999、1000……”大屏幕上的数字最终定格在1066,原本安静的控制大厅一片欢呼。1月20日,我国...
01-21
1月21日,美国总统唐纳德·特朗普宣布,美国开放人工智能研究中心(OpenAI)、软银和甲骨文公司将联合成立名为“星际之门”的新公司。未来4年,这3家...
01-24
  去年,我省研发投入增速6年来首次超过全国水平,投入强度创10年来新高;全省新增全国重点实验室10家;新增...
01-22
    每逢新春佳节,服装市场总是格外红火。图为消费者在选购红袜子。  新年到,新衣俏。随着...
01-21
  新华社拉萨1月21日电(记者蒋梦辰、刘洪明)2024年西藏农村居民人均可支配收入21578元,同比增长8.3%。同时,城乡居民收入差距持续缩小,城乡居民收入倍差由上年的2.60降至2.57。...
01-22
  中新经纬1月20日电 1月20日,生态环境部召开1月例行新闻发布会,生态环境部环评司司长王志华表示,生态环境部努力将排污许可制建设成为固定污染源环境监管的核心制度。  会...
01-21
  2025年开年,中国汽车工业传捷报。  13日,中国汽车工业协会公布数据显示,2024年我国汽车产销...
01-21
2 月 1 日消息,特斯拉在海外发布视频,主要展示该公司的自动机械臂整备其 Cybercab无人驾驶出租车。参考视频,相应机械臂能够将车内遗留的物品、喝剩一半的水瓶、未归位...
02-02
  作者:陈亦水  2025年春节档,注定要在中国影史上留下浓墨重彩的一笔,不仅创下多项票房历史纪...
02-20
近期,《树下有片红房子》备受关注,播出后引起了巨大的热度。在社交平台上,这部剧的相关资讯和剧情分析也十分丰富。为了让大家更全面深入地了解这部剧,以下整理...
02-21
  本报北京1月14日电(记者 白剑峰)国家卫生健康委等6部门日前发布《关于开展儿童友好医院建设的意见》提出,秉持儿童优先理念,从儿童视角出发,为儿童提供有情感、有温度...
01-21
编者按:一个人工智能(AI)机器人,在短短8天内独立完成了668项实验,合成了668种化合物,并成功研发出一种全新的化学催化剂。这一壮举令人赞叹。AI...
02-11
北京大学北京国际数学研究中心 日前发布2024年工作亮点回顾 文章提到,科学...
01-21
2025年中小学寒假将至,为确保广大师生度过一个安全健康、快乐充实的假期,12月25日,省教育厅印发通知,从规范...
01-21
  消费是经济增长的重要引擎,也与百姓日常生活息息相关。近段时间以来,金融业紧跟政策导向,瞄准...
01-22
  摘要  【供需有望改善钢价或先抑后扬】1月上旬,炉料补库渐入尾声,下游需求处于淡季,炉料及钢...
02-05
射手座的男生通常热情开朗,喜欢自由自在的生活。但有时候,他们可能会表现出一些冷淡的态...
01-22
在一段感情中,了解对方的内心世界是非常重要的。而通过一些必问问题,可以考验男朋友在你...
01-22
揭晓那些令人惊艳的女明星,她们的魅力如何征服了观众说到女明星,很多人心中都会浮现出那些荧幕上的闪耀瞬间。她们不仅有着令人羡慕的外貌,更是集智慧与才华于一身。今天,我想和...
02-12
穿梭于衣司南:潮流服饰的新风尚当今社会,潮流服饰已经不再是简单的衣物选择,而是一种自我表达和生活态度的体现。提到潮流,我首先想到的是“衣司南”这个品牌。在这个瞬息万变的...
02-17
1月20日消息,截至2024年12月底,1688PLUS会员数已突破1000万。1688PLUS会员是1688在2022年6月面向买家推出的付费会员产品,开卡即可获得商品价格优惠、平台红包补贴及官方专享服...
02-07
属于雷军的传奇,正在上演。一、小米市值突破万亿,正式进入全球100强企业名单前几年,如果有人跟你说屌丝才用小米,或许有不少人会深有同感。而如果把这句话放到现在来说,很多人只...
02-09
牧业公司在2024年度过艰难一年,即便是头部玩家也不例外。 现代牧业(01117.HK)2月18日晚间发布盈利预警,预期截至2024年12月31日止年...
02-21
梁建章:拿高倍望远镜都看不到携程的竞争对手。携程2024年业绩大涨这年头,谁不爱游山玩水,品尝各地美食,来上一场说走就走的旅行?从淄博烧烤的火爆,到甘肃天水麻辣烫的风靡,再到哈尔...
02-26
近年来,随着资本市场不断深化,中小基金公司凭借灵活的经营策略和专业的投资管理能力,逐步挺进基金行业发展的前列。  最新披露的基金四季报数据显示,众多中小基金公司的公...
01-23
2025年1月21日,深圳市聚心教育科技有限公司今日正式官宣,以5000万人民币估值已顺利完成500万元人民币A轮融资。本轮投资是由采纳资本领投,由金伯乐创投、美城创投、领创ITVC、...
01-23
近几年育碧的表现相当糟糕,几乎每款新作都以失败告终,比如《碧海黑帆》《星球大战:亡命之徒》《阿凡达:潘多拉边境》等,《不羁联盟》也被关服停运。最近育碧还解雇...
02-03
著名的主机大战时代如今失去了悬念,索尼PlayStation在本世代多个方面都拔得头筹,这并不令人意外。然而,多年来,这两大巨头在硬件销售上竟出现如此巨大的差距,着实出...
02-10
极目新闻记者 涂梦蝶非遗三节龙、傩仪舞蹈、广场烟花秀……走进湖北省云梦县祥云湾文旅度假区,仿佛参加一场战国游园会。近日,极目新闻记者了解到,春节期间,云梦县祥云湾文旅度...
02-04
极目新闻记者 张静娴在清晨六七点的随州农贸市场,卖菜卖肉的摊位前早已挤满了人,洋溢着浓厚的春节氛围。在年货市场上,最具代表性的特色年货莫过于炸三鲜了。从过年前几周一直...
02-04
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮