以假乱真的AI诈骗,如何防范?

2个月前 来源:新华网 观看:35

上传一张静态照片,即可生成动态视频;只需几秒语音,就能克隆声音……这不是科幻电影,而是发生在身边的真实事件,“AI换脸”正成为侵权违法的重灾区。CNo即热新闻——关注每天科技社会生活新变化gihot.com

近期,为规范应用人脸识别技术处理人脸信息活动、保护个人信息权益,国家互联网信息办公室、公安部联合公布《人脸识别技术应用安全管理办法》,对应用人脸识别技术处理人脸信息的基本要求和处理规则、人脸识别技术应用安全规范、监督管理职责等作出了规定。办法将于2025年6月1日起施行。CNo即热新闻——关注每天科技社会生活新变化gihot.com

人脸识别技术应用与人脸信息安全紧密相关。人脸识别具有唯一性、不可更改性、不可匿名性,一旦泄露,极易对个人的人身和财产安全造成危害,还可能威胁公共安全。CNo即热新闻——关注每天科技社会生活新变化gihot.com

AI诈骗形式多样CNo即热新闻——关注每天科技社会生活新变化gihot.com

换脸、变声、对口型CNo即热新闻——关注每天科技社会生活新变化gihot.com

贵州省黔东南苗族侗族自治州凯里市公安局反诈中心负责人吴西福介绍,一家科技公司的负责人郭先生有一天接到好友打来的视频电话,说自己正在外地投标,需要几百万元保证金,想用郭先生的公司账户走一下账。不久后,好友说已经把钱转到郭先生的账户并截图证明。郭先生觉得通过视频能看到好友本人,便没等收到转账成功的通知就给好友转了钱。后来,郭先生迟迟没收到转款,联系好友时才发现自己被骗。CNo即热新闻——关注每天科技社会生活新变化gihot.com

宁夏回族自治区银川市某公司部门经理张先生接到“老板”视频电话,对方称因情况紧急,急需转账汇款。在视频中确认是“老板”后,张先生放下了戒心,十几分钟内将20万元转入指定账户。直到下午当面汇报工作时,张先生才发现上当受骗。CNo即热新闻——关注每天科技社会生活新变化gihot.com

这些案件都是典型的AI诈骗。“你以为在和朋友亲人视频聊天,其实是骗子使用的‘AI换脸’技术,让别人的嘴能够‘对口型’。”宁夏回族自治区公安厅刑侦总队副总队长、反诈中心负责人吴克刚介绍,如今,“AI换脸”技术不仅限于静态照片的活化,还能在即时视频通信中实时换脸。虽然需要采集大量不同角度的照片进行模型训练,但一旦成功,便可以假乱真。过去,公民个人身份证号、手机号以及家人信息需要重点防范,现在,人脸、声音、指纹等同样要避免泄露。CNo即热新闻——关注每天科技社会生活新变化gihot.com

新型AI诈骗主要有以下类型:语音合成诈骗,不法分子利用AI技术,合成受害人亲友或熟人的声音,让受害人误以为是亲友或熟人需要帮助,进而实施电话诈骗;图像生成诈骗,不法分子通过AI技术,生成虚假的照片或视频,制造出受害人亲友紧急且合理的情景,从而获取个人信息,骗取钱财;智能客服诈骗,不法分子利用AI技术,制作智能客服系统,通过语音或文字同受害人交流,诱骗受害人提供个人信息或进行转账操作;AI情感诈骗,不法分子运用AI训练面向网聊的大语言模型,通过伪造场景、声音与受害人建立情感关系,进而获取个人信息。CNo即热新闻——关注每天科技社会生活新变化gihot.com

吴西福介绍,共享屏幕等新型诈骗也要注意。不法分子以“提升信用卡额度”“航班延误退费”“赠送礼品”等为借口,向个人发送短信或拨打电话,诱导受害人下载指定软件,并开启软件的“共享屏幕”功能,就可以“实时监控”受害人手机、电脑屏幕,同步获取个人银行账户、口令、验证码等重要信息,从而盗取银行卡资金。CNo即热新闻——关注每天科技社会生活新变化gihot.com

AI诈骗危害广泛CNo即热新闻——关注每天科技社会生活新变化gihot.com

造成经济损失、心理创伤CNo即热新闻——关注每天科技社会生活新变化gihot.com

相较于电信诈骗、网络诈骗,新型AI诈骗的受害者身份更广泛、多元,成功率更高,更难以追踪。CNo即热新闻——关注每天科技社会生活新变化gihot.com

警方梳理后发现,新型AI诈骗有以下危害:造成经济损失,新型AI诈骗具有针对性强、高度逼真等特征,普通群众短时间内难以分辨,很容易上当受骗、遭受经济损失,甚至会给家庭带来沉重的经济负担;发生信息泄露,新型AI诈骗往往能获取受害人的个人信息,包括身份证号、银行账户、人脸、指纹等,进而滥用这些信息从事非法活动,导致受害人信息泄露,身份被盗用,引发潜在的法律风险;造成心理创伤,遭受新型AI诈骗,除了面临经济损失,受害人还可能产生焦虑、自责、抑郁等情绪,造成严重的心理创伤;危害社会治安,如果新型AI诈骗案件变多,容易让群众对社会产生不信任感,甚至造成恐慌情绪,有些受害者也因无法承担损失,走上违法犯罪道路。CNo即热新闻——关注每天科技社会生活新变化gihot.com

新型AI诈骗案件增加,侦破难度加大,对公安机关来说也是挑战。吴西福说,只有不断提升民警的专业素质和侦查能力,加强对新型电信网络诈骗犯罪的研究,才能创新侦查手段和方法,提高打击效能。要加强与其他地区公安机关的协作配合,建立健全跨区域警务合作机制,形成打击合力。CNo即热新闻——关注每天科技社会生活新变化gihot.com

有效防范AI诈骗CNo即热新闻——关注每天科技社会生活新变化gihot.com

保护个人信息、学习识别方法CNo即热新闻——关注每天科技社会生活新变化gihot.com

新型AI诈骗花样频出,伪装性越来越强,该如何防范?CNo即热新闻——关注每天科技社会生活新变化gihot.com

吴克刚给出了两条防骗建议:视频通话时,让对方做出指定动作,比如眨眼3次、摸摸鼻子,或者让对方用手指或其他遮挡物在脸前晃动,如画面出现延迟或者异常扭曲等不自然的微小变化,那对方很可能正在使用“AI换脸”技术。在与对方的沟通中,也可以问一些只有对方知道的问题,比如生日、电话号码、喜好等,来验证对方身份的真实性。CNo即热新闻——关注每天科技社会生活新变化gihot.com

我们也应该提高安全防范意识,防止个人脸部信息被非法获取利用。贵州警方提示,不轻信他人,不贪图小便宜。妥善保管个人信息,把好个人信息保护的第一道关。在非必要情况下,不向陌生人提供身份证号码、工作单位、家庭住址、职务等重要信息,不将身份证照片或号码保存在手机中,尽可能避免将人脸、照片、声音、指纹等留存到网站和小程序上。在日常生活中,加强对人脸、声音、指纹等生物特征数据的安全防护,做好个人手机、电脑等终端设备的软硬件安全管理,不登录来路不明的网站,以免感染木马病毒。另外,对可能进行声音、图像甚至视频和定位等信息采集的应用,做好授权管理,不轻易给他人收集个人信息的机会,也能在一定程度远离“AI换脸”诈骗。CNo即热新闻——关注每天科技社会生活新变化gihot.com

此外,公安机关也要创新线上线下反诈宣传,打造全方位反诈宣传矩阵。一方面,利用线上平台,深入挖掘本地发生的电信网络诈骗典型案例,结合地区特色、民俗以及当下流行的网络文化,拍摄制作风格独特、通俗易懂的反诈宣传短视频。通过短视频的形式还原诈骗分子的话术、作案流程以及背后的犯罪逻辑,帮助群众提高反诈意识。CNo即热新闻——关注每天科技社会生活新变化gihot.com

推动反诈宣传进校园、进社区、进企业,将反诈宣传与群众喜爱的文化娱乐活动紧密结合,打造出一系列具有贴近性的反诈宣传场景。坚持精准施策,针对不同群体、行业和地区特点,开展有针对性的宣传,做到有的放矢,切实增强群众防骗意识和识骗能力。CNo即热新闻——关注每天科技社会生活新变化gihot.com

警方也警告不法分子:通过“AI换脸”进行视频合成、实施诈骗的行为,是利用新技术进行的诈骗,与传统诈骗行为没有本质区别。对于构成诈骗罪的,将依照我国刑法第二百六十六条的规定追究刑事责任;对于为利用“AI换脸”实施诈骗行为提供技术支持、帮助的,将根据反电信网络诈骗法的规定进行行政处罚,构成犯罪的,还要追究刑事责任。CNo即热新闻——关注每天科技社会生活新变化gihot.com

上传一张静态照片,即可生成动态视频;只需几秒语音,就能克隆声音……这不是科幻电影,而是发生在身边的真实事件,“AI换脸”正成为侵权违法的重灾区。CNo即热新闻——关注每天科技社会生活新变化gihot.com

近期,为规范应用人脸识别技术处理人脸信息活动、保护个人信息权益,国家互联网信息办公室、公安部联合公布《人脸识别技术应用安全管理办法》,对应用人脸识别技术处理人脸信息的基本要求和处理规则、人脸识别技术应用安全规范、监督管理职责等作出了规定。办法将于2025年6月1日起施行。CNo即热新闻——关注每天科技社会生活新变化gihot.com

人脸识别技术应用与人脸信息安全紧密相关。人脸识别具有唯一性、不可更改性、不可匿名性,一旦泄露,极易对个人的人身和财产安全造成危害,还可能威胁公共安全。CNo即热新闻——关注每天科技社会生活新变化gihot.com

AI诈骗形式多样CNo即热新闻——关注每天科技社会生活新变化gihot.com

换脸、变声、对口型CNo即热新闻——关注每天科技社会生活新变化gihot.com

贵州省黔东南苗族侗族自治州凯里市公安局反诈中心负责人吴西福介绍,一家科技公司的负责人郭先生有一天接到好友打来的视频电话,说自己正在外地投标,需要几百万元保证金,想用郭先生的公司账户走一下账。不久后,好友说已经把钱转到郭先生的账户并截图证明。郭先生觉得通过视频能看到好友本人,便没等收到转账成功的通知就给好友转了钱。后来,郭先生迟迟没收到转款,联系好友时才发现自己被骗。CNo即热新闻——关注每天科技社会生活新变化gihot.com

宁夏回族自治区银川市某公司部门经理张先生接到“老板”视频电话,对方称因情况紧急,急需转账汇款。在视频中确认是“老板”后,张先生放下了戒心,十几分钟内将20万元转入指定账户。直到下午当面汇报工作时,张先生才发现上当受骗。CNo即热新闻——关注每天科技社会生活新变化gihot.com

这些案件都是典型的AI诈骗。“你以为在和朋友亲人视频聊天,其实是骗子使用的‘AI换脸’技术,让别人的嘴能够‘对口型’。”宁夏回族自治区公安厅刑侦总队副总队长、反诈中心负责人吴克刚介绍,如今,“AI换脸”技术不仅限于静态照片的活化,还能在即时视频通信中实时换脸。虽然需要采集大量不同角度的照片进行模型训练,但一旦成功,便可以假乱真。过去,公民个人身份证号、手机号以及家人信息需要重点防范,现在,人脸、声音、指纹等同样要避免泄露。CNo即热新闻——关注每天科技社会生活新变化gihot.com

新型AI诈骗主要有以下类型:语音合成诈骗,不法分子利用AI技术,合成受害人亲友或熟人的声音,让受害人误以为是亲友或熟人需要帮助,进而实施电话诈骗;图像生成诈骗,不法分子通过AI技术,生成虚假的照片或视频,制造出受害人亲友紧急且合理的情景,从而获取个人信息,骗取钱财;智能客服诈骗,不法分子利用AI技术,制作智能客服系统,通过语音或文字同受害人交流,诱骗受害人提供个人信息或进行转账操作;AI情感诈骗,不法分子运用AI训练面向网聊的大语言模型,通过伪造场景、声音与受害人建立情感关系,进而获取个人信息。CNo即热新闻——关注每天科技社会生活新变化gihot.com

吴西福介绍,共享屏幕等新型诈骗也要注意。不法分子以“提升信用卡额度”“航班延误退费”“赠送礼品”等为借口,向个人发送短信或拨打电话,诱导受害人下载指定软件,并开启软件的“共享屏幕”功能,就可以“实时监控”受害人手机、电脑屏幕,同步获取个人银行账户、口令、验证码等重要信息,从而盗取银行卡资金。CNo即热新闻——关注每天科技社会生活新变化gihot.com

AI诈骗危害广泛CNo即热新闻——关注每天科技社会生活新变化gihot.com

造成经济损失、心理创伤CNo即热新闻——关注每天科技社会生活新变化gihot.com

相较于电信诈骗、网络诈骗,新型AI诈骗的受害者身份更广泛、多元,成功率更高,更难以追踪。CNo即热新闻——关注每天科技社会生活新变化gihot.com

警方梳理后发现,新型AI诈骗有以下危害:造成经济损失,新型AI诈骗具有针对性强、高度逼真等特征,普通群众短时间内难以分辨,很容易上当受骗、遭受经济损失,甚至会给家庭带来沉重的经济负担;发生信息泄露,新型AI诈骗往往能获取受害人的个人信息,包括身份证号、银行账户、人脸、指纹等,进而滥用这些信息从事非法活动,导致受害人信息泄露,身份被盗用,引发潜在的法律风险;造成心理创伤,遭受新型AI诈骗,除了面临经济损失,受害人还可能产生焦虑、自责、抑郁等情绪,造成严重的心理创伤;危害社会治安,如果新型AI诈骗案件变多,容易让群众对社会产生不信任感,甚至造成恐慌情绪,有些受害者也因无法承担损失,走上违法犯罪道路。CNo即热新闻——关注每天科技社会生活新变化gihot.com

新型AI诈骗案件增加,侦破难度加大,对公安机关来说也是挑战。吴西福说,只有不断提升民警的专业素质和侦查能力,加强对新型电信网络诈骗犯罪的研究,才能创新侦查手段和方法,提高打击效能。要加强与其他地区公安机关的协作配合,建立健全跨区域警务合作机制,形成打击合力。CNo即热新闻——关注每天科技社会生活新变化gihot.com

有效防范AI诈骗CNo即热新闻——关注每天科技社会生活新变化gihot.com

保护个人信息、学习识别方法CNo即热新闻——关注每天科技社会生活新变化gihot.com

新型AI诈骗花样频出,伪装性越来越强,该如何防范?CNo即热新闻——关注每天科技社会生活新变化gihot.com

吴克刚给出了两条防骗建议:视频通话时,让对方做出指定动作,比如眨眼3次、摸摸鼻子,或者让对方用手指或其他遮挡物在脸前晃动,如画面出现延迟或者异常扭曲等不自然的微小变化,那对方很可能正在使用“AI换脸”技术。在与对方的沟通中,也可以问一些只有对方知道的问题,比如生日、电话号码、喜好等,来验证对方身份的真实性。CNo即热新闻——关注每天科技社会生活新变化gihot.com

我们也应该提高安全防范意识,防止个人脸部信息被非法获取利用。贵州警方提示,不轻信他人,不贪图小便宜。妥善保管个人信息,把好个人信息保护的第一道关。在非必要情况下,不向陌生人提供身份证号码、工作单位、家庭住址、职务等重要信息,不将身份证照片或号码保存在手机中,尽可能避免将人脸、照片、声音、指纹等留存到网站和小程序上。在日常生活中,加强对人脸、声音、指纹等生物特征数据的安全防护,做好个人手机、电脑等终端设备的软硬件安全管理,不登录来路不明的网站,以免感染木马病毒。另外,对可能进行声音、图像甚至视频和定位等信息采集的应用,做好授权管理,不轻易给他人收集个人信息的机会,也能在一定程度远离“AI换脸”诈骗。CNo即热新闻——关注每天科技社会生活新变化gihot.com

此外,公安机关也要创新线上线下反诈宣传,打造全方位反诈宣传矩阵。一方面,利用线上平台,深入挖掘本地发生的电信网络诈骗典型案例,结合地区特色、民俗以及当下流行的网络文化,拍摄制作风格独特、通俗易懂的反诈宣传短视频。通过短视频的形式还原诈骗分子的话术、作案流程以及背后的犯罪逻辑,帮助群众提高反诈意识。CNo即热新闻——关注每天科技社会生活新变化gihot.com

推动反诈宣传进校园、进社区、进企业,将反诈宣传与群众喜爱的文化娱乐活动紧密结合,打造出一系列具有贴近性的反诈宣传场景。坚持精准施策,针对不同群体、行业和地区特点,开展有针对性的宣传,做到有的放矢,切实增强群众防骗意识和识骗能力。CNo即热新闻——关注每天科技社会生活新变化gihot.com

警方也警告不法分子:通过“AI换脸”进行视频合成、实施诈骗的行为,是利用新技术进行的诈骗,与传统诈骗行为没有本质区别。对于构成诈骗罪的,将依照我国刑法第二百六十六条的规定追究刑事责任;对于为利用“AI换脸”实施诈骗行为提供技术支持、帮助的,将根据反电信网络诈骗法的规定进行行政处罚,构成犯罪的,还要追究刑事责任。CNo即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-1609-0.html以假乱真的AI诈骗,如何防范?

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:筑牢低空经济安全屏障

下一篇:神十九乘组按计划将于五一前后返回地球

为你推荐
近日,完美世界(002624.SZ)发布2024年度业绩预告。预告显示,完美世界去年全年预计实现营业收入55亿元至56亿元,预计归母净利润为亏损11...
01-21
1月14日,记者从中国科学院合肥物质科学研究院等离子体物理研究所(以下简称“等离子体所”)获悉,由该所建设运行的国家重大科技基础设施“聚变堆主机关...
01-21
  预计1月26~27日辽宁将有一次强降雪、寒潮、大风天气过程,东部地区有大雪(5~10毫米),局部暴雪(10~18毫米),新...
01-21
  这些新开通的高铁线,路过你的家吗  2024年,集宁经大同至原平高铁、沪苏湖高铁、渝昆高铁渝...
01-21
继佛山狮山镇和北滘镇之后,广东第三个千亿镇出现了!1月15日上午,《2025年广东省政府工作报告》出炉,其中提到东莞长安镇迈入了GDP“千...
01-21
新闻记者 潘锡珩通讯员 苏杭 徐媛媛1月21日凌晨0时55分,1168名旅客从广州白云站搭乘G4554次“夜行高铁”踏上返回武汉的归程,虽已是深夜,但旅客们回家的热情满满。这是中国铁路...
01-22
1月10日,焕新Model Y正式登陆特斯拉中国官网,同时上线首发版车型,预售价26.35万元起,在外观、座舱、续航等方面均迎来升级,安全、智能等硬核产品实力进一步提升,使这款全球最畅销...
01-21
1 月 24 日消息,奥迪(Audi)昨日(1 月 23 日)在 Facebook 上发布动态,展示了一款基于 Q6 Sportback e-tron 打造的越野概念车。这款概念车外观炫酷,配备了门式车桥和巨大的...
01-25
SQL Error: select * from ***_ecms_news5 where id in(64,) limit 2
21世纪经济报道记者 唐唯珂 广州报道2025年1月24日晚,金域医学发布2024年业绩预告,报告期内预计归母净利润为-3.5亿元到-4.5亿元,与上年同期...
01-27
  女性天生拥有两条X染色体,一条遗传自母亲,一条遗传自父亲。不过,为了确保基因表达的平衡,女性体...
01-27
教师与外来务工人员子女一起创作大型蛇主题非遗剪纸 谭云俸 摄外来务工人员子女体验非遗剪纸 谭云俸 摄  寒假期间,浙江省湖州市长兴县夹浦镇中心小学为就地过年的外来务...
01-21
近日,人民网辽宁频道、中央广播电视总台辽宁总站、光明日报辽宁记者站、中国日报辽宁记者站、中新社辽宁...
01-21
  原标题:中铁信托因股东损害公司债权人利益责任纠纷被告,5月27日在成都市武侯区人民法院审理 ...
01-22
  近年来,随着个人消费贷款需求不断增长,不法贷款中介、电信诈骗不法人员盯上了这块“蛋糕”。...
01-24
天秤座男生通常具有温和、友善、善解人意的性格,他们注重平衡和公正,喜欢与人和谐相处。...
01-22
巨蟹座的人通常被认为是温柔、体贴和善良的,他们对待感情非常认真。然而,有时候即使是最...
01-22
短款衬衫裙子怎么搭配?一、短款衬衫裙子怎么搭配?搭配方案一:白衬衫+黑色A字褶裙伞形裙摆,细高腰的A字褶裙处处都散发着复古优雅女人味,搭配白衬衫,仿佛又回到赫本的熟女年代,加之...
02-12
矮个子男生穿搭? 155矮个子男生穿搭?一、矮个子男生穿搭?1.腰部高出5cm-7cm矮个子男生选择男士裤子时,腰部高出5cm-7cm是最好的。这样的选购小心机,对小个子男生来说很适用。2.脚...
02-17
2月5日消息,朋湖网近日联合机器人开放社区发布“2024年度科技产业系列榜单”,商越科技凭借自身的采购数字化技术创新、服务能力、市场竞争力及社会价值,入选“2024企业服务创新...
02-07
又一奢侈品电商巨头将撤出中国。奢侈品电商平台Net-a-Porter近日发布公告称,公司将于3月20日关闭包括天猫、微信小程序、小红书、抖音旗舰店、公司网站和App在内的所有中国线...
02-18
今年1、2月分别有春节和情人节两个节日,不少消费者会趁着节日,给亲友、恋人送上精心准备的黄金饰品。周大福、周六福、金大福、金六...
02-07
平台与骑手共赢,才是王道。1.美团将公布“取消骑手超时扣款”具体方案新的一年,美团要让骑手过得越来越好。2月11日晚,“美团Meituan”微信公众号公布了“取消骑手超时扣款”的...
02-13
近日,AI异构算力软件Infra供应商中科加禾完成数千万元Pre-A1轮融资,由北京市人工智能产业投资基金领投。成立于2023年的中科加禾,聚焦编译技术,为助推...
02-07
近期,山东正耀科技有限公司(以下简称“正耀集团”)完成了A轮融资,融资资金达2700万元人民币。本轮融资的投资方为中储北方投资管理有限公司(以下简称“...
02-07
《异界锁链》监督、《尼尔:机械纪元》设计师田浦贵久似乎已经从白金工作室离职。 上个月,玩家们猜测这位核心创作者可能换了工作,因为他从自己的X(原推特)账号信息...
01-27
RTX 5090和RTX 5080显卡在今天正式开卖,由于货源稀少,性能强劲,一上市很快就被一扫而空,导致很多潜在买家只能“望卡兴叹”。 当然,这些抢显卡的人很多并不是真正...
02-03
据央视新闻报道,乌克兰总统泽连斯基2月1日在接受采访时称,乌克兰实际所获得的来自美国的支持远低于美方声称的数额,巨大的差额去哪儿了?他也不知道。据报道,泽连斯基在接受采访时...
02-04
极目新闻记者 谢茂 邓波2月8日,四川宜宾市筠连县沐爱镇金坪村发生山体滑坡,导致10户民房、1户生产用房被掩埋,目前有1人遇难,28人失联。一方有难,八方支援。受灾区域周边村镇的热...
02-09
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮