打造“完美主播”、暗设消费陷阱,AI营销边界在哪

6个月前 来源:新华网 观看:73

你在网络直播间看到的正在带货的名人明星是真人吗?未必。近期,小米集团创始人雷军建议加强“AI换脸拟声”违法侵权重灾区治理,再次引发公众对AI数字人使用的讨论。RG6即热新闻——关注每天科技社会生活新变化gihot.com

去年以来,AI生成的数字人大量“占领”电商平台,有的靠“图”预售、以次充好,还有的用AI数字人仿冒名人外貌及声音为一些“神药”“神器”背书,短时间内卖出巨额大单。在这背后,一套从肖像、配音,到文案生成的AI数字人带货制作流程充斥网络,带来众多监管难题。RG6即热新闻——关注每天科技社会生活新变化gihot.com

专家表示,利用AI数字场景直播带货是电商发展的新趋势,但在发展前期,一些不法商家利用监管漏洞侵害了消费者权益,建议尽快完善法律法规,强化平台责任,设定AI数字场景使用边界,防止AI“赋能”变AI“负能”。RG6即热新闻——关注每天科技社会生活新变化gihot.com

一场“眼见是否为实”的暗战RG6即热新闻——关注每天科技社会生活新变化gihot.com

兰州市民崔女士近日在网络直播间购买了一件春季薄款毛衫。商品页面中模特展示这款毛衫的面料细腻柔软,穿在身上得体优雅,她感觉自己的身材也像模特一样属于偏瘦类型,于是下单。而收到实物后却发现,这件毛衫材质既不细腻也不柔软,裁剪还很粗糙,她深感上当受骗。RG6即热新闻——关注每天科技社会生活新变化gihot.com

经过与售后一番费尽周折的交流,崔女士得知,该模特其实是AI生成的“数字人”,面料的视觉效果都经过了AI技术的“渲染”。RG6即热新闻——关注每天科技社会生活新变化gihot.com

甘肃慧联信息科技发展有限责任公司总经理王雪莲已有十多年电商从业经历。她告诉记者,雇用模特试穿拍照是服装电商行业的传统做法,但AI数字模特的迷惑性在于它可以通过参数设置,生成“九头身”“马甲线”理想化身材,并借助AI渲染技术消除衣服褶皱、增强光泽感和飘逸灵动感,使廉价的面料呈现出昂贵质感,让消费者误判服装的实际效果。RG6即热新闻——关注每天科技社会生活新变化gihot.com

崔女士的购物经历并非个例。记者调查发现,在直播带货领域,AI数字人通过仿真的面部形象、声音和精心的场景布置,其迷惑性让消费者防不胜防。RG6即热新闻——关注每天科技社会生活新变化gihot.com

更有甚者,有商家将名人明星换脸为数字人“平替”。去年以来,“AI换脸杨幂”直播卖化妆品、“AI古天乐”代言游戏等AI数字人仿冒名人话题频频登上热搜。今年春节期间,更有不法商家生成“AI张文宏”,“严肃认真地在直播间卖蛋白棒”,从开播到被举报关停,短时间内卖出了1200多单商品。RG6即热新闻——关注每天科技社会生活新变化gihot.com

除了借用名人效应外,一些商家用AI技术打造数字人人设,如“成功女企业家”“单亲妈妈”“带娃宝妈”“知性美女”“美妆达人”等,利用特定人群的同理心直播带货。而在保健品、药品、化妆品、医疗辅助器械“三品一械”领域,精心打造的数字人面向老年人、学生等辨别能力弱的群体,大肆夸大产品功效,快速敛财。RG6即热新闻——关注每天科技社会生活新变化gihot.com

AI数字营销监管“网眼大”RG6即热新闻——关注每天科技社会生活新变化gihot.com

针对AI数字人仿冒名人直播带货、AI换脸诈骗等违法行为,国家网信办已出台《人工智能生成合成内容标识办法(征求意见稿)》,并开展网络清朗行动等专项行动约束管理。RG6即热新闻——关注每天科技社会生活新变化gihot.com

然而,对于正处在发展初期的AI数字营销,一些专家表示,从法治层面到平台监管,还存在诸多漏洞。RG6即热新闻——关注每天科技社会生活新变化gihot.com

记者在某平台上输入“AI数字人直播教学”等关键词,搜索出成千上万个教程,学费从几十元到数百元不等,还有的甚至免费。RG6即热新闻——关注每天科技社会生活新变化gihot.com

记者联系一位收费教程博主,其称“三分钟教会搭建AI数字人直播间”,并承诺“一天可以做近百个数字作品,都能通过原创审核”。RG6即热新闻——关注每天科技社会生活新变化gihot.com

兰州大学信息科学与工程学院副教授刘忻表示,AI技术发展迅速且具有技术门槛低、隐蔽性强、更新迭代快的特点,随着开源工具的普及,普通人仅需少量数据即可生成逼真的仿冒内容,而且传播速度快、范围广。当前,从数据采集、AI模型训练到虚假账号运营,已形成分工明确的产业链。RG6即热新闻——关注每天科技社会生活新变化gihot.com

甘肃政法大学民商经济法学院副教授盛玉华表示,利用AI仿冒他人形象直播带货或从事其他违法经营行为,违反了广告法、个人信息保护法等多部法律法规,但面对AI数字人营销骗局,当前最大的难点不是“无法可依”,而是“有法难依”。RG6即热新闻——关注每天科技社会生活新变化gihot.com

盛玉华说,AI数字人虚假营销涉及技术提供方、内容生成者、直播平台、商家等多方,现有法律未明确各方责任划分,导致在实际执法过程中难以准确适用法律。RG6即热新闻——关注每天科技社会生活新变化gihot.com

针对AI数字人误导消费者风险,2024年某平台优化了对AI主播的识别能力,累计处理超17万个录播直播间,封闭3万多个账号,打击2800多个黑商团伙。但从平台管理来看,仍存盲区,审核机制还有待完善。RG6即热新闻——关注每天科技社会生活新变化gihot.com

兰州大学管理学院副教授王洪鹏说,此前该平台通过博主的粉丝量来设计带货门槛,随后这一规定被取消,直播带货门槛降低,也为AI数字人虚假营销提供了可乘之机。RG6即热新闻——关注每天科技社会生活新变化gihot.com

多方发力加强引导 促AI数字营销健康发展RG6即热新闻——关注每天科技社会生活新变化gihot.com

在王雪莲、盛玉华等业内人士和受访专家看来,从长远来看,AI数字营销将会革新传统的电商销售模式,赋能消费领域和销售环节,给市场带来更多更好的体验。RG6即热新闻——关注每天科技社会生活新变化gihot.com

事实上,目前AI数字人已在多个领域提升电商销售发展水平。在服装电商行业,AI数字技术正通过数据挖掘、视觉算法和个性化推荐,提升关联销售水平,如有的平台推出AI搭配和AI试衣间,用户在平台内创建虚拟形象后,AI就会帮助顾客生成多种穿搭方案,直接链接到关联商品,大幅提升商品关联销售额。RG6即热新闻——关注每天科技社会生活新变化gihot.com

而当前出现的各类AI数字人虚假营销,是AI赋能网络直播销售发展初期,监管机制不完善的阶段性产物。“当务之急是要从法律层面补齐监管漏洞。”盛玉华说,首先要明确AI生成内容的法律性质和责任归属,厘清技术提供方、内容提供者、平台、商家等多方主体的责任边界,提高法律可操作性。RG6即热新闻——关注每天科技社会生活新变化gihot.com

业内人士建议,在刑法、网络安全法等法律框架下,对利用AI技术编造传播虚假信息,实施诈骗、诽谤、侵害肖像权等行为,细化法律适用规则,加大惩处力度。RG6即热新闻——关注每天科技社会生活新变化gihot.com

同时,要持续强化平台责任,健全内容审核机制。例如利用技术手段,对直播和商品信息进行监测,及时发现和处理AI虚假营销行为。可通过在AI直播间标注类似“AI直播注意鉴别”等字样,把知情权、选择权交给消费者。RG6即热新闻——关注每天科技社会生活新变化gihot.com

王雪莲等认为,对于AI数字赋能网络销售这一新事物,相关部门要加强对消费者的AI素养宣传教育,提升其认知能力,并不断完善在AI数字人大规模发展背景下消费者投诉举报机制,降低维权成本,让消费者从“技术弱势方”转变为“监督主力军”,打破“维权难、违法易”的恶性循环。RG6即热新闻——关注每天科技社会生活新变化gihot.com

你在网络直播间看到的正在带货的名人明星是真人吗?未必。近期,小米集团创始人雷军建议加强“AI换脸拟声”违法侵权重灾区治理,再次引发公众对AI数字人使用的讨论。RG6即热新闻——关注每天科技社会生活新变化gihot.com

去年以来,AI生成的数字人大量“占领”电商平台,有的靠“图”预售、以次充好,还有的用AI数字人仿冒名人外貌及声音为一些“神药”“神器”背书,短时间内卖出巨额大单。在这背后,一套从肖像、配音,到文案生成的AI数字人带货制作流程充斥网络,带来众多监管难题。RG6即热新闻——关注每天科技社会生活新变化gihot.com

专家表示,利用AI数字场景直播带货是电商发展的新趋势,但在发展前期,一些不法商家利用监管漏洞侵害了消费者权益,建议尽快完善法律法规,强化平台责任,设定AI数字场景使用边界,防止AI“赋能”变AI“负能”。RG6即热新闻——关注每天科技社会生活新变化gihot.com

一场“眼见是否为实”的暗战RG6即热新闻——关注每天科技社会生活新变化gihot.com

兰州市民崔女士近日在网络直播间购买了一件春季薄款毛衫。商品页面中模特展示这款毛衫的面料细腻柔软,穿在身上得体优雅,她感觉自己的身材也像模特一样属于偏瘦类型,于是下单。而收到实物后却发现,这件毛衫材质既不细腻也不柔软,裁剪还很粗糙,她深感上当受骗。RG6即热新闻——关注每天科技社会生活新变化gihot.com

经过与售后一番费尽周折的交流,崔女士得知,该模特其实是AI生成的“数字人”,面料的视觉效果都经过了AI技术的“渲染”。RG6即热新闻——关注每天科技社会生活新变化gihot.com

甘肃慧联信息科技发展有限责任公司总经理王雪莲已有十多年电商从业经历。她告诉记者,雇用模特试穿拍照是服装电商行业的传统做法,但AI数字模特的迷惑性在于它可以通过参数设置,生成“九头身”“马甲线”理想化身材,并借助AI渲染技术消除衣服褶皱、增强光泽感和飘逸灵动感,使廉价的面料呈现出昂贵质感,让消费者误判服装的实际效果。RG6即热新闻——关注每天科技社会生活新变化gihot.com

崔女士的购物经历并非个例。记者调查发现,在直播带货领域,AI数字人通过仿真的面部形象、声音和精心的场景布置,其迷惑性让消费者防不胜防。RG6即热新闻——关注每天科技社会生活新变化gihot.com

更有甚者,有商家将名人明星换脸为数字人“平替”。去年以来,“AI换脸杨幂”直播卖化妆品、“AI古天乐”代言游戏等AI数字人仿冒名人话题频频登上热搜。今年春节期间,更有不法商家生成“AI张文宏”,“严肃认真地在直播间卖蛋白棒”,从开播到被举报关停,短时间内卖出了1200多单商品。RG6即热新闻——关注每天科技社会生活新变化gihot.com

除了借用名人效应外,一些商家用AI技术打造数字人人设,如“成功女企业家”“单亲妈妈”“带娃宝妈”“知性美女”“美妆达人”等,利用特定人群的同理心直播带货。而在保健品、药品、化妆品、医疗辅助器械“三品一械”领域,精心打造的数字人面向老年人、学生等辨别能力弱的群体,大肆夸大产品功效,快速敛财。RG6即热新闻——关注每天科技社会生活新变化gihot.com

AI数字营销监管“网眼大”RG6即热新闻——关注每天科技社会生活新变化gihot.com

针对AI数字人仿冒名人直播带货、AI换脸诈骗等违法行为,国家网信办已出台《人工智能生成合成内容标识办法(征求意见稿)》,并开展网络清朗行动等专项行动约束管理。RG6即热新闻——关注每天科技社会生活新变化gihot.com

然而,对于正处在发展初期的AI数字营销,一些专家表示,从法治层面到平台监管,还存在诸多漏洞。RG6即热新闻——关注每天科技社会生活新变化gihot.com

记者在某平台上输入“AI数字人直播教学”等关键词,搜索出成千上万个教程,学费从几十元到数百元不等,还有的甚至免费。RG6即热新闻——关注每天科技社会生活新变化gihot.com

记者联系一位收费教程博主,其称“三分钟教会搭建AI数字人直播间”,并承诺“一天可以做近百个数字作品,都能通过原创审核”。RG6即热新闻——关注每天科技社会生活新变化gihot.com

兰州大学信息科学与工程学院副教授刘忻表示,AI技术发展迅速且具有技术门槛低、隐蔽性强、更新迭代快的特点,随着开源工具的普及,普通人仅需少量数据即可生成逼真的仿冒内容,而且传播速度快、范围广。当前,从数据采集、AI模型训练到虚假账号运营,已形成分工明确的产业链。RG6即热新闻——关注每天科技社会生活新变化gihot.com

甘肃政法大学民商经济法学院副教授盛玉华表示,利用AI仿冒他人形象直播带货或从事其他违法经营行为,违反了广告法、个人信息保护法等多部法律法规,但面对AI数字人营销骗局,当前最大的难点不是“无法可依”,而是“有法难依”。RG6即热新闻——关注每天科技社会生活新变化gihot.com

盛玉华说,AI数字人虚假营销涉及技术提供方、内容生成者、直播平台、商家等多方,现有法律未明确各方责任划分,导致在实际执法过程中难以准确适用法律。RG6即热新闻——关注每天科技社会生活新变化gihot.com

针对AI数字人误导消费者风险,2024年某平台优化了对AI主播的识别能力,累计处理超17万个录播直播间,封闭3万多个账号,打击2800多个黑商团伙。但从平台管理来看,仍存盲区,审核机制还有待完善。RG6即热新闻——关注每天科技社会生活新变化gihot.com

兰州大学管理学院副教授王洪鹏说,此前该平台通过博主的粉丝量来设计带货门槛,随后这一规定被取消,直播带货门槛降低,也为AI数字人虚假营销提供了可乘之机。RG6即热新闻——关注每天科技社会生活新变化gihot.com

多方发力加强引导 促AI数字营销健康发展RG6即热新闻——关注每天科技社会生活新变化gihot.com

在王雪莲、盛玉华等业内人士和受访专家看来,从长远来看,AI数字营销将会革新传统的电商销售模式,赋能消费领域和销售环节,给市场带来更多更好的体验。RG6即热新闻——关注每天科技社会生活新变化gihot.com

事实上,目前AI数字人已在多个领域提升电商销售发展水平。在服装电商行业,AI数字技术正通过数据挖掘、视觉算法和个性化推荐,提升关联销售水平,如有的平台推出AI搭配和AI试衣间,用户在平台内创建虚拟形象后,AI就会帮助顾客生成多种穿搭方案,直接链接到关联商品,大幅提升商品关联销售额。RG6即热新闻——关注每天科技社会生活新变化gihot.com

而当前出现的各类AI数字人虚假营销,是AI赋能网络直播销售发展初期,监管机制不完善的阶段性产物。“当务之急是要从法律层面补齐监管漏洞。”盛玉华说,首先要明确AI生成内容的法律性质和责任归属,厘清技术提供方、内容提供者、平台、商家等多方主体的责任边界,提高法律可操作性。RG6即热新闻——关注每天科技社会生活新变化gihot.com

业内人士建议,在刑法、网络安全法等法律框架下,对利用AI技术编造传播虚假信息,实施诈骗、诽谤、侵害肖像权等行为,细化法律适用规则,加大惩处力度。RG6即热新闻——关注每天科技社会生活新变化gihot.com

同时,要持续强化平台责任,健全内容审核机制。例如利用技术手段,对直播和商品信息进行监测,及时发现和处理AI虚假营销行为。可通过在AI直播间标注类似“AI直播注意鉴别”等字样,把知情权、选择权交给消费者。RG6即热新闻——关注每天科技社会生活新变化gihot.com

王雪莲等认为,对于AI数字赋能网络销售这一新事物,相关部门要加强对消费者的AI素养宣传教育,提升其认知能力,并不断完善在AI数字人大规模发展背景下消费者投诉举报机制,降低维权成本,让消费者从“技术弱势方”转变为“监督主力军”,打破“维权难、违法易”的恶性循环。RG6即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-1127-0.html打造“完美主播”、暗设消费陷阱,AI营销边界在哪

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:从修“脑壳”到造“脑机”的人

下一篇:算法沦为算计,消费者如何反“杀熟”

为你推荐
1月14日,记者从中国科学院合肥物质科学研究院等离子体物理研究所(以下简称“等离子体所”)获悉,由该所建设运行的国家重大科技基础设施“聚变堆主机关...
01-21
北京时间1月18日,执行中国第41次南极考察任务的“雪龙2”号极地科考破冰船到达阿蒙森海预定作业站位,开始为期约一个月的大洋考察。“雪龙2”号大洋...
01-21
  新华社北京1月17日电 题:记者手记:以投融资改革为水利发展增添“活水”  新华社记者魏弘毅  松软...
01-21
  撒欢、尖叫、上厕所、要零食……高铁上,孩子一刻不停歇的场景很多人都体验过,让想安静休息的...
02-11
消费电子的风口,华强北每个都不曾错过。从上世纪90年代火柴盒大小的“BB机”,象征时髦的“大哥大”,20世纪初的功能手机,到近二十年来...
01-21
  多地出现“俄罗斯商品馆”被查,俄罗斯驻华大使馆发声  中新网1月19日电 俄罗斯驻华大使馆微信公众号近日发布公告称,最近,中国一些城市出现了大量销售俄罗斯食品的商店。...
01-21
[本站 资讯] 日前,小米YU7实车图再度曝光,这组实车图展示给我们新车的更多细节,新车定位为中大型SUV,售价预计会在30-40万之间,并将在2025年6月-7月份正式上市。此次最新...
01-24
1 月 24 日消息,据国家市场监督管理总局消息,近日,国际标准化组织批准由我国牵头的 7 项新能源汽车领域国际标准项目立项,涉及电动汽车整车、动力电池、燃料电池及换电 ...
01-24
《六姊妹》为什么叫刘晓玲?刘小玲汤振民结局是什么在电视剧《六姊妹》中,角色叫刘小玲而不姓何,是因为以下原因:出生惊险致母怒:刘小玲是何家老五,她出生时难产,是...
02-20
《余烬之上》廖知白真实存在吗?廖知白是幻想出来的吗?在《余烬之上》的剧情设定中,廖知白是真实存在的。廖知白是电视剧《余烬之上》中的角色,由孙阳饰演。他原...
02-21
  山东博兴县湖滨镇姜韩社区卫生室服务3000多人,改造后每月就诊人数增加200多人――  “小村卫生室”6个月快速涨粉,靠什么?  数据来源:国家卫生健康委  “今天...
01-21
21世纪经济报道记者武瑛港 北京报道近期血液净化上市公司健帆生物发布业绩预告,2024年营收为25.95亿元~27.87亿元,与2023年的19.22亿元相比...
02-11
天津市人民政府关于孟昊任职的通知 各区人民政府,市政府各委、办、局: 市人...
01-21
  大众网记者 杨涛报道  日前,第十七届山东省职业院校技能大赛高职组“健身指导”赛项结果出炉,青岛港湾职业技术学院代表队凭借出色的团队表现和创新的活动设计,获第6...
01-21
  1月17日,中国人民银行北京市分行发布行政处罚信息,北京农村商业银行股份有限公司因提供虚假的...
01-22
  原油期货在上周走高后本周维持震荡,从当前市场逻辑来看,分析人士认为,短期原油价格向上驱动不...
01-24
天秤座的男生注重外貌和气质,他们喜欢温柔、优雅、有内涵的女人。下面就让我们来看看天...
01-22
双子座的男生一向以机智聪慧、善于交际而闻名,他们天生具备吸引人的魅力。当一个双子男...
01-22
童装拿货术语? 童装术语有哪些?一、童装拿货术语?一手,五手,十手,二十手,一手是五件衣服二、童装术语有哪些?童装术语有:尺码:童装尺码一般以年龄、身高、胸围等作为购买标准。连身衣:...
02-07
微胖女生穿搭? 女生穿搭技巧?一、微胖女生穿搭?微胖女生穿对了就不显胖,首先排除紧身衣裤,可以配休闲衬衣搭配阔腿裤小白鞋,很时尚,还有就是运动装二、女生穿搭技巧?不成熟的小建议...
02-12
2月15日消息,快手电商女装亲子行业近日开启“春日焕新季”。活动分三个阶段,第一阶段从2月13日至19日,将为商家带来商家端和用户端补贴、流量激励、新品扶持、磁力金牛对投、短...
02-16
2月17日消息,猪八戒网旗下江西八戒创新资源近日收到了“高新技术企业”证书纸质件,标志着该公司再次获批高新技术企业。图源:猪八戒网头条公众号江西八戒创新资源是猪八戒网企...
02-18
春节假期之后,或许是一年内出行票价最低的时候。近日,机票价格快速跳水,全国多条航线价格掉到200元上下。 同程旅行平台数据显示,春节...
02-14
2月17日消息,美团发布《2025春节景区消费数据报告》。报告显示,今年春节,旅游市场展现出显著的消费增长,特价团购门票表现亮眼。主题公园、自然景观、人文古迹、动物园和滑雪景...
02-18
在新能源汽车赛道进入淘汰赛之际,一家新锐公司正异军突起。12月18日消息,醇氢科技宣布完成1.35亿美元的Pre-A+轮融资,引入多家战略投资者,投后估值超1...
02-07
央广网北京2月7日消息 2025年春节迎来“最长假期”,人们外出旅游的热情被充分激发。京东携手联通数智智慧足迹,对全国31个省会城市、自治区首府和直辖市的景点客流量及旅行消...
02-09
据法国媒体报道Les Echos报道,育碧和沙特公司Savvy Games Group达成合作关系,这可能让发售两年的《刺客信条:幻景》迎来DLC。 报道称育碧之前对《刺客信条:幻景》...
01-27
由Nullpointer Games进行开发、Nullpointer Games和Outersl负责发行的克系悬疑恐怖卡牌叙事游戏《海鲁克的惊恐(The Horror at Highrook)》,现已在Steam平台推出...
02-15
极目新闻通讯员 马遥遥春节假期,28岁的胡女士(化姓)连续几天用手机追剧,因眼睛干涩、畏光、视力下降来到武汉市中心医院杨春湖院区就诊,在该院眼科门诊被查出患上了干眼症。2月2...
02-03
买了机票,选座这样的附加服务,一般是谁先到谁先得,消费者鲜有异议。但一段时间以来,部分航空公司开始对这一基本服务引入加价机制,选择靠窗、靠过道或经济舱前排等座位都要额外支...
02-06
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮