“喂”给人工智能的真实数据终将耗尽,合成数据能否让AI模型精确可靠?

2个月前 来源:中国科技网 观看:39

人工智能(AI)初创公司xAI创始人埃隆·马斯克近日表示:“在AI训练中,我们现在基本上耗尽了人类知识的累积总和。”之前研究也表明,人类生成的真实数据将在2到8年内消耗殆尽。鉴于真实数据日益稀缺,为满足AI的“胃口”,科技行业正转向使用合成数据。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

澳大利亚“对话”网站在本月稍早时间报道中指出,合成数据具有诸多优势,但过度依赖合成数据也可能削弱AI的精确性和可靠性。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

合成数据应运而生Z2t即热新闻——关注每天科技社会生活新变化gihot.com

以往,科技公司主要依赖真实数据来构建、训练和改进AI模型。真实数据是指由人类创建的文本、视频和图像。它们通过调查、实验、观察或挖掘网站和社交媒体等途径被收集而来。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

真实数据因蕴含真实事件以及其场景和背景而极具价值,但其并非尽善尽美。它可能掺杂拼写错误、不一致或无关的内容,甚至潜藏严重偏见,导致生成式AI模型在某些情况下创建的图像仅展示男性或白人形象。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

但真实数据日益匮乏,因为人类生成数据的速度赶不上AI不断增长的需求。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

美国开放人工智能研究中心联合创始人伊利亚·苏茨克维尔在去年12月举行的机器学习会议上声称,AI行业已触及他所称的“数据峰值”,AI的训练数据如同化石燃料一样面临着耗尽的危机。此外,有研究预测,到2026年,ChatGPT等大型语言模型的训练将耗尽互联网上所有可用文本数据,届时将没有新的真实数据可供使用。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

为给AI提供充足的“养分”,一种由算法生成的、模仿真实世界情况的数据——合成数据应运而生。合成数据是在数字世界中创造的,而非从现实世界收集或测量而来。它可以作为真实世界数据的替代品,来训练、测试、验证AI模型。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

从理论上来说,合成数据为训练AI模型提供了一种经济高效且快捷的解决方案。它有效解决了AI训练使用真实数据时饱受诟病的隐私问题和道德问题,尤其是涉及个人健康数据等敏感信息时。更重要的是,与真实数据不同,合成数据在理论上可以无限供应。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

研究机构高德纳公司估计,2024年AI及分析项目使用的数据中,约60%是合成数据。到2030年,AI模型使用的绝大部分数据将是由AI生成的合成数据。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

科技公司来者不拒Z2t即热新闻——关注每天科技社会生活新变化gihot.com

事实上,微软、元宇宙平台公司,以及Anthropic等众多科技头部企业和初创企业,已经开始广泛使用合成数据来训练其AI模型。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

例如,微软在1月8日开源的AI模型“Phi-4”,便是合成数据携手真实数据训练的;谷歌的“Gemma”模型也采用了类似方法。Anthropic公司也利用部分合成数据,开发出其性能最优异的AI系统之一“Claude 3.5 Sonnet”。苹果自研AI系统Apple Intelligence,在预训练阶段,也大量使用了合成数据。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

随着科技公司对合成数据的需求与日俱增,生产合成数据的工具也接踵而至。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

英伟达公司发布的3D仿真数据生成引擎Omniverse Replicator,能够生成合成数据,用于自动驾驶汽车和机器人训练。去年6月,英伟达开源了Nemotron-4340b系列模型,开发者可使用该模型生成合成数据,用于训练大型语言模型,以应用于医疗保健、金融、制造、零售等行业。在医疗、金融等专业领域,该模型能够根据特定需求生成高质量的合成数据,帮助构建更为精准的行业专属模型。微软推出的开源合成数据工具Synthetic Data Showcase则旨在通过生成合成数据和用户界面,实现隐私保护的数据共享和分析。亚马逊云科技推出的Amazon SageMaker Ground Truth也能为用户生成数十万张自动标记的合成图像。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

此外,去年12月,元宇宙平台公司推出开源大模型Llama 3.3,更是大幅降低了生成合成数据的成本。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

过度依赖风险难测Z2t即热新闻——关注每天科技社会生活新变化gihot.com

尽管合成数据暂时解决了AI训练的燃眉之急,但它也并非尽善尽美。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

一个关键问题在于:当AI模型过于依赖合成数据时,它们可能会“崩溃”。它们会产生更多“幻觉”,编造看似合理可信但实际上并不存在的信息。而且,AI模型的质量和性能也会飞速下降,甚至无法使用。例如,某个AI模型生成的数据出现了一些拼写错误,利用这些充满了错误的数据训练其他模型,这些AI模型必定会“以讹传讹”,导致更大的错误。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

此外,合成数据也存在过于简单化的风险。它可能缺乏真实数据集蕴含的细节和多样性,这可能导致在其上训练的AI模型的输出也过于简单,缺乏实用性。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

为解决这些问题,国际标准化组织需要着手创建强大的系统,来跟踪和验证AI训练数据。此外,AI系统可以配备元数据追踪功能,让用户或系统能对合成数据进行溯源。人类也需要在AI模型的整个训练过程中对合成数据进行监督,以确保其高质量且符合道德标准。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

AI的未来在很大程度上取决于数据的质量,合成数据将在克服数据短缺方面发挥越来越重要的作用。对合成数据的使用,人们必须保持谨慎态度,尽量减少错误,确保其作为真实数据的可靠补充,从而保障AI系统的准确性和可信度。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

人工智能(AI)初创公司xAI创始人埃隆·马斯克近日表示:“在AI训练中,我们现在基本上耗尽了人类知识的累积总和。”之前研究也表明,人类生成的真实数据将在2到8年内消耗殆尽。鉴于真实数据日益稀缺,为满足AI的“胃口”,科技行业正转向使用合成数据。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

澳大利亚“对话”网站在本月稍早时间报道中指出,合成数据具有诸多优势,但过度依赖合成数据也可能削弱AI的精确性和可靠性。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

合成数据应运而生Z2t即热新闻——关注每天科技社会生活新变化gihot.com

以往,科技公司主要依赖真实数据来构建、训练和改进AI模型。真实数据是指由人类创建的文本、视频和图像。它们通过调查、实验、观察或挖掘网站和社交媒体等途径被收集而来。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

真实数据因蕴含真实事件以及其场景和背景而极具价值,但其并非尽善尽美。它可能掺杂拼写错误、不一致或无关的内容,甚至潜藏严重偏见,导致生成式AI模型在某些情况下创建的图像仅展示男性或白人形象。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

但真实数据日益匮乏,因为人类生成数据的速度赶不上AI不断增长的需求。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

美国开放人工智能研究中心联合创始人伊利亚·苏茨克维尔在去年12月举行的机器学习会议上声称,AI行业已触及他所称的“数据峰值”,AI的训练数据如同化石燃料一样面临着耗尽的危机。此外,有研究预测,到2026年,ChatGPT等大型语言模型的训练将耗尽互联网上所有可用文本数据,届时将没有新的真实数据可供使用。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

为给AI提供充足的“养分”,一种由算法生成的、模仿真实世界情况的数据——合成数据应运而生。合成数据是在数字世界中创造的,而非从现实世界收集或测量而来。它可以作为真实世界数据的替代品,来训练、测试、验证AI模型。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

从理论上来说,合成数据为训练AI模型提供了一种经济高效且快捷的解决方案。它有效解决了AI训练使用真实数据时饱受诟病的隐私问题和道德问题,尤其是涉及个人健康数据等敏感信息时。更重要的是,与真实数据不同,合成数据在理论上可以无限供应。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

研究机构高德纳公司估计,2024年AI及分析项目使用的数据中,约60%是合成数据。到2030年,AI模型使用的绝大部分数据将是由AI生成的合成数据。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

科技公司来者不拒Z2t即热新闻——关注每天科技社会生活新变化gihot.com

事实上,微软、元宇宙平台公司,以及Anthropic等众多科技头部企业和初创企业,已经开始广泛使用合成数据来训练其AI模型。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

例如,微软在1月8日开源的AI模型“Phi-4”,便是合成数据携手真实数据训练的;谷歌的“Gemma”模型也采用了类似方法。Anthropic公司也利用部分合成数据,开发出其性能最优异的AI系统之一“Claude 3.5 Sonnet”。苹果自研AI系统Apple Intelligence,在预训练阶段,也大量使用了合成数据。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

随着科技公司对合成数据的需求与日俱增,生产合成数据的工具也接踵而至。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

英伟达公司发布的3D仿真数据生成引擎Omniverse Replicator,能够生成合成数据,用于自动驾驶汽车和机器人训练。去年6月,英伟达开源了Nemotron-4340b系列模型,开发者可使用该模型生成合成数据,用于训练大型语言模型,以应用于医疗保健、金融、制造、零售等行业。在医疗、金融等专业领域,该模型能够根据特定需求生成高质量的合成数据,帮助构建更为精准的行业专属模型。微软推出的开源合成数据工具Synthetic Data Showcase则旨在通过生成合成数据和用户界面,实现隐私保护的数据共享和分析。亚马逊云科技推出的Amazon SageMaker Ground Truth也能为用户生成数十万张自动标记的合成图像。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

此外,去年12月,元宇宙平台公司推出开源大模型Llama 3.3,更是大幅降低了生成合成数据的成本。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

过度依赖风险难测Z2t即热新闻——关注每天科技社会生活新变化gihot.com

尽管合成数据暂时解决了AI训练的燃眉之急,但它也并非尽善尽美。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

一个关键问题在于:当AI模型过于依赖合成数据时,它们可能会“崩溃”。它们会产生更多“幻觉”,编造看似合理可信但实际上并不存在的信息。而且,AI模型的质量和性能也会飞速下降,甚至无法使用。例如,某个AI模型生成的数据出现了一些拼写错误,利用这些充满了错误的数据训练其他模型,这些AI模型必定会“以讹传讹”,导致更大的错误。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

此外,合成数据也存在过于简单化的风险。它可能缺乏真实数据集蕴含的细节和多样性,这可能导致在其上训练的AI模型的输出也过于简单,缺乏实用性。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

为解决这些问题,国际标准化组织需要着手创建强大的系统,来跟踪和验证AI训练数据。此外,AI系统可以配备元数据追踪功能,让用户或系统能对合成数据进行溯源。人类也需要在AI模型的整个训练过程中对合成数据进行监督,以确保其高质量且符合道德标准。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

AI的未来在很大程度上取决于数据的质量,合成数据将在克服数据短缺方面发挥越来越重要的作用。对合成数据的使用,人们必须保持谨慎态度,尽量减少错误,确保其作为真实数据的可靠补充,从而保障AI系统的准确性和可信度。Z2t即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-217-0.html“喂”给人工智能的真实数据终将耗尽,合成数据能否让AI模型精确可靠?

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:仿昆虫微型机器人飞行长达15分钟

下一篇:新型光学原子钟比铯钟精度高千倍

为你推荐
你胖吗?一份最新报告或许会改变你现在的答案。1月15日,《柳叶刀·糖尿病与内分泌学》发布重大报告。该报告由全球75个医疗组织支持,参与撰写的5...
01-21
  IT之家1月24日消息,受大规模罢工导致商用飞机生产停滞和交付量受限的影响,波音公司昨晚公布的...
01-24
  为宣传推广我省纺织服装地产品牌,充分展示优质纺织服装实力,日前,由省工信厅、省纺织服装协会、新华集...
01-27
  企业家该有什么样的社会价值?不久前,在受邀为我省各市数百名干部作专题讲座时,禾丰食品股份有限公司董...
02-15
  央广网北京1月17日消息(记者门庭婷)1月17日,国家统计局发布2024年全国房地产市场基本情况。 ...
01-21
  库迪咖啡回应不涨价:坚持9.9元价格策略,仍将给予联营商门店补贴  每经记者 李卓  近期,咖啡豆等原料价格持续上涨,引发市场对咖啡消费波动的普遍担忧,不少咖啡品牌纷纷以...
01-21
1 月 21 日消息,赛力斯今日公告,预计 2024 年度实现营业收入 1442 亿元到 1467 亿元,同比上升 302.32% 到 309.30%。从公告获悉,赛力斯预计 2024 年度实现归属于上市公...
01-22
2 月 2 日消息,比亚迪宣布旗下海豹05 DM-i汽车将于2月10日正式上市,该车已于1月7日开启预售,预售价为 8.98-10.98万元。据从工信部申报信息获悉,海豹 05 DM-i 将配备与...
02-02
  1、《难哄》不是《偷偷藏不住》的第二季,这两部剧是姊妹篇,都是根据同一个作者的小说改编的。  2、按照时间线来看的话,《难哄》的时间线要在《偷偷藏不住》之前,前者讲...
02-15
在璀璨的娱乐圈内,何炅以其非凡的主持才能与温文尔雅的气质,一直备受推崇。然而,近日他再次以惊人的健康状态吸引了公众的广泛关注。步入天命之年的何炅,在综艺节目《你好星期六...
02-22
  科技日报讯 (记者张梦然)爱尔兰戈尔韦大学研究团队开发出一种创新生物打印技术,能够使打印出的组织根据细胞产生的力量而改变形状。这一成果模仿了器官在自然发育过...
01-29
21世纪经济报道记者 韩利明 上海报道医药领域关乎民生福祉。日前,最高人民检察院官网披露数据显示,2024年1月至11月,全国检察机关起诉医疗领...
02-15
    葛墨林在为本科生上课。南开大学供图  人物小传  葛墨林,1938年出生于北京,中国科学...
01-21
  今天我们来到了公安局浐灞分局。警察叔叔先带我们参观了他们审讯的地方。警察阿姨还教给我们很多在野外保护自己的知识。最后我们还进行了射击体验。  射击体验让我...
01-21
  乌鲁木齐银行第三大股东深圳君豪集团有限公司所持有的4000万股股权即将于1月18日进行司法拍...
01-22
  近期,江西、湖北等地的中小银行增资扩股方案获得当地金融监管部门的批复同意。相比往年,此轮...
02-11
天秤男,作为十二星座中最具魅力和温柔的代表之一,总能吸引众多女性的目光。他们善于处理...
01-22
在恋爱中,有时候我们会发现水瓶男并不像其他星座的男生那样主动联系。这让很多女生感到...
01-22
明星魅力解析:那些令人倾倒的女神们在光影交错的舞台上,女明星们以她们的美丽和才华征服了无数观众。无论是荧幕上的风情万种,还是红毯上的璀璨夺目,明星的魅力总是让人心醉神迷...
02-12
男生穿搭风格分类? 男生穿搭风格有哪些?一、男生穿搭风格分类?可以分为三大类分格,第一类,严谨,精致型,这一类比较喜欢高质量的牛仔裤,皮鞋,衬衣,西服套装,二类,是休闲类,嘻哈服装,夸张的...
02-22
1.抖音再次下调商家保证金随着春节假期临近尾声,大家也都开始陆续复工。而为了鼓励商家以更加饱满的热情投入到工作中,抖音电商再次出手,推出了一系列扶持商家的新举措。近日,抖...
02-08
一路狂飙的山姆,又出事了,这直接反映出山姆在中国市场并不是没有焦虑。沃尔玛财报显示,2024年三季度沃尔玛中国市场净销售额达到49亿...
02-07
图源:喜茶官网 喜茶的一封全员内部信,打响了2025年新茶饮行...
02-11
2024年末,一位科技创业者火了。作者 | 王思琪来源 | 投资家(ID:touzijias)2024年末,一位科技创业者火了。2025年初,这位创业者再度爆火。近日,中国科技行业因一位85后年轻人现身《...
01-24
近日,国内绿色可持续燃料企业上海岚泽能源科技有限公司(简称:“岚泽能源”)宣布完成数亿元的A轮融资。本轮融资由国家绿色发展基金和上海联和投资共同...
02-07
最近我第一次亲眼看到了 Steam Deck,才意识到这款掌上电脑实际上有多大。当初我已经觉得 PS Vita 的体积和重量不方便携带,SteamDeck对于随时随地有玩游戏来说可...
01-29
AMD CEO苏姿丰在公司2024年第四季度财报电话会议上宣布,RX 9070系列“RDNA 4”GPU将于三月初发售。 在最近的2024年第四季度财报电话会议上,苏妈终于让所有谣言...
02-07
国家医保局消息,长期护理保险自2016年启动试点八年来,全国49个城市试点工作稳步推进,阶段目标已基本实现。截至2024年底,全国超过1.8亿人参保,累计超过260万人享受待遇,基金支出超...
02-07
干惊天动地事,做隐姓埋名人。中国共产党优秀党员,中国工程院院士,共和国勋章、国家最高科学技术奖获得者,全国道德模范,中国第一代核潜艇工程总设计师,中国船舶集团有限公司第七一...
02-09
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮