“喂”给人工智能的真实数据终将耗尽,合成数据能否让AI模型精确可靠?

6个月前 来源:中国科技网 观看:201

人工智能(AI)初创公司xAI创始人埃隆·马斯克近日表示:“在AI训练中,我们现在基本上耗尽了人类知识的累积总和。”之前研究也表明,人类生成的真实数据将在2到8年内消耗殆尽。鉴于真实数据日益稀缺,为满足AI的“胃口”,科技行业正转向使用合成数据。SaB即热新闻——关注每天科技社会生活新变化gihot.com

澳大利亚“对话”网站在本月稍早时间报道中指出,合成数据具有诸多优势,但过度依赖合成数据也可能削弱AI的精确性和可靠性。SaB即热新闻——关注每天科技社会生活新变化gihot.com

合成数据应运而生SaB即热新闻——关注每天科技社会生活新变化gihot.com

以往,科技公司主要依赖真实数据来构建、训练和改进AI模型。真实数据是指由人类创建的文本、视频和图像。它们通过调查、实验、观察或挖掘网站和社交媒体等途径被收集而来。SaB即热新闻——关注每天科技社会生活新变化gihot.com

真实数据因蕴含真实事件以及其场景和背景而极具价值,但其并非尽善尽美。它可能掺杂拼写错误、不一致或无关的内容,甚至潜藏严重偏见,导致生成式AI模型在某些情况下创建的图像仅展示男性或白人形象。SaB即热新闻——关注每天科技社会生活新变化gihot.com

但真实数据日益匮乏,因为人类生成数据的速度赶不上AI不断增长的需求。SaB即热新闻——关注每天科技社会生活新变化gihot.com

美国开放人工智能研究中心联合创始人伊利亚·苏茨克维尔在去年12月举行的机器学习会议上声称,AI行业已触及他所称的“数据峰值”,AI的训练数据如同化石燃料一样面临着耗尽的危机。此外,有研究预测,到2026年,ChatGPT等大型语言模型的训练将耗尽互联网上所有可用文本数据,届时将没有新的真实数据可供使用。SaB即热新闻——关注每天科技社会生活新变化gihot.com

为给AI提供充足的“养分”,一种由算法生成的、模仿真实世界情况的数据——合成数据应运而生。合成数据是在数字世界中创造的,而非从现实世界收集或测量而来。它可以作为真实世界数据的替代品,来训练、测试、验证AI模型。SaB即热新闻——关注每天科技社会生活新变化gihot.com

从理论上来说,合成数据为训练AI模型提供了一种经济高效且快捷的解决方案。它有效解决了AI训练使用真实数据时饱受诟病的隐私问题和道德问题,尤其是涉及个人健康数据等敏感信息时。更重要的是,与真实数据不同,合成数据在理论上可以无限供应。SaB即热新闻——关注每天科技社会生活新变化gihot.com

研究机构高德纳公司估计,2024年AI及分析项目使用的数据中,约60%是合成数据。到2030年,AI模型使用的绝大部分数据将是由AI生成的合成数据。SaB即热新闻——关注每天科技社会生活新变化gihot.com

科技公司来者不拒SaB即热新闻——关注每天科技社会生活新变化gihot.com

事实上,微软、元宇宙平台公司,以及Anthropic等众多科技头部企业和初创企业,已经开始广泛使用合成数据来训练其AI模型。SaB即热新闻——关注每天科技社会生活新变化gihot.com

例如,微软在1月8日开源的AI模型“Phi-4”,便是合成数据携手真实数据训练的;谷歌的“Gemma”模型也采用了类似方法。Anthropic公司也利用部分合成数据,开发出其性能最优异的AI系统之一“Claude 3.5 Sonnet”。苹果自研AI系统Apple Intelligence,在预训练阶段,也大量使用了合成数据。SaB即热新闻——关注每天科技社会生活新变化gihot.com

随着科技公司对合成数据的需求与日俱增,生产合成数据的工具也接踵而至。SaB即热新闻——关注每天科技社会生活新变化gihot.com

英伟达公司发布的3D仿真数据生成引擎Omniverse Replicator,能够生成合成数据,用于自动驾驶汽车和机器人训练。去年6月,英伟达开源了Nemotron-4340b系列模型,开发者可使用该模型生成合成数据,用于训练大型语言模型,以应用于医疗保健、金融、制造、零售等行业。在医疗、金融等专业领域,该模型能够根据特定需求生成高质量的合成数据,帮助构建更为精准的行业专属模型。微软推出的开源合成数据工具Synthetic Data Showcase则旨在通过生成合成数据和用户界面,实现隐私保护的数据共享和分析。亚马逊云科技推出的Amazon SageMaker Ground Truth也能为用户生成数十万张自动标记的合成图像。SaB即热新闻——关注每天科技社会生活新变化gihot.com

此外,去年12月,元宇宙平台公司推出开源大模型Llama 3.3,更是大幅降低了生成合成数据的成本。SaB即热新闻——关注每天科技社会生活新变化gihot.com

过度依赖风险难测SaB即热新闻——关注每天科技社会生活新变化gihot.com

尽管合成数据暂时解决了AI训练的燃眉之急,但它也并非尽善尽美。SaB即热新闻——关注每天科技社会生活新变化gihot.com

一个关键问题在于:当AI模型过于依赖合成数据时,它们可能会“崩溃”。它们会产生更多“幻觉”,编造看似合理可信但实际上并不存在的信息。而且,AI模型的质量和性能也会飞速下降,甚至无法使用。例如,某个AI模型生成的数据出现了一些拼写错误,利用这些充满了错误的数据训练其他模型,这些AI模型必定会“以讹传讹”,导致更大的错误。SaB即热新闻——关注每天科技社会生活新变化gihot.com

此外,合成数据也存在过于简单化的风险。它可能缺乏真实数据集蕴含的细节和多样性,这可能导致在其上训练的AI模型的输出也过于简单,缺乏实用性。SaB即热新闻——关注每天科技社会生活新变化gihot.com

为解决这些问题,国际标准化组织需要着手创建强大的系统,来跟踪和验证AI训练数据。此外,AI系统可以配备元数据追踪功能,让用户或系统能对合成数据进行溯源。人类也需要在AI模型的整个训练过程中对合成数据进行监督,以确保其高质量且符合道德标准。SaB即热新闻——关注每天科技社会生活新变化gihot.com

AI的未来在很大程度上取决于数据的质量,合成数据将在克服数据短缺方面发挥越来越重要的作用。对合成数据的使用,人们必须保持谨慎态度,尽量减少错误,确保其作为真实数据的可靠补充,从而保障AI系统的准确性和可信度。SaB即热新闻——关注每天科技社会生活新变化gihot.com

人工智能(AI)初创公司xAI创始人埃隆·马斯克近日表示:“在AI训练中,我们现在基本上耗尽了人类知识的累积总和。”之前研究也表明,人类生成的真实数据将在2到8年内消耗殆尽。鉴于真实数据日益稀缺,为满足AI的“胃口”,科技行业正转向使用合成数据。SaB即热新闻——关注每天科技社会生活新变化gihot.com

澳大利亚“对话”网站在本月稍早时间报道中指出,合成数据具有诸多优势,但过度依赖合成数据也可能削弱AI的精确性和可靠性。SaB即热新闻——关注每天科技社会生活新变化gihot.com

合成数据应运而生SaB即热新闻——关注每天科技社会生活新变化gihot.com

以往,科技公司主要依赖真实数据来构建、训练和改进AI模型。真实数据是指由人类创建的文本、视频和图像。它们通过调查、实验、观察或挖掘网站和社交媒体等途径被收集而来。SaB即热新闻——关注每天科技社会生活新变化gihot.com

真实数据因蕴含真实事件以及其场景和背景而极具价值,但其并非尽善尽美。它可能掺杂拼写错误、不一致或无关的内容,甚至潜藏严重偏见,导致生成式AI模型在某些情况下创建的图像仅展示男性或白人形象。SaB即热新闻——关注每天科技社会生活新变化gihot.com

但真实数据日益匮乏,因为人类生成数据的速度赶不上AI不断增长的需求。SaB即热新闻——关注每天科技社会生活新变化gihot.com

美国开放人工智能研究中心联合创始人伊利亚·苏茨克维尔在去年12月举行的机器学习会议上声称,AI行业已触及他所称的“数据峰值”,AI的训练数据如同化石燃料一样面临着耗尽的危机。此外,有研究预测,到2026年,ChatGPT等大型语言模型的训练将耗尽互联网上所有可用文本数据,届时将没有新的真实数据可供使用。SaB即热新闻——关注每天科技社会生活新变化gihot.com

为给AI提供充足的“养分”,一种由算法生成的、模仿真实世界情况的数据——合成数据应运而生。合成数据是在数字世界中创造的,而非从现实世界收集或测量而来。它可以作为真实世界数据的替代品,来训练、测试、验证AI模型。SaB即热新闻——关注每天科技社会生活新变化gihot.com

从理论上来说,合成数据为训练AI模型提供了一种经济高效且快捷的解决方案。它有效解决了AI训练使用真实数据时饱受诟病的隐私问题和道德问题,尤其是涉及个人健康数据等敏感信息时。更重要的是,与真实数据不同,合成数据在理论上可以无限供应。SaB即热新闻——关注每天科技社会生活新变化gihot.com

研究机构高德纳公司估计,2024年AI及分析项目使用的数据中,约60%是合成数据。到2030年,AI模型使用的绝大部分数据将是由AI生成的合成数据。SaB即热新闻——关注每天科技社会生活新变化gihot.com

科技公司来者不拒SaB即热新闻——关注每天科技社会生活新变化gihot.com

事实上,微软、元宇宙平台公司,以及Anthropic等众多科技头部企业和初创企业,已经开始广泛使用合成数据来训练其AI模型。SaB即热新闻——关注每天科技社会生活新变化gihot.com

例如,微软在1月8日开源的AI模型“Phi-4”,便是合成数据携手真实数据训练的;谷歌的“Gemma”模型也采用了类似方法。Anthropic公司也利用部分合成数据,开发出其性能最优异的AI系统之一“Claude 3.5 Sonnet”。苹果自研AI系统Apple Intelligence,在预训练阶段,也大量使用了合成数据。SaB即热新闻——关注每天科技社会生活新变化gihot.com

随着科技公司对合成数据的需求与日俱增,生产合成数据的工具也接踵而至。SaB即热新闻——关注每天科技社会生活新变化gihot.com

英伟达公司发布的3D仿真数据生成引擎Omniverse Replicator,能够生成合成数据,用于自动驾驶汽车和机器人训练。去年6月,英伟达开源了Nemotron-4340b系列模型,开发者可使用该模型生成合成数据,用于训练大型语言模型,以应用于医疗保健、金融、制造、零售等行业。在医疗、金融等专业领域,该模型能够根据特定需求生成高质量的合成数据,帮助构建更为精准的行业专属模型。微软推出的开源合成数据工具Synthetic Data Showcase则旨在通过生成合成数据和用户界面,实现隐私保护的数据共享和分析。亚马逊云科技推出的Amazon SageMaker Ground Truth也能为用户生成数十万张自动标记的合成图像。SaB即热新闻——关注每天科技社会生活新变化gihot.com

此外,去年12月,元宇宙平台公司推出开源大模型Llama 3.3,更是大幅降低了生成合成数据的成本。SaB即热新闻——关注每天科技社会生活新变化gihot.com

过度依赖风险难测SaB即热新闻——关注每天科技社会生活新变化gihot.com

尽管合成数据暂时解决了AI训练的燃眉之急,但它也并非尽善尽美。SaB即热新闻——关注每天科技社会生活新变化gihot.com

一个关键问题在于:当AI模型过于依赖合成数据时,它们可能会“崩溃”。它们会产生更多“幻觉”,编造看似合理可信但实际上并不存在的信息。而且,AI模型的质量和性能也会飞速下降,甚至无法使用。例如,某个AI模型生成的数据出现了一些拼写错误,利用这些充满了错误的数据训练其他模型,这些AI模型必定会“以讹传讹”,导致更大的错误。SaB即热新闻——关注每天科技社会生活新变化gihot.com

此外,合成数据也存在过于简单化的风险。它可能缺乏真实数据集蕴含的细节和多样性,这可能导致在其上训练的AI模型的输出也过于简单,缺乏实用性。SaB即热新闻——关注每天科技社会生活新变化gihot.com

为解决这些问题,国际标准化组织需要着手创建强大的系统,来跟踪和验证AI训练数据。此外,AI系统可以配备元数据追踪功能,让用户或系统能对合成数据进行溯源。人类也需要在AI模型的整个训练过程中对合成数据进行监督,以确保其高质量且符合道德标准。SaB即热新闻——关注每天科技社会生活新变化gihot.com

AI的未来在很大程度上取决于数据的质量,合成数据将在克服数据短缺方面发挥越来越重要的作用。对合成数据的使用,人们必须保持谨慎态度,尽量减少错误,确保其作为真实数据的可靠补充,从而保障AI系统的准确性和可信度。SaB即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-217-0.html“喂”给人工智能的真实数据终将耗尽,合成数据能否让AI模型精确可靠?

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:仿昆虫微型机器人飞行长达15分钟

下一篇:新型光学原子钟比铯钟精度高千倍

为你推荐
1月20日,国家能源局发布的“2024年全国油气勘探开发十大标志性成果”显示,2024年,国内油气产量当量首次超过4亿吨,连续8年保持千万吨级快速增长势头,“...
01-21
荷兰特文特大学科学家开发出一种新工艺,能在室温下制造出晶体结构高度有序的半导体材料。他们表示,通过精准控制这种半导体材料的晶体结构,大幅降低了...
01-21
  原标题:记者在现场丨“少跑了20多万公里”  “以前,我们办张采矿证,得来来回回往返凌源、朝阳、沈阳...
02-10
  2月14日,全新BMW X3长轴距版上市,全新BMW X3首次加长轴距,带来更宽适空间、更智能交互和更高级驾乘质...
02-15
中新网江西永修1月21日电(卢梦梦)冬日清晨,赣北大地一片沉寂。在江西省九江市永修县涂埠镇,龙虾养殖户王贤荣一早便开始了日常巡塘工作。看到虾塘里的水草开始长根,王贤荣欣喜...
01-22
  中新经纬1月17日电 题:外贸“三量”齐升下有哪些商机?  作者 张建平 商务部国际贸易经济合作研究院学术委员会副主任  2024年,我国外贸实现了总量、增量、质量的“三量...
01-21
[本站 资讯] 日前,我们从官方获悉,捷达VA7将会在明日(1月12日)正式上市,车辆定位国民家轿,是一款紧凑型车,使用1.4T动力,此前预售价为11.8777万元起。在上个月,捷达VA7就完成...
01-21
1 月 23 日消息,在经历了 11 个赛季的演变后,国际汽联电动方程式锦标赛(Formula E)已经从早期的混乱局面和比赛中途更换赛车的时代迈向了新的阶段。本月,Formula E 将在...
01-24
  1、《树下有片红房子》陈欢尔和宋丛没有在一起,宋丛暗恋过陈欢尔,但陈欢尔的官配是景栖迟。  2、宋丛是品学兼优的学霸,高中时为陈欢尔补习过功课,是个心思细腻但比较内...
02-18
《难哄》钟思乔扮演者是谁钟思乔苏浩安结局是什么?‌电视剧《难哄》中钟思乔的扮演者是张淼怡‌‌。钟思乔在剧中是女主角温以凡的挚友,不仅是男女主角桑延和...
02-19
21世纪经济报道记者武瑛港 实习生房思宇 北京报道北京的铜锅涮、炙子烤肉、北京烤鸭,上海的八宝鸭、素蟹粉、糖醋小排,广东的脆皮烧鹅、文昌...
02-01
21世纪经济报道记者林昀肖 实习生苏洋 北京报道 2月6日,香雪制药发布《关于被债权人申请预重整的提示性公告》(以下简称《提示性公告》)。其...
02-09
2025年全国硕士研究生招生考试在即。为严厉打击涉考违法违规行为,严肃考风考纪,维护考生合法权益,教育部会...
01-21
央广网北京10月29日消息(记者 吴佳怡)即将到来的十一月,有哪些需要关注的高考热点?近日,阳光高考信息平台对...
01-22
  中国证监会1月22日消息,近日,中央金融办等六部门联合印发的《关于推动中长期资金入市工作的实...
01-24
  即便是在周末前往新奥尔良观看超级碗的路上,也不耽误美国总统特朗普舞起新的关税大棒,对钢铁...
02-13
在爱情的世界里,有时候我们会遇到一些人,他们似乎对我们表现出了浓厚的兴趣,但却让我们感...
01-22
水瓶座男生通常都是聪明、独立和理性的人,他们在感情方面也有着自己独特的表达方式。如...
01-22
解读米雅潮流服饰:追寻时尚与个性的完美结合时尚界总是瞬息万变,品牌如雨后春笋般涌现,但能让人铭记的却屈指可数。米雅潮流服饰,这个新兴品牌,凭借其独特的风格与设计理念,迅速吸...
02-07
引领时尚潮流的服饰,让你与众不同在这个快速发展的时代,潮流服饰不再仅仅是衣物的选择,而是表达个性和态度的利器。当我们走在街头,穿着与你的风格完美契合的服装时,仿佛每一个目...
02-07
1.抖音再次下调商家保证金随着春节假期临近尾声,大家也都开始陆续复工。而为了鼓励商家以更加饱满的热情投入到工作中,抖音电商再次出手,推出了一系列扶持商家的新举措。近日,抖...
02-08
阿里将与苹果强强联手。在阿联酋迪拜举办的World Governments Summit 2025峰会上,阿里巴巴联合创始人、董事局主席蔡崇信回应阿里与苹果合作传闻,他表示,“苹果在中国需要一个...
02-14
2025年开年,消费品以旧换新政策扩围至手机、平板、智能手表手环等数码类别,为消费电子市场注入了新活力。1月8日,国家发展改革委、财...
02-07
1.美团外卖全面升级评价体系如今,线上购物已蔚然成风,成为消费者首选的购物方式。在此背景下,其他消费者的使用体验和评价成为了指引消费者选择的重要参考依据。然而,近年来网络...
03-10
1月20日晚,游族网络发布2024年年度业绩预告,报告显示,2024年度预计营收13.8-14.6亿元 。报告期内,游族网络持续深耕全球化游戏研发与发行,保持在营产品长线运营的基础上,积极推动...
01-21
在当今社会,随着老龄化进程的加速,银发经济正展现出前所未有的活力与潜力。这一趋势不仅反映了老年人口规模的不断扩大,更体现了老年人对高品质生活的追求与消费能力的显著提升...
02-09
随着工作室将全力转向《质量效应5》,EA正在缩减BioWare的规模。 BioWare总经理Gary McKay在一篇博客文章中表示,在《龙腾世纪:影障守护者》于2024年底发售后,工作...
01-30
《文明7》将于2月11日发售,近日Firaxis Games公布了游戏新领袖“卑弥呼”。卑弥呼将作为“倭的女王”登场,其特点是擅长科学和外交。官方还发布卑弥呼宣传片,一起...
02-03
极目新闻记者 宋枕涛2月2日,农历正月初五,武汉归元寺迎来一年一度的迎财神传统民俗活动。清晨6时,大批游客涌往汉阳归元寺,以敬香“迎财神”的方式为新年祈福。记者在现场看到,公...
02-02
2月9日,哈尔滨亚冬会速度滑冰男子5000米决赛,中国队包揽金银铜牌。吴宇夺得金牌,刘瀚彬获得银牌,哈那哈提·木哈买提获得铜牌。...
02-09
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮