大模型训推一体机:“开箱即用”的人工智能

6个月前 来源:新华网 观看:51

自美国开放人工智能研究中心(OpenAI)发布聊天机器人程序ChatGPT及其背后的GPT系列大语言模型以来,人工智能大模型热潮持续蔓延,全球科技企业竞相宣布研发或推出自己的大模型,数量迅速增长的大模型如何实现商业化落地成为行业关注焦点。gAg即热新闻——关注每天科技社会生活新变化gihot.com

除了OpenAI、谷歌等公司采取的提供云端大模型应用程序编程接口(API)的商业模式之外,另一条备受关注的商业化路径是销售“软硬件结合”的大模型训推一体机。这种商业模式在中国市场上热度较高,特别是多家中小型科技企业都推出了大模型训推一体机产品。这类“开箱即用”的人工智能产品可以在企业内进行本地化部署,使最新人工智能技术能够方便地在工业场景中落地应用,实现从人工智能技术到生产力的转化,加速人工智能与产业深度融合。gAg即热新闻——关注每天科技社会生活新变化gihot.com

大模型训推一体机一般指集成了大模型训练和推理功能的“全栈式”人工智能设备,通常包含中央处理器(CPU)、图形处理器(GPU)、存储器、操作系统、深度学习模型等软硬组件,能通过大规模数据训练掌握数据处理和预测等能力。gAg即热新闻——关注每天科技社会生活新变化gihot.com

与通过应用程序编程接口使用大模型功能相比,企业利用训推一体机实现大模型部署具有多方面优势。首先,训推一体机可以针对企业的特定业务需求提供“开箱即用”的定制化大模型解决方案,并通过软硬件协同优化提高性能,降低大模型部署、业务方案建设和调适的门槛。例如,佳都科技基于华为“昇腾AI”基础软硬件平台推出了“佳都知行交通行业大模型训推一体机”,可面向轨道交通、城市交通、城市安全等智慧城市重点建设领域,提供智能化、高效实时的解决方案和决策支持。gAg即热新闻——关注每天科技社会生活新变化gihot.com

其次,由于训推一体机将所有计算资源集中到一台设备上,在大规模数据训练中可大幅减少数据传输时间,提高计算速度和模型训练效率,使企业能够更快捷地使用和管理资源。gAg即热新闻——关注每天科技社会生活新变化gihot.com

此外,本地化部署的训推一体机能最大程度保障数据隐私和模型安全可控,满足企业对数据安全监管的需求。英国《金融时报》日前报道说,在企业内部署的大模型训推一体机产品正在对一些大型科技企业提供的基于公共云的人工智能服务形成冲击。gAg即热新闻——关注每天科技社会生活新变化gihot.com

该报道说,近期曝出的人工智能企业安全漏洞加剧了用户对数据安全的担忧。例如,ChatGPT将用户的搜索历史分享给他人,以及韩国三星的员工在使用ChatGPT处理工作时无意间泄露了公司的商业机密等。报道援引中国科大讯飞董事长刘庆峰的话说,机构需要能够保护他们的数据,而建立私有云是防止有价值数据泄露的方法。gAg即热新闻——关注每天科技社会生活新变化gihot.com

但也有观点认为,训推一体机的性能会受到硬件技术限制,这提高了技术持有和更新的成本。《金融时报》的报道援引半导体行业研究机构SemiAnalysis的首席分析师迪伦·帕特尔的话说,相比于公共云服务或使用应用程序编程接口接入大模型,训推一体机的效率更低下。该模式对人工智能大模型的使用非常零散,这意味着企业持有的昂贵人工智能硬件没有得到充分利用。gAg即热新闻——关注每天科技社会生活新变化gihot.com

许多企业在衡量利弊后选择了训推一体机,这正在成为中国算力行业的趋势之一。2023年7月,华为联合多家伙伴共同发布“昇腾AI”大模型训推一体化解决方案,加速大模型在各个行业落地应用。目前,科大讯飞等多家中国科技企业都发布了基于华为“昇腾AI”基础软硬件平台的训推一体机产品。gAg即热新闻——关注每天科技社会生活新变化gihot.com

华为董事、ICT(信息与通信技术)产品与解决方案总裁杨超斌在今年3月举行的华为中国合作伙伴大会上表示,2024年中国区人工智能训推一体机市场规模有望达到168亿元人民币。gAg即热新闻——关注每天科技社会生活新变化gihot.com

自美国开放人工智能研究中心(OpenAI)发布聊天机器人程序ChatGPT及其背后的GPT系列大语言模型以来,人工智能大模型热潮持续蔓延,全球科技企业竞相宣布研发或推出自己的大模型,数量迅速增长的大模型如何实现商业化落地成为行业关注焦点。gAg即热新闻——关注每天科技社会生活新变化gihot.com

除了OpenAI、谷歌等公司采取的提供云端大模型应用程序编程接口(API)的商业模式之外,另一条备受关注的商业化路径是销售“软硬件结合”的大模型训推一体机。这种商业模式在中国市场上热度较高,特别是多家中小型科技企业都推出了大模型训推一体机产品。这类“开箱即用”的人工智能产品可以在企业内进行本地化部署,使最新人工智能技术能够方便地在工业场景中落地应用,实现从人工智能技术到生产力的转化,加速人工智能与产业深度融合。gAg即热新闻——关注每天科技社会生活新变化gihot.com

大模型训推一体机一般指集成了大模型训练和推理功能的“全栈式”人工智能设备,通常包含中央处理器(CPU)、图形处理器(GPU)、存储器、操作系统、深度学习模型等软硬组件,能通过大规模数据训练掌握数据处理和预测等能力。gAg即热新闻——关注每天科技社会生活新变化gihot.com

与通过应用程序编程接口使用大模型功能相比,企业利用训推一体机实现大模型部署具有多方面优势。首先,训推一体机可以针对企业的特定业务需求提供“开箱即用”的定制化大模型解决方案,并通过软硬件协同优化提高性能,降低大模型部署、业务方案建设和调适的门槛。例如,佳都科技基于华为“昇腾AI”基础软硬件平台推出了“佳都知行交通行业大模型训推一体机”,可面向轨道交通、城市交通、城市安全等智慧城市重点建设领域,提供智能化、高效实时的解决方案和决策支持。gAg即热新闻——关注每天科技社会生活新变化gihot.com

其次,由于训推一体机将所有计算资源集中到一台设备上,在大规模数据训练中可大幅减少数据传输时间,提高计算速度和模型训练效率,使企业能够更快捷地使用和管理资源。gAg即热新闻——关注每天科技社会生活新变化gihot.com

此外,本地化部署的训推一体机能最大程度保障数据隐私和模型安全可控,满足企业对数据安全监管的需求。英国《金融时报》日前报道说,在企业内部署的大模型训推一体机产品正在对一些大型科技企业提供的基于公共云的人工智能服务形成冲击。gAg即热新闻——关注每天科技社会生活新变化gihot.com

该报道说,近期曝出的人工智能企业安全漏洞加剧了用户对数据安全的担忧。例如,ChatGPT将用户的搜索历史分享给他人,以及韩国三星的员工在使用ChatGPT处理工作时无意间泄露了公司的商业机密等。报道援引中国科大讯飞董事长刘庆峰的话说,机构需要能够保护他们的数据,而建立私有云是防止有价值数据泄露的方法。gAg即热新闻——关注每天科技社会生活新变化gihot.com

但也有观点认为,训推一体机的性能会受到硬件技术限制,这提高了技术持有和更新的成本。《金融时报》的报道援引半导体行业研究机构SemiAnalysis的首席分析师迪伦·帕特尔的话说,相比于公共云服务或使用应用程序编程接口接入大模型,训推一体机的效率更低下。该模式对人工智能大模型的使用非常零散,这意味着企业持有的昂贵人工智能硬件没有得到充分利用。gAg即热新闻——关注每天科技社会生活新变化gihot.com

许多企业在衡量利弊后选择了训推一体机,这正在成为中国算力行业的趋势之一。2023年7月,华为联合多家伙伴共同发布“昇腾AI”大模型训推一体化解决方案,加速大模型在各个行业落地应用。目前,科大讯飞等多家中国科技企业都发布了基于华为“昇腾AI”基础软硬件平台的训推一体机产品。gAg即热新闻——关注每天科技社会生活新变化gihot.com

华为董事、ICT(信息与通信技术)产品与解决方案总裁杨超斌在今年3月举行的华为中国合作伙伴大会上表示,2024年中国区人工智能训推一体机市场规模有望达到168亿元人民币。gAg即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-5168-0.html大模型训推一体机:“开箱即用”的人工智能

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:充分激发释放科技人才红利

下一篇:科技“原始创新”为新质生产力发展蓄势赋能

为你推荐
安全,快捷,高效套现,请找靠谱提在线客服24小时在线为您服务【V杏2561663326电15580821310】 微信分付提现,为您的财富增长提供全方位的支持 —— 我们通过专业的服务...
08-07
回访:白条提现一手商家,获取渠道的方法是什么在这个科技飞速发展和金融创新层出不穷的时代,京东白条作为一种便捷的消费信贷工具,已经深入到了许多人的日常生活中。然而,近期越...
08-06
厦门风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-07
重庆北碚区套VISA信用卡分付白条花呗微电:166 2467-0662 全天在线欢迎来电,还有分付,分期乐,苹果专享额度都可以办理!京东白条是一款可以“先消费后还款”的信用支付方式,开通后,用...
08-05
  王宝强因票房分成陷纠纷,票房超22亿的《八角笼中》到底是如何分成的  据成都恩波格斗俱乐部微博,此前双方协商,约定影片票房9亿之内俱乐部不参与分账,超过9亿的票房给予俱...
11-27
现在网络鱼龙混杂,请认准靠谱八年商家,金牌小帮手——小创(137-1300-6106可v可来电)(全年365天不掉线) 【得物佳物分期购可以提现吗】【得物的分期购额度怎么套出来...
08-16
在2024北京车展开幕前,我们的前方报道团队在展馆拍摄到了雪佛兰探界者Plus海报图。根据此前消息来看,新车将会在4月25日开幕的北京车展上首发亮相。根据此前信息来看,...
04-22
  西塞山前,静水流深、白鹭翔鸣,与您相约一场用创新点亮乡村振兴的双向奔赴;彩云之南,水墨梯田、云海村寨,和您开启一次守护与传承的融合之旅。《山水间的家》第三季第二期...
09-10
一键解锁:总算发现微信分付支持哪些商家-秒到6种绝对技巧相信这是大家最关心的问题,因为去线下扫码就没有发现支持分付使用的商家,其实是因为大部分商户都使用的是个体户的收...
08-28
在夏季,出现中暑的现象是比较普遍的,这主要是因为在高温环境下,人体的散热比不上吸热,人体的调节功能出现了紊乱所导致的。中暑是非常糟糕的,一定要自己做好相应的预防工作才行,那...
04-02
佛山风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-14
重庆风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-11
大连风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-27
东莞风控花呗白条套取秒到账:【181 181 43671微信同号】万事达 、境外卡、微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已...
08-24
随着网络的日趋成熟和发达,网络支付已经成为人们日常生活中的首选支付方式,因此有很多相关的程序,给人们带来了极大的便利,比如支付宝花。但也有其优点和缺点,随着支出的增加,再加...
07-29
遂宁当面套VISA信用卡花呗白条当面靠谱商家微【132 4477 7808】,电话同号,帖子打不开直接联系,可远程可当面。不放心可分多次小额操作,操作一次结算一次,慢慢来。另外支持京东白...
07-26
上周是“超级央行周”,发达经济体中,瑞士央行意外降息,美联储和英国央行继续“按兵不动”的同时,释放“鸽派信号”,提振市场风险偏好,美国三大股指上周集体上涨。道指涨1.97%,标普5...
03-25
  “台湾从来不是一个国家,过去不是,今后更不是!”  这是中国外交部长王毅1月14日在开罗举行的新闻发...
01-16
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮