商汤科技大装置万象获得中国信通院“大模型推理平台”最高评级认证

10个月前来源：观看：77

近日，中国信息通信研究院（以下简称“中国信通院”）完成可信AI《大模型推理平台通用能力成熟度》首轮评估。

商汤大装置万象大模型开发平台，获得当前最高评级——4+级，并成为国内首家获得最高评级的大模型推理平台。

中国信通院依托人工智能关键技术和应用评测工业和信息化部重点实验室、中国人工智能产业发展联盟AI Infra工作组，联合七十余家单位共同编制了《大模型推理平台技术要求》标准，并依托该标准开展可信AI大模型推理平台首批评估，是国内最具影响力和权威的大模型推理平台评估之一。

该评估聚焦大模型推理平台的功能、性能、稳定性，关注部署、推理、服务与管理环节，以实现低时延、高吞吐、可扩展、高易用、低成本目标。本次共评估88个能力项，其中基本功能34项，高级功能54项。

结果显示，商汤大装置的万象大模型开发平台在模型的部署、推理、服务环节均表现优异，可为开发者提供高性价比、灵活易用的服务，配备前沿模型、算法、推理引擎、知识库等套件，助力开发者快速构建行业模型及应用编排。

商汤大装置万象大模型开发平台提供从大模型开发到应用构建的全链条开发工具，为企业大模型落地提供一站式高效服务。万象可兼容GPU、NPU等异构推理加速卡；其内置自研高效推理引擎，降低推理成本50%以上；同时，具备完整的安全机制，为企业大模型落地提供安全保障。

目前，商汤大装置万象大模型开发平台已在交通、消费、政务、自动驾驶、智能家居、医疗等多个行业多种业务场景中落地。

交通领域，基于万象，我们为某客户构建了工程勘察设计领域智能平台，可实现知识检索、智能问答、报告辅助生成等功能，有效解决了客户在知识传承困难、融合性差和应用程度低等方面的痛点。

消费领域，某企业希望为员工配备AI助理，改变依赖查阅文档获取知识的低效方式。通过万象平台的调用大模型、检索增强生成（RAG）技术、文档插件及工程化优化，提升了知识获取效率。

政务领域，某政府机构计划打造小型AI创新平台，基于万象模型开发平台及其配套的模型优化、API调用、部署和监控服务，大大简化了复杂的部署工程，实现了企业开箱即用。

日前，国际数据公司（IDC）发布《中国模型即服务(MaaS)及AI大模型解决方案市场追踪（2024H2）》，报告显示，商汤大装置万象平台凭借13%的市场份额稳居国内AI大模型解决方案市场第二位，再次领跑行业第一梯队。未来，商汤大装置将继续依托AI原生技术栈和行业级解决方案，结合专家服务体系，持续致力企业突破大模型落地“最后一公里”，驱动企业智能化转型与创新增长。（咸宁新闻网）

点击展开全文

本文链接：http://www.gihot.com/news-1-50958-0.html商汤科技大装置万象获得中国信通院“大模型推理平台”最高评级认证

声明：本网页内容旨在传播知识，不代表本站观点，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。

上一篇：王品牛排联袂米其林星厨推出法式奢享双人套餐

下一篇：38°高温下，他们的护童热情丝毫不减