北京AI破壁之路 端侧小模型跑出大能量

1年前 来源:北京日报 观看:129

mwx即热新闻——关注每天科技社会生活新变化gihot.com

在清华科技园科建大厦3楼,面壁智能联合创始人、CEO李大海的办公室中央挂着一幅大型拼图,一艘船在风雨中劈波斩浪。mwx即热新闻——关注每天科技社会生活新变化gihot.com

今年已是李大海来到中关村的第23年。mwx即热新闻——关注每天科技社会生活新变化gihot.com

2006年,从北京大学数学系毕业后,李大海加入谷歌中国,成为创始员工之一。后来他又参与了云云网、豌豆荚、知乎的创业。2023年,一场大模型掀起的技术风暴席卷而来,时任知乎CTO的李大海决定投身其中。当年4月,在李大海的推动下,知乎完成了对面壁智能的独家天使轮投资。mwx即热新闻——关注每天科技社会生活新变化gihot.com

李大海看好面壁智能,是因为其创始人、青年科学家刘知远是国内首批开展大模型研究的研究者之一。2020年12月,刘知远团队发布了全球第一个中文开源大模型“CPM”,这一项目也是后来中国奠基性大模型“悟道”的前身。两年后,刘知远发起成立面壁智能。mwx即热新闻——关注每天科技社会生活新变化gihot.com

投资一家优秀的大模型企业,对李大海来说绝非终点。大模型掀起的汹涌浪潮让他兴奋得难以入睡。“这是一场堪比蒸汽机改变世界的大变革!”一次次在深夜爬起来看代码、追踪大模型前沿进展的李大海,决定从大厂高管转身,再次创业。2023年6月,李大海出任面壁智能CEO。mwx即热新闻——关注每天科技社会生活新变化gihot.com

彼时,大模型领域激战正酣,一场前所未有的“百模大战”正在上演。与此同时,随着大模型迅猛发展,作为大模型“燃料”的算力告急,行业内出现GPU“一卡难求”“排队预定”的局面。如何才能从白热化的竞争中杀出重围?mwx即热新闻——关注每天科技社会生活新变化gihot.com

高效——是李大海与团队给出的答案。“与其盲目地把模型做大,不如花更多精力让模型变好,以同样的模型参数量实现更高的智能与知识密度。”基于对大模型本质规律的观察,他们提出了大模型的密度定律(DensingLaw):大模型知识密度每3.3个月翻一番,大模型将变得越来越“小”,同时能力越来越强。mwx即热新闻——关注每天科技社会生活新变化gihot.com

基于这一理念,团队选择避开同质化严重的对话式AI聊天机器人,将视野转向了一个在当时看来不算热门的方向——端侧大模型。李大海认为,人们的生活早已离不开手机、平板、汽车等各种各样的硬件终端设备,而在不久的将来,这些智能终端都将拥有具备自主思考能力的“超级大脑”。mwx即热新闻——关注每天科技社会生活新变化gihot.com

“我们要让小模型跑出大能量,让本地模型能力满足日常绝大多数的智能需求。”李大海坚信,相比于时下最火热的跑在“云”上,并且需要大量算力的千亿级超大模型,在“断网、弱网”环境下,仍然能让各种智能终端具备自主思考能力的端侧大模型,将成为面壁独特的竞争力。mwx即热新闻——关注每天科技社会生活新变化gihot.com

用更小的参数、更高的效率、更低的成本,实现更好的智能——达到这个目标,并不容易。“模型能力日新月异,但模型效率的领先如同芯片制程一般,须形成比较硬的相对优势。我们要攻克的,就好比大模型行业的‘光刻机’。”李大海说。mwx即热新闻——关注每天科技社会生活新变化gihot.com

拿算法来说,过去,由于模型训练过程中充满不确定性,传统的大模型训练被业界戏称为“炼丹”。而面壁研发团队通过上千次模型沙盒实验,在算法的各种细节上摸索出了一系列最优配置,大幅优化了模型效果。mwx即热新闻——关注每天科技社会生活新变化gihot.com

为了打磨大模型“光刻机”,从高质量的数据原材料,到模型训练与调校,一个个环环相扣的细节,研发人员都细细打磨。2024年初,面壁推出了端侧大模型MiniCPM,用仅仅24亿参数实现了超过百亿参数大模型的性能。mwx即热新闻——关注每天科技社会生活新变化gihot.com

“超级大脑”仍在不断进化。今年1月,面壁智能发布MiniCPM-o2,这也是全球首个达到OpenAI公司GPT-4o水平的端侧多模态大模型。这款仅有80亿参数量的模型,能够实时流式处理文本、图像、音频和视频信息,“视、听、说”都很伶俐。mwx即热新闻——关注每天科技社会生活新变化gihot.com

在今年中关村论坛年会期间,面壁又发布了一项领先业界的成果——首个纯端侧超级智能助手,可应用于汽车智能座舱。在端侧大模型的支撑下,即便车辆没有网络,超级智能助手也能随时“在线”,实现从车外到车内的各种感知并执行任务。mwx即热新闻——关注每天科技社会生活新变化gihot.com

由于在安全性、实时性等方面的巨大优势,面壁的端侧模型一经推出就很快获得了法律、消费电子等行业用户的认可。就在上月,面壁与合作伙伴发布了首个纯端侧大模型量产车型。mwx即热新闻——关注每天科技社会生活新变化gihot.com

“2026年,装上面壁端侧模型的设备数将达2025年的10倍。”放眼未来,李大海的眼中是更广阔的星辰大海——未来全球将有400亿的设备终端,它们都有望装上一个个“超级大脑”。mwx即热新闻——关注每天科技社会生活新变化gihot.com

独角兽“秘笈”mwx即热新闻——关注每天科技社会生活新变化gihot.com

冷静取舍 以小博大mwx即热新闻——关注每天科技社会生活新变化gihot.com

智谱、月之暗面、百川智能、零一万物、面壁智能……在今年年初第三方机构公布的国内大模型独角兽排行榜中,多家北京企业赫然在列,显示出创新资源高度集聚的效应。mwx即热新闻——关注每天科技社会生活新变化gihot.com

在被人们称为“宇宙中心”的五道口一带,办公租金并不便宜,李大海坦言,背靠五道口周边极强的人才优势,是成立仅三年的面壁得以迅猛发展的重要原因。mwx即热新闻——关注每天科技社会生活新变化gihot.com

身处北京,依靠全国领先的AI人才资源和“AI第一城”的创新生态,与行业巨头凭借巨额资金和海量算力投入“大力出奇迹”的发展路径不同,以面壁为代表的北京人工智能初创企业,向世界展现出高效创新、“以小博大”的创新范式。mwx即热新闻——关注每天科技社会生活新变化gihot.com

“对创业公司来说,‘不做什么’和‘做什么’都很重要,‘不做什么’甚至更重要。”李大海说。面对巨大机遇,创业公司需要注意的是“专注一个点做透”,并在此过程中不断辨别哪些是应勇于“取”的机遇,哪些是要勇于“舍”的诱惑。在“大炼模型”的风潮下,面壁就曾先后做出不做AI聊天机器人、放弃大模型基础设施等重要决策,专注打磨端侧模型,提升模型效率与知识密度,“以小博大”。mwx即热新闻——关注每天科技社会生活新变化gihot.com

蛇年春节,DeepSeek旋风席卷全球。以低成本实现高性能,正是DeepSeek一鸣惊人之处。《麻省理工科技评论》随后刊发了一篇题为《关注DeepSeek之外的四家中国人工智能初创公司》的报道,点赞中国“四剑客”,其中就有面壁智能。mwx即热新闻——关注每天科技社会生活新变化gihot.com

勇于面壁,方能破壁——Deep-Seek和面壁智能,都在用实际行动印证着一个道理,不盲目跟风,勇于探索新路径,即便在有限的资源环境下也能激发、倒逼出无限的创新潜力。mwx即热新闻——关注每天科技社会生活新变化gihot.com

mwx即热新闻——关注每天科技社会生活新变化gihot.com

在清华科技园科建大厦3楼,面壁智能联合创始人、CEO李大海的办公室中央挂着一幅大型拼图,一艘船在风雨中劈波斩浪。mwx即热新闻——关注每天科技社会生活新变化gihot.com

今年已是李大海来到中关村的第23年。mwx即热新闻——关注每天科技社会生活新变化gihot.com

2006年,从北京大学数学系毕业后,李大海加入谷歌中国,成为创始员工之一。后来他又参与了云云网、豌豆荚、知乎的创业。2023年,一场大模型掀起的技术风暴席卷而来,时任知乎CTO的李大海决定投身其中。当年4月,在李大海的推动下,知乎完成了对面壁智能的独家天使轮投资。mwx即热新闻——关注每天科技社会生活新变化gihot.com

李大海看好面壁智能,是因为其创始人、青年科学家刘知远是国内首批开展大模型研究的研究者之一。2020年12月,刘知远团队发布了全球第一个中文开源大模型“CPM”,这一项目也是后来中国奠基性大模型“悟道”的前身。两年后,刘知远发起成立面壁智能。mwx即热新闻——关注每天科技社会生活新变化gihot.com

投资一家优秀的大模型企业,对李大海来说绝非终点。大模型掀起的汹涌浪潮让他兴奋得难以入睡。“这是一场堪比蒸汽机改变世界的大变革!”一次次在深夜爬起来看代码、追踪大模型前沿进展的李大海,决定从大厂高管转身,再次创业。2023年6月,李大海出任面壁智能CEO。mwx即热新闻——关注每天科技社会生活新变化gihot.com

彼时,大模型领域激战正酣,一场前所未有的“百模大战”正在上演。与此同时,随着大模型迅猛发展,作为大模型“燃料”的算力告急,行业内出现GPU“一卡难求”“排队预定”的局面。如何才能从白热化的竞争中杀出重围?mwx即热新闻——关注每天科技社会生活新变化gihot.com

高效——是李大海与团队给出的答案。“与其盲目地把模型做大,不如花更多精力让模型变好,以同样的模型参数量实现更高的智能与知识密度。”基于对大模型本质规律的观察,他们提出了大模型的密度定律(DensingLaw):大模型知识密度每3.3个月翻一番,大模型将变得越来越“小”,同时能力越来越强。mwx即热新闻——关注每天科技社会生活新变化gihot.com

基于这一理念,团队选择避开同质化严重的对话式AI聊天机器人,将视野转向了一个在当时看来不算热门的方向——端侧大模型。李大海认为,人们的生活早已离不开手机、平板、汽车等各种各样的硬件终端设备,而在不久的将来,这些智能终端都将拥有具备自主思考能力的“超级大脑”。mwx即热新闻——关注每天科技社会生活新变化gihot.com

“我们要让小模型跑出大能量,让本地模型能力满足日常绝大多数的智能需求。”李大海坚信,相比于时下最火热的跑在“云”上,并且需要大量算力的千亿级超大模型,在“断网、弱网”环境下,仍然能让各种智能终端具备自主思考能力的端侧大模型,将成为面壁独特的竞争力。mwx即热新闻——关注每天科技社会生活新变化gihot.com

用更小的参数、更高的效率、更低的成本,实现更好的智能——达到这个目标,并不容易。“模型能力日新月异,但模型效率的领先如同芯片制程一般,须形成比较硬的相对优势。我们要攻克的,就好比大模型行业的‘光刻机’。”李大海说。mwx即热新闻——关注每天科技社会生活新变化gihot.com

拿算法来说,过去,由于模型训练过程中充满不确定性,传统的大模型训练被业界戏称为“炼丹”。而面壁研发团队通过上千次模型沙盒实验,在算法的各种细节上摸索出了一系列最优配置,大幅优化了模型效果。mwx即热新闻——关注每天科技社会生活新变化gihot.com

为了打磨大模型“光刻机”,从高质量的数据原材料,到模型训练与调校,一个个环环相扣的细节,研发人员都细细打磨。2024年初,面壁推出了端侧大模型MiniCPM,用仅仅24亿参数实现了超过百亿参数大模型的性能。mwx即热新闻——关注每天科技社会生活新变化gihot.com

“超级大脑”仍在不断进化。今年1月,面壁智能发布MiniCPM-o2,这也是全球首个达到OpenAI公司GPT-4o水平的端侧多模态大模型。这款仅有80亿参数量的模型,能够实时流式处理文本、图像、音频和视频信息,“视、听、说”都很伶俐。mwx即热新闻——关注每天科技社会生活新变化gihot.com

在今年中关村论坛年会期间,面壁又发布了一项领先业界的成果——首个纯端侧超级智能助手,可应用于汽车智能座舱。在端侧大模型的支撑下,即便车辆没有网络,超级智能助手也能随时“在线”,实现从车外到车内的各种感知并执行任务。mwx即热新闻——关注每天科技社会生活新变化gihot.com

由于在安全性、实时性等方面的巨大优势,面壁的端侧模型一经推出就很快获得了法律、消费电子等行业用户的认可。就在上月,面壁与合作伙伴发布了首个纯端侧大模型量产车型。mwx即热新闻——关注每天科技社会生活新变化gihot.com

“2026年,装上面壁端侧模型的设备数将达2025年的10倍。”放眼未来,李大海的眼中是更广阔的星辰大海——未来全球将有400亿的设备终端,它们都有望装上一个个“超级大脑”。mwx即热新闻——关注每天科技社会生活新变化gihot.com

独角兽“秘笈”mwx即热新闻——关注每天科技社会生活新变化gihot.com

冷静取舍 以小博大mwx即热新闻——关注每天科技社会生活新变化gihot.com

智谱、月之暗面、百川智能、零一万物、面壁智能……在今年年初第三方机构公布的国内大模型独角兽排行榜中,多家北京企业赫然在列,显示出创新资源高度集聚的效应。mwx即热新闻——关注每天科技社会生活新变化gihot.com

在被人们称为“宇宙中心”的五道口一带,办公租金并不便宜,李大海坦言,背靠五道口周边极强的人才优势,是成立仅三年的面壁得以迅猛发展的重要原因。mwx即热新闻——关注每天科技社会生活新变化gihot.com

身处北京,依靠全国领先的AI人才资源和“AI第一城”的创新生态,与行业巨头凭借巨额资金和海量算力投入“大力出奇迹”的发展路径不同,以面壁为代表的北京人工智能初创企业,向世界展现出高效创新、“以小博大”的创新范式。mwx即热新闻——关注每天科技社会生活新变化gihot.com

“对创业公司来说,‘不做什么’和‘做什么’都很重要,‘不做什么’甚至更重要。”李大海说。面对巨大机遇,创业公司需要注意的是“专注一个点做透”,并在此过程中不断辨别哪些是应勇于“取”的机遇,哪些是要勇于“舍”的诱惑。在“大炼模型”的风潮下,面壁就曾先后做出不做AI聊天机器人、放弃大模型基础设施等重要决策,专注打磨端侧模型,提升模型效率与知识密度,“以小博大”。mwx即热新闻——关注每天科技社会生活新变化gihot.com

蛇年春节,DeepSeek旋风席卷全球。以低成本实现高性能,正是DeepSeek一鸣惊人之处。《麻省理工科技评论》随后刊发了一篇题为《关注DeepSeek之外的四家中国人工智能初创公司》的报道,点赞中国“四剑客”,其中就有面壁智能。mwx即热新闻——关注每天科技社会生活新变化gihot.com

勇于面壁,方能破壁——Deep-Seek和面壁智能,都在用实际行动印证着一个道理,不盲目跟风,勇于探索新路径,即便在有限的资源环境下也能激发、倒逼出无限的创新潜力。mwx即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-2594-0.html北京AI破壁之路 端侧小模型跑出大能量

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:北京市推动人工智能赋能新型工业化

下一篇:借助高科技 “慧眼”识文物

为你推荐
  科技日报讯(记者 崔爽)记者8月30日从国家区块链技术创新中心获悉,我国首个区块链专用计算硬件...
01-21
技术进步是降低人工智能应用门槛的关键。这有待加大科研投入,强化自主研发能力,在智能芯片、操作系统等关键领域取得更多突破。夯实算力、算法、数据...
01-27
  记者从交投集团高速运营公司了解到截至1月27日9:20受降雪天气影响辽宁省内204个收费站入口双向关闭...
01-28
  央广网昆明2月5日消息(记者魏文青)今年是农历乙巳蛇年。蛇在中国传统文化中被赋予神秘、智慧...
02-08
▲超市购物。图/IC photo据报道,春节将至,有市民在采购年货时留意到,市面上那些内含独立小包装的食品,不少独立包装上没有标注生产日期或保质期等信息,其中有的会注明“单片/单个...
01-21
  中新经纬1月16日电 商务部流通发展司司长李佳路表示,手机等3类数码产品的补贴为购新补贴,不是以旧换新,不以“交旧”为前提。  16日,商务部召开手机等数码产品购新补贴组...
01-21
[本站 资讯] 1月10日,我们从别克官方了解到,即日起,消费者购买别克E5将获赠“新春来电套件”:包括赠送蓝牙实体钥匙与声控尾门。此外,在2025年1月1日-1月31日(含)期间,购买别...
01-21
1 月 24 日消息,本月 10 号,备受关注的特斯拉焕新 Model Y 正式开启预售。相比旧版本涨价 1.26~1.36 万元,预计 3 月开始交付,其中:后轮驱动首发版(593km 标准续航)26.35 ...
01-25
SQL Error: select * from ***_ecms_news5 where id in(282,) limit 2
  不少人都有“每逢佳节胖三斤”的经历。传统佳节将至,亲友聚会增多,外出餐饮频繁,如何在过好节...
01-21
  记者昨日从国家医保局获悉,国家医保服务平台APP“医保药品耗材追溯信息查询”功能于近日正式上线,购药者通过扫描药盒上的药品追溯码,即可获取详细的药品销售信息,了...
02-11
  探访教育部定点帮扶河北青龙乡村振兴现场  河北科技师范学院教授张京政向青龙县五道沟村...
01-21
  大众网记者 杨涛报道  12月10日,山东港口第二届青年志愿服务项目大赛决赛在潍坊市渤海湾航运举行,青岛港湾职业技术学院“德传巷陌 艺润万家”文化惠民志愿服务项目...
01-21
  截至目前,已有51家信托公司通过银行间市场或上市平台披露了2024年未经审计的财务数据。  ...
01-22
  储蓄存款全员营销、对公拓户攻坚活动、旺季贵金属销售任务……每次看到行里的营销方案与考...
01-24
在恋爱中,有时候我们会发现水瓶男并不像其他星座的男生那样主动联系。这让很多女生感到...
01-22
射手座的男生喜欢自由和冒险,他们热爱探索未知的领域,追求刺激和新鲜感。如果你想增进与...
01-22
古代女性肚兜穿搭? 男生腿短怎么穿搭英伦风?一、古代女性肚兜穿搭?在古代,女性出门时一般会穿上肚兜,以保暖和保护隐私。根据不同地域、年代和社会阶层的不同,肚兜的样式也会有差...
02-12
揭晓那些令人惊艳的女明星,她们的魅力如何征服了观众说到女明星,很多人心中都会浮现出那些荧幕上的闪耀瞬间。她们不仅有着令人羡慕的外貌,更是集智慧与才华于一身。今天,我想和...
02-12
会员数两年增长十倍。1、1688 PLUS会员数已突破千万没想到,阿里1688会这么猛。根据阿里巴巴1688最新的数据,截至2024年12月底,1688PLUS付费会员数量已突破1000万大关。值得注意...
02-07
2月19日消息,阿里云墨西哥数据中心今日正式启用,这是阿里云在拉美区域的第一座数据中心,为中国出海企业及当地客户提供产品及服务。阿里云墨西哥数据中心首批上线的产品涵盖弹...
02-20
再创新高!据2025年综合运输春运工作专班数据显示,今年春节假期8天(1月28日至2月4日),全社会跨区域人员流动量超23亿人次。全社会跨区域...
02-11
2月13日消息,据Tech星球消息,饿了么将推出一项名为“筷马送水”的服务,用于桶装水、包装饮用水的配送,可能还会以加盟的方式邀请本地水站入驻,享受饿了么平台的流量扶持。该服务...
02-14
由爱奇艺出品,新力量文化、新影方舟、老有影视联合出品,新力量文化承制,爱奇艺奇正工作室打造,惠楷栋执导,解嬿嬿编剧,谭卓、高叶、刘奕君领衔主演,林雨申特邀领衔出演,扈耀之、田小...
01-21
从学生成长需求出发,用专业研发与科学配比为学生群体提供全方位护航的食用植物油方案——自2024年8月上市以来,中粮福临门学生营养餐专用食用植物调和油在学生油市场中反响热...
01-21
Game Discover Co发布了2025年1月Steam十大最赚钱的新发售游戏,1月17日发售的《真三国无双:起源》凭借2140万美元收入霸气登顶相当于1.55亿元,《最终幻想7:重生》...
02-04
今日(2月14日),开放世界游戏《无限暖暖》Steam页面上线,发售日待定,游戏支持简繁体中文,感兴趣的玩家可以点击此处进入商店页面。 游戏介绍: 《无限暖暖》是由叠纸...
02-15
新华社布宜诺斯艾利斯2月5日电(记者张铎)阿根廷政府5日宣布,阿总统米莱已决定该国退出世界卫生组织。阿根廷总统府发言人阿多尔尼当天在新闻发布会上说,阿根廷不允许任何国际组...
02-06
记者从国铁集团了解到,2月6日,全国铁路发送旅客1514万人次;自1月14日春运启动至2月6日,已累计发送旅客3.1亿人次。今天(2月7日),全国铁路预计发送旅客1410万人次,计划加开列车1469列...
02-07
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮