北京AI破壁之路 端侧小模型跑出大能量

1年前 来源:北京日报 观看:134

hzU即热新闻——关注每天科技社会生活新变化gihot.com

在清华科技园科建大厦3楼,面壁智能联合创始人、CEO李大海的办公室中央挂着一幅大型拼图,一艘船在风雨中劈波斩浪。hzU即热新闻——关注每天科技社会生活新变化gihot.com

今年已是李大海来到中关村的第23年。hzU即热新闻——关注每天科技社会生活新变化gihot.com

2006年,从北京大学数学系毕业后,李大海加入谷歌中国,成为创始员工之一。后来他又参与了云云网、豌豆荚、知乎的创业。2023年,一场大模型掀起的技术风暴席卷而来,时任知乎CTO的李大海决定投身其中。当年4月,在李大海的推动下,知乎完成了对面壁智能的独家天使轮投资。hzU即热新闻——关注每天科技社会生活新变化gihot.com

李大海看好面壁智能,是因为其创始人、青年科学家刘知远是国内首批开展大模型研究的研究者之一。2020年12月,刘知远团队发布了全球第一个中文开源大模型“CPM”,这一项目也是后来中国奠基性大模型“悟道”的前身。两年后,刘知远发起成立面壁智能。hzU即热新闻——关注每天科技社会生活新变化gihot.com

投资一家优秀的大模型企业,对李大海来说绝非终点。大模型掀起的汹涌浪潮让他兴奋得难以入睡。“这是一场堪比蒸汽机改变世界的大变革!”一次次在深夜爬起来看代码、追踪大模型前沿进展的李大海,决定从大厂高管转身,再次创业。2023年6月,李大海出任面壁智能CEO。hzU即热新闻——关注每天科技社会生活新变化gihot.com

彼时,大模型领域激战正酣,一场前所未有的“百模大战”正在上演。与此同时,随着大模型迅猛发展,作为大模型“燃料”的算力告急,行业内出现GPU“一卡难求”“排队预定”的局面。如何才能从白热化的竞争中杀出重围?hzU即热新闻——关注每天科技社会生活新变化gihot.com

高效——是李大海与团队给出的答案。“与其盲目地把模型做大,不如花更多精力让模型变好,以同样的模型参数量实现更高的智能与知识密度。”基于对大模型本质规律的观察,他们提出了大模型的密度定律(DensingLaw):大模型知识密度每3.3个月翻一番,大模型将变得越来越“小”,同时能力越来越强。hzU即热新闻——关注每天科技社会生活新变化gihot.com

基于这一理念,团队选择避开同质化严重的对话式AI聊天机器人,将视野转向了一个在当时看来不算热门的方向——端侧大模型。李大海认为,人们的生活早已离不开手机、平板、汽车等各种各样的硬件终端设备,而在不久的将来,这些智能终端都将拥有具备自主思考能力的“超级大脑”。hzU即热新闻——关注每天科技社会生活新变化gihot.com

“我们要让小模型跑出大能量,让本地模型能力满足日常绝大多数的智能需求。”李大海坚信,相比于时下最火热的跑在“云”上,并且需要大量算力的千亿级超大模型,在“断网、弱网”环境下,仍然能让各种智能终端具备自主思考能力的端侧大模型,将成为面壁独特的竞争力。hzU即热新闻——关注每天科技社会生活新变化gihot.com

用更小的参数、更高的效率、更低的成本,实现更好的智能——达到这个目标,并不容易。“模型能力日新月异,但模型效率的领先如同芯片制程一般,须形成比较硬的相对优势。我们要攻克的,就好比大模型行业的‘光刻机’。”李大海说。hzU即热新闻——关注每天科技社会生活新变化gihot.com

拿算法来说,过去,由于模型训练过程中充满不确定性,传统的大模型训练被业界戏称为“炼丹”。而面壁研发团队通过上千次模型沙盒实验,在算法的各种细节上摸索出了一系列最优配置,大幅优化了模型效果。hzU即热新闻——关注每天科技社会生活新变化gihot.com

为了打磨大模型“光刻机”,从高质量的数据原材料,到模型训练与调校,一个个环环相扣的细节,研发人员都细细打磨。2024年初,面壁推出了端侧大模型MiniCPM,用仅仅24亿参数实现了超过百亿参数大模型的性能。hzU即热新闻——关注每天科技社会生活新变化gihot.com

“超级大脑”仍在不断进化。今年1月,面壁智能发布MiniCPM-o2,这也是全球首个达到OpenAI公司GPT-4o水平的端侧多模态大模型。这款仅有80亿参数量的模型,能够实时流式处理文本、图像、音频和视频信息,“视、听、说”都很伶俐。hzU即热新闻——关注每天科技社会生活新变化gihot.com

在今年中关村论坛年会期间,面壁又发布了一项领先业界的成果——首个纯端侧超级智能助手,可应用于汽车智能座舱。在端侧大模型的支撑下,即便车辆没有网络,超级智能助手也能随时“在线”,实现从车外到车内的各种感知并执行任务。hzU即热新闻——关注每天科技社会生活新变化gihot.com

由于在安全性、实时性等方面的巨大优势,面壁的端侧模型一经推出就很快获得了法律、消费电子等行业用户的认可。就在上月,面壁与合作伙伴发布了首个纯端侧大模型量产车型。hzU即热新闻——关注每天科技社会生活新变化gihot.com

“2026年,装上面壁端侧模型的设备数将达2025年的10倍。”放眼未来,李大海的眼中是更广阔的星辰大海——未来全球将有400亿的设备终端,它们都有望装上一个个“超级大脑”。hzU即热新闻——关注每天科技社会生活新变化gihot.com

独角兽“秘笈”hzU即热新闻——关注每天科技社会生活新变化gihot.com

冷静取舍 以小博大hzU即热新闻——关注每天科技社会生活新变化gihot.com

智谱、月之暗面、百川智能、零一万物、面壁智能……在今年年初第三方机构公布的国内大模型独角兽排行榜中,多家北京企业赫然在列,显示出创新资源高度集聚的效应。hzU即热新闻——关注每天科技社会生活新变化gihot.com

在被人们称为“宇宙中心”的五道口一带,办公租金并不便宜,李大海坦言,背靠五道口周边极强的人才优势,是成立仅三年的面壁得以迅猛发展的重要原因。hzU即热新闻——关注每天科技社会生活新变化gihot.com

身处北京,依靠全国领先的AI人才资源和“AI第一城”的创新生态,与行业巨头凭借巨额资金和海量算力投入“大力出奇迹”的发展路径不同,以面壁为代表的北京人工智能初创企业,向世界展现出高效创新、“以小博大”的创新范式。hzU即热新闻——关注每天科技社会生活新变化gihot.com

“对创业公司来说,‘不做什么’和‘做什么’都很重要,‘不做什么’甚至更重要。”李大海说。面对巨大机遇,创业公司需要注意的是“专注一个点做透”,并在此过程中不断辨别哪些是应勇于“取”的机遇,哪些是要勇于“舍”的诱惑。在“大炼模型”的风潮下,面壁就曾先后做出不做AI聊天机器人、放弃大模型基础设施等重要决策,专注打磨端侧模型,提升模型效率与知识密度,“以小博大”。hzU即热新闻——关注每天科技社会生活新变化gihot.com

蛇年春节,DeepSeek旋风席卷全球。以低成本实现高性能,正是DeepSeek一鸣惊人之处。《麻省理工科技评论》随后刊发了一篇题为《关注DeepSeek之外的四家中国人工智能初创公司》的报道,点赞中国“四剑客”,其中就有面壁智能。hzU即热新闻——关注每天科技社会生活新变化gihot.com

勇于面壁,方能破壁——Deep-Seek和面壁智能,都在用实际行动印证着一个道理,不盲目跟风,勇于探索新路径,即便在有限的资源环境下也能激发、倒逼出无限的创新潜力。hzU即热新闻——关注每天科技社会生活新变化gihot.com

hzU即热新闻——关注每天科技社会生活新变化gihot.com

在清华科技园科建大厦3楼,面壁智能联合创始人、CEO李大海的办公室中央挂着一幅大型拼图,一艘船在风雨中劈波斩浪。hzU即热新闻——关注每天科技社会生活新变化gihot.com

今年已是李大海来到中关村的第23年。hzU即热新闻——关注每天科技社会生活新变化gihot.com

2006年,从北京大学数学系毕业后,李大海加入谷歌中国,成为创始员工之一。后来他又参与了云云网、豌豆荚、知乎的创业。2023年,一场大模型掀起的技术风暴席卷而来,时任知乎CTO的李大海决定投身其中。当年4月,在李大海的推动下,知乎完成了对面壁智能的独家天使轮投资。hzU即热新闻——关注每天科技社会生活新变化gihot.com

李大海看好面壁智能,是因为其创始人、青年科学家刘知远是国内首批开展大模型研究的研究者之一。2020年12月,刘知远团队发布了全球第一个中文开源大模型“CPM”,这一项目也是后来中国奠基性大模型“悟道”的前身。两年后,刘知远发起成立面壁智能。hzU即热新闻——关注每天科技社会生活新变化gihot.com

投资一家优秀的大模型企业,对李大海来说绝非终点。大模型掀起的汹涌浪潮让他兴奋得难以入睡。“这是一场堪比蒸汽机改变世界的大变革!”一次次在深夜爬起来看代码、追踪大模型前沿进展的李大海,决定从大厂高管转身,再次创业。2023年6月,李大海出任面壁智能CEO。hzU即热新闻——关注每天科技社会生活新变化gihot.com

彼时,大模型领域激战正酣,一场前所未有的“百模大战”正在上演。与此同时,随着大模型迅猛发展,作为大模型“燃料”的算力告急,行业内出现GPU“一卡难求”“排队预定”的局面。如何才能从白热化的竞争中杀出重围?hzU即热新闻——关注每天科技社会生活新变化gihot.com

高效——是李大海与团队给出的答案。“与其盲目地把模型做大,不如花更多精力让模型变好,以同样的模型参数量实现更高的智能与知识密度。”基于对大模型本质规律的观察,他们提出了大模型的密度定律(DensingLaw):大模型知识密度每3.3个月翻一番,大模型将变得越来越“小”,同时能力越来越强。hzU即热新闻——关注每天科技社会生活新变化gihot.com

基于这一理念,团队选择避开同质化严重的对话式AI聊天机器人,将视野转向了一个在当时看来不算热门的方向——端侧大模型。李大海认为,人们的生活早已离不开手机、平板、汽车等各种各样的硬件终端设备,而在不久的将来,这些智能终端都将拥有具备自主思考能力的“超级大脑”。hzU即热新闻——关注每天科技社会生活新变化gihot.com

“我们要让小模型跑出大能量,让本地模型能力满足日常绝大多数的智能需求。”李大海坚信,相比于时下最火热的跑在“云”上,并且需要大量算力的千亿级超大模型,在“断网、弱网”环境下,仍然能让各种智能终端具备自主思考能力的端侧大模型,将成为面壁独特的竞争力。hzU即热新闻——关注每天科技社会生活新变化gihot.com

用更小的参数、更高的效率、更低的成本,实现更好的智能——达到这个目标,并不容易。“模型能力日新月异,但模型效率的领先如同芯片制程一般,须形成比较硬的相对优势。我们要攻克的,就好比大模型行业的‘光刻机’。”李大海说。hzU即热新闻——关注每天科技社会生活新变化gihot.com

拿算法来说,过去,由于模型训练过程中充满不确定性,传统的大模型训练被业界戏称为“炼丹”。而面壁研发团队通过上千次模型沙盒实验,在算法的各种细节上摸索出了一系列最优配置,大幅优化了模型效果。hzU即热新闻——关注每天科技社会生活新变化gihot.com

为了打磨大模型“光刻机”,从高质量的数据原材料,到模型训练与调校,一个个环环相扣的细节,研发人员都细细打磨。2024年初,面壁推出了端侧大模型MiniCPM,用仅仅24亿参数实现了超过百亿参数大模型的性能。hzU即热新闻——关注每天科技社会生活新变化gihot.com

“超级大脑”仍在不断进化。今年1月,面壁智能发布MiniCPM-o2,这也是全球首个达到OpenAI公司GPT-4o水平的端侧多模态大模型。这款仅有80亿参数量的模型,能够实时流式处理文本、图像、音频和视频信息,“视、听、说”都很伶俐。hzU即热新闻——关注每天科技社会生活新变化gihot.com

在今年中关村论坛年会期间,面壁又发布了一项领先业界的成果——首个纯端侧超级智能助手,可应用于汽车智能座舱。在端侧大模型的支撑下,即便车辆没有网络,超级智能助手也能随时“在线”,实现从车外到车内的各种感知并执行任务。hzU即热新闻——关注每天科技社会生活新变化gihot.com

由于在安全性、实时性等方面的巨大优势,面壁的端侧模型一经推出就很快获得了法律、消费电子等行业用户的认可。就在上月,面壁与合作伙伴发布了首个纯端侧大模型量产车型。hzU即热新闻——关注每天科技社会生活新变化gihot.com

“2026年,装上面壁端侧模型的设备数将达2025年的10倍。”放眼未来,李大海的眼中是更广阔的星辰大海——未来全球将有400亿的设备终端,它们都有望装上一个个“超级大脑”。hzU即热新闻——关注每天科技社会生活新变化gihot.com

独角兽“秘笈”hzU即热新闻——关注每天科技社会生活新变化gihot.com

冷静取舍 以小博大hzU即热新闻——关注每天科技社会生活新变化gihot.com

智谱、月之暗面、百川智能、零一万物、面壁智能……在今年年初第三方机构公布的国内大模型独角兽排行榜中,多家北京企业赫然在列,显示出创新资源高度集聚的效应。hzU即热新闻——关注每天科技社会生活新变化gihot.com

在被人们称为“宇宙中心”的五道口一带,办公租金并不便宜,李大海坦言,背靠五道口周边极强的人才优势,是成立仅三年的面壁得以迅猛发展的重要原因。hzU即热新闻——关注每天科技社会生活新变化gihot.com

身处北京,依靠全国领先的AI人才资源和“AI第一城”的创新生态,与行业巨头凭借巨额资金和海量算力投入“大力出奇迹”的发展路径不同,以面壁为代表的北京人工智能初创企业,向世界展现出高效创新、“以小博大”的创新范式。hzU即热新闻——关注每天科技社会生活新变化gihot.com

“对创业公司来说,‘不做什么’和‘做什么’都很重要,‘不做什么’甚至更重要。”李大海说。面对巨大机遇,创业公司需要注意的是“专注一个点做透”,并在此过程中不断辨别哪些是应勇于“取”的机遇,哪些是要勇于“舍”的诱惑。在“大炼模型”的风潮下,面壁就曾先后做出不做AI聊天机器人、放弃大模型基础设施等重要决策,专注打磨端侧模型,提升模型效率与知识密度,“以小博大”。hzU即热新闻——关注每天科技社会生活新变化gihot.com

蛇年春节,DeepSeek旋风席卷全球。以低成本实现高性能,正是DeepSeek一鸣惊人之处。《麻省理工科技评论》随后刊发了一篇题为《关注DeepSeek之外的四家中国人工智能初创公司》的报道,点赞中国“四剑客”,其中就有面壁智能。hzU即热新闻——关注每天科技社会生活新变化gihot.com

勇于面壁,方能破壁——Deep-Seek和面壁智能,都在用实际行动印证着一个道理,不盲目跟风,勇于探索新路径,即便在有限的资源环境下也能激发、倒逼出无限的创新潜力。hzU即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-2594-0.html北京AI破壁之路 端侧小模型跑出大能量

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:北京市推动人工智能赋能新型工业化

下一篇:借助高科技 “慧眼”识文物

为你推荐
1月19日,记者从海军军医大学第一附属医院获悉,该院呼吸内科白冲、石荟教授团队,与海军军医大学组织胚胎学教研室韩超峰教授,共同揭示了良性气道狭窄发...
01-21
一项发表在《科学》杂志上的新研究,为脊髓损伤患者恢复复杂触觉感知带来了前所未有的希望。瑞典查尔姆斯理工大学研究团队首次推出一种可安装在椅子...
01-21
  2025北京图书订货会上,一大批展现中华优秀传统文化的图书吸引了众多观众的目光。“传统文化...
01-21
  由于降雪范围减小,强度减弱,辽宁省气象台于1月28日8时解除暴雪黄色预警。  (辽宁气象预警)...
01-28
最近,网络上关于春节假期加班和加班报酬的讨论多了起来。根据2024年11月修订的《全国年节及纪念日放假办法》,今年增加农历除夕假日后,春节放假4天(农历除夕、正月初一至初三)。...
01-21
消费电子的风口,华强北每个都不曾错过。从上世纪90年代火柴盒大小的“BB机”,象征时髦的“大哥大”,20世纪初的功能手机,到近二十年来...
01-21
1 月 26 日消息,近期德国多家企业,包括能源供应商 Badenova、房屋建筑公司 Viebrockhaus 以及连锁药店 Rossmann,纷纷表示将不再购买特斯拉的新车,原因是特斯拉首席执行...
01-27
1 月 28 日消息,根据 Self Financial 的一项最新研究,特斯拉 Model 3 轿车是美国使用成本最低的车型,特斯拉旗下的另一款畅销车型 Model Y 也跻身该榜单。尽管 Model 3...
01-29
《末日地堡第二季》讲述了朱丽叶在废弃筒仓中的冒险与探索。第1集中,17号筒仓爆发革命,居民纷纷逃离。朱丽叶进入筒仓,发现上层空无一人,下层被洪水淹没。她试...
02-19
最近《余烬之上》的讨论度非常高,每一次更新都能引发观众长时间的讨论。剧中的各种发展也牵动着大家的心。以下是第22集的剧情介绍。2014年,朗桑因考试未通过...
02-20
这里是《21健讯Daily》,欢迎与21世纪经济报道新健康团队共同关注医药健康行业最新事件!政策动向最高检披露2024医药行业反腐相关数据2月12日...
02-14
在山东省高密市一篮球训练营,孩子们在进行篮球基本功训练。通讯员 李海涛 摄在山东省高密市一篮球训练营,孩子们在进行篮球基本功训练。通讯员 李海涛 摄  寒假来临,山东省...
01-21
  在这个充满欢乐与期待的寒假,当同学们沉浸在放松、玩耍与探索的时光里,心理健康的维护同样不容忽视。为了给同学们心灵披上温暖的防护衣,拥抱阳光心态,让学生们掌握更多传...
01-21
  1月13日,四川日报刊登《中国长城资产管理股份有限公司四川省分公司与四川天府银行股份有限公...
01-22
天蝎座的男生通常被认为是深情而又神秘的存在。他们对感情非常认真,一旦决定与某人交往...
01-22
星座学说认为,巨蟹座和双鱼座是十分相配的星座组合。巨蟹男通常会被双鱼女所吸引,这是因...
01-22
蓝百万潮流服饰:引领时尚的潮流先锋选择一件衣服,不仅是为了保暖或遮羞;更多的时候,它是一种身份的象征,一种自我表达的方式。当我第一次听说蓝百万潮流服饰这个品牌时,我立刻被它...
02-17
170胖子穿搭男生秋季冬季?一、170胖子穿搭男生秋季冬季?170算中等身高吧,当然也会有腿偏短的情况,看个人的实际身材体型了。秋冬季的搭配选择还是挺多的,秋天相对来说会比较凉快...
02-22
2月8日消息,据“市象”公众号消息,京东近期正式推出竞价购物玩法“京东指数”,该玩法采用消费者与商家双方共同竞价的模式,形成商品价格的动态交易。接近京东的人士透露,这一新玩...
02-09
京东官宣入局外卖市场。今日下午,京东宣布京东外卖正式启动“品质堂食餐饮商家”招募。京东表示,2025年5月1日前入驻的商家,全年免佣金。对于已签约商户佣金政策是否调整,接近京...
02-12
2月17日消息,先买后付解决方案提供商Tabby近日宣布完成1.6亿美元E轮融资,由Blue Pool Capital和Hassana Investment Company联合领投,STV和Wellington Management参投。随着E轮...
02-18
中国火锅品牌正在逐步打开中东市场的大门。近年来,刘一手、海底捞、小龙坎、哥老官等在中国各城市常见的连锁火锅品牌,纷纷进入中东...
03-01
“宁王”的港股IPO,终于要落地了。12月26日晚,宁德时代发布公告称,为进一步推进公司全球化战略布局,打造国际化资本运作平台,提高综合竞争力,公司拟发行...
02-07
英伟达芯片“倒爷”们,开始不发朋友圈了。2023年大模型火热的时候,“倒爷”们朋友圈的画风是“欲购从速、30%定金,有实力的老板来!”到了2024年就变成...
02-07
《刺客信条:影》未发布的故事及角色细节,通过一家成人卡通网站泄露了出去。 上周末,该游戏当前尚未发布的艺术设定集扫描件被发布在一个成人动漫网站上,随后被发行...
02-05
《逃离塔科夫》开发商 Battlestate Gaems 近日在社交媒体上确认,团队正在开发游戏的 DLSS 4 支持。 开发商写道:“我们正关注社区对DLSS 4 日益增长的兴趣。我...
02-13
2025年春节是“春节——中国人庆祝传统新年的社会实践”列入联合国教科文组织人类非物质文化遗产代表作名录后的首个春节。文化和旅游部组织开展“欢欢喜喜过大年”春节主题...
02-05
2月6日,中文双方发表《中华人民共和国和文莱达鲁萨兰国关于深化战略合作伙伴关系、推进中文命运共同体建设的联合声明》。《声明》中提到,文方感谢中方对持普通护照的文莱公民...
02-06
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮