推理模型:“慢思考”让决策更周全

1年前 来源:科技日报 观看:154

2025年,“推理模型”成为人工智能行业的热词。从科大讯飞发布首个使用全国产算力训练的深度推理大模型——讯飞星火X1,到深度求索公司上线DeepSeek-R1推理模型,都将“推理模型”推到聚光灯下。DS7即热新闻——关注每天科技社会生活新变化gihot.com

多数大语言模型具备一定推理能力,但推理模型具有更强大的推理、逻辑分析和决策能力。推理模型会运用各种推理技巧,如演绎推理、归纳推理、类比推理等,来模拟人类的思考方式。多位业内人士接受科技日报记者采访时说,在人工智能大模型不断迭代升级的浪潮中,推理模型以创新的技术为行业发展注入新活力,也让人们对人工智能未来发展有了更大想象空间。DS7即热新闻——关注每天科技社会生活新变化gihot.com

推理模仿人类“慢思考”DS7即热新闻——关注每天科技社会生活新变化gihot.com

在复旦大学计算机科学技术学院教授、上海市数据科学重点实验室主任肖仰华看来,过去,大模型的生成能力主要由语料决定。但专家级的推理能力并非“题海战术”可以实现,而是需要大模型具备强大的思维能力。DS7即热新闻——关注每天科技社会生活新变化gihot.com

心理学家认为,人类存在两种思维模式。一种是主要用来对日常生活中的简单问题进行判断、决策的“快思考”;另一种则是用于对一些特定问题进行深入分析、研判的“慢思考”。“快思考”是人类基于大量日常经验、常识等,对简单问题作出的快速反应,往往在人们无意识之间完成,是一种更加接近“本能”的思考方式。与之相对,“慢思考”则需要调动大脑更多资源,遵循特定思维逻辑,对问题进行抽丝剥茧式分析研究,进而作出更加理性周全的决策。DS7即热新闻——关注每天科技社会生活新变化gihot.com

作为人工智能的典型应用,大模型如今也有了“快”“慢”之别。DS7即热新闻——关注每天科技社会生活新变化gihot.com

传统大语言通用模型的思维方式更像是“快思考”,其主要依靠算力对海量数据进行学习,实现对后续空白内容的快速预测,回答人类提出的各类问题,本质上是基于概率模型对可能的答案进行“猜测”。相比之下,推理大模型更有意识和逻辑,会在回答之前进行一段时间“慢思考”,依据特定思维链条,提供更全面解答。DS7即热新闻——关注每天科技社会生活新变化gihot.com

科大讯飞研究院副院长殷兵举例说,讯飞星火X1在解答高考数学题等复杂题目时,会先将题目化繁为简,给出解题思路和步骤,呈现出全面的思考、分析和推理过程,进而给出准确的题目答案。殷兵说,推理模型更接近人类的“慢思考”方式。相较于通用大模型,推理模型在数学、医学、代码等领域,会产生更好的效果和意想不到的应用场景。DS7即热新闻——关注每天科技社会生活新变化gihot.com

强化学习实现反思纠错DS7即热新闻——关注每天科技社会生活新变化gihot.com

人类可以对复杂问题进行深入思考、理性分析的一大原因在于,大脑能够反思。通过对过去错误结果和正确经验的反馈学习,人类得以不断提升对复杂问题判断的正确率。推理模型中普遍应用的强化学习技术,在一定程度上模仿了人类的反思、纠错能力。DS7即热新闻——关注每天科技社会生活新变化gihot.com

强化学习是一种机器学习方法,它允许智能体在与环境的交互中通过试错来学习最优策略。智能体在环境中执行相应行动,并根据行动的结果接收反馈,这些反馈信号则指导智能体调整下一步策略,循环往复,不断接近最优策略。DS7即热新闻——关注每天科技社会生活新变化gihot.com

例如,DeepSeek-R1在训练推理模型时采用了一条此前鲜有人使用的完全依赖强化学习的训练路径,即仅根据模型输出答案的优劣等简单信息,对模型进行奖惩。这相当于在不施加任何指引的情况下,让一个刚出生不久的幼儿完全自主探索世界,并根据探索结果给予反馈,从而让幼儿在反复试错和成功中快速成长。DS7即热新闻——关注每天科技社会生活新变化gihot.com

殷兵介绍,讯飞星火X1可以进行自我探索和反思验证,并基于答案正确与否的反馈信息进行强化训练。其中,自我评价迭代的评语模型能指出大模型存在的幻觉问题,大模型在得到评语模型的评价后可实现自我完善提升。同时,评语模型也通过强化训练进一步提升自身发现幻觉问题的能力。整个过程无需人员参与标注,而是依靠两个模型相互博弈、共同进化。多路径和反思迭代的强化学习技术使讯飞星火X1中能化繁为简,把复杂问题拆解成多个步骤进行思考推理,并进行自我反思探索。例如,它在解答高考数学题目时,不仅会实时呈现分步骤解题过程,还能对解题过程进行实时验算,反思纠正过程中的遗漏和问题,直至给出正确答案。而整个推理过程中形成的数据也可以被用于后续的强化学习。DS7即热新闻——关注每天科技社会生活新变化gihot.com

可靠算力仍是关键因素DS7即热新闻——关注每天科技社会生活新变化gihot.com

无论是模型训练还是推理,都需要算力平台作为硬件基础。虽然在特定领域,推理模型能够在实现同等效果的情况下消耗更少算力,但算力平台的可靠性、稳定性仍然是决定推理模型发展的重要因素。DS7即热新闻——关注每天科技社会生活新变化gihot.com

此前,科大讯飞已联合华为打造出首个国产算力万卡平台“飞星一号”,并基于此完成了讯飞星火大模型多个版本的迭代训练。但推理模型的训练是一条全新的技术路线。目前,国产算力在单卡、集群、生态等方面距国际领先水平有一定差距,全面基于国产算力平台开展模型训练,面临着不少挑战。DS7即热新闻——关注每天科技社会生活新变化gihot.com

“讯飞星火X1的训练推理涉及多个模型的强交互,需要跨任务传输数据及权重,训练任务类型也由在线实时响应变为离线高吞吐。这需要克服国产显卡带宽不足的短板。”殷兵说,在这种复杂的训练模式下,影响效率的因素非常多,后训练所需的算力甚至提升了一个数量级。最终,通过与华为进行联合攻关,团队自研出训练框架并进行效率优化,实现了模型算法在国产算力上的成功适配,端到端效率大幅提升。DS7即热新闻——关注每天科技社会生活新变化gihot.com

2025年,“推理模型”成为人工智能行业的热词。从科大讯飞发布首个使用全国产算力训练的深度推理大模型——讯飞星火X1,到深度求索公司上线DeepSeek-R1推理模型,都将“推理模型”推到聚光灯下。DS7即热新闻——关注每天科技社会生活新变化gihot.com

多数大语言模型具备一定推理能力,但推理模型具有更强大的推理、逻辑分析和决策能力。推理模型会运用各种推理技巧,如演绎推理、归纳推理、类比推理等,来模拟人类的思考方式。多位业内人士接受科技日报记者采访时说,在人工智能大模型不断迭代升级的浪潮中,推理模型以创新的技术为行业发展注入新活力,也让人们对人工智能未来发展有了更大想象空间。DS7即热新闻——关注每天科技社会生活新变化gihot.com

推理模仿人类“慢思考”DS7即热新闻——关注每天科技社会生活新变化gihot.com

在复旦大学计算机科学技术学院教授、上海市数据科学重点实验室主任肖仰华看来,过去,大模型的生成能力主要由语料决定。但专家级的推理能力并非“题海战术”可以实现,而是需要大模型具备强大的思维能力。DS7即热新闻——关注每天科技社会生活新变化gihot.com

心理学家认为,人类存在两种思维模式。一种是主要用来对日常生活中的简单问题进行判断、决策的“快思考”;另一种则是用于对一些特定问题进行深入分析、研判的“慢思考”。“快思考”是人类基于大量日常经验、常识等,对简单问题作出的快速反应,往往在人们无意识之间完成,是一种更加接近“本能”的思考方式。与之相对,“慢思考”则需要调动大脑更多资源,遵循特定思维逻辑,对问题进行抽丝剥茧式分析研究,进而作出更加理性周全的决策。DS7即热新闻——关注每天科技社会生活新变化gihot.com

作为人工智能的典型应用,大模型如今也有了“快”“慢”之别。DS7即热新闻——关注每天科技社会生活新变化gihot.com

传统大语言通用模型的思维方式更像是“快思考”,其主要依靠算力对海量数据进行学习,实现对后续空白内容的快速预测,回答人类提出的各类问题,本质上是基于概率模型对可能的答案进行“猜测”。相比之下,推理大模型更有意识和逻辑,会在回答之前进行一段时间“慢思考”,依据特定思维链条,提供更全面解答。DS7即热新闻——关注每天科技社会生活新变化gihot.com

科大讯飞研究院副院长殷兵举例说,讯飞星火X1在解答高考数学题等复杂题目时,会先将题目化繁为简,给出解题思路和步骤,呈现出全面的思考、分析和推理过程,进而给出准确的题目答案。殷兵说,推理模型更接近人类的“慢思考”方式。相较于通用大模型,推理模型在数学、医学、代码等领域,会产生更好的效果和意想不到的应用场景。DS7即热新闻——关注每天科技社会生活新变化gihot.com

强化学习实现反思纠错DS7即热新闻——关注每天科技社会生活新变化gihot.com

人类可以对复杂问题进行深入思考、理性分析的一大原因在于,大脑能够反思。通过对过去错误结果和正确经验的反馈学习,人类得以不断提升对复杂问题判断的正确率。推理模型中普遍应用的强化学习技术,在一定程度上模仿了人类的反思、纠错能力。DS7即热新闻——关注每天科技社会生活新变化gihot.com

强化学习是一种机器学习方法,它允许智能体在与环境的交互中通过试错来学习最优策略。智能体在环境中执行相应行动,并根据行动的结果接收反馈,这些反馈信号则指导智能体调整下一步策略,循环往复,不断接近最优策略。DS7即热新闻——关注每天科技社会生活新变化gihot.com

例如,DeepSeek-R1在训练推理模型时采用了一条此前鲜有人使用的完全依赖强化学习的训练路径,即仅根据模型输出答案的优劣等简单信息,对模型进行奖惩。这相当于在不施加任何指引的情况下,让一个刚出生不久的幼儿完全自主探索世界,并根据探索结果给予反馈,从而让幼儿在反复试错和成功中快速成长。DS7即热新闻——关注每天科技社会生活新变化gihot.com

殷兵介绍,讯飞星火X1可以进行自我探索和反思验证,并基于答案正确与否的反馈信息进行强化训练。其中,自我评价迭代的评语模型能指出大模型存在的幻觉问题,大模型在得到评语模型的评价后可实现自我完善提升。同时,评语模型也通过强化训练进一步提升自身发现幻觉问题的能力。整个过程无需人员参与标注,而是依靠两个模型相互博弈、共同进化。多路径和反思迭代的强化学习技术使讯飞星火X1中能化繁为简,把复杂问题拆解成多个步骤进行思考推理,并进行自我反思探索。例如,它在解答高考数学题目时,不仅会实时呈现分步骤解题过程,还能对解题过程进行实时验算,反思纠正过程中的遗漏和问题,直至给出正确答案。而整个推理过程中形成的数据也可以被用于后续的强化学习。DS7即热新闻——关注每天科技社会生活新变化gihot.com

可靠算力仍是关键因素DS7即热新闻——关注每天科技社会生活新变化gihot.com

无论是模型训练还是推理,都需要算力平台作为硬件基础。虽然在特定领域,推理模型能够在实现同等效果的情况下消耗更少算力,但算力平台的可靠性、稳定性仍然是决定推理模型发展的重要因素。DS7即热新闻——关注每天科技社会生活新变化gihot.com

此前,科大讯飞已联合华为打造出首个国产算力万卡平台“飞星一号”,并基于此完成了讯飞星火大模型多个版本的迭代训练。但推理模型的训练是一条全新的技术路线。目前,国产算力在单卡、集群、生态等方面距国际领先水平有一定差距,全面基于国产算力平台开展模型训练,面临着不少挑战。DS7即热新闻——关注每天科技社会生活新变化gihot.com

“讯飞星火X1的训练推理涉及多个模型的强交互,需要跨任务传输数据及权重,训练任务类型也由在线实时响应变为离线高吞吐。这需要克服国产显卡带宽不足的短板。”殷兵说,在这种复杂的训练模式下,影响效率的因素非常多,后训练所需的算力甚至提升了一个数量级。最终,通过与华为进行联合攻关,团队自研出训练框架并进行效率优化,实现了模型算法在国产算力上的成功适配,端到端效率大幅提升。DS7即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-562-0.html推理模型:“慢思考”让决策更周全

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:新疆哈密上线 “满血版”DeepSeek-R1云服务

下一篇:新装置解决石油产业抽油杆防锈难题 油田小站捧回国际大奖

为你推荐
  原标题:15亿英镑天价索赔:原告代表1960万英国iPhone用户集体起诉苹果公司App Store垄断  IT...
01-21
据物理学家组织网15日报道,美国劳伦斯·利弗莫尔国家实验室(LLNL)科学家将国家点火装置(NIF)所发射的高功率激光与超轻金属泡沫巧妙结合,创造出迄...
01-21
  “感觉空气中都弥漫着节日的气息”“下班时候经过,真惊艳到了”……连日来,不少市民惊喜地发现,和平区...
01-22
  在“返乡潮”带动下,众多中小城市的“老家游”持续升温。面对春节返乡旅游热,地方文旅也不断...
01-27
  中国疾病预防控制中心发布的2025年1月健康风险提示显示,近期需要关注的急性呼吸道传染病还有人偏肺病毒、鼻病毒、腺病毒、肺炎支原体等病原体感染引起的传染病。其中...
01-21
  生物制品跨省、跨境分段生产“松绑”,创新药企利好几何  “当一家生物科技公司(biotech)只拥有一款药,为此盖个工厂,维护成本是不是太高?出厂价是否会因此抬高?”“生物药...
01-21
[本站 新车上市] 1月12日,捷达品牌全新车型捷达VA7正式上市,新车定位紧凑型轿车,平台技术源于MQB,动力搭载1.4T发动机,车辆根据配置的不同,有3款车型可选,指导价区间为9.977...
01-21
1 月 29 日消息,智己汽车科技有限公司官方微博今日凌晨发文宣布,其 1 月购车政策将延期至 2 月 4 日,同时全国近百城春节不打烊。整理智己汽车 1 月购车政策如下:春节前...
01-29
  1、《难哄》温以凡之所以改志愿,是因为家庭变故和所遭受的骚扰猥亵,给她的心理带来严重创伤。  2、温以凡原本跟桑延约定好一起报考南芜大学的,最终把志愿改成了宜荷大...
02-15
电视剧《陌上又花开》以其高度的观赏价值吸引了众多观众,将人们带入了一个充满想象力和戏剧性的世界。制作团队和演员们的出色表现让这部剧更加光彩夺目。近...
02-21
  近期,流感等呼吸道疾病进入高发期。全国流感病毒阳性率上升,尤以甲流多发。  中国疾控中心1...
01-21
21世纪经济报道记者 韩利明 上海报道时值呼吸道传染病高发的季节,中国疾控中心最新监测数据(2025年第2周)显示,本周急性呼吸道传染病疫情仍处...
01-24
  宜东镇中心小学男子足球队队员在比赛。学校供图  2024年12月底,宜东镇中心小学的同学们在...
01-21
  大众网记者 王一刚 报道  进入大班后,孩子们对探索自己身体秘密的情感越来越强烈。在一次手掌拓印活动中,孩子们对手上的指纹产生了浓厚的兴趣,在好奇心的推动下,孩子...
01-21
  “年终奖刚发,本来打算去银行网点买定期存款,但利率实在太低。客户经理推荐了一款针对新客户...
01-22
  1月13日,四川日报刊登《中国长城资产管理股份有限公司四川省分公司与四川天府银行股份有限公...
01-22
在星座学中,人们常常相信星座之间存在着某种神秘的联系和吸引力。其中,双鱼男和射手女之...
01-22
水瓶座的男生通常被认为是理性而冷漠的,他们在处理感情问题时往往表现得非常独立和坚定...
01-22
外科风云获奖? 外科风云真相?一、外科风云获奖?获得第31届电视剧飞天奖提名和第四届亚洲彩虹盛典优秀电视剧男配角奖项。该剧讲述了空降到仁合医院美籍华裔医生庄恕(靳东 饰)与胸...
02-07
短款衬衫裙子怎么搭配?一、短款衬衫裙子怎么搭配?搭配方案一:白衬衫+黑色A字褶裙伞形裙摆,细高腰的A字褶裙处处都散发着复古优雅女人味,搭配白衬衫,仿佛又回到赫本的熟女年代,加之...
02-12
小米集团市值冲上万亿赛道自蛇年开工以来,小米股价一路飙升,小米集团市值冲上万亿赛道,仅仅上市7年小米就实现了万亿的跨越,作为创始人的雷军也迎来了高光时刻。具体来看,2025年2...
02-09
2月21日消息,盒马创始人侯毅宣布进军宠物食品零售领域,创立派特鲜生品牌,品牌启动暨战略合作伙伴大会今日召开,首店将于2月22日开业。侯毅透露,派特鲜生的目标是2025年3月在上海...
02-22
2月5日消息,滴滴出行数据显示,春节假期期间,打车完单量同比去年上涨17%,其中异地打车(非常驻地打车)需求相比年前上涨60%。入境用户在国内使用滴滴的打车完单量同比去年上涨80%。...
02-07
2月10日消息,滴滴出行近日宣布携手华住集团会员俱乐部“华住会”,推出联名会员,双方在既有会员权益基础上新增联名会员权益合作,为用户的出行、住宿提供多重优惠与专享体验,方便...
02-11
自去年底开始,黄金多头优势逐渐退却,国际现货黄金价格经历几次大跌后一度跌下2700关口,多空进入漫长的震荡周期,多头始终无法找到再度冲高的时机。  北京时间1月21日,国际现货...
01-24
【#福州市勘测院等成立空域领航科技公司# 含航空运营支持服务】天眼查App显示,近日,福州市空域领航科技有限公司成立,法定代表人为吴建,注册资本5000万人民币,经营范围包括信息系...
02-09
海外硬件网络零售平台 Newegg 近日报道称,在前几天英伟达 RTX 50 系列显卡上架销售后,仅在 20 分钟内就售罄。平台还分析了 RTX 5080 以及 5090 的用户活跃激增...
02-04
AMD CEO苏姿丰在公司2024年第四季度财报电话会议上宣布,RX 9070系列“RDNA 4”GPU将于三月初发售。 在最近的2024年第四季度财报电话会议上,苏妈终于让所有谣言...
02-07
买了机票,选座这样的附加服务,一般是谁先到谁先得,消费者鲜有异议。但一段时间以来,部分航空公司开始对这一基本服务引入加价机制,选择靠窗、靠过道或经济舱前排等座位都要额外支...
02-06
各地中小学即将迎来2025春季新学期。日前,教育部印发修订版《中小学生学籍管理办法》,明确规定:凡在依法依规设立学校就读的学生均须建立学籍;严肃、及时处理检查中发现的人籍分...
02-07
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮