构建中国人自己的智能生态 解决大模型的“烦恼”

7个月前 来源:中国青年网 观看:50

热度不减的大模型是实现人工智能的唯一解决方法吗?每个行业都要有自己的大模型吗?对于大模型,我们现在还是跟随,那么自主的发展路径是什么?当预训练大模型搅动起巨大的研发、应用热潮时,这些问题随之产生。722即热新闻——关注每天科技社会生活新变化gihot.com

中国计算机学会以“智启新局”为主题,5月16-18日在浙江宁波举办了2024青年精英大会(YEF2024),1200多名来自全国各高校、科研院所、企业的青年学者、专家,集中讨论了大模型、人工智能安全、国产算力、开源芯片、脑机接口等多个前沿领域发展。722即热新闻——关注每天科技社会生活新变化gihot.com

不依赖“一两个模型打天下”722即热新闻——关注每天科技社会生活新变化gihot.com

大模型为什么不是万能的?面对现在的大模型热,南京大学计算机系主任、人工智能学院院长周志华教授从两个方面进行了分析,一方面大模型确实非常有用,所以业界特别是企业应该努力“压榨”这个大模型路线的技术红利,尽可能让它发挥更大的作用;另一方面也需要认识到大模型不是所有任务的最佳解决方案,“很多企业现在都在做自己的大模型,甚至觉得不做大模型不正确,但是机器学习里有一个基本定律‘没有免费的午餐’。希望一个算法模型能够包打天下是不可能,一定有弱点,大模型有一些‘烦恼’。”722即热新闻——关注每天科技社会生活新变化gihot.com

长期从事人工智能核心技术机器学习研究的周志华教授,有一系列原创性成果,他列举了大模型的多个“烦恼”。722即热新闻——关注每天科技社会生活新变化gihot.com

首先,大模型要先规划任务、收集数据,然后训练出模型,也就是说必须先考虑到要解决某一类任务,然后为它去收集数据做模型,这时如果有一个新任务,原来没有考虑规划过,这时就没有模型可用的。 722即热新闻——关注每天科技社会生活新变化gihot.com

其次,大模型训练和使用能耗、碳耗、数据耗都很大,一般人用不起。有人作过预测,按照现在的趋势下去,2025年一个大模型训练产生的碳排放相当于全纽约一个月的碳排放。  722即热新闻——关注每天科技社会生活新变化gihot.com

周志华教授提到,现在人们都希望先训练一个模型,并希望在使用的过程中不断去更新它,但是目前的大模型路线,有一个问题叫“灾难性遗忘”。他以自动汽车驾驶为例,若机器学习模型在对新环境获取的数据进行学习时,会“冲掉”旧环境中得到的宝贵信息,会出现重大安全隐患。722即热新闻——关注每天科技社会生活新变化gihot.com

由于前面列举的各种问题,人们都希望大模型能够持续学习和终身学习,希望模型学了一堆任务之后,随着应用的不断发展,能够不断地“学”下去。周志华判断:“这件事情在今天基于神经网络,或者从基本的数学工具上还看不到解决方案。”722即热新闻——关注每天科技社会生活新变化gihot.com

“训练大模型要有大量的训练数据,但是在大数据时代,这仍然是问题。”周志华解释,有的应用样本总量就是小,比如我们要做油田定位,这个数据要通过人工诱发地震才能获得,那就不可能有大量数据。再比如银行信用卡欺诈交易检测,样本很小。现在有人基于大模型在做软件缺陷检测,马上就会碰到这个问题,虽然互联网上这样的开源代码很多,但是真正由程序员标注出缺陷的很少,所以数据总量仍旧是问题。722即热新闻——关注每天科技社会生活新变化gihot.com

此外,数据隐私和所有权问题还无法解决。比如做医疗诊断,大医院有很好的数据,能做很好的模型,社区医院数据不多,做不了很好的模型,大医院能不能把这个数据进行分享?一旦分享,患者隐私就没办法得到保障。722即热新闻——关注每天科技社会生活新变化gihot.com

“所以大模型的成功,更多是在很多日常能够接触到的,比如互联网语料文本、视频,容易收集到的语音数据,都是一些公开、开源、高频的任务数据,而真正和生产行业和日常生活,特别是涉及隐私相关的任务里面其实很难做。”他提出:“所以要有一个认识,大模型很成功,但是它更适用于资源富集,就是大数据、大算力、大资金、大能耗。而且模型可以离线训练,不需要在线更新,更重要的它是高频任务。但如果是小资源,模型不能够离线训练,必须要求在线更新时,就不合适。”722即热新闻——关注每天科技社会生活新变化gihot.com

“所以大模型的用处更应该是因地制宜,或者因任务制宜,很多的任务可能不太适用于像今天的大模型。我们有必要去尝试其他的研究路线。我们这几年在研究这么一件事,叫作‘学件’(learnware),这个词也是我们造出来的。”周志华介绍,学件=模型+规约,基本思想是不依赖“一两个英雄模型打天下”,可以发挥多个模型的集成作用,以适应不同任务需求。在未经过专门训练的新任务上提供解决方案,同时强调保护用户和开发者的数据安全,实现模型之间的协同工作,以推动创新和提升问题解决能力。722即热新闻——关注每天科技社会生活新变化gihot.com

AI应用市场繁荣,但这是一座“危楼”722即热新闻——关注每天科技社会生活新变化gihot.com

中国科学院院士、清华大学教授胡事民在报告中提及,本轮人工智能发展有四驾马车:算力、框架、算法、数据,汇聚并促进了人类智慧的交融。他认为,应该更全面看待人工智能发展,不要只看应用端,要从硬件、框架、模型算法和应用四个层面来看,这四者都对人工智能的生态产生重要影响。722即热新闻——关注每天科技社会生活新变化gihot.com

胡事民院士分析了目前人工智能发展,我国面临的几个不利条件。首先,从硬件来看,两种国外AI芯片占了99%的市场份额。国产芯片要融入既有生态非常难,迭代更新慢。722即热新闻——关注每天科技社会生活新变化gihot.com

其次,从框架来看,国外深度学习框架占据主导的地位,国产框架面临生态屏障。从模型与算法方面来看,比前两者要好,但需加强原始创新。722即热新闻——关注每天科技社会生活新变化gihot.com

在应用层面,我国市场大、应用场景多、落地快、市场繁荣,有许多创业公司,“但它是一栋危楼,底下的硬件和软件有问题。这是我们的现状。”722即热新闻——关注每天科技社会生活新变化gihot.com

“需要以深度学习框架为牵引,夯实我国AI生态。”胡事民院士提出,因为框架承上启下,它可以在芯片算力水平不高的情况下尽量挖掘潜力,同时把应用层支撑好。清华大学在2020年3月20日推出“计图”深度学习框架,具备两个优点:第一个好处是快; 第二个好处是对硬件的支持广泛,可以快速适配任何一款国产硬件。“希望以‘计图’框架为核心,基于国产硬件促进人工智能算法应用的创新,来推动开源开放,构建中国人工智能的生态。”722即热新闻——关注每天科技社会生活新变化gihot.com

人工智能自主发展需要汇聚青年力量722即热新闻——关注每天科技社会生活新变化gihot.com

中国工程院院士、清华大学教授郑纬民告诉中青报·中青网记者,从学术角度来看,现在有四类人在关注大模型,一是真正做大模型的;二是大模型+,做应用的;三是进行政策规范治理的研究学者;四是如何让大模型用起来,进行基础设施建设的科研人员。722即热新闻——关注每天科技社会生活新变化gihot.com

作为大会程序委员会主席,清华大学副教授崔鹏说,我们现在整体人工智能的发展路径还是以跟随为主,其中一个很明显的现象是,OpenAI发布一个新的产品,我们赶紧奋起直追,那么中国人工智能自主发展路径在何方,希望汇聚青年精英的力量,共同去探讨和商议。722即热新闻——关注每天科技社会生活新变化gihot.com

清华大学公共管理学院教授,人工智能治理研究中心主任梁正在专题报告中指出,发展人工智能,我国在基础理论、核心软硬件和生态方面还与国际先进水平有一定差距,要平衡创新与治理、践行价值对齐的伦理思路,并吸收国际经验,探索理念开放、主体多元、对象分层、工具灵活的敏捷治理新思路,以推动我国人工智能治理的进一步发展。722即热新闻——关注每天科技社会生活新变化gihot.com

相较于大语言模型,近期以Open AI的SORA、GPT-4o,以及谷歌的Geimini为代表的世界模型,成为学术界和工业界的研究热点,被认为是通向强人工智能的关键技术路径。但是以多模态学习为基础的世界模型的路线还不清晰,未来发展有很多争议,复旦大学教授邱锡鹏教授发起的“世界模型之路在何方”的论坛,吸引了更多学者探讨世界模型的发展路线,以及在国内算力不足的条件下如何轻量化发展,如何跨模态相互理解等研究方向。722即热新闻——关注每天科技社会生活新变化gihot.com

热度不减的大模型是实现人工智能的唯一解决方法吗?每个行业都要有自己的大模型吗?对于大模型,我们现在还是跟随,那么自主的发展路径是什么?当预训练大模型搅动起巨大的研发、应用热潮时,这些问题随之产生。722即热新闻——关注每天科技社会生活新变化gihot.com

中国计算机学会以“智启新局”为主题,5月16-18日在浙江宁波举办了2024青年精英大会(YEF2024),1200多名来自全国各高校、科研院所、企业的青年学者、专家,集中讨论了大模型、人工智能安全、国产算力、开源芯片、脑机接口等多个前沿领域发展。722即热新闻——关注每天科技社会生活新变化gihot.com

不依赖“一两个模型打天下”722即热新闻——关注每天科技社会生活新变化gihot.com

大模型为什么不是万能的?面对现在的大模型热,南京大学计算机系主任、人工智能学院院长周志华教授从两个方面进行了分析,一方面大模型确实非常有用,所以业界特别是企业应该努力“压榨”这个大模型路线的技术红利,尽可能让它发挥更大的作用;另一方面也需要认识到大模型不是所有任务的最佳解决方案,“很多企业现在都在做自己的大模型,甚至觉得不做大模型不正确,但是机器学习里有一个基本定律‘没有免费的午餐’。希望一个算法模型能够包打天下是不可能,一定有弱点,大模型有一些‘烦恼’。”722即热新闻——关注每天科技社会生活新变化gihot.com

长期从事人工智能核心技术机器学习研究的周志华教授,有一系列原创性成果,他列举了大模型的多个“烦恼”。722即热新闻——关注每天科技社会生活新变化gihot.com

首先,大模型要先规划任务、收集数据,然后训练出模型,也就是说必须先考虑到要解决某一类任务,然后为它去收集数据做模型,这时如果有一个新任务,原来没有考虑规划过,这时就没有模型可用的。 722即热新闻——关注每天科技社会生活新变化gihot.com

其次,大模型训练和使用能耗、碳耗、数据耗都很大,一般人用不起。有人作过预测,按照现在的趋势下去,2025年一个大模型训练产生的碳排放相当于全纽约一个月的碳排放。  722即热新闻——关注每天科技社会生活新变化gihot.com

周志华教授提到,现在人们都希望先训练一个模型,并希望在使用的过程中不断去更新它,但是目前的大模型路线,有一个问题叫“灾难性遗忘”。他以自动汽车驾驶为例,若机器学习模型在对新环境获取的数据进行学习时,会“冲掉”旧环境中得到的宝贵信息,会出现重大安全隐患。722即热新闻——关注每天科技社会生活新变化gihot.com

由于前面列举的各种问题,人们都希望大模型能够持续学习和终身学习,希望模型学了一堆任务之后,随着应用的不断发展,能够不断地“学”下去。周志华判断:“这件事情在今天基于神经网络,或者从基本的数学工具上还看不到解决方案。”722即热新闻——关注每天科技社会生活新变化gihot.com

“训练大模型要有大量的训练数据,但是在大数据时代,这仍然是问题。”周志华解释,有的应用样本总量就是小,比如我们要做油田定位,这个数据要通过人工诱发地震才能获得,那就不可能有大量数据。再比如银行信用卡欺诈交易检测,样本很小。现在有人基于大模型在做软件缺陷检测,马上就会碰到这个问题,虽然互联网上这样的开源代码很多,但是真正由程序员标注出缺陷的很少,所以数据总量仍旧是问题。722即热新闻——关注每天科技社会生活新变化gihot.com

此外,数据隐私和所有权问题还无法解决。比如做医疗诊断,大医院有很好的数据,能做很好的模型,社区医院数据不多,做不了很好的模型,大医院能不能把这个数据进行分享?一旦分享,患者隐私就没办法得到保障。722即热新闻——关注每天科技社会生活新变化gihot.com

“所以大模型的成功,更多是在很多日常能够接触到的,比如互联网语料文本、视频,容易收集到的语音数据,都是一些公开、开源、高频的任务数据,而真正和生产行业和日常生活,特别是涉及隐私相关的任务里面其实很难做。”他提出:“所以要有一个认识,大模型很成功,但是它更适用于资源富集,就是大数据、大算力、大资金、大能耗。而且模型可以离线训练,不需要在线更新,更重要的它是高频任务。但如果是小资源,模型不能够离线训练,必须要求在线更新时,就不合适。”722即热新闻——关注每天科技社会生活新变化gihot.com

“所以大模型的用处更应该是因地制宜,或者因任务制宜,很多的任务可能不太适用于像今天的大模型。我们有必要去尝试其他的研究路线。我们这几年在研究这么一件事,叫作‘学件’(learnware),这个词也是我们造出来的。”周志华介绍,学件=模型+规约,基本思想是不依赖“一两个英雄模型打天下”,可以发挥多个模型的集成作用,以适应不同任务需求。在未经过专门训练的新任务上提供解决方案,同时强调保护用户和开发者的数据安全,实现模型之间的协同工作,以推动创新和提升问题解决能力。722即热新闻——关注每天科技社会生活新变化gihot.com

AI应用市场繁荣,但这是一座“危楼”722即热新闻——关注每天科技社会生活新变化gihot.com

中国科学院院士、清华大学教授胡事民在报告中提及,本轮人工智能发展有四驾马车:算力、框架、算法、数据,汇聚并促进了人类智慧的交融。他认为,应该更全面看待人工智能发展,不要只看应用端,要从硬件、框架、模型算法和应用四个层面来看,这四者都对人工智能的生态产生重要影响。722即热新闻——关注每天科技社会生活新变化gihot.com

胡事民院士分析了目前人工智能发展,我国面临的几个不利条件。首先,从硬件来看,两种国外AI芯片占了99%的市场份额。国产芯片要融入既有生态非常难,迭代更新慢。722即热新闻——关注每天科技社会生活新变化gihot.com

其次,从框架来看,国外深度学习框架占据主导的地位,国产框架面临生态屏障。从模型与算法方面来看,比前两者要好,但需加强原始创新。722即热新闻——关注每天科技社会生活新变化gihot.com

在应用层面,我国市场大、应用场景多、落地快、市场繁荣,有许多创业公司,“但它是一栋危楼,底下的硬件和软件有问题。这是我们的现状。”722即热新闻——关注每天科技社会生活新变化gihot.com

“需要以深度学习框架为牵引,夯实我国AI生态。”胡事民院士提出,因为框架承上启下,它可以在芯片算力水平不高的情况下尽量挖掘潜力,同时把应用层支撑好。清华大学在2020年3月20日推出“计图”深度学习框架,具备两个优点:第一个好处是快; 第二个好处是对硬件的支持广泛,可以快速适配任何一款国产硬件。“希望以‘计图’框架为核心,基于国产硬件促进人工智能算法应用的创新,来推动开源开放,构建中国人工智能的生态。”722即热新闻——关注每天科技社会生活新变化gihot.com

人工智能自主发展需要汇聚青年力量722即热新闻——关注每天科技社会生活新变化gihot.com

中国工程院院士、清华大学教授郑纬民告诉中青报·中青网记者,从学术角度来看,现在有四类人在关注大模型,一是真正做大模型的;二是大模型+,做应用的;三是进行政策规范治理的研究学者;四是如何让大模型用起来,进行基础设施建设的科研人员。722即热新闻——关注每天科技社会生活新变化gihot.com

作为大会程序委员会主席,清华大学副教授崔鹏说,我们现在整体人工智能的发展路径还是以跟随为主,其中一个很明显的现象是,OpenAI发布一个新的产品,我们赶紧奋起直追,那么中国人工智能自主发展路径在何方,希望汇聚青年精英的力量,共同去探讨和商议。722即热新闻——关注每天科技社会生活新变化gihot.com

清华大学公共管理学院教授,人工智能治理研究中心主任梁正在专题报告中指出,发展人工智能,我国在基础理论、核心软硬件和生态方面还与国际先进水平有一定差距,要平衡创新与治理、践行价值对齐的伦理思路,并吸收国际经验,探索理念开放、主体多元、对象分层、工具灵活的敏捷治理新思路,以推动我国人工智能治理的进一步发展。722即热新闻——关注每天科技社会生活新变化gihot.com

相较于大语言模型,近期以Open AI的SORA、GPT-4o,以及谷歌的Geimini为代表的世界模型,成为学术界和工业界的研究热点,被认为是通向强人工智能的关键技术路径。但是以多模态学习为基础的世界模型的路线还不清晰,未来发展有很多争议,复旦大学教授邱锡鹏教授发起的“世界模型之路在何方”的论坛,吸引了更多学者探讨世界模型的发展路线,以及在国内算力不足的条件下如何轻量化发展,如何跨模态相互理解等研究方向。722即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-5103-0.html构建中国人自己的智能生态 解决大模型的“烦恼”

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:北京正负电子对撞机获得重大成果,首次测得粒子的量子态性质

下一篇:诺氏驼基因之谜被破解:杂交巨驼 “挑食”,遇冰期走向灭亡

为你推荐
佛山顺德区本地当面套花呗京东白条VISA信用卡分付本地一手商家秒到账:【138 1874 5895 微信同号】一手当面靠谱!白条怎么套出来,大家在急用钱的时候肯定会想到京东白条或者京东...
08-05
重庆九龙坡区当面套VISA境外卡花呗白条分付【微电:138 1874 5895】全天在线欢迎打电话,当面办理安全靠谱!套京东白条取现?有这么一个商家你不知道你就吃大亏!最近很多兄弟们给我...
08-03
干货分享:白条里的钱怎么套出来(总结4点借钱不再困难)。如今许多网民都喜爱了京东商城白条交易套出来这类方法,由于在有京东商城白条信用额度下,在急需用钱的情形下就可以套出...
08-07
在转账页面,你可以看到多种转账方式,包括“转到支付宝账户”、“转到银行卡”等选项。这里选择“转到支付宝账户”,因为花呗转账实质上是将资金转移到他人的支付宝账户上,在输...
08-07
人谁无过,过而能改,善莫大焉。——《左传》  译:人没有不犯错误的,只要能及时改正自己的错误,就是的了。 京东白条是一款应急消费的金融产品,大家在淘宝进行购物的...
08-24
当仁,不让于师。——《论语》  译:遇到应该做的好事,不能犹豫不决,即使老师在一旁,也应该抢着去做。后发展为成语“当仁不让”。 君子欲讷于言而敏于行。—&mda...
08-24
  说到影视经典,许多人脑海中浮现出《红楼梦》《西游记》等经典老剧,又或是动画片《大闹天宫》《黑猫警长》。今年2月1日,重温经典频道推出,免费向全国观众提供脍炙人口的...
10-28
预演;微信分付扫商家码多久到账(2024最新5个方法可以帮你实现)分付消费二维码是一种特定的二维码,可以用于商家接收分付支付的方式。这种二维码可以直接扫描,并通过微信的分付...
09-01
谷雨是春季最后的一个节气了,谷雨过后就是到了夏季了,谷雨的时候也是晚春了,所以气温是比较的高了,天气也是比较的热了,所以我们在谷雨的时候也是需要很好的注意做好养生的功效,下...
04-02
大暑作为夏季的一个重要节气,这时候由于温度高,所以我们应该掌握合理的养生方法才行,如果在大暑的时候可以做好养生的工作,这样自然可以让我们在大暑更健康,那么具体大暑的时候大...
04-02
10月5日,中山大学中山眼科中心发布讣告:中国共产党党员、中山大学中山眼科中心...
10-08
  大众网记者 秦瑾 通讯员 董美华 报道  9月11日上午,山东省全民终身学习中心建设项目(一期)动员大会在山东开放大学高新校区举行,标志着该项目全面开工。  省委教育工...
09-12
济南风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-31
太原风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-25
武汉风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-07
连云港风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。...
08-04
全球互联网金融市场风起云涌的今天,俄罗斯登塔StairsUp项目犹如一颗耀眼的新星,迅速吸引了众多投资者的目光。不到一个月近5w全球用户,本文将深入探讨StairsUp项目的现状及其在...
07-19
人类的基因数据能够数字化并永久保存了?!英国南安普顿大学的 Peter Kazansky 领导的研究团队,借助 Helixworks Technologies 的技术,成功将整个人类基因组激光刻录...
09-23
由著名漫画家青山刚昌创作的经典漫画《剑勇传说YAIBA》,在连载完结30年后,终于宣布将完整动画化,并公布了预告片。 《剑勇传说YAIBA》动画预告: 此次动画化阵容...
09-05
  据韩联社报道,当地时间4日,韩国执政党国民力量党党首韩东勋呼吁韩国总统尹锡悦向国民道歉,并重组总统...
11-05
潮新闻客户端 记者 吴越 实习生 蓝昕宇在杭州拱墅区一间10多平方米的单间,不大的办公地被围断成了数个小隔间,负责社保挂靠、代缴的中介们,正与客户一对一讲解,不时传来计算器按...
04-12
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮