难以破解的AI“黑匣子”

1周前 来源:中国科技网 观看:4

说到黑匣子,许多人会联想到飞机上用于记录飞行数据的设备或充满怀旧气息的小剧场。然而,在人工智能(AI)领域,黑匣子同样是个不可忽视的重要术语。WQn即热新闻——关注每天科技社会生活新变化gihot.com

西班牙《国家报》指出,当AI神经网络运行时,即便是最资深的研究人员也对其内部运作一无所知。这里讨论的无关生物学,而是AI算法,特别是那些基于深度学习、模仿神经元之间连接的算法。这些系统宛如黑匣子,数据科学家、学术界顶尖人才,以及荣获诺贝尔奖的OpenAI和谷歌的工程师们,也难以窥探其内部奥秘。WQn即热新闻——关注每天科技社会生活新变化gihot.com

模型与数据具有不透明性WQn即热新闻——关注每天科技社会生活新变化gihot.com

《科学美国人》杂志报道称,AI黑匣子指的是内部运作方式对用户完全不可见的AI系统。用户可以向这些系统输入信息并获得输出,但无法检查其代码或了解产生输出的逻辑。WQn即热新闻——关注每天科技社会生活新变化gihot.com

机器学习作为AI的主要分支,是ChatGPT等生成式AI系统的基石。机器学习包含算法、训练数据和模型3个核心部分。算法是一系列程序指令,在机器学习中,算法通过大量训练数据,学会识别数据中的模式。当机器学习算法完成训练,其产物便是机器学习模型,这也是用户实际使用的部分。WQn即热新闻——关注每天科技社会生活新变化gihot.com

机器学习系统这3个部分中,任何一个都可能被隐藏起来,即被置于黑匣子中。通常情况下,算法是公开的。但为了保护知识产权,AI软件开发者通常会将模型或训练数据放进黑匣子。WQn即热新闻——关注每天科技社会生活新变化gihot.com

模型架构复杂到难以解释WQn即热新闻——关注每天科技社会生活新变化gihot.com

尽管许多AI算法背后的数学原理已被人们充分理解,但由这些算法构成的网络所产生的行为,却难以捉摸。WQn即热新闻——关注每天科技社会生活新变化gihot.com

ChatGPT、Gemini、Claude、Llama以及任何如DALL-E这样的图像生成器,以及任何依赖神经网络的系统,包括面部识别应用和内容推荐引擎,都面临这样的问题。WQn即热新闻——关注每天科技社会生活新变化gihot.com

相比之下,其他AI算法,如决策树或线性回归(常用于医学和经济等领域),则更具可解释性。它们的决策过程易于理解和可视化。工程师可顺着决策树的分支,清晰地看到特定结果是如何得出的。WQn即热新闻——关注每天科技社会生活新变化gihot.com

这种清晰性至关重要,因为它为AI注入了透明度,并向算法的使用者提供了安全保障。值得注意的是,欧盟《人工智能法案》强调了拥有透明且可解释系统的重要性。然而,神经网络本身的架构却阻碍了这种透明性。要理解这些算法的黑匣子问题,人们必须想象一个由相互连接的神经元或节点构成的网络。WQn即热新闻——关注每天科技社会生活新变化gihot.com

西班牙国家研究委员会AI研究所教授胡安·安东尼奥解释道,当你把数据输入网络,节点中的值会触发一系列计算。信息从第一批节点开始传播,以数值形式传递到后续节点,每个节点都会计算一个数字,并将其发送到所有连接,同时考虑每个连接的权重(即数值)。接收到这些信息的新节点会再计算另一个数字。WQn即热新闻——关注每天科技社会生活新变化gihot.com

值得注意的是,当前深度学习模型包含数千到数百万个参数。这些参数代表了训练后的节点和连接数量,数量庞大且变化多端,因此很难手动得出有意义的方程。WQn即热新闻——关注每天科技社会生活新变化gihot.com

据业内人士估计,GPT-4拥有近1.8万亿个参数。根据这一分析,每个语言模型将使用约2200亿个参数。这意味着,每当提出一个问题时,就有2200亿个变量可能影响算法的回应。WQn即热新闻——关注每天科技社会生活新变化gihot.com

科技公司尝试打开黑匣子WQn即热新闻——关注每天科技社会生活新变化gihot.com

系统不透明性让纠正偏见变得更难,也加剧了不信任感。目前,AI领域的主要参与者意识到了这一局限性,并正在积极开展研究,以更好地了解其模型的工作原理。例如,OpenAI用神经网络观察分析另一神经网络,Anthropic研究节点连接和信息传播电路等。WQn即热新闻——关注每天科技社会生活新变化gihot.com

解码黑匣子对语言模型大有裨益,能避免错误推理和AI产生误导信息,解决答案不一致问题。然而,由于不了解网络内部机制,科技公司通常会让模型进行大量训练,通过测试后即发布产品。这种方法也可能会存在问题,如谷歌Gemini在初发布时就生成了错误的图像。WQn即热新闻——关注每天科技社会生活新变化gihot.com

与黑匣子相对的一个概念是玻璃盒。AI玻璃盒是指它的算法、训练数据和模型都可以被任何人看到。解码黑匣子的最终目标是保持对AI的控制,特别是将其部署在敏感领域时。假设一个机器学习模型已经对人类的健康状况或财务状况做出了诊断,人们会希望该模型是黑匣子还是玻璃盒呢?答案显而易见。这不仅是对算法内部工作原理的高度关注,也不仅是出于科学的好奇心,更有对用户隐私的保护。WQn即热新闻——关注每天科技社会生活新变化gihot.com

说到黑匣子,许多人会联想到飞机上用于记录飞行数据的设备或充满怀旧气息的小剧场。然而,在人工智能(AI)领域,黑匣子同样是个不可忽视的重要术语。WQn即热新闻——关注每天科技社会生活新变化gihot.com

西班牙《国家报》指出,当AI神经网络运行时,即便是最资深的研究人员也对其内部运作一无所知。这里讨论的无关生物学,而是AI算法,特别是那些基于深度学习、模仿神经元之间连接的算法。这些系统宛如黑匣子,数据科学家、学术界顶尖人才,以及荣获诺贝尔奖的OpenAI和谷歌的工程师们,也难以窥探其内部奥秘。WQn即热新闻——关注每天科技社会生活新变化gihot.com

模型与数据具有不透明性WQn即热新闻——关注每天科技社会生活新变化gihot.com

《科学美国人》杂志报道称,AI黑匣子指的是内部运作方式对用户完全不可见的AI系统。用户可以向这些系统输入信息并获得输出,但无法检查其代码或了解产生输出的逻辑。WQn即热新闻——关注每天科技社会生活新变化gihot.com

机器学习作为AI的主要分支,是ChatGPT等生成式AI系统的基石。机器学习包含算法、训练数据和模型3个核心部分。算法是一系列程序指令,在机器学习中,算法通过大量训练数据,学会识别数据中的模式。当机器学习算法完成训练,其产物便是机器学习模型,这也是用户实际使用的部分。WQn即热新闻——关注每天科技社会生活新变化gihot.com

机器学习系统这3个部分中,任何一个都可能被隐藏起来,即被置于黑匣子中。通常情况下,算法是公开的。但为了保护知识产权,AI软件开发者通常会将模型或训练数据放进黑匣子。WQn即热新闻——关注每天科技社会生活新变化gihot.com

模型架构复杂到难以解释WQn即热新闻——关注每天科技社会生活新变化gihot.com

尽管许多AI算法背后的数学原理已被人们充分理解,但由这些算法构成的网络所产生的行为,却难以捉摸。WQn即热新闻——关注每天科技社会生活新变化gihot.com

ChatGPT、Gemini、Claude、Llama以及任何如DALL-E这样的图像生成器,以及任何依赖神经网络的系统,包括面部识别应用和内容推荐引擎,都面临这样的问题。WQn即热新闻——关注每天科技社会生活新变化gihot.com

相比之下,其他AI算法,如决策树或线性回归(常用于医学和经济等领域),则更具可解释性。它们的决策过程易于理解和可视化。工程师可顺着决策树的分支,清晰地看到特定结果是如何得出的。WQn即热新闻——关注每天科技社会生活新变化gihot.com

这种清晰性至关重要,因为它为AI注入了透明度,并向算法的使用者提供了安全保障。值得注意的是,欧盟《人工智能法案》强调了拥有透明且可解释系统的重要性。然而,神经网络本身的架构却阻碍了这种透明性。要理解这些算法的黑匣子问题,人们必须想象一个由相互连接的神经元或节点构成的网络。WQn即热新闻——关注每天科技社会生活新变化gihot.com

西班牙国家研究委员会AI研究所教授胡安·安东尼奥解释道,当你把数据输入网络,节点中的值会触发一系列计算。信息从第一批节点开始传播,以数值形式传递到后续节点,每个节点都会计算一个数字,并将其发送到所有连接,同时考虑每个连接的权重(即数值)。接收到这些信息的新节点会再计算另一个数字。WQn即热新闻——关注每天科技社会生活新变化gihot.com

值得注意的是,当前深度学习模型包含数千到数百万个参数。这些参数代表了训练后的节点和连接数量,数量庞大且变化多端,因此很难手动得出有意义的方程。WQn即热新闻——关注每天科技社会生活新变化gihot.com

据业内人士估计,GPT-4拥有近1.8万亿个参数。根据这一分析,每个语言模型将使用约2200亿个参数。这意味着,每当提出一个问题时,就有2200亿个变量可能影响算法的回应。WQn即热新闻——关注每天科技社会生活新变化gihot.com

科技公司尝试打开黑匣子WQn即热新闻——关注每天科技社会生活新变化gihot.com

系统不透明性让纠正偏见变得更难,也加剧了不信任感。目前,AI领域的主要参与者意识到了这一局限性,并正在积极开展研究,以更好地了解其模型的工作原理。例如,OpenAI用神经网络观察分析另一神经网络,Anthropic研究节点连接和信息传播电路等。WQn即热新闻——关注每天科技社会生活新变化gihot.com

解码黑匣子对语言模型大有裨益,能避免错误推理和AI产生误导信息,解决答案不一致问题。然而,由于不了解网络内部机制,科技公司通常会让模型进行大量训练,通过测试后即发布产品。这种方法也可能会存在问题,如谷歌Gemini在初发布时就生成了错误的图像。WQn即热新闻——关注每天科技社会生活新变化gihot.com

与黑匣子相对的一个概念是玻璃盒。AI玻璃盒是指它的算法、训练数据和模型都可以被任何人看到。解码黑匣子的最终目标是保持对AI的控制,特别是将其部署在敏感领域时。假设一个机器学习模型已经对人类的健康状况或财务状况做出了诊断,人们会希望该模型是黑匣子还是玻璃盒呢?答案显而易见。这不仅是对算法内部工作原理的高度关注,也不仅是出于科学的好奇心,更有对用户隐私的保护。WQn即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-48350-0.html难以破解的AI“黑匣子”

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:仿古生物机器人助解生命演化史谜团 验证先祖从游泳到行走转变的多种假说

下一篇:神舟十九号航天员乘组确定 我国首位女性航天飞行工程师亮相

为你推荐
微信分期怎么套现,3个方法提现是最常用的随着移动支付的浪潮席卷而来,微信支付已深深烙印在人们的日常生活中,成为不可或缺的支付伙伴。而在这一生态中,微信分付以其独特的分期...
08-09
南京秦淮区本地当面套花呗京东白条VISA信用卡分付一手商家秒到账:【150 0062 3958 微信同号】一手当面靠谱!白条怎么套出来,大家在急用钱的时候肯定会想到京东白条或者京东金条...
08-03
世上只有一个真理,便是忠实于人生,并且爱它。——罗曼·罗兰 二人同心,其利断金;同心之言,其臭如兰。  译:同心协办的人,他们的力量足以把坚硬的金属弄断;同心同...
08-07
除了便捷支付和账单管理功能外,花呗还各种优惠活动吸引用户,例如不定期的消费返现和商家折扣优惠。这些活动不仅节省了用户的消费成本,还增强了用户对花呗的使用信心和满意度。...
08-06
  近日,有网友在民政部官网咨询关于婚姻登记信息同步的问题。其留言称,“请问民政部门和公安部门的婚姻登记信息同步了嘛?如果登记结婚之后,是否需要去变更户口簿上面的婚...
10-14
现在网络鱼龙混杂,请认准靠谱八年商家,金牌小帮手——小创(137-1300-8979可v可来电)(全年365天不掉线) 【抖音月付分付要怎样提现】【抖音Dou分期怎么刷出来】【抖...
08-19
横评:微信分期额度怎么套出来-秒到6种绝对技巧微信分付是指通过微信支付系统,实现商户的资金由微信支付账户转移到商户的银行账户的一种支付方式。微信分付与普通在线支付相...
09-07
横评:微信分付怎么转出另一个微信,实操12种方法具体详细步骤借款人短期内频繁使用分付消费,或者是在支付时经常取消交易,导致系统对借款人采取限额措施。一旦借款人再使用分付...
08-29
阿卡替尼Calquence(Acalabrutinb)属于激酶抑制剂类药物。它的工作原理是阻断异常蛋白的活动,这种异常蛋白是癌细胞繁殖的信号。这有助于阻止癌细胞的扩散。 海外代购医疗咨询...
08-06
清明节气雨纷纷,是一个典故,到了清明时节的时候会出现多雨,而且是多雨的节气,那么应该如何去保健呢,一些保养的方式和方法大家都是需要去了解和认识的哦,下面的这些养生的汤品是不...
04-02
  大众网记者 王一刚 报道  以远见卓识,引领教育未来;用广阔胸怀,拥抱每一个孩子;教育的伟大,在于成就每一个孩子的无限可能。 ...
09-12
深圳风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-25
大连风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-22
嘉兴风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
09-01
金华风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-12
在错综复杂的政治棋局中,你扮演的究竟是棋子,车马,还是判定终局胜负的国王? 由Aluba Studio开发、Spiral Up Games发行的剧情向解谜游戏《全网公敌2 新世界》,现已...
08-03
  摘要  【橡胶大幅度回调短期预计维持区间振荡】自上周以来,橡胶盘面经历了较大幅度的回调,...
06-27
5月29日上午,安徽滁河水体污染联合调查组发布“关于滁河水体污染处置进展情况的通报”:近日,由于全椒经开区的滁州富信石油助剂有限公司原料...
05-29
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮