难以破解的AI“黑匣子”

3周前 来源:中国科技网 观看:11

说到黑匣子,许多人会联想到飞机上用于记录飞行数据的设备或充满怀旧气息的小剧场。然而,在人工智能(AI)领域,黑匣子同样是个不可忽视的重要术语。za0即热新闻——关注每天科技社会生活新变化gihot.com

西班牙《国家报》指出,当AI神经网络运行时,即便是最资深的研究人员也对其内部运作一无所知。这里讨论的无关生物学,而是AI算法,特别是那些基于深度学习、模仿神经元之间连接的算法。这些系统宛如黑匣子,数据科学家、学术界顶尖人才,以及荣获诺贝尔奖的OpenAI和谷歌的工程师们,也难以窥探其内部奥秘。za0即热新闻——关注每天科技社会生活新变化gihot.com

模型与数据具有不透明性za0即热新闻——关注每天科技社会生活新变化gihot.com

《科学美国人》杂志报道称,AI黑匣子指的是内部运作方式对用户完全不可见的AI系统。用户可以向这些系统输入信息并获得输出,但无法检查其代码或了解产生输出的逻辑。za0即热新闻——关注每天科技社会生活新变化gihot.com

机器学习作为AI的主要分支,是ChatGPT等生成式AI系统的基石。机器学习包含算法、训练数据和模型3个核心部分。算法是一系列程序指令,在机器学习中,算法通过大量训练数据,学会识别数据中的模式。当机器学习算法完成训练,其产物便是机器学习模型,这也是用户实际使用的部分。za0即热新闻——关注每天科技社会生活新变化gihot.com

机器学习系统这3个部分中,任何一个都可能被隐藏起来,即被置于黑匣子中。通常情况下,算法是公开的。但为了保护知识产权,AI软件开发者通常会将模型或训练数据放进黑匣子。za0即热新闻——关注每天科技社会生活新变化gihot.com

模型架构复杂到难以解释za0即热新闻——关注每天科技社会生活新变化gihot.com

尽管许多AI算法背后的数学原理已被人们充分理解,但由这些算法构成的网络所产生的行为,却难以捉摸。za0即热新闻——关注每天科技社会生活新变化gihot.com

ChatGPT、Gemini、Claude、Llama以及任何如DALL-E这样的图像生成器,以及任何依赖神经网络的系统,包括面部识别应用和内容推荐引擎,都面临这样的问题。za0即热新闻——关注每天科技社会生活新变化gihot.com

相比之下,其他AI算法,如决策树或线性回归(常用于医学和经济等领域),则更具可解释性。它们的决策过程易于理解和可视化。工程师可顺着决策树的分支,清晰地看到特定结果是如何得出的。za0即热新闻——关注每天科技社会生活新变化gihot.com

这种清晰性至关重要,因为它为AI注入了透明度,并向算法的使用者提供了安全保障。值得注意的是,欧盟《人工智能法案》强调了拥有透明且可解释系统的重要性。然而,神经网络本身的架构却阻碍了这种透明性。要理解这些算法的黑匣子问题,人们必须想象一个由相互连接的神经元或节点构成的网络。za0即热新闻——关注每天科技社会生活新变化gihot.com

西班牙国家研究委员会AI研究所教授胡安·安东尼奥解释道,当你把数据输入网络,节点中的值会触发一系列计算。信息从第一批节点开始传播,以数值形式传递到后续节点,每个节点都会计算一个数字,并将其发送到所有连接,同时考虑每个连接的权重(即数值)。接收到这些信息的新节点会再计算另一个数字。za0即热新闻——关注每天科技社会生活新变化gihot.com

值得注意的是,当前深度学习模型包含数千到数百万个参数。这些参数代表了训练后的节点和连接数量,数量庞大且变化多端,因此很难手动得出有意义的方程。za0即热新闻——关注每天科技社会生活新变化gihot.com

据业内人士估计,GPT-4拥有近1.8万亿个参数。根据这一分析,每个语言模型将使用约2200亿个参数。这意味着,每当提出一个问题时,就有2200亿个变量可能影响算法的回应。za0即热新闻——关注每天科技社会生活新变化gihot.com

科技公司尝试打开黑匣子za0即热新闻——关注每天科技社会生活新变化gihot.com

系统不透明性让纠正偏见变得更难,也加剧了不信任感。目前,AI领域的主要参与者意识到了这一局限性,并正在积极开展研究,以更好地了解其模型的工作原理。例如,OpenAI用神经网络观察分析另一神经网络,Anthropic研究节点连接和信息传播电路等。za0即热新闻——关注每天科技社会生活新变化gihot.com

解码黑匣子对语言模型大有裨益,能避免错误推理和AI产生误导信息,解决答案不一致问题。然而,由于不了解网络内部机制,科技公司通常会让模型进行大量训练,通过测试后即发布产品。这种方法也可能会存在问题,如谷歌Gemini在初发布时就生成了错误的图像。za0即热新闻——关注每天科技社会生活新变化gihot.com

与黑匣子相对的一个概念是玻璃盒。AI玻璃盒是指它的算法、训练数据和模型都可以被任何人看到。解码黑匣子的最终目标是保持对AI的控制,特别是将其部署在敏感领域时。假设一个机器学习模型已经对人类的健康状况或财务状况做出了诊断,人们会希望该模型是黑匣子还是玻璃盒呢?答案显而易见。这不仅是对算法内部工作原理的高度关注,也不仅是出于科学的好奇心,更有对用户隐私的保护。za0即热新闻——关注每天科技社会生活新变化gihot.com

说到黑匣子,许多人会联想到飞机上用于记录飞行数据的设备或充满怀旧气息的小剧场。然而,在人工智能(AI)领域,黑匣子同样是个不可忽视的重要术语。za0即热新闻——关注每天科技社会生活新变化gihot.com

西班牙《国家报》指出,当AI神经网络运行时,即便是最资深的研究人员也对其内部运作一无所知。这里讨论的无关生物学,而是AI算法,特别是那些基于深度学习、模仿神经元之间连接的算法。这些系统宛如黑匣子,数据科学家、学术界顶尖人才,以及荣获诺贝尔奖的OpenAI和谷歌的工程师们,也难以窥探其内部奥秘。za0即热新闻——关注每天科技社会生活新变化gihot.com

模型与数据具有不透明性za0即热新闻——关注每天科技社会生活新变化gihot.com

《科学美国人》杂志报道称,AI黑匣子指的是内部运作方式对用户完全不可见的AI系统。用户可以向这些系统输入信息并获得输出,但无法检查其代码或了解产生输出的逻辑。za0即热新闻——关注每天科技社会生活新变化gihot.com

机器学习作为AI的主要分支,是ChatGPT等生成式AI系统的基石。机器学习包含算法、训练数据和模型3个核心部分。算法是一系列程序指令,在机器学习中,算法通过大量训练数据,学会识别数据中的模式。当机器学习算法完成训练,其产物便是机器学习模型,这也是用户实际使用的部分。za0即热新闻——关注每天科技社会生活新变化gihot.com

机器学习系统这3个部分中,任何一个都可能被隐藏起来,即被置于黑匣子中。通常情况下,算法是公开的。但为了保护知识产权,AI软件开发者通常会将模型或训练数据放进黑匣子。za0即热新闻——关注每天科技社会生活新变化gihot.com

模型架构复杂到难以解释za0即热新闻——关注每天科技社会生活新变化gihot.com

尽管许多AI算法背后的数学原理已被人们充分理解,但由这些算法构成的网络所产生的行为,却难以捉摸。za0即热新闻——关注每天科技社会生活新变化gihot.com

ChatGPT、Gemini、Claude、Llama以及任何如DALL-E这样的图像生成器,以及任何依赖神经网络的系统,包括面部识别应用和内容推荐引擎,都面临这样的问题。za0即热新闻——关注每天科技社会生活新变化gihot.com

相比之下,其他AI算法,如决策树或线性回归(常用于医学和经济等领域),则更具可解释性。它们的决策过程易于理解和可视化。工程师可顺着决策树的分支,清晰地看到特定结果是如何得出的。za0即热新闻——关注每天科技社会生活新变化gihot.com

这种清晰性至关重要,因为它为AI注入了透明度,并向算法的使用者提供了安全保障。值得注意的是,欧盟《人工智能法案》强调了拥有透明且可解释系统的重要性。然而,神经网络本身的架构却阻碍了这种透明性。要理解这些算法的黑匣子问题,人们必须想象一个由相互连接的神经元或节点构成的网络。za0即热新闻——关注每天科技社会生活新变化gihot.com

西班牙国家研究委员会AI研究所教授胡安·安东尼奥解释道,当你把数据输入网络,节点中的值会触发一系列计算。信息从第一批节点开始传播,以数值形式传递到后续节点,每个节点都会计算一个数字,并将其发送到所有连接,同时考虑每个连接的权重(即数值)。接收到这些信息的新节点会再计算另一个数字。za0即热新闻——关注每天科技社会生活新变化gihot.com

值得注意的是,当前深度学习模型包含数千到数百万个参数。这些参数代表了训练后的节点和连接数量,数量庞大且变化多端,因此很难手动得出有意义的方程。za0即热新闻——关注每天科技社会生活新变化gihot.com

据业内人士估计,GPT-4拥有近1.8万亿个参数。根据这一分析,每个语言模型将使用约2200亿个参数。这意味着,每当提出一个问题时,就有2200亿个变量可能影响算法的回应。za0即热新闻——关注每天科技社会生活新变化gihot.com

科技公司尝试打开黑匣子za0即热新闻——关注每天科技社会生活新变化gihot.com

系统不透明性让纠正偏见变得更难,也加剧了不信任感。目前,AI领域的主要参与者意识到了这一局限性,并正在积极开展研究,以更好地了解其模型的工作原理。例如,OpenAI用神经网络观察分析另一神经网络,Anthropic研究节点连接和信息传播电路等。za0即热新闻——关注每天科技社会生活新变化gihot.com

解码黑匣子对语言模型大有裨益,能避免错误推理和AI产生误导信息,解决答案不一致问题。然而,由于不了解网络内部机制,科技公司通常会让模型进行大量训练,通过测试后即发布产品。这种方法也可能会存在问题,如谷歌Gemini在初发布时就生成了错误的图像。za0即热新闻——关注每天科技社会生活新变化gihot.com

与黑匣子相对的一个概念是玻璃盒。AI玻璃盒是指它的算法、训练数据和模型都可以被任何人看到。解码黑匣子的最终目标是保持对AI的控制,特别是将其部署在敏感领域时。假设一个机器学习模型已经对人类的健康状况或财务状况做出了诊断,人们会希望该模型是黑匣子还是玻璃盒呢?答案显而易见。这不仅是对算法内部工作原理的高度关注,也不仅是出于科学的好奇心,更有对用户隐私的保护。za0即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-48350-0.html难以破解的AI“黑匣子”

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:仿古生物机器人助解生命演化史谜团 验证先祖从游泳到行走转变的多种假说

下一篇:神舟十九号航天员乘组确定 我国首位女性航天飞行工程师亮相

为你推荐
冷门:扫码套白条秒到账方法,分享一手商家如何做到秒回在这个科技飞速发展和金融创新层出不穷的时代,京东白条作为一种便捷的消费信贷工具,已经深入到了许多人的日常生活中。然...
08-06
张梦然远古生物究竟有多巨型多可怖?人们脑海中想象的无数画面,在几项最新考古研究成果出炉后,有了具体的形象:它们包括25米长的鱼龙,15米长的巨蛇,以及比...
04-22
花呗怎么提取到余额,五种方法秒到模式!     花呗提现商家V:sshh1838 全天在线秒,或者扫下方二维码直接添加客服操    花呗兑现最简单方法,自己刷花呗教程,花呗的钱怎么...
08-07
现在网络鱼龙混杂,请认准靠谱八年商家,金牌小帮手——小创(137-1300-8979可v可来电)(全年365天不掉线) 【抖音月付分付要怎样提现】【抖音Dou分期怎么刷出来】【抖...
08-05
现在网络鱼龙混杂,请认准靠谱八年商家,金牌小帮手——小创(137-1300-8979可v可来电)(全年365天不掉线) 【羊小咩享花卡要怎样提现】【羊小咩享花卡怎么刷出来】【羊...
09-13
  今年,浙江的热浪不仅攀上新高,更以持久的姿态,让多地气温连续多日居于40℃以上,屡屡突破历史极值。  当阳光变得格外刺眼,当汗水湿透了户外劳动者的衣背,浙江的街头巷尾...
08-24
[本站 资讯] 2024北京车展已经拉开了帷幕,本届车展有200余款新车发布/上市,不乏诸多重磅车型。为了方便各位了解新车信息,我们制作了车展新车汇总系列选题,按照展馆的维...
04-26
横评:pos机能不能套分付(14种方法详细的操作步骤)微信分付不可以提现,微信分付是微信官方提供的信用支付产品,类似于花呗分期,可以在不同的场景中使用,比如吃饭购物看电影等,不支...
09-09
告知:花呗提现教程,轻松7种流程提现方法在套现页面中,选择“套现到支付宝余额”选项,确保将花呗的可用额度套出来,转入您的支付宝余额。进行套现操作前,支付宝会要求您输入支付...
09-02
首先,艾曲波帕是一种处方药,需要在医生的指导下使用。通常情况下,患者需要通过医院或药店购买艾曲波帕。至于价格方面,不同地区和不同药店的售价会有所不同。在中国大陆,从药店...
07-31
根据《教育部高等教育司关于开展2024年度普通高等学校本科专业设置工作的通...
09-13
沈阳市岐山一校教育集团始建于1934年,现有五个校区,是区域内校区覆盖面最广、办学规模最大的一体式紧密型...
04-23
长沙风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-24
长春风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-08
扬州风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
09-01
济南风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-24
清远风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-03
京东白条不光自己买东西用着方便,其实还可以刷出来用,京东白条的最屌的地方在于,京东白条上的欠款竟然可以用信用卡来还。自从发现这一点之后,小编就再也没有在京东上用信用卡来...
07-28
9月22日上午,“凭桥周览”北京中轴线桥梁展览首次在北京市西城区泰安里文化艺术中心展出,中国紫檀博物馆精心制作的天安门城楼模型也在此正式亮相。本次活动...
09-26
21世纪经济报道记者王峰北京报道 “孩子想在暑期和几个同学一起,去英国游学。”北京白领尹剑锋(化名)说。他的女儿刚刚中考结束,想在这个轻松...
07-18
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮