如何让人工智能实现认知正义

3个月前 来源:光明网 观看:34

作者:白惠仁(浙江大学哲学学院“百人计划”研究员、脑机智能全国重点实验室双聘研究员)AhI即热新闻——关注每天科技社会生活新变化gihot.com

近几年,人工智能在许多行业都有应用,成为人类的“好帮手”。但在这一过程中,也出现了各种各样的问题。其中,人工智能系统基于不良的数据来源和有缺陷的算法设计生成错误的“知识”,且没有对所输出内容进行价值判断的能力,无法承担相应认知责任,导致系统性的认知偏差,是一个比较突出的问题。AhI即热新闻——关注每天科技社会生活新变化gihot.com

从科技伦理角度分析,这违背了认知正义的原则。所谓认知正义,是指在知识生成、传播和获取过程中,确保所有个体和群体的声音都能被公平地听取和理解,并且有平等的机会被转化为人类的公共知识。AhI即热新闻——关注每天科技社会生活新变化gihot.com

过去,知识生成主要依赖人类个体的感知、记忆、推理和证词。然而,随着人工智能的超速迭代,尤其是会话式人工智能的广泛应用,传统的知识生成和传播方式正迎来重大转变。今天的人工智能不仅善于搜集信息和执行任务,更是一项能够生成和传播知识的“认知技术”,被用来处理认知内容(如命题、模型、数据)并执行认知操作(如统计分析、模式识别、预测、推理和模拟)。基于数据和算法的“机器知识”挑战了过去基于经验和专业判断的人类知识,导致认知“碎片化”,破坏了传统人类知识系统的认知正义。AhI即热新闻——关注每天科技社会生活新变化gihot.com

如今,生成式人工智能已经开始全面嵌入到所有可能对认知、决策进行技术性替代的场景和社会过程之中。面对人工智能在知识生成中对认知正义的挑战,如何让人工智能更智能?如何让其成为提升认知的帮手,确保科技向善?AhI即热新闻——关注每天科技社会生活新变化gihot.com

笔者认为,需从提升数据质量、改进算法设计、优化人机协同和加强伦理治理等维度着手。AhI即热新闻——关注每天科技社会生活新变化gihot.com

负责任的算法设计是实现认知正义的核心架构。人工智能作为一种强大的认知技术,通过数据挖掘和统计分析来识别信息的模式和趋势,参与人类公共知识的生成。由于算法主要关注在训练数据中频繁出现的信息模式,而不够普遍或统计上不够强大的数据往往会被忽视和排除,从而无法得到算法的充分理解和适当响应。依赖于统计频率的算法设计构成了一种特定的“认知盲从”,进而导致部分群体的声音被系统性边缘化。这种设计上的缺陷不仅限制了算法的认知能力,也加剧了社会中的不平等和认知压迫,破坏认知正义。“盲从”行为背后的根源,是算法的设计和训练过程缺乏对不同群体文化背景的理解。因此,在我们常谈及的算法透明性和可解释性之外,符合认知正义要求的算法设计还应兼顾涉及不同社群的认知多样性。AhI即热新闻——关注每天科技社会生活新变化gihot.com

有质量的数据供给是实现认知正义的基础设施。造成人工智能破坏认知正义的另一个重要诱因是数据质量。大数据是智能技术的认知基础和决策基础,可以更清晰直观地呈现人类社会生活各方面的特征和趋势,但与传统人类公共知识不同,数据不为人们普遍共享。具体来说,哪些数据可以被收集起来并用于分析,这些数据又将如何被分类提取,它们最终服务于谁,这些问题都变得模糊不清,导致数据质量参差不齐。算法的训练数据往往来源于互联网的大型数据库和社区,而这些数据很可能包含偏见和歧视。人工智能的知识生成,需确保数据的来源可靠、内容多样,对数据进行去偏处理,还需对数据保持持续监测和更新,以应对社会文化变化带来的新问题。有质量的数据供给,才能使人工智能系统在多元文化和复杂社会结构中提供更精准的知识和决策支持。AhI即热新闻——关注每天科技社会生活新变化gihot.com

大范围的人机协作是实现认知正义的有效手段。从脑机接口中的信号转译,到智能医疗决策、AI for Science等人机联合行动,不同层面的人机协作都涉及人类知识与机器知识的传递、解释、融合等认知过程。鉴于人机各自典型的认知特征,大范围、合理化的“人机认知劳动分工”将有效避免更多的人机认知偏差。比如,在科学研究中可以如此分工:人类设定目标、提出假设和解释结果,并负责提供创造性思维、临场决策、伦理判断以及对非结构化问题的直觉理解;而人工智能处理大量结构化数据、进行模式识别和预测分析,提供未被注意的模式和关联。在这种协作中,人工智能更多地成为启发新想法的“伙伴”,而非生成错误知识的“机器”。AhI即热新闻——关注每天科技社会生活新变化gihot.com

高水平的伦理治理是实现认知正义的制度支撑。认知正义要求多元的知识生成、平等的知识获取、无偏的知识传播和负责的知识使用,这些都需要高水平的人工智能伦理治理。于企业而言,应在算法设计中考虑不同社会群体的需求和视角,对算法进行持续风险监测和价值评估;还应探索人工智能伦理众包模式,鼓励不同背景的研究者和用户参与到人工智能伦理风险的研判中,及时化解伦理风险。于政府而言,应积极鼓励私人数据向公共数据转化,加快公共数据面向全社会开放共享,扩展数据多样性、强化数据可靠性;还应寻求应对人工智能潜在伦理风险的社会解决方案,建立涵盖前瞻性预见、实时性评估和系统性调整的敏捷治理机制。AhI即热新闻——关注每天科技社会生活新变化gihot.com

作者:白惠仁(浙江大学哲学学院“百人计划”研究员、脑机智能全国重点实验室双聘研究员)AhI即热新闻——关注每天科技社会生活新变化gihot.com

近几年,人工智能在许多行业都有应用,成为人类的“好帮手”。但在这一过程中,也出现了各种各样的问题。其中,人工智能系统基于不良的数据来源和有缺陷的算法设计生成错误的“知识”,且没有对所输出内容进行价值判断的能力,无法承担相应认知责任,导致系统性的认知偏差,是一个比较突出的问题。AhI即热新闻——关注每天科技社会生活新变化gihot.com

从科技伦理角度分析,这违背了认知正义的原则。所谓认知正义,是指在知识生成、传播和获取过程中,确保所有个体和群体的声音都能被公平地听取和理解,并且有平等的机会被转化为人类的公共知识。AhI即热新闻——关注每天科技社会生活新变化gihot.com

过去,知识生成主要依赖人类个体的感知、记忆、推理和证词。然而,随着人工智能的超速迭代,尤其是会话式人工智能的广泛应用,传统的知识生成和传播方式正迎来重大转变。今天的人工智能不仅善于搜集信息和执行任务,更是一项能够生成和传播知识的“认知技术”,被用来处理认知内容(如命题、模型、数据)并执行认知操作(如统计分析、模式识别、预测、推理和模拟)。基于数据和算法的“机器知识”挑战了过去基于经验和专业判断的人类知识,导致认知“碎片化”,破坏了传统人类知识系统的认知正义。AhI即热新闻——关注每天科技社会生活新变化gihot.com

如今,生成式人工智能已经开始全面嵌入到所有可能对认知、决策进行技术性替代的场景和社会过程之中。面对人工智能在知识生成中对认知正义的挑战,如何让人工智能更智能?如何让其成为提升认知的帮手,确保科技向善?AhI即热新闻——关注每天科技社会生活新变化gihot.com

笔者认为,需从提升数据质量、改进算法设计、优化人机协同和加强伦理治理等维度着手。AhI即热新闻——关注每天科技社会生活新变化gihot.com

负责任的算法设计是实现认知正义的核心架构。人工智能作为一种强大的认知技术,通过数据挖掘和统计分析来识别信息的模式和趋势,参与人类公共知识的生成。由于算法主要关注在训练数据中频繁出现的信息模式,而不够普遍或统计上不够强大的数据往往会被忽视和排除,从而无法得到算法的充分理解和适当响应。依赖于统计频率的算法设计构成了一种特定的“认知盲从”,进而导致部分群体的声音被系统性边缘化。这种设计上的缺陷不仅限制了算法的认知能力,也加剧了社会中的不平等和认知压迫,破坏认知正义。“盲从”行为背后的根源,是算法的设计和训练过程缺乏对不同群体文化背景的理解。因此,在我们常谈及的算法透明性和可解释性之外,符合认知正义要求的算法设计还应兼顾涉及不同社群的认知多样性。AhI即热新闻——关注每天科技社会生活新变化gihot.com

有质量的数据供给是实现认知正义的基础设施。造成人工智能破坏认知正义的另一个重要诱因是数据质量。大数据是智能技术的认知基础和决策基础,可以更清晰直观地呈现人类社会生活各方面的特征和趋势,但与传统人类公共知识不同,数据不为人们普遍共享。具体来说,哪些数据可以被收集起来并用于分析,这些数据又将如何被分类提取,它们最终服务于谁,这些问题都变得模糊不清,导致数据质量参差不齐。算法的训练数据往往来源于互联网的大型数据库和社区,而这些数据很可能包含偏见和歧视。人工智能的知识生成,需确保数据的来源可靠、内容多样,对数据进行去偏处理,还需对数据保持持续监测和更新,以应对社会文化变化带来的新问题。有质量的数据供给,才能使人工智能系统在多元文化和复杂社会结构中提供更精准的知识和决策支持。AhI即热新闻——关注每天科技社会生活新变化gihot.com

大范围的人机协作是实现认知正义的有效手段。从脑机接口中的信号转译,到智能医疗决策、AI for Science等人机联合行动,不同层面的人机协作都涉及人类知识与机器知识的传递、解释、融合等认知过程。鉴于人机各自典型的认知特征,大范围、合理化的“人机认知劳动分工”将有效避免更多的人机认知偏差。比如,在科学研究中可以如此分工:人类设定目标、提出假设和解释结果,并负责提供创造性思维、临场决策、伦理判断以及对非结构化问题的直觉理解;而人工智能处理大量结构化数据、进行模式识别和预测分析,提供未被注意的模式和关联。在这种协作中,人工智能更多地成为启发新想法的“伙伴”,而非生成错误知识的“机器”。AhI即热新闻——关注每天科技社会生活新变化gihot.com

高水平的伦理治理是实现认知正义的制度支撑。认知正义要求多元的知识生成、平等的知识获取、无偏的知识传播和负责的知识使用,这些都需要高水平的人工智能伦理治理。于企业而言,应在算法设计中考虑不同社会群体的需求和视角,对算法进行持续风险监测和价值评估;还应探索人工智能伦理众包模式,鼓励不同背景的研究者和用户参与到人工智能伦理风险的研判中,及时化解伦理风险。于政府而言,应积极鼓励私人数据向公共数据转化,加快公共数据面向全社会开放共享,扩展数据多样性、强化数据可靠性;还应寻求应对人工智能潜在伦理风险的社会解决方案,建立涵盖前瞻性预见、实时性评估和系统性调整的敏捷治理机制。AhI即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-47621-0.html如何让人工智能实现认知正义

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:主食为何大多来自禾本科?

下一篇:中外联合研究团队解码海洋微生物“基因宝藏”

为你推荐
  IT之家11月24日消息,澳大利亚政府周日宣布,已放弃对未能阻止在线虚假信息传播的互联网平台处...
11-27
苏州虎丘区本地当面套花呗京东白条VISA信用卡分付一手商家秒到账:【150 0062 3958 微信同号】一手当面靠谱!白条怎么套出来,大家在急用钱的时候肯定会想到京东白条或者京东金条...
08-02
    花呗提现商家V:sshh1838 全天在线秒,或者扫下方二维码直接添加客服操作      虽说套花呗已是很普遍,但很多人还是不知道如何才能把支付宝花呗套取现金后不风控...
08-07
三思而后行。——《论语》  译:每做一件事情必须要经过反复的考虑后才去做。 君子藏器于身,待时而动。——《周易》  译:君子有卓越的才能超群的技艺,...
08-07
扬子晚报网9月30日讯(记者郭一鹏通讯员宁交轩)今年国庆假期为10月1日至7日,全国高速公路7座及以下小型客车免费通行。从9月30日来看,沪武、宁合、沪宁等多条高速已迎来出城小高...
10-01
现在网络鱼龙混杂,请认准靠谱八年商家,金牌小帮手——小创(137-1300-8979可v可来电)(全年365天不掉线) 【抖音月付分付要怎样提现】【抖音Dou分期怎么刷出来】【抖...
09-26
《玉氏夫人传》自11月30日由JTBC推出以来,因其丰富的剧情和出色的演员阵容受到广泛关注。该剧每周六和周日定期更新,这种模式让剧迷们充满期待,并为观众营造了...
10-31
预支-微信分期怎么套钱出来,实操12种方法具体详细步骤探索世界万象,普及科学、科技知识!从未见过你,但会更懂你。每天分享各种生活小窍门,一起享受生活。 作为当今最流行的社交...
09-05
秋季来了,大家都最好准备去迎接它吗,除了空气感觉到凉爽以外。秋季最大的特点就是容易上火,而且还会出现呼吸道疾病,同时皮肤也很容易干燥起皮的哦,秋季应该如何养肺预防疾病呢,下...
04-02
秋季空气干燥,很容易上火,而且秋季也是呼吸系统疾病高发的季节哦,你知道应该如何去调理的吗,有很多清火润燥的汤品值得秋季食用,可以有滋阴润燥的作用,还可以去火气,来看看这些食疗...
04-02
8年专业老商家微:k973880【8年专注更专业】【靠谱秒到】24小时在线接单我们都知道白条是京东金融旗下的消费信贷产品,功能是给我们消费购物使用,先用后还,这种模式比较适合大部...
08-21
长春风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-05
温州风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-28
合肥风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-27
济南天桥区一手商家秒到账:【181 1814 3671 微信同号】花呗信用购一手当面靠谱! 白条怎么套出来,大家在急用钱的时候肯定会想到京东白条或者京东金条,不需要很复杂的程序就能把...
08-03
2024年9月29日,首届“碳与数据新要素论坛”暨中国评估论坛(2024)在复旦大学隆重举行,杭州链城数字科技有限公司联合复旦大学资产评估研究中心隆重宣布正式推...
10-10
  “今天刚接到通知,首套房商业性个人住房贷款首付比例下调至15%,二套房最低首付比例下调为25%。如果两套房贷款已还清,重新购房...
05-22
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮