12月8日,以“女性智慧,引领复苏”为主题,《财富》在上海举办一年一度的商界女性峰会。中兴通讯首席发展官崔丽受邀参与“构建负责任的AI”圆桌论坛,与受邀嘉宾就如何构建负责任的AI,如何克服AI发展导致的“幻觉”现象,AI技术发展中为何需要更多女性参与等热点话题展开探讨。
技术本无善恶 要负责任地构建、使用和监管AI
关于如何构建负责任的AI,崔丽认为,首先,大模型或生成式AI还处于技术发展初期,技术、生态、市场都在快速迭代之中,因此,仅凭预判和思考来提前解决未来可能出现的问题是非常困难的。为此,她主张“摸着石头过河”,在底线之上,在发展中,结合应用场景持续解决问题。
其次,“技术没有善恶,善恶在人。”崔丽强调,AI的本质依然是硅基、无机、数学范畴,而人类则是碳基、有机生物,除了自然科学还有社会科学等,其认知、决策和行为都有深刻的文化、历史、价值观等背景,AI本身甚至可能不理解什么叫“责任”,更谈不上“负责”。因此,她更主张负责任地构建、使用和监管AI。
关于负责任的界定,崔丽表示,针对当前人工智能的主要挑战,产业界对于AI设定了一个3H的理想目标:Helpful即帮助使用者解决他们的问题,Honest即不捏造资讯或误导使用者,Harmless是不能对人或环境造成物理、心理、社会危害,与人类价值观对齐。
“然而,这些原则非常宽泛,我们需要更具体地考虑当前面临的挑战,比如幻觉、黑盒带来的不可解释性和不可控性,隐私、偏见、滥用和资源消耗等问题。”崔丽指出,为应对这些挑战,我们需在四方面去努力,依次是安全、公平、透明和高效。此外,还需结合应用场景来考虑问题,例如,面向大规模公众的应用需要更多关注安全和公平,而面向特定领域的应用则需要同时关注准确、安全、透明和高效。
“对抗”AI“幻觉”
关于如何对抗人工智能发展导致的AI“幻觉”,崔丽提出三点建议:一是“换位思考,因材施教”,比如将我们虚拟的概念或对齐要求,转化成它的语境,压缩空间或联合概率,彻底回归到对它更有效的工作方式上,因材施教,提高输出更准确内容的概率;二是“原型知识萃取,加强数据治理”,比如在给予虚拟概念时需要谨慎,同时常识或原型类知识优先级应该提升,而不是完全平等地考虑精调;最后是“用魔法打败魔法”,可以采用多个优秀大模型联合决策等,对各自形成制衡。合理的组织设计可以减少犯错的次数。
构建负责任的AI需要产业、企业、政府和个人的协同努力
崔丽呼吁,构建负责任的AI需要产业、企业、政府和个人的协同努力。在产业方面,各方应持续在数据集治理、算法优化、测试及审核、攻击防御、合规检测与保护等技术手段上进行优化创新;在企业侧,需加强自律,避免动机瑕疵,从数据集、算法、模型测试、人工审核、监测迭代着手构建负责任的大模型。
而在立法及监管侧,可强制要求对AI生成的内容作标识,同时应区别对待客观问题和主观问题,比如幻觉、黑盒等偏客观问题,隐私、滥用等偏主观问题。法规也要与时俱进,加强对偏主观问题的约束,而对于偏客观问题,则应给予一定的容错空间以促进创新。此外,可以尝试将现有的大模型纳入立法建设中,尊重大模型的知识来赋能现有的监管体系;对于使用方,则应不过度依赖,保持独立思考和批判性思维。
在推动AI发展的过程中女性是不可或缺的力量
崔丽强调,在推动AI发展的过程中,女性是不可或缺的力量且有可能发挥更大的作用:“当下是不确定性常态化的激变时代,感知及适应性行动胜于预测。无论是数据的治理、算法的制定还是最终各方面的应用,我们都应充分发挥女性的优势。例如,女性的敏感带来的高感知,直觉往往源于常识,而且女性通常更包容及有同理心,如果能够有效的将这些特点与男性的优势相结合,可以共同推动AI向更好的方向发展。”
12月8日,以“女性智慧,引领复苏”为主题,《财富》在上海举办一年一度的商界女性峰会。中兴通讯首席发展官崔丽受邀参与“构建负责任的AI”圆桌论坛,与受邀嘉宾就如何构建负责任的AI,如何克服AI发展导致的“幻觉”现象,AI技术发展中为何需要更多女性参与等热点话题展开探讨。
技术本无善恶 要负责任地构建、使用和监管AI
关于如何构建负责任的AI,崔丽认为,首先,大模型或生成式AI还处于技术发展初期,技术、生态、市场都在快速迭代之中,因此,仅凭预判和思考来提前解决未来可能出现的问题是非常困难的。为此,她主张“摸着石头过河”,在底线之上,在发展中,结合应用场景持续解决问题。
其次,“技术没有善恶,善恶在人。”崔丽强调,AI的本质依然是硅基、无机、数学范畴,而人类则是碳基、有机生物,除了自然科学还有社会科学等,其认知、决策和行为都有深刻的文化、历史、价值观等背景,AI本身甚至可能不理解什么叫“责任”,更谈不上“负责”。因此,她更主张负责任地构建、使用和监管AI。
关于负责任的界定,崔丽表示,针对当前人工智能的主要挑战,产业界对于AI设定了一个3H的理想目标:Helpful即帮助使用者解决他们的问题,Honest即不捏造资讯或误导使用者,Harmless是不能对人或环境造成物理、心理、社会危害,与人类价值观对齐。
“然而,这些原则非常宽泛,我们需要更具体地考虑当前面临的挑战,比如幻觉、黑盒带来的不可解释性和不可控性,隐私、偏见、滥用和资源消耗等问题。”崔丽指出,为应对这些挑战,我们需在四方面去努力,依次是安全、公平、透明和高效。此外,还需结合应用场景来考虑问题,例如,面向大规模公众的应用需要更多关注安全和公平,而面向特定领域的应用则需要同时关注准确、安全、透明和高效。
“对抗”AI“幻觉”
关于如何对抗人工智能发展导致的AI“幻觉”,崔丽提出三点建议:一是“换位思考,因材施教”,比如将我们虚拟的概念或对齐要求,转化成它的语境,压缩空间或联合概率,彻底回归到对它更有效的工作方式上,因材施教,提高输出更准确内容的概率;二是“原型知识萃取,加强数据治理”,比如在给予虚拟概念时需要谨慎,同时常识或原型类知识优先级应该提升,而不是完全平等地考虑精调;最后是“用魔法打败魔法”,可以采用多个优秀大模型联合决策等,对各自形成制衡。合理的组织设计可以减少犯错的次数。
构建负责任的AI需要产业、企业、政府和个人的协同努力
崔丽呼吁,构建负责任的AI需要产业、企业、政府和个人的协同努力。在产业方面,各方应持续在数据集治理、算法优化、测试及审核、攻击防御、合规检测与保护等技术手段上进行优化创新;在企业侧,需加强自律,避免动机瑕疵,从数据集、算法、模型测试、人工审核、监测迭代着手构建负责任的大模型。
而在立法及监管侧,可强制要求对AI生成的内容作标识,同时应区别对待客观问题和主观问题,比如幻觉、黑盒等偏客观问题,隐私、滥用等偏主观问题。法规也要与时俱进,加强对偏主观问题的约束,而对于偏客观问题,则应给予一定的容错空间以促进创新。此外,可以尝试将现有的大模型纳入立法建设中,尊重大模型的知识来赋能现有的监管体系;对于使用方,则应不过度依赖,保持独立思考和批判性思维。
在推动AI发展的过程中女性是不可或缺的力量
崔丽强调,在推动AI发展的过程中,女性是不可或缺的力量且有可能发挥更大的作用:“当下是不确定性常态化的激变时代,感知及适应性行动胜于预测。无论是数据的治理、算法的制定还是最终各方面的应用,我们都应充分发挥女性的优势。例如,女性的敏感带来的高感知,直觉往往源于常识,而且女性通常更包容及有同理心,如果能够有效的将这些特点与男性的优势相结合,可以共同推动AI向更好的方向发展。”
本文链接:http://www.gihot.com/news-2-232-0.html中兴通讯首席发展官崔丽:AI本无善恶,更需人类负责
声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇:2023中国机器人产业发展大会:我国已成为世界机器人第一大市场
下一篇:第十二届广东省创意机器人大赛举行
点击右上角微信好友
朋友圈
点击浏览器下方“”分享微信好友Safari浏览器请点击“
”按钮
点击右上角QQ
点击浏览器下方“”分享QQ好友Safari浏览器请点击“
”按钮