12月8日，以“女性智慧，引领复苏”为主题，《财富》在上海举办一年一度的商界女性峰会。中兴通讯首席发展官崔丽受邀参与“构建负责任的AI”圆桌论坛，与受邀嘉宾就如何构建负责任的AI，如何克服AI发展导致的“幻觉”现象，AI技术发展中为何需要更多女性参与等热点话题展开探讨。
技术本无善恶 要负责任地构建、使用和监管AI
关于如何构建负责任的AI，崔丽认为，首先，大模型或生成式AI还处于技术发展初期，技术、生态、市场都在快速迭代之中，因此，仅凭预判和思考来提前解决未来可能出现的问题是非常困难的。为此，她主张“摸着石头过河”，在底线之上，在发展中，结合应用场景持续解决问题。
其次，“技术没有善恶，善恶在人。”崔丽强调，AI的本质依然是硅基、无机、数学范畴，而人类则是碳基、有机生物，除了自然科学还有社会科学等，其认知、决策和行为都有深刻的文化、历史、价值观等背景，AI本身甚至可能不理解什么叫“责任”，更谈不上“负责”。因此，她更主张负责任地构建、使用和监管AI。
关于负责任的界定，崔丽表示，针对当前人工智能的主要挑战，产业界对于AI设定了一个3H的理想目标：Helpful即帮助使用者解决他们的问题，Honest即不捏造资讯或误导使用者，Harmless是不能对人或环境造成物理、心理、社会危害，与人类价值观对齐。
“然而，这些原则非常宽泛，我们需要更具体地考虑当前面临的挑战，比如幻觉、黑盒带来的不可解释性和不可控性，隐私、偏见、滥用和资源消耗等问题。”崔丽指出，为应对这些挑战，我们需在四方面去努力，依次是安全、公平、透明和高效。此外，还需结合应用场景来考虑问题，例如，面向大规模公众的应用需要更多关注安全和公平，而面向特定领域的应用则需要同时关注准确、安全、透明和高效。
“对抗”AI“幻觉”
关于如何对抗人工智能发展导致的AI“幻觉”，崔丽提出三点建议：一是“换位思考，因材施教”，比如将我们虚拟的概念或对齐要求，转化成它的语境，压缩空间或联合概率，彻底回归到对它更有效的工作方式上，因材施教，提高输出更准确内容的概率；二是“原型知识萃取，加强数据治理”，比如在给予虚拟概念时需要谨慎，同时常识或原型类知识优先级应该提升，而不是完全平等地考虑精调；最后是“用魔法打败魔法”，可以采用多个优秀大模型联合决策等，对各自形成制衡。合理的组织设计可以减少犯错的次数。
构建负责任的AI需要产业、企业、政府和个人的协同努力
崔丽呼吁，构建负责任的AI需要产业、企业、政府和个人的协同努力。在产业方面，各方应持续在数据集治理、算法优化、测试及审核、攻击防御、合规检测与保护等技术手段上进行优化创新；在企业侧，需加强自律，避免动机瑕疵，从数据集、算法、模型测试、人工审核、监测迭代着手构建负责任的大模型。
而在立法及监管侧，可强制要求对AI生成的内容作标识，同时应区别对待客观问题和主观问题，比如幻觉、黑盒等偏客观问题，隐私、滥用等偏主观问题。法规也要与时俱进，加强对偏主观问题的约束，而对于偏客观问题，则应给予一定的容错空间以促进创新。此外，可以尝试将现有的大模型纳入立法建设中，尊重大模型的知识来赋能现有的监管体系；对于使用方，则应不过度依赖，保持独立思考和批判性思维。
在推动AI发展的过程中女性是不可或缺的力量
崔丽强调，在推动AI发展的过程中，女性是不可或缺的力量且有可能发挥更大的作用：“当下是不确定性常态化的激变时代，感知及适应性行动胜于预测。无论是数据的治理、算法的制定还是最终各方面的应用，我们都应充分发挥女性的优势。例如，女性的敏感带来的高感知，直觉往往源于常识，而且女性通常更包容及有同理心，如果能够有效的将这些特点与男性的优势相结合，可以共同推动AI向更好的方向发展。”
12月8日，以“女性智慧，引领复苏”为主题，《财富》在上海举办一年一度的商界女性峰会。中兴通讯首席发展官崔丽受邀参与“构建负责任的AI”圆桌论坛，与受邀嘉宾就如何构建负责任的AI，如何克服AI发展导致的“幻觉”现象，AI技术发展中为何需要更多女性参与等热点话题展开探讨。
技术本无善恶 要负责任地构建、使用和监管AI
关于如何构建负责任的AI，崔丽认为，首先，大模型或生成式AI还处于技术发展初期，技术、生态、市场都在快速迭代之中，因此，仅凭预判和思考来提前解决未来可能出现的问题是非常困难的。为此，她主张“摸着石头过河”，在底线之上，在发展中，结合应用场景持续解决问题。
其次，“技术没有善恶，善恶在人。”崔丽强调，AI的本质依然是硅基、无机、数学范畴，而人类则是碳基、有机生物，除了自然科学还有社会科学等，其认知、决策和行为都有深刻的文化、历史、价值观等背景，AI本身甚至可能不理解什么叫“责任”，更谈不上“负责”。因此，她更主张负责任地构建、使用和监管AI。
关于负责任的界定，崔丽表示，针对当前人工智能的主要挑战，产业界对于AI设定了一个3H的理想目标：Helpful即帮助使用者解决他们的问题，Honest即不捏造资讯或误导使用者，Harmless是不能对人或环境造成物理、心理、社会危害，与人类价值观对齐。
“然而，这些原则非常宽泛，我们需要更具体地考虑当前面临的挑战，比如幻觉、黑盒带来的不可解释性和不可控性，隐私、偏见、滥用和资源消耗等问题。”崔丽指出，为应对这些挑战，我们需在四方面去努力，依次是安全、公平、透明和高效。此外，还需结合应用场景来考虑问题，例如，面向大规模公众的应用需要更多关注安全和公平，而面向特定领域的应用则需要同时关注准确、安全、透明和高效。
“对抗”AI“幻觉”
关于如何对抗人工智能发展导致的AI“幻觉”，崔丽提出三点建议：一是“换位思考，因材施教”，比如将我们虚拟的概念或对齐要求，转化成它的语境，压缩空间或联合概率，彻底回归到对它更有效的工作方式上，因材施教，提高输出更准确内容的概率；二是“原型知识萃取，加强数据治理”，比如在给予虚拟概念时需要谨慎，同时常识或原型类知识优先级应该提升，而不是完全平等地考虑精调；最后是“用魔法打败魔法”，可以采用多个优秀大模型联合决策等，对各自形成制衡。合理的组织设计可以减少犯错的次数。
构建负责任的AI需要产业、企业、政府和个人的协同努力
崔丽呼吁，构建负责任的AI需要产业、企业、政府和个人的协同努力。在产业方面，各方应持续在数据集治理、算法优化、测试及审核、攻击防御、合规检测与保护等技术手段上进行优化创新；在企业侧，需加强自律，避免动机瑕疵，从数据集、算法、模型测试、人工审核、监测迭代着手构建负责任的大模型。
而在立法及监管侧，可强制要求对AI生成的内容作标识，同时应区别对待客观问题和主观问题，比如幻觉、黑盒等偏客观问题，隐私、滥用等偏主观问题。法规也要与时俱进，加强对偏主观问题的约束，而对于偏客观问题，则应给予一定的容错空间以促进创新。此外，可以尝试将现有的大模型纳入立法建设中，尊重大模型的知识来赋能现有的监管体系；对于使用方，则应不过度依赖，保持独立思考和批判性思维。
在推动AI发展的过程中女性是不可或缺的力量
崔丽强调，在推动AI发展的过程中，女性是不可或缺的力量且有可能发挥更大的作用：“当下是不确定性常态化的激变时代，感知及适应性行动胜于预测。无论是数据的治理、算法的制定还是最终各方面的应用，我们都应充分发挥女性的优势。例如，女性的敏感带来的高感知，直觉往往源于常识，而且女性通常更包容及有同理心，如果能够有效的将这些特点与男性的优势相结合，可以共同推动AI向更好的方向发展。”
本文链接：http://www.gihot.com/news-2-232-0.html中兴通讯首席发展官崔丽：AI本无善恶，更需人类负责
声明：本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇：2023中国机器人产业发展大会：我国已成为世界机器人第一大市场
下一篇：第十二届广东省创意机器人大赛举行
点击右上角
微信好友
朋友圈
点击浏览器下方“
”分享微信好友Safari浏览器请点击“
”按钮
点击右上角
QQ
点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮
