中关村论坛聚焦AI：如何破解“双刃剑”？li2即热新闻——关注每天科技社会生活新变化gihot.com

　　中新社北京3月30日电 (陈杭 王梦瑶)当前，人工智能(AI)正以指数级速度重塑技术范式、产业格局与人类生活方式。当未来AI走向千行百业、千家万户，如何兼顾发展与安全，实现技术可信、可持续？2025中关村论坛年会期间，中外嘉宾聚焦AI，探讨其场景化应用与普惠化路径。li2即热新闻——关注每天科技社会生活新变化gihot.com

　　随着科技进步和产业变革的加速演进，推动AI发展已成为全球趋势。世界知识产权组织总干事邓鸿森表示，当前，以AI、量子计算等为代表的数字技术专利申请量约占全球总数的1/3。在生成式AI领域，2017年以来的专利申请量增长超800%，中国、美国、韩国走在前沿。li2即热新闻——关注每天科技社会生活新变化gihot.com

　　今年以来，伴随DeepSeek等大模型的爆发应用，中国多地正积极发力AI产业。“AI是未来产业重要赛道之一，通过大模型突破为代表的技术创新，推动新质生产力的提升。”中国电子信息产业发展研究院未来产业研究中心所长蒲松涛提到，当前，北京、上海等地持续支持大模型前沿研究及应用发展，推出更多具有示范性和代表性的应用场景。li2即热新闻——关注每天科技社会生活新变化gihot.com

　　随着AI大模型领域的飞速发展，通用能力不断提升，各行业细分领域的大模型和垂直大模型如雨后春笋般涌现。本届中关村论坛年会上，包括“AI+工业制造”“AI+生活服务”“AI+医药健康”等9个应用场景在内的北京人工智能创新应用成果正式发布，系统展示AI赋能材料、医药等领域的前沿创新成果。li2即热新闻——关注每天科技社会生活新变化gihot.com

　　西门子中央研究院研发部总裁诺伯特・高斯(Norbert Gaus)表示，西门子正利用AI技术解决工业领域的多项挑战，通过发挥机器人与AI深度融合等技术优势，不仅显著提升传统制造业的创新力与小批量制造的响应速度，更通过加速产品从研发到市场的全过程，带来更多创新产品。li2即热新闻——关注每天科技社会生活新变化gihot.com

　　随着AI技术的进一步成熟、普及，其在加速赋能的同时，潜在的安全风险也在不断增加。“在应用层面，大模型面临信任壁垒等问题。”北京北方算力智联科技有限责任公司研究院院长刘秦豫说，随着AI规模扩大，其决策过程不透明、决策逻辑可解释性差，可能在高风险领域造成严重后果，限制了社会层面对其的信任，也难以满足业务和监管的需求，需要建立可解释、符合道德规范的大模型，从而更安全、透明地服务千行百业。li2即热新闻——关注每天科技社会生活新变化gihot.com

　　面对机遇与挑战并存的技术“双刃剑”，人类已出招积极应对。欧盟《人工智能法案》已于2024年8月1日生效，通过法律手段规范AI技术的应用。在中国，涉网络安全、数据安全等的法规陆续颁布执行，《人工智能生成合成内容标识办法》也将于今年9月1日起施行，标志着中国在生成式AI领域迈出构建安全可信生态的关键一步。li2即热新闻——关注每天科技社会生活新变化gihot.com

　　韩国生成式人工智能研究院院长卢圭成表示，从世界范围来看，中国、美国、欧盟等均聚焦AI技术研发与产业应用，但其背后的数据安全性、算法偏见与歧视等问题值得重视。一旦AI深度伪造与欺诈等问题被恶性利用，将为各行业带来巨大风险，增加社会治理成本。因此，世界各国应加强国际合作，制定并完善AI安全监管制度，从而更好地引领产业创新，让AI真正成为推动人类社会进步和创新的强大动力。(完)li2即热新闻——关注每天科技社会生活新变化gihot.com