【专家沙龙】
◎主持人：本报记者 陈可轩
嘉 宾：孙春晨 国家科技伦理委员会委员、中国伦理学会会长
张成岗 清华大学社会学系教授、社会治理与发展研究院院长
赵 鹏 中国政法大学教授、法治政府研究院院长
从机器人登上春晚舞台到DeepSeek火爆全网，今年以来，科技创新正迅速以其颠覆性力量不断出圈，并重塑我们的生活。
然而，科技触手可及、造福于人的同时也带来隐忧。以人工智能、生物医药等领域为代表，技术滥用已不再是实验室里的想象，而是在众多应用场景中广泛存在且悄然改变着社会。以人工智能领域为例，使用深度伪造技术的“AI换脸”软件可以一键生成虚假图像、声音、视频，“像素级逼真”的虚假信息给个人和企业带来切实损害，引发社会秩序与信任危机。
如何守住伦理底线，推动科学良性、有序发展？科技日报邀请伦理学、社会学、法学领域的学者，共同探讨科技伦理治理。
科技研究需守住伦理底线
主持人：科技创新为什么需要伦理先行？
孙春晨：人类创造的科学技术，有可能反过来制约人类自身。科学发现和技术突破在造福人类的同时，也带来难以预判的风险。科技的误用、滥用将对国家安全、社会公共利益及个人权利等造成显性与潜在的威胁。因此，伦理先行有其必要性。
张成岗：伦理先行，既是理论议题，也是实践要求。近年来，生物技术、人工智能等新兴技术的发展常对社会的既有道德规范产生冲击。我们不得不思考，什么样的技术是“善”和“应当”的。例如，2018年的“基因编辑婴儿”事件引发学界和社会的广泛讨论，其中既有对技术发展伦理规约体系的反思，更有对新技术应用后果不确定性风险的深层担忧。伦理先行对应着伦理学研究中的预防原则。该原则要求，即便没有确切证据，也要预想各类糟糕情况，防患于未然。
赵鹏：伦理先行，可以在引导科技发展大方向的同时，给予科创主体更大的创新空间。例如，人工智能领域已出现了大量基于伦理原则的治理文件，其核心考虑就是既引导科技发展的基本方向，又给相关研发机构和企业一定空间，使其可以根据具体的技术场景选择研究内容。
主持人：漠视科技伦理可能造成哪些潜在风险？
孙春晨：人类科技发展的历史表明，随着科学技术的先进性和复杂程度的提高，科技创新活动带来的风险也会不断增大。科技创新给人类社会生活带来巨大发展“红利”的同时，也会引发不确定伦理风险，如人工智能发展带来的算法歧视、隐私保护等社会问题，基因编辑、基因增强等带来不平等的潜在可能。这些也已成为人类不得不面对的现实难题。
张成岗：这些挑战不仅威胁着个人权利，也对社会的公正性和传统道德准则提出了严峻考验。
理解社会与技术的相互影响
主持人：有观点认为，技术是独立于社会运行的工具，科研工作者可以自主决定技术的发展方向。几位专家怎么看这种观点？
赵鹏：我认为，科技研发本身并非完全客观，而是暗含了价值选择。优先选择何种科学研究、技术路线等都受隐含的社会价值影响。但这种社会价值相对比较隐秘，相关法律往往只聚焦于技术实践环节的使用细节，而难以对技术暗含的社会价值进行调整。
张成岗：是的，对技术的认知要避免“就技术论技术”的逻辑。社会愿望与需求一直是影响技术发展速度与方向的重要力量，对技术的深入理解离不开对社会背景的理解。
孙春晨：技术发展是人类对未知领域的探索与开拓，具有明显的不确定性，如不确定的技术路线、应用场景和商业模式、社会影响等。这些不确定因素，使科技创新成果的应用推广存在伦理风险。
主持人：看来科技发展中出现的伦理问题并非孤立存在，而是与社会治理的方方面面联系在一起。
张成岗：是的，特别是那些更接近日常生活、普及率更高的科学技术，其风险可能更加复杂。其中既包括人类正在研发的新技术本身产生的风险，也包括技术嵌合于社会制度、人性中之后可能产生的风险。例如，在互联网的影响下，现代社会的道德不端行为可能对遥远地域和子孙后代产生影响，这种影响远比我们能够预想的深刻和激进。
赵鹏：科学技术与社会秩序之间相互影响、共同演化。当生活更多地与技术交织，技术也将更多地影响我们的价值体系、行为规范、文化等。以药品监管为例，假设某种创新药品能让使用者获得体能或智力上的竞争优势，那么可以设想，一旦其被批准使用，就很可能造成技术运用的“军备竞赛”，让拥有更多财富或资源的主体获得更大的社会竞争优势，继而加剧社会不平等。从这个角度看，需要更多从尊重和保障人权的维度思考这一问题，而不仅从风险与收益的功利计算角度予以回应。
科技向善还须良法善治
主持人：除了要求科研人员恪守职业道德，我们还需要从哪些方面着手进行科技伦理治理？
赵鹏：法律在这方面可以扮演多种功能。一种是通过程序促成对话、反思，从而形成好的决策。例如，要求开展伦理审查，要求举办公共伦理论坛与社会对话等。这些程序设计有助于利益相关方、社会成员等进行交流，形成共识或者至少了解相应选择的潜在影响。另一种是当各种伦理主张无法调和时，将复杂的技术伦理问题分配至多个决策场所，并在各个决策者之间建立制衡机制，确保伦理争论得到及时有效的解决。
孙春晨：科技伦理治理不应被狭义地理解为对科技活动的伦理治理。我们应当从更为宽广的视野来理解科技伦理治理与国家治理现代化之间的关系。除了与科技直接相关的领域外，诸如国际关系、个人隐私和社区管理等人类社会生活的其他领域，同样需要进行相应的伦理治理。
张成岗：近年来，我非常关注信息技术治理问题。在推进国家智能社会治理综合实验基地建设的工作中，我们的研究团队与内蒙古鄂尔多斯市紧密合作，开展了关于机制、评价、伦理、信任等方面的理论研究和社会实验。
我认为人工智能技术不仅是一种治理工具，更应当成为人们未来生活的一个重要组成部分。应赋权和激活治理主体，达到“共享共治”的目标。一方面，在鼓励技术创新同时，需加强伦理教育与宣传，切实提高从业者及大众的伦理意识；另一方面，要健全政府、学界、公众代表等多方参与的伦理审查机制，确保决策的科学性和民主性。此外，还应建立伦理风险预警机制，及时发现并有效解决技术创新中的伦理问题，防范潜在风险，促进人工智能技术健康、有序发展。
主持人：我们该如何探寻科技伦理治理的“中国路径”？
张成岗：在新兴科技领域，应当提前布局监管框架，促进技术创新与风险防控平衡发展，实现新兴领域治理与发展的双赢，建立符合中国国情的新兴科技风险治理模式尤为重要。例如，我国人工智能技术的飞速演进和广泛应用正深远地影响伦理观念、社会治理模式及人与技术的共生关系。传统封闭、单向的伦理规范制定模式已显不足，难以有效应对日益复杂的伦理挑战。伦理治理的关注内容也从单一伦理问题的讨论转向探索治理对社会发展多方面的影响。因此，探讨一种多元主体参与、交互式、开放性的参与式伦理规约变得至关重要。科技伦理治理的“中国路径”探寻是一项系统工程，需要积极适应新兴科技发展的新趋势、新特点。既要寻求伦理治理的“最大公约数”，又要因技制宜、因地制宜，注重差异性和丰富性，构建更具韧性、包容性和前瞻性的伦理治理体系，形成伦理治理结构优化与治理效能提升的良性循环。
赵鹏：相较于科技伦理治理较为成熟的国家，我国的科技伦理在科技治理体系中的作用仍然非常薄弱。对新兴科技的社会伦理反思等尚未在全社会形成广泛的讨论。这会产生两方面的影响。一方面，经过伦理讨论形成的共识，不能及时地被法律和监管框架所吸收；另一方面，缺乏与公众制度化的伦理沟通机制，影响了公众对科技的客观认知，这可能加剧公众对技术创新的信任危机，带来新的社会治理问题。
我认为，为了加强科技伦理治理的实效，需要适度强化法律的作用。对个体权利有实质性影响以及产生重大伦理问题的领域，立法需要更积极地介入。我们需要认识到，当代的科学研究已不仅仅是抽象纯粹的知识与思辨，更伴随着工具使用、实验等实践性活动，必然对社会产生影响。当科技研发与环境安全、家庭关系、社会公平等受法律保护的领域产生直接关联，并对现有社会秩序产生直接而重大的影响，就有必要通过法律的“命令—控制”体系建立直接的管制架构。当然，立法需要根据技术发展和社会变化及时反思、调整相关规则。
对于一般的伦理议题，立法可以划定基本原则，充分依赖相关机构的自主管理。
相关的法治建构，可以更关注程序，而不应仅仅从既定伦理道德观念出发，向科学研究活动发出规范性的呼吁或者指令。相反，应该通过法律创造一种结构，推动科学与社会价值体系之间建立适当有效的连接，使两者能够持续地交换资讯、交流对话、相互理解。
孙春晨：当代国家治理和社会治理的一个重要着力点是对科技活动领域的治理。而科技创新活动引发的社会生活各领域的重大变化，使社会治理呈现出治理主体多元化、治理领域多样化和治理方式差异化的趋势。
2022年3月，中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》，对我国科技伦理治理工作作出系统部署，确立了我国科技伦理治理的指导思想，提出了伦理先行、依法依规、敏捷治理、立足国情、开放合作的科技伦理治理基本要求，明确了增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明的科技伦理原则。这一顶层设计，对有效防范科技伦理风险、推动我国科技向善发展具有里程碑式的重大意义。
科技伦理治理贯彻实施上述治理要求和伦理原则，与国家治理现代化走向“善治”的伦理目标相契合。以科技伦理治理为代表的各领域的社会治理联动合作，将有力推进国家治理现代化进程。
【专家沙龙】
◎主持人：本报记者 陈可轩
嘉 宾：孙春晨 国家科技伦理委员会委员、中国伦理学会会长
张成岗 清华大学社会学系教授、社会治理与发展研究院院长
赵 鹏 中国政法大学教授、法治政府研究院院长
从机器人登上春晚舞台到DeepSeek火爆全网，今年以来，科技创新正迅速以其颠覆性力量不断出圈，并重塑我们的生活。
然而，科技触手可及、造福于人的同时也带来隐忧。以人工智能、生物医药等领域为代表，技术滥用已不再是实验室里的想象，而是在众多应用场景中广泛存在且悄然改变着社会。以人工智能领域为例，使用深度伪造技术的“AI换脸”软件可以一键生成虚假图像、声音、视频，“像素级逼真”的虚假信息给个人和企业带来切实损害，引发社会秩序与信任危机。
如何守住伦理底线，推动科学良性、有序发展？科技日报邀请伦理学、社会学、法学领域的学者，共同探讨科技伦理治理。
科技研究需守住伦理底线
主持人：科技创新为什么需要伦理先行？
孙春晨：人类创造的科学技术，有可能反过来制约人类自身。科学发现和技术突破在造福人类的同时，也带来难以预判的风险。科技的误用、滥用将对国家安全、社会公共利益及个人权利等造成显性与潜在的威胁。因此，伦理先行有其必要性。
张成岗：伦理先行，既是理论议题，也是实践要求。近年来，生物技术、人工智能等新兴技术的发展常对社会的既有道德规范产生冲击。我们不得不思考，什么样的技术是“善”和“应当”的。例如，2018年的“基因编辑婴儿”事件引发学界和社会的广泛讨论，其中既有对技术发展伦理规约体系的反思，更有对新技术应用后果不确定性风险的深层担忧。伦理先行对应着伦理学研究中的预防原则。该原则要求，即便没有确切证据，也要预想各类糟糕情况，防患于未然。
赵鹏：伦理先行，可以在引导科技发展大方向的同时，给予科创主体更大的创新空间。例如，人工智能领域已出现了大量基于伦理原则的治理文件，其核心考虑就是既引导科技发展的基本方向，又给相关研发机构和企业一定空间，使其可以根据具体的技术场景选择研究内容。
主持人：漠视科技伦理可能造成哪些潜在风险？
孙春晨：人类科技发展的历史表明，随着科学技术的先进性和复杂程度的提高，科技创新活动带来的风险也会不断增大。科技创新给人类社会生活带来巨大发展“红利”的同时，也会引发不确定伦理风险，如人工智能发展带来的算法歧视、隐私保护等社会问题，基因编辑、基因增强等带来不平等的潜在可能。这些也已成为人类不得不面对的现实难题。
张成岗：这些挑战不仅威胁着个人权利，也对社会的公正性和传统道德准则提出了严峻考验。
理解社会与技术的相互影响
主持人：有观点认为，技术是独立于社会运行的工具，科研工作者可以自主决定技术的发展方向。几位专家怎么看这种观点？
赵鹏：我认为，科技研发本身并非完全客观，而是暗含了价值选择。优先选择何种科学研究、技术路线等都受隐含的社会价值影响。但这种社会价值相对比较隐秘，相关法律往往只聚焦于技术实践环节的使用细节，而难以对技术暗含的社会价值进行调整。
张成岗：是的，对技术的认知要避免“就技术论技术”的逻辑。社会愿望与需求一直是影响技术发展速度与方向的重要力量，对技术的深入理解离不开对社会背景的理解。
孙春晨：技术发展是人类对未知领域的探索与开拓，具有明显的不确定性，如不确定的技术路线、应用场景和商业模式、社会影响等。这些不确定因素，使科技创新成果的应用推广存在伦理风险。
主持人：看来科技发展中出现的伦理问题并非孤立存在，而是与社会治理的方方面面联系在一起。
张成岗：是的，特别是那些更接近日常生活、普及率更高的科学技术，其风险可能更加复杂。其中既包括人类正在研发的新技术本身产生的风险，也包括技术嵌合于社会制度、人性中之后可能产生的风险。例如，在互联网的影响下，现代社会的道德不端行为可能对遥远地域和子孙后代产生影响，这种影响远比我们能够预想的深刻和激进。
赵鹏：科学技术与社会秩序之间相互影响、共同演化。当生活更多地与技术交织，技术也将更多地影响我们的价值体系、行为规范、文化等。以药品监管为例，假设某种创新药品能让使用者获得体能或智力上的竞争优势，那么可以设想，一旦其被批准使用，就很可能造成技术运用的“军备竞赛”，让拥有更多财富或资源的主体获得更大的社会竞争优势，继而加剧社会不平等。从这个角度看，需要更多从尊重和保障人权的维度思考这一问题，而不仅从风险与收益的功利计算角度予以回应。
科技向善还须良法善治
主持人：除了要求科研人员恪守职业道德，我们还需要从哪些方面着手进行科技伦理治理？
赵鹏：法律在这方面可以扮演多种功能。一种是通过程序促成对话、反思，从而形成好的决策。例如，要求开展伦理审查，要求举办公共伦理论坛与社会对话等。这些程序设计有助于利益相关方、社会成员等进行交流，形成共识或者至少了解相应选择的潜在影响。另一种是当各种伦理主张无法调和时，将复杂的技术伦理问题分配至多个决策场所，并在各个决策者之间建立制衡机制，确保伦理争论得到及时有效的解决。
孙春晨：科技伦理治理不应被狭义地理解为对科技活动的伦理治理。我们应当从更为宽广的视野来理解科技伦理治理与国家治理现代化之间的关系。除了与科技直接相关的领域外，诸如国际关系、个人隐私和社区管理等人类社会生活的其他领域，同样需要进行相应的伦理治理。
张成岗：近年来，我非常关注信息技术治理问题。在推进国家智能社会治理综合实验基地建设的工作中，我们的研究团队与内蒙古鄂尔多斯市紧密合作，开展了关于机制、评价、伦理、信任等方面的理论研究和社会实验。
我认为人工智能技术不仅是一种治理工具，更应当成为人们未来生活的一个重要组成部分。应赋权和激活治理主体，达到“共享共治”的目标。一方面，在鼓励技术创新同时，需加强伦理教育与宣传，切实提高从业者及大众的伦理意识；另一方面，要健全政府、学界、公众代表等多方参与的伦理审查机制，确保决策的科学性和民主性。此外，还应建立伦理风险预警机制，及时发现并有效解决技术创新中的伦理问题，防范潜在风险，促进人工智能技术健康、有序发展。
主持人：我们该如何探寻科技伦理治理的“中国路径”？
张成岗：在新兴科技领域，应当提前布局监管框架，促进技术创新与风险防控平衡发展，实现新兴领域治理与发展的双赢，建立符合中国国情的新兴科技风险治理模式尤为重要。例如，我国人工智能技术的飞速演进和广泛应用正深远地影响伦理观念、社会治理模式及人与技术的共生关系。传统封闭、单向的伦理规范制定模式已显不足，难以有效应对日益复杂的伦理挑战。伦理治理的关注内容也从单一伦理问题的讨论转向探索治理对社会发展多方面的影响。因此，探讨一种多元主体参与、交互式、开放性的参与式伦理规约变得至关重要。科技伦理治理的“中国路径”探寻是一项系统工程，需要积极适应新兴科技发展的新趋势、新特点。既要寻求伦理治理的“最大公约数”，又要因技制宜、因地制宜，注重差异性和丰富性，构建更具韧性、包容性和前瞻性的伦理治理体系，形成伦理治理结构优化与治理效能提升的良性循环。
赵鹏：相较于科技伦理治理较为成熟的国家，我国的科技伦理在科技治理体系中的作用仍然非常薄弱。对新兴科技的社会伦理反思等尚未在全社会形成广泛的讨论。这会产生两方面的影响。一方面，经过伦理讨论形成的共识，不能及时地被法律和监管框架所吸收；另一方面，缺乏与公众制度化的伦理沟通机制，影响了公众对科技的客观认知，这可能加剧公众对技术创新的信任危机，带来新的社会治理问题。
我认为，为了加强科技伦理治理的实效，需要适度强化法律的作用。对个体权利有实质性影响以及产生重大伦理问题的领域，立法需要更积极地介入。我们需要认识到，当代的科学研究已不仅仅是抽象纯粹的知识与思辨，更伴随着工具使用、实验等实践性活动，必然对社会产生影响。当科技研发与环境安全、家庭关系、社会公平等受法律保护的领域产生直接关联，并对现有社会秩序产生直接而重大的影响，就有必要通过法律的“命令—控制”体系建立直接的管制架构。当然，立法需要根据技术发展和社会变化及时反思、调整相关规则。
对于一般的伦理议题，立法可以划定基本原则，充分依赖相关机构的自主管理。
相关的法治建构，可以更关注程序，而不应仅仅从既定伦理道德观念出发，向科学研究活动发出规范性的呼吁或者指令。相反，应该通过法律创造一种结构，推动科学与社会价值体系之间建立适当有效的连接，使两者能够持续地交换资讯、交流对话、相互理解。
孙春晨：当代国家治理和社会治理的一个重要着力点是对科技活动领域的治理。而科技创新活动引发的社会生活各领域的重大变化，使社会治理呈现出治理主体多元化、治理领域多样化和治理方式差异化的趋势。
2022年3月，中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》，对我国科技伦理治理工作作出系统部署，确立了我国科技伦理治理的指导思想，提出了伦理先行、依法依规、敏捷治理、立足国情、开放合作的科技伦理治理基本要求，明确了增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明的科技伦理原则。这一顶层设计，对有效防范科技伦理风险、推动我国科技向善发展具有里程碑式的重大意义。
科技伦理治理贯彻实施上述治理要求和伦理原则，与国家治理现代化走向“善治”的伦理目标相契合。以科技伦理治理为代表的各领域的社会治理联动合作，将有力推进国家治理现代化进程。
本文链接：http://www.gihot.com/news-2-1380-0.html伦理先行，把好科技创新“大方向”
声明：本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇：超级智能体时代渐行渐近
点击右上角
微信好友
朋友圈
点击浏览器下方“
”分享微信好友Safari浏览器请点击“
”按钮
点击右上角
QQ
点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮
