“过去一年，至少有几十个视频，冒用我的声音、形象讲述虚假内容，有的我自己都觉得很逼真。”3月9日，十四届全国人大三次会议天津代表团举行小组会议，中国工程院院士张伯礼代表在发言时提到，当下利用人工智能生成虚假内容的违法犯罪事件越来越多。
“我投诉反馈过多次。”张伯礼表示，必须采取有力措施对此类违法事件予以遏制。
中招的不只是张伯礼。今年两会期间，小米集团创始人雷军代表也提到，去年国庆长假期间，短视频平台上曾出现大量以人工智能技术模拟其声音进行配音的恶搞视频，效果以假乱真，对网友造成了误导。
人工智能深度合成技术的快速发展，显著降低了生成虚假内容的门槛和成本，“AI换脸拟声”已成为互联网违法侵权行为的重灾区。
打开社交平台，搜索“AI换脸”“AI拟声”等关键词，可以检索到许多提供此类技术的网站平台，以及可本地化运行的合成软件。许多产品的运营主体设在境外，难以实施有效管控。
中国政法大学数据法治研究院教授张凌寒认为，总的来看，我国目前已出台《互联网信息服务算法推荐管理规定》《网络信息内容生态治理规定》《互联网信息服务深度合成管理规定》等法规，对内容造假者和传播平台的法律责任都有明确规定。“但是目前需要在执行层面进一步加强落实，尤其是多部门联合协同执法。”她说。
作为当下内容传播的主要渠道，互联网平台承担着对信息真实性把关的责任。张凌寒认为，针对人工智能生成的虚假内容泛滥的现象，下游的传播平台应当主动采取措施减少违法信息的流通，例如建立辟谣机制和举报机制，针对在平台中传播的虚假内容及时停止传输，并对相关主体加以限制和处罚。
当下，生成式人工智能技术已进入快速迭代阶段，技术样态不断更新、应用形式鱼龙混杂，对规范治理提出了更高要求。
西南政法大学教授付子堂代表表示，人工智能等技术加速突破，必将深刻改变现行的生产生活方式，而目前相关的法律制度仍存在一定滞后性。例如，生成式人工智能等新兴领域存在规范真空，数据隐私保护、算法责任认定等方面存在法律适用问题，并且在个人数据信息保护、算力治理等方面存在多头管理问题，监管协同性不足。
付子堂建议，要着手构建阶梯式法律框架，夯实制度根基，可细分制定人工智能法等专门法律，并完善能与个人信息保护法等上位法相衔接的、对深度合成内容进行有效规范的配套条例。
围绕人工智能立法，张凌寒认为要重点关注虚假内容生成，强化深度合成技术的前期治理，如要求技术与服务提供者在相关内容中履行添加可识别水印或有效警示信息的义务；完善深度合成内容的法律担责链条，改进监管框架，实施全链条治理；升级深度合成的监管工具，在继续使用与改进传统算法监管工具的同时，也要不断更新新的技术支撑与保障，应对不断变化的技术发展趋势。
“过去一年，至少有几十个视频，冒用我的声音、形象讲述虚假内容，有的我自己都觉得很逼真。”3月9日，十四届全国人大三次会议天津代表团举行小组会议，中国工程院院士张伯礼代表在发言时提到，当下利用人工智能生成虚假内容的违法犯罪事件越来越多。
“我投诉反馈过多次。”张伯礼表示，必须采取有力措施对此类违法事件予以遏制。
中招的不只是张伯礼。今年两会期间，小米集团创始人雷军代表也提到，去年国庆长假期间，短视频平台上曾出现大量以人工智能技术模拟其声音进行配音的恶搞视频，效果以假乱真，对网友造成了误导。
人工智能深度合成技术的快速发展，显著降低了生成虚假内容的门槛和成本，“AI换脸拟声”已成为互联网违法侵权行为的重灾区。
打开社交平台，搜索“AI换脸”“AI拟声”等关键词，可以检索到许多提供此类技术的网站平台，以及可本地化运行的合成软件。许多产品的运营主体设在境外，难以实施有效管控。
中国政法大学数据法治研究院教授张凌寒认为，总的来看，我国目前已出台《互联网信息服务算法推荐管理规定》《网络信息内容生态治理规定》《互联网信息服务深度合成管理规定》等法规，对内容造假者和传播平台的法律责任都有明确规定。“但是目前需要在执行层面进一步加强落实，尤其是多部门联合协同执法。”她说。
作为当下内容传播的主要渠道，互联网平台承担着对信息真实性把关的责任。张凌寒认为，针对人工智能生成的虚假内容泛滥的现象，下游的传播平台应当主动采取措施减少违法信息的流通，例如建立辟谣机制和举报机制，针对在平台中传播的虚假内容及时停止传输，并对相关主体加以限制和处罚。
当下，生成式人工智能技术已进入快速迭代阶段，技术样态不断更新、应用形式鱼龙混杂，对规范治理提出了更高要求。
西南政法大学教授付子堂代表表示，人工智能等技术加速突破，必将深刻改变现行的生产生活方式，而目前相关的法律制度仍存在一定滞后性。例如，生成式人工智能等新兴领域存在规范真空，数据隐私保护、算法责任认定等方面存在法律适用问题，并且在个人数据信息保护、算力治理等方面存在多头管理问题，监管协同性不足。
付子堂建议，要着手构建阶梯式法律框架，夯实制度根基，可细分制定人工智能法等专门法律，并完善能与个人信息保护法等上位法相衔接的、对深度合成内容进行有效规范的配套条例。
围绕人工智能立法，张凌寒认为要重点关注虚假内容生成，强化深度合成技术的前期治理，如要求技术与服务提供者在相关内容中履行添加可识别水印或有效警示信息的义务；完善深度合成内容的法律担责链条，改进监管框架，实施全链条治理；升级深度合成的监管工具，在继续使用与改进传统算法监管工具的同时，也要不断更新新的技术支撑与保障，应对不断变化的技术发展趋势。
本文链接：http://www.gihot.com/news-2-992-0.html专家热议如何防止AI“以假乱真”
声明：本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
点击右上角
微信好友
朋友圈
点击浏览器下方“
”分享微信好友Safari浏览器请点击“
”按钮
点击右上角
QQ
点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮
