在人工智能技术加速发展、应用场景不断拓宽的时代,人工智能是否应该开放源代码也备受关注和讨论。在4月3日亚马逊云科技巴黎峰会上,一家名为抱抱脸的人工智能公司再次呼吁,人工智能应该开源。
抱抱脸公司是一家人工智能公司,成立于2016年,由三名法国人在美国创办。他们推动人工智能模型“开源”开始于2018年底。
现在,他们已经构建了一个大型人工智能开源社区,并吸引了大量开发者。据公司创始人介绍,抱抱脸社区目前已共有超过1100万用户,有50万人工智能模型发布在了社区之中。
在他们看来,人工智能开源可以增加数据模型透明度,也能更好推动合作与研发。
抱抱脸公司创始人之一 托马斯·沃尔夫:抱抱脸非常支持开源,比如共享开放的模型,某些美国公司的人工智能选择闭源,将源代码隐藏在用户界面之后,但像米斯特拉尔人工智能公司的法国公司创建了很好的开源模型,它们也成了抱抱脸社区的一员。
抱抱脸社区被曝存在约百个恶意模型
不过,抱抱脸公司的开源社区也产生了安全隐患。据美国科技媒体“技术之道”网站3月初报道,一个安全团队在抱抱脸社区中发现了100个左右的恶意人工智能模型,其中一些可以在用户的机器上执行代码,为攻击者提供了一个持久的后门,构成了数据泄露和间谍攻击的重大风险。
报道说,尽管抱抱脸社区采取了包括恶意代码识别在内的安全措施,并对模型的功能进行了检查,但仍然没能阻止存在安全隐患的事件发生。
开源还是闭源 人工智能未来之路引发讨论
就在上个月,美国知名企业家埃隆·马斯克旗下的人工智能初创公司xAI的大模型Grok正式宣布开源。马斯克曾讽刺说,开放人工智能OpenAI应该改名为封闭人工智能ClosedAI。这一举动也引发了有关人工智能应该开源还是闭源的讨论。
在Grok开源之后,马斯克在社交媒体上讽刺OpenAI称,“告诉我们OpenAI到底Open(开源)在哪里了”。
目前,“开源”模式获得不少知名公司和机构的支持,例如元宇宙旗下的利亚马(LLaMA)、斯坦福大学旗下阿尔帕卡(Alpaca)等都已经公开了“算法”。
在很多专家看来,开源技术可以加速人工智能创新。在利亚马开源的说明中,他们还认为,开源可以让“开发者和研发者对人工智能进行压力测试,作为一个社区,快速识别和解决问题。”
元宇宙公司人工智能科学家 扬·莱坎:有人反对开源,是因为他们认为这样更安全,我们应该把人工智能锁起来,因为放在每个人手里,太危险了。实际上,这将会导致人工智能不好的未来。
然而,人工智能开源的风险也确实不可忽视。一些专家警告说,开源人工智能模型可能被不法分子利用,甚至被恐怖分子用来制造化学武器。
澳大利亚阳光海岸大学讲师 达拉纳数字联合创始人 卡伦·萨瑟兰:业内对此的反应很复杂,新的技术总是一把双刃剑,有一些开发者赞赏开源的行为,他们认为这更加透明,其他开发者能以此开发自己的人工智能工具,但是这样做也有风险,开源人工智能可能被人利用开发可以造成恶劣影响的工具,比如制造并散布错误信息、虚假信息等,这将带来很大坏处。
在人工智能技术加速发展、应用场景不断拓宽的时代,人工智能是否应该开放源代码也备受关注和讨论。在4月3日亚马逊云科技巴黎峰会上,一家名为抱抱脸的人工智能公司再次呼吁,人工智能应该开源。
抱抱脸公司是一家人工智能公司,成立于2016年,由三名法国人在美国创办。他们推动人工智能模型“开源”开始于2018年底。
现在,他们已经构建了一个大型人工智能开源社区,并吸引了大量开发者。据公司创始人介绍,抱抱脸社区目前已共有超过1100万用户,有50万人工智能模型发布在了社区之中。
在他们看来,人工智能开源可以增加数据模型透明度,也能更好推动合作与研发。
抱抱脸公司创始人之一 托马斯·沃尔夫:抱抱脸非常支持开源,比如共享开放的模型,某些美国公司的人工智能选择闭源,将源代码隐藏在用户界面之后,但像米斯特拉尔人工智能公司的法国公司创建了很好的开源模型,它们也成了抱抱脸社区的一员。
抱抱脸社区被曝存在约百个恶意模型
不过,抱抱脸公司的开源社区也产生了安全隐患。据美国科技媒体“技术之道”网站3月初报道,一个安全团队在抱抱脸社区中发现了100个左右的恶意人工智能模型,其中一些可以在用户的机器上执行代码,为攻击者提供了一个持久的后门,构成了数据泄露和间谍攻击的重大风险。
报道说,尽管抱抱脸社区采取了包括恶意代码识别在内的安全措施,并对模型的功能进行了检查,但仍然没能阻止存在安全隐患的事件发生。
开源还是闭源 人工智能未来之路引发讨论
就在上个月,美国知名企业家埃隆·马斯克旗下的人工智能初创公司xAI的大模型Grok正式宣布开源。马斯克曾讽刺说,开放人工智能OpenAI应该改名为封闭人工智能ClosedAI。这一举动也引发了有关人工智能应该开源还是闭源的讨论。
在Grok开源之后,马斯克在社交媒体上讽刺OpenAI称,“告诉我们OpenAI到底Open(开源)在哪里了”。
目前,“开源”模式获得不少知名公司和机构的支持,例如元宇宙旗下的利亚马(LLaMA)、斯坦福大学旗下阿尔帕卡(Alpaca)等都已经公开了“算法”。
在很多专家看来,开源技术可以加速人工智能创新。在利亚马开源的说明中,他们还认为,开源可以让“开发者和研发者对人工智能进行压力测试,作为一个社区,快速识别和解决问题。”
元宇宙公司人工智能科学家 扬·莱坎:有人反对开源,是因为他们认为这样更安全,我们应该把人工智能锁起来,因为放在每个人手里,太危险了。实际上,这将会导致人工智能不好的未来。
然而,人工智能开源的风险也确实不可忽视。一些专家警告说,开源人工智能模型可能被不法分子利用,甚至被恐怖分子用来制造化学武器。
澳大利亚阳光海岸大学讲师 达拉纳数字联合创始人 卡伦·萨瑟兰:业内对此的反应很复杂,新的技术总是一把双刃剑,有一些开发者赞赏开源的行为,他们认为这更加透明,其他开发者能以此开发自己的人工智能工具,但是这样做也有风险,开源人工智能可能被人利用开发可以造成恶劣影响的工具,比如制造并散布错误信息、虚假信息等,这将带来很大坏处。
本文链接:http://www.gihot.com/news-2-4117-0.html开源还是闭源?人工智能未来之路引发讨论
声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
点击右上角微信好友
朋友圈
点击浏览器下方“”分享微信好友Safari浏览器请点击“
”按钮
点击右上角QQ
点击浏览器下方“”分享QQ好友Safari浏览器请点击“
”按钮