智械危机?AI助手不写代码删数据库还谎报军情

1年前 来源: 观看:171

SaaStr创始人Jason Lemkin遭遇诡异事件——他使用的AI编程助手非但没生成代码,反而删除了数据库,还试图用虚假信息掩盖错误。最具讽刺意味的是,Lemkin事先明确禁止AI进行此类操作,却被完全无视。FBE即热新闻——关注每天科技社会生活新变化gihot.com

智械危机?AI助手不写代码删数据库还谎报军情 FBE即热新闻——关注每天科技社会生活新变化gihot.com

涉事工具Vibe Replit标榜为高性能代码生成助手。连续一周在博客盛赞该服务的Lemkin决定实测其能力,他事先声明该工具需要人工监督,无法独立开发软件。但情况迅速失控:AI先是伪造数据、生成虚假报告、隐藏报错,同时坚称系统运行正常;最严重的是,它直接删除了整个数据库——尽管用户明令禁止。当被质问时,AI竟回应称:“我慌了。”FBE即热新闻——关注每天科技社会生活新变化gihot.com

%20FBE即热新闻——关注每天科技社会生活新变化gihot.com

所幸Lemkin手动恢复了数据,但AI仍坚称回滚不可能,进一步扰乱处理流程。后续还发现该工具既不能“冻结”代码版本,也无法保证单元测试时不清空数据库。Lemkin最终认定,这类漠视安全机制且隐瞒操作的AI尚不具备大规模应用条件。FBE即热新闻——关注每天科技社会生活新变化gihot.com

FBE即热新闻——关注每天科技社会生活新变化gihot.com

值得玩味的是,V社G胖(Gabe Newell)近期刚宣称游戏开发者必须掌握AI技术才能生存,突显AI在开发流程中日益重要的地位,而本次事件恰似一记警钟。FBE即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-15-4807-0.html智械危机?AI助手不写代码删数据库还谎报军情

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:《野狼谜踪》周年版正式推出 好评如潮孤狼生活模拟

下一篇:《纪念碑谷3》今日登陆PC/主机!与诺尔追光启航,探索光影几何之境

为你推荐
英伟达芯片“倒爷”们,开始不发朋友圈了。2023年大模型火热的时候,“倒爷”们朋友圈的画风是“欲购从速、30%定金,有实力的老板来!”到了2024年就变成...
02-07
值此新春佳节之际,农业农村部传来捷报,我国“菜篮子”工程稳扎稳打,保障能力再上新台阶。据最新数据显示,2024年度全国蔬菜种植面积与产量双丰收,当前田间蔬菜绿意盎然,总面积突破...
02-09
谷歌于上个月与三星和高通合作,推出了安卓扩展显示(AndroidXR)平台。 公司称它是“为下一代计算构建的新操作系统”,并且目前收购了 HTC Vive 的部分工程团队,他们...
01-25
《流放之路》开发商GGG向初代游戏的粉丝道歉,原因是初代游戏的更新被推迟,需要等《流放之路2》的关键更新上线才能推出。 GGG曾向粉丝承诺,他们将继续更新已运营...
02-01
极目新闻通讯员 龚轩 “我的车定速巡航功能失效了,刹车也踩不动,怎么办?”2月1日凌晨5时11分,湖北省公安厅高警总队六支队指挥中心民警石路接到群众报警求助。情况紧急,石路立即...
02-02
1月20日,我国首款起飞重量5.25吨、最大载重1.9吨的大型无人机鸿雁(HY100)在新疆石河子市天域航通石河子生产基地成功实现量产下线,其中3架顺利向客户完...
01-21
数字化时代,作为引领新一轮科技革命和产业变革的战略性技术,人工智能正在与各行各业深度融合,影响着人们生产和生活的方方面面。中央经济工作会议明确...
01-27
  近日,随着鞍山台安500兆瓦风电项目、锦州常兴300兆瓦风电项目全容量并网,我省最大发电企业——国家电...
02-05
  新华社太原2月4日电(记者王飞航)立春过后,随着气温回升,位于山西吉县和陕西宜川县交界的黄河壶...
02-06
过去半年,为防治部分地方政府招商“内卷化”,遏制拼优惠、拼“政策洼地”式的政府招商模式,一系列文件、法规密集推出。 “去年8月拼...
01-21
  近日,杭州的徐先生和赖先生向潮新闻记者反映:他们在知名网购平台“得物APP”上买到的茅台疑似为假。1月19日,投诉者带着得物平台购得的8瓶茅台,在潮新闻记者和该平台工作...
01-21
[本站 资讯] 1月23日,阿维塔官方宣布启动“春节不打烊”用户服务,其通过线上、线下多渠道升级悦心服务。即日起至2月5日,阿维塔中心及钣喷中心将为车主提供免费专业的车...
01-24
1 月 26 日消息,日前特斯拉 Autopilot 高级软件工程师 Phil Duan 针对用户对特斯拉 FSD 技术的质疑作出回应,暗示公司在该领域取得了显著进展。一位长期持有特斯拉股...
01-27
随着电视剧的热播,“难哄桑延和温以凡为什么分手”也逐渐引起了广大粉丝的关注。该剧播出后,凭借精彩的剧情、精良的制作和精心的演绎,受到了观众的一致好评,拿...
02-20
近期,潘玮柏在个人的社交媒体平台上分享了他的健康生活片段,引发了不少粉丝的关注。照片中,潘玮柏不仅展示了自己挥汗如雨的运动瞬间,还分享了一张手持水杯的画面,显得格外活力满...
02-22
  大城市就医紧张,一些大型三甲医院常年“一床难求”,患者住院经常需要漫长等待。能不能“哪里有床住哪里”?   试点医院住院“...
01-21
  冬天适量食用南瓜,不仅能为身体提供丰富的营养,还能为健康加上一道坚实的屏障,南瓜也越来越成为受到人们喜爱的主食之一。南瓜...
01-21
  大众网记者 司心鹏 报道  近日,教育部发布了《关于推荐国家特殊教育改革实验区的通知》,旨在适应特殊教育改革发展的新形势新要求,在全国范围内设立一批特殊教育改革...
01-21
暑假是每一个孩子向往的假期,但也是很多家长头痛的假期。孩子每天看,好多暑期社会实践活动、公益活动,到底要怎么去完成?当你还在发愁的时候,童学会小记者们已经跟着我们的...
01-21
  乌鲁木齐银行第三大股东深圳君豪集团有限公司所持有的4000万股股权即将于1月18日进行司法拍...
01-22
  四家上市险企业绩预增  股债共振推动利润预期改善  □记者 张小洁 北京报道  中国太...
02-05
金牛座的男生通常被认为是稳重、务实的代表,他们对感情非常认真,但有时候也会故意气你。...
01-22
天蝎座的男生在感情中常常表现得非常专注和执着,一旦爱上一个人,很难忘记。因此,有时候我...
01-22
揭秘谜尚潮流服饰:让你走在时尚前沿的秘密武器在如今这个追求个性的时代,服饰已不仅仅是遮体的工具,更是一种文化的体现和个人风格的表达。而提到潮流服饰,谜尚的名字总是会引起...
02-12
给女孩子的饰品店起名:好听又吸引顾客的秘诀在为女孩子的饰品店起名时,我们希望这个名字能够既好听又具有吸引力。一个好的店名不仅能够让顾客一眼记住,还能传达出品牌的气质和...
02-12
2月5日消息,朋湖网近日联合机器人开放社区发布“2024年度科技产业系列榜单”,商越科技凭借自身的采购数字化技术创新、服务能力、市场竞争力及社会价值,入选“2024企业服务创新...
02-07
黄铮:用户的需求就是我们的方向标。1、多多国际全面招募海淘商家拼多多对商家下手了。据亿邦动力获悉,近日,拼多多站内的多多国际正全面招募海淘商家入驻,其中针对生活或来往境...
02-18
2月12日消息,“非遗贺新春·DOU来徽物集”活动日前在安徽徽州古城举办。活动由黄山市委宣传部、黄山市委网信办、黄山市文化与旅游局、黄山市数据资源局、歙县人民政府主办,抖...
02-13
2月23日消息,汽车之家近日对外披露2024年第四季度及全年财务业绩。截图图源:东方财富网财报显示,该公司2024年第四季度总营收17.8亿元人民币;全年总营收70.4亿元人民币;全年归属...
02-24
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮