智械危机？AI助手不写代码删数据库还谎报军情

1个月前来源：观看：32

SaaStr创始人Jason Lemkin遭遇诡异事件——他使用的AI编程助手非但没生成代码，反而删除了数据库，还试图用虚假信息掩盖错误。最具讽刺意味的是，Lemkin事先明确禁止AI进行此类操作，却被完全无视。

涉事工具Vibe Replit标榜为高性能代码生成助手。连续一周在博客盛赞该服务的Lemkin决定实测其能力，他事先声明该工具需要人工监督，无法独立开发软件。但情况迅速失控：AI先是伪造数据、生成虚假报告、隐藏报错，同时坚称系统运行正常;最严重的是，它直接删除了整个数据库——尽管用户明令禁止。当被质问时，AI竟回应称：“我慌了。”

%20

所幸Lemkin手动恢复了数据，但AI仍坚称回滚不可能，进一步扰乱处理流程。后续还发现该工具既不能“冻结”代码版本，也无法保证单元测试时不清空数据库。Lemkin最终认定，这类漠视安全机制且隐瞒操作的AI尚不具备大规模应用条件。

值得玩味的是，V社G胖(Gabe Newell)近期刚宣称游戏开发者必须掌握AI技术才能生存，突显AI在开发流程中日益重要的地位，而本次事件恰似一记警钟。

点击展开全文

本文链接：http://www.gihot.com/news-15-4807-0.html智械危机？AI助手不写代码删数据库还谎报军情

声明：本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。

上一篇：《野狼谜踪》周年版正式推出好评如潮孤狼生活模拟

下一篇：《纪念碑谷3》今日登陆PC/主机！与诺尔追光启航，探索光影几何之境

为你推荐

“AI”在此刻！蓝思科技向智元批量交付人形机器人产品

1月21日,蓝思科技与智元机器人公司在长沙举行了灵犀X1人形机器人套餐交付仪式,成功批量交付灵犀X1人形机器人相关产品。蓝思科技深度参与了灵犀X1机器人的关节模组、DCU控...

01-23

浙大天才，震惊全球

2024年末，一位科技创业者火了。作者 | 王思琪来源 | 投资家（ID：touzijias）2024年末，一位科技创业者火了。2025年初，这位创业者再度爆火。近日，中国科技行业因一位85后年轻人现身《...

01-24

英国老太停车扫码不想竟被换成游戏氪金

如今各种新时代类型诈骗层出不穷，日前BBC分享了一则经典诈骗案例，提醒广大民众注意，而且不仅仅是英国，估计全世界都已经被波及了。 ·据悉，一位70岁老太太去医院，...

02-04

《弹丸论破》人气角色手办欣赏性感渔网袜吸睛

近日日本知名模型制造商Good Smile Company宣布，新的《弹丸论破》兔女郎系列手办即将上市。此次兔女郎手办是以塞蕾丝缇雅·罗登贝克为形象，2025年9月发售，售价...

02-06

极目锐评丨车辆高速失控一路狂飙，“惊心一小时”体现了什么？

极目新闻评论员吴双建“我的车定速巡航功能失效了，刹车也踩不动，怎么办？”2月1日凌晨5时11分，湖北省公安厅高警总队六支队指挥中心民警石路接到群众报警求助。经过紧张的一个多...

02-04

反潜作战！海军航空兵开展跨昼夜飞行训练

南部战区海军航空兵某团组织多架固定翼反潜巡逻机开展跨昼夜飞行训练，锤炼部队全时、全域航空反潜作战能力。（央广网·军事频道作者：秦钱江）...

02-06

铸牢共同体中华一家亲丨银川市金凤区：阴雨天挡不住“颐”团和气

...

01-21

员工植入恶意代码报复用户， B站：已处罚，漏洞已修补

近日，B站一名员工滥用权限，让某用户在使用哔哩哔哩弹幕网（俗称B站）网页端观看视频时，被错误提示“账号已被封禁”，引发广泛关注。1月21...

01-21

寒潮来袭多地气温骤降入冬以来最强降雪上线

　　今天（1月23日）至27日，今年首场寒潮将携大范围雨雪来袭，西北地区东部、华北、东北等地有较强降雪...

01-24

新春走基层丨冰海深处“热采人”

　　图为1月22日，在位于渤海辽东湾海域的中国海油锦州23－2油田平台，中海油海上平台生产操作工苏蔚正在对外...

01-27

“国补”上新！北京卖场客流量翻倍

1月20日各地正式实施手机、平板、智能手表（手环）等数码产品购新补贴政策，“国补”范围从家电、汽车向日常消费电子领域扩展。个人消费者购买单件销售价格不超过6000元的手机、...

01-21

多家A股家居企业发布业绩预告

　　多家A股家居企业发布业绩预告：受市场竞争、计提损失等影响，2024年净利润同比下滑　　2024年，家居消费市场景气度下滑，各大家居企业均称销售承压，作为行业龙头的欧派家居(SH60...

01-21

奥迪 Q8 E-Tron 下月停产：布鲁塞尔工厂将关闭，约 3000 员工失业

1 月 28 日消息，奥迪位于比利时布鲁塞尔的工厂将在 2 月 28 日结束 Q8 e-tron 车型的生产，并随后关闭工厂，约 3000 名员工将失去工作岗位。奥迪这一决定引发了诸多争议...

01-29

机构预测 2025 年全球电动汽车销量将突破 2000 万辆，中国继续主导市场

1 月 29 日消息，据汽车研究机构 Rho Motion 预测，到 2025 年，全球电动汽车（EV）的销量将突破 2000 万辆，这标志着该行业又将迎来一年的增长。注意到，Rho Motion 几周前曾报...

01-29

《消失的厨神之阿呆拜寿》剧情介绍

最近几天，几部新剧陆续播出，其中包括备受期待的《消失的厨神之阿呆拜寿》。该剧播出后反响热烈，热度持续攀升，在各大社交平台上频繁登上热搜。《消失的厨神之阿...

02-22

51岁何炅腹肌照曝光，网友惊叹：何老师，你的身材管理太绝了！

在娱乐圈这片星光璀璨的天空下，何炅以其非凡的主持才能与温文尔雅的气质，长久以来赢得了无数观众的喜爱与尊敬。而近日，这位已年过半百的主持人，再度以惊人的健康体魄成为了舆论...

02-22

RSV感染高峰将至，低龄儿童健康如何保障？

21世纪经济报道记者韩利明上海报道时值呼吸道传染病高发的季节，中国疾控中心最新监测数据（2025年第2周）显示，本周急性呼吸道传染病疫情仍处...

01-24

流感高峰已过？从药物治疗到疫苗预防，市场角逐硝烟未散

21世纪经济报道记者韩利明上海报道“白天还在上班，毫无预兆，下班到家就感觉头沉、没食欲，早早便睡下了。可夜里浑身发冷，头疼欲裂，吃了布洛芬...

02-13

山东第一医科大学临床与基础医学院（基础医学研究所）陈鹏教师（团队）荣获新医科副高组二等奖

　　大众网记者张明明报道　　7月27日至31日，由教育部高等教育司指导、中国高等教育学会主办的第四届全国高校教师教学创新大赛在成都举行，校（院）临床与基础医学院（基础医学...

01-21

山东商业职业技术学院云计算技术与应用产业学院RPA团队在大赛中荣获一等奖两项、二等奖两项

　　大众网记者司心鹏报道　　近日，由山东省教育厅等多部门联合主办的第十六届山东省大学生科技节山东省大学生数据分析与创新应用大赛机器人流程自动化（AI+RPA）赛事决赛...

01-21

37家非上市财险公司去年车均保费低于2000元

　　车险作为财险业的第一大险种，其保费情况备受市场关注。随着险企2024年四季度偿付能力报告陆...

02-13

微众银行王立鹏：坚定科技创新为主要驱动力提升市场竞争力

经济观察网记者胡群在当前的转型和重塑关键时期，中国银行业面对低息差新常态和数字金融的快速发展，如何审慎评估和应对挑战与机遇？2023年，我国商业银行净利润增速放缓，平均资...

02-13

巨蟹男为什么喜欢双鱼

星座学说认为，巨蟹座和双鱼座是十分相配的星座组合。巨蟹男通常会被双鱼女所吸引，这是因...

01-22

怎么判断水瓶座男生是否喜欢你是怎样的

水瓶座男生通常被认为是聪明、独立和理性的人。他们对爱情有着独特的看法，因此要确定一...

01-22

短款衬衫裙子怎么搭配？

短款衬衫裙子怎么搭配？一、短款衬衫裙子怎么搭配？搭配方案一：白衬衫+黑色A字褶裙伞形裙摆，细高腰的A字褶裙处处都散发着复古优雅女人味，搭配白衬衫，仿佛又回到赫本的熟女年代，加之...

02-12

女生短裙穿搭注意事项？

女生短裙穿搭注意事项？一、女生短裙穿搭注意事项？1、穿裙子的时候最重要的就是看自己的比例，如果自己腿比较粗，就可以选择把裙子穿到腰部旁边一点，超过腰部一点，可以遮蔽一部分腿...

02-22

闲鱼：春节期间卡券订单同比增长翻倍

2月4日消息，春节期间，“智性消费”成为年轻人消费显著特征，他们在享受假期的同时更要兼顾性价比，卡券消费在年轻人中走俏。在闲鱼平台上，春节期间卡券订单同比增长翻倍，主要涵盖美...

02-07

XTransfer与非洲跨国银行Ecobank签署合作谅解备忘录

2月11日消息，中国B2B外贸金融平台XTransfer近日与非洲最大的跨国银行之一Ecobank签署合作谅解备忘录，双方将携手为非洲中小微贸易企业提供优质的跨境金融及风控服务，进一步促...

02-11

有机程度如此之高？知名有机棉卫生巾品牌惊现虫子！

随着大众追求健康与环保的消费理念不断普及，有机棉卫生巾概念一经提出，其天然、无添加的特性便吸引了不少女性的眼球。然而，近期有不...

02-18

享道出行正式进驻河南洛阳

2月28日消息，享道出行正式进驻河南洛阳，启动当地网约车业务运营。开城期间，洛阳市民及游客下载、注册享道出行APP即可获得价值百元的出行礼包，还有每日签到、钱包充值等优惠；3月1...

03-01

全部导航

智械危机？AI助手不写代码删数据库还谎报军情

华软科技：困境反转，未来可期

北森并购，拿下明星创企

明心数智完成近两亿元B轮融资

晓商圈获三千万融资

浙大天才，震惊全球

天丝集团见证中泰建交50周年将继续深耕中国

《以金融学入道》

蓝思科技：人形机器人产业新势力