智械危机？AI助手不写代码删数据库还谎报军情

2个月前来源：观看：42

SaaStr创始人Jason Lemkin遭遇诡异事件——他使用的AI编程助手非但没生成代码，反而删除了数据库，还试图用虚假信息掩盖错误。最具讽刺意味的是，Lemkin事先明确禁止AI进行此类操作，却被完全无视。

涉事工具Vibe Replit标榜为高性能代码生成助手。连续一周在博客盛赞该服务的Lemkin决定实测其能力，他事先声明该工具需要人工监督，无法独立开发软件。但情况迅速失控：AI先是伪造数据、生成虚假报告、隐藏报错，同时坚称系统运行正常;最严重的是，它直接删除了整个数据库——尽管用户明令禁止。当被质问时，AI竟回应称：“我慌了。”

%20

所幸Lemkin手动恢复了数据，但AI仍坚称回滚不可能，进一步扰乱处理流程。后续还发现该工具既不能“冻结”代码版本，也无法保证单元测试时不清空数据库。Lemkin最终认定，这类漠视安全机制且隐瞒操作的AI尚不具备大规模应用条件。

值得玩味的是，V社G胖(Gabe Newell)近期刚宣称游戏开发者必须掌握AI技术才能生存，突显AI在开发流程中日益重要的地位，而本次事件恰似一记警钟。

点击展开全文

本文链接：http://www.gihot.com/news-15-4807-0.html智械危机？AI助手不写代码删数据库还谎报军情

声明：本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。

上一篇：《野狼谜踪》周年版正式推出好评如潮孤狼生活模拟

下一篇：《纪念碑谷3》今日登陆PC/主机！与诺尔追光启航，探索光影几何之境

为你推荐

浙大天才，震惊全球

2024年末，一位科技创业者火了。作者 | 王思琪来源 | 投资家（ID：touzijias）2024年末，一位科技创业者火了。2025年初，这位创业者再度爆火。近日，中国科技行业因一位85后年轻人现身《...

01-24

淘宝7.53亿次许愿：从个体价值到社会温度的创新实践

伴随着7.53亿个心愿，淘宝第四次回到春晚这个互联网企业的核心战场，登上舞台中央，带来了一种前所未有的互动方式——许愿红包。不再“摇一摇”，不再“红包雨”，不再是直给的金钱诱...

02-09

前《上古卷轴》联合创作者认为现在的RPG过于线性

角色扮演游戏如今没有20世纪90年代时那么复杂，这已不是什么秘密。多年来，许多游戏机制和特色都被简化，以便让更广泛的玩家群体能够轻松上手，但这也让一些经典RPG的...

02-02

佐贺水坝哥斯拉壁画整活旅游月活游客暴涨1万

大坝年久大清扫，直接扫干净完事？那就浪费了，之前日本佐贺县就给常年积累苔藓以及赃物的大坝来了场特殊清扫，原本一年只有300个游客来看看大坝，现在变成了月活游客暴...

02-10

流感病例数创新高后，日本多地持续“药品荒”，一些医院呼吁“完全没有药，建议回家”

据环球时报援引日本《产经新闻》2日报道，自2024年12月下旬流感病例数创新高后，日本多地药店表示已无用于治疗感冒、发烧等疾病药品的库存。此外，一些过于拥挤的医院也建议患者...

02-04

大S病逝后，台湾岛内现流感疫苗抢打潮，新北市仅1天就有超1万人接种疫苗

据新加坡《联合早报》网站2月4日报道，台湾女星大S（徐熙媛）春节期间因流感并发肺炎病逝，震惊岛内，台湾多地近日出现抢打疫苗潮。2月3日，《康熙来了》节目组发文称，小S（徐熙娣）证实大S（...

02-06

新发现或能预警早产风险

美国加州大学旧金山分校团队发现，小鼠体内存在一种分子计时器，在怀孕最初几天就会被激活，并影响小鼠的分娩时间。如果相同的一组分子在人类妊娠中所起...

01-22

解码古文字，AI助力古代历史研究

从金融到医学，人工智能（AI）正深刻改变着现代生活。如今，它开始进军古代文本研究：从希腊与拉丁典籍到中国甲骨文，人工神经网络正成为解读古文字的钥匙。它...

01-27

牢记嘱托显担当决胜之年夺全胜丨“第一动力”正澎湃——辽宁以科技创新推动产业创新观察

　　去年，我省研发投入增速6年来首次超过全国水平，投入强度创10年来新高；全省新增全国重点实验室10家；新增...

01-22

沈阳启动城市除雪三级（中雪）蓝色预警！

2月11日，记者从沈阳市除雪指挥部获悉，据气象部门预报，沈北新区、辽中、新民、法库、康平有小雪（降雪量0.2至...

02-11

“周五下班去中国”，韩国人为何热衷游上海？

　　免签政策试行两月来，上海的韩国入境游客订单同比增长超2倍――　　“周五下班去中国”，韩国人为何热衷游上海　　阅读提示　　因包容性好、服务水准高和语言障碍低等，上海...

01-21

加州又起大火：事发全球最大储能电厂，马斯克急辟谣

　　加州又起大火：事发全球最大储能电厂，有数万块电池，马斯克急辟谣　　澎湃新闻记者贺梨萍　　当地时间1月16日下午，美国加利福尼亚州莫斯兰丁(Moss Landing)储能电厂发生火灾...

01-21

特斯拉副总裁陶琳：焕新 Model Y 空调舒适性升级，让风“指哪儿吹哪儿”

1 月 27 日消息，特斯拉副总裁陶琳今日发文对焕新 Model Y 的空调系统进行了介绍，这款新车预计 3 月开始交付，后轮驱动首发版（593km 标准续航）26.35 万元，全轮驱动首发版（71...

01-28

奥迪 Q8 E-Tron 下月停产：布鲁塞尔工厂将关闭，约 3000 员工失业

1 月 28 日消息，奥迪位于比利时布鲁塞尔的工厂将在 2 月 28 日结束 Q8 e-tron 车型的生产，并随后关闭工厂，约 3000 名员工将失去工作岗位。奥迪这一决定引发了诸多争议...

01-29

《痞子无间道》第10集剧情解析

最近风靡的《痞子无间道》凭借演员们的颜值、演技以及引人入胜的剧情吸引了大量观众。这部剧集不仅情节扣人心弦，人物塑造生动，还包含许多精彩的场景和细节，引...

02-19

《余烬之上》那个老警察是谁

《余烬之上》那个老警察是谁?《余烬之上》中的老警察有罗斯。罗斯在剧中是一位经历丰富的警官，在最新更新的剧情里，廖思远曾与老警官罗斯有精彩对手戏，廖思远...

02-21

流感“神药”管用吗？什么情况要就医？关于流感的热点问答来了

　　近期，流感等呼吸道疾病进入高发期。全国流感病毒阳性率上升，尤以甲流多发。　　中国疾控中心1...

01-21

21健讯Daily | 成大生物实际控制人拟发生变更；因美纳再次对“不可靠实体清单”事件进行回应

这里是《21健讯Daily》，欢迎与21世纪经济报道新健康团队共同关注医药健康行业最新事件！政策动向国家医疗保障局召开2025年全国医疗保障系统...

02-11

实现合工大校史零的突破：副教授徐正华在世界著名数学刊物发文

据合肥工业大学新闻文化网消息，近日，合肥工业大学数学学院徐正华副教授与米兰...

01-21

2025年沈阳市中考时间预安排公告发布

　　为帮助考生和家长了解2025年中考整体时间安排，做好相关准备，现将考试时间预安排公告如下：以上考试时间...

01-21

氧化铝大涨又大跌后市怎么走？

　　摘要　　【氧化铝大涨又大跌后市怎么走？】氧化铝价格大跌后反弹，此前一月内现货报价下跌1400...

01-21

调降利率、提高认购门槛多家银行调整积存金业务

　　本报记者熊悦　　金价持续攀高之际，已有商业银行下调黄金账户业务（即“积存金”，以下统称“积...

02-11

如何追天蝎男，4个让天蝎男喜欢你的绝招

天蝎座的男生通常都很神秘、独立而且有着强烈的自我保护意识，所以要追求他们并不容易。...

01-22

射手男越不理越喜欢你，会憋着等你主动吗

射手座的男生通常被认为是热情开朗、喜欢自由的人。他们对待感情也有一套独特的方式，其...

01-22

周周潮流服饰：时尚与个性的完美结合

周周潮流服饰：时尚与个性的完美结合每当我走在街上，总会被各式各样的潮流服饰所吸引。也许你会问，什么是潮流呢？它不仅仅是当下流行的款式，更是一种态度，一种表达个人风格的方式。...

02-12

明星魅力解析：那些令人倾倒的女神们

明星魅力解析：那些令人倾倒的女神们在光影交错的舞台上，女明星们以她们的美丽和才华征服了无数观众。无论是荧幕上的风情万种，还是红毯上的璀璨夺目，明星的魅力总是让人心醉神迷...

02-12

阿里引入全球顶尖科学家，我看到了马云的野心

阿里AI，蓄势待发。阿里巴巴再添AI猛将2025开年，阿里巴巴迎来一位AI牛人。据界面新闻，全球顶尖人工智能科学家许主洪（Steven Hoi）正式加入阿里巴巴，出任阿里集团副总裁，负责AI To C...

02-07

抖音电商2024年累计清理“水军”账号160万个

2月17日消息，抖音电商近日发布了关于打击网络水军的治理公告，从打击虚假流量的源头入手，保障消费者体验。公告显示，2024年，该平台共清理了160万个水军账号，日均拦截水军评论超250...

02-18

“奶茶摇到手冒烟”，返乡青年挤爆县城奶茶店

再创新高！据2025年综合运输春运工作专班数据显示，今年春节假期8天（1月28日至2月4日），全社会跨区域人员流动量超23亿人次。全社会跨区域...

02-11

金价跳水，有人刚买就“被套牢”：后续怎么走？

国际金价在即将触及3000美元/盎司的关键心理关口时，突然遭遇重压，转而大幅下跌，跌至最近三周以来的最低点。国内市场方面，沪金期货连...

03-04

全部导航

智械危机？AI助手不写代码删数据库还谎报军情

专业研发科学配比，中粮福临门学生营养餐专用食用植物调和油引领市场热潮

浙大天才，震惊全球

华力创科学完成数千万元A+轮融资，首创光学多模态感知技术获金属3D打印龙头铂力特青睐

EBC平台第二届百万美金交易大赛：携手好友，以连接释放热爱

华力创科学完成数千万元A+轮融资，首创光学多模态感知技术获金属3D打印龙头铂力特青睐

宿迁时代储能完成A+轮数亿元融资

金价攀升或非短期，多重利好年内或将黄金推升至3000

贺新春，启新程！安凯多款BUS驶向全球多国