智械危机？AI助手不写代码删数据库还谎报军情

4个月前来源：观看：57

SaaStr创始人Jason Lemkin遭遇诡异事件——他使用的AI编程助手非但没生成代码，反而删除了数据库，还试图用虚假信息掩盖错误。最具讽刺意味的是，Lemkin事先明确禁止AI进行此类操作，却被完全无视。

涉事工具Vibe Replit标榜为高性能代码生成助手。连续一周在博客盛赞该服务的Lemkin决定实测其能力，他事先声明该工具需要人工监督，无法独立开发软件。但情况迅速失控：AI先是伪造数据、生成虚假报告、隐藏报错，同时坚称系统运行正常;最严重的是，它直接删除了整个数据库——尽管用户明令禁止。当被质问时，AI竟回应称：“我慌了。”

%20

所幸Lemkin手动恢复了数据，但AI仍坚称回滚不可能，进一步扰乱处理流程。后续还发现该工具既不能“冻结”代码版本，也无法保证单元测试时不清空数据库。Lemkin最终认定，这类漠视安全机制且隐瞒操作的AI尚不具备大规模应用条件。

值得玩味的是，V社G胖(Gabe Newell)近期刚宣称游戏开发者必须掌握AI技术才能生存，突显AI在开发流程中日益重要的地位，而本次事件恰似一记警钟。

点击展开全文

本文链接：http://www.gihot.com/news-15-4807-0.html智械危机？AI助手不写代码删数据库还谎报军情

声明：本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。

上一篇：《野狼谜踪》周年版正式推出好评如潮孤狼生活模拟

下一篇：《纪念碑谷3》今日登陆PC/主机！与诺尔追光启航，探索光影几何之境

为你推荐

金价攀升或非短期，多重利好年内或将黄金推升至3000

自去年底开始，黄金多头优势逐渐退却，国际现货黄金价格经历几次大跌后一度跌下2700关口，多空进入漫长的震荡周期，多头始终无法找到再度冲高的时机。　　北京时间1月21日，国际现货...

01-24

贺新春，启新程！安凯多款BUS驶向全球多国

蛇送金光兆五湖，安凯客车驰四海。2月4日，安凯客车“贺新春全球行”批量发车仪式在安凯厂区隆重举行。开工即迎大单，安凯客车党委书记、董事长、总经理黄李平携公司领导班子，以及...

02-09

Capcom两场发布会来了锁定2月5日、将有《鬼武者》《怪物猎人：荒野》

Capcom宣布将于北京时间2月5日早晨6点举行Capcom Spotlight发布会直播，紧接着将是《怪物猎人：荒野》的专场发布会。视频：这场35分钟的Spotlight直播将发布Capc...

02-01

手机增速中国第一！梁华披露华为2024年业绩：销售收入超过8600亿元

快科技2月5日消息，今天，华为董事长梁华透露了过去1年公司的成绩，还是相当不错的。华为董事长梁华在广东省高质量发展大会上透露，2024年华为整体经营达到预期，全年...

02-06

国家安全机关破获一起主动投靠境外间谍情报机关的重大案件

近期，国家安全机关第一时间侦破一起重要涉密人员主动投靠境外间谍情报机关的重大间谍案件，及时制止卖密行为，有力维护了国家安全。潜滋暗长生邪念韩某某，案发前在某重要涉密单位...

02-07

抖音：对“张兰·俏生活”、“张兰之箖玥甄选”、“汪小菲”等予以无限期封禁

抖音安全中心2月8日公告称，近期，徐熙媛（大S）女士逝世引发广泛关注，广大网友纷纷表达哀思悼念，希望逝者能够安息。但也有部分账号借机炒作，发布谣言，违背公序良俗和道德底线，不尊重逝...

02-08

因平台上的 FaceApp 违规收集数据，苹果和谷歌在巴西被罚款

　　原标题：因平台上的FaceApp违规收集数据，苹果和谷歌在巴西被罚款1900万雷亚尔　　IT之家1月9日...

01-21

创客匠人老蒋、原爱多VCD创始人胡志标畅谈企业之道

当下，IP成为了企业品牌发展的主旋律，而创始人IP更是企业品牌营销中常见的一个名词。2024年12月26日至28日，全球创始人IP领袖高峰论坛顺应时势，围绕“创...

01-21

辽宁：聚会新元素释放消费新活力

①不少人聚会喜欢在冬日里围炉煮茶轻轻松松地聊聊天。周玉婷摄②“上门代厨”满足了消费者在家聚餐解...

01-22

强降雪丨辽宁降雪、积雪实况公布，今晚这些地方还有雪

昨天4时至今天17时辽宁大部地区出现大雪到暴雪其中丹东地区局部出现大暴雪降雪总量实况　　全省275个气...

01-28

拍摄员工如厕并贴墙曝光，公司管理不能侵犯隐私 | 新京报快评

▲员工因躲在厕所里抽烟打游戏被公司行政人员拍照曝光，引发了舆论关注。图/网络视频截图员工蹲厕所被拍照，还贴公司墙上曝光？这事还真有。1月18日，有网友发帖爆料，深圳立讯电声科...

01-21

产业一线・跨年行 | 矿泉水0.5元，冰红茶1元……量贩零食店怎么赚钱？

　　中新经纬1月20日电 (闫淑鑫)0.5元一瓶的矿泉水，1元一瓶的冰红茶，1.8元一包的薯片……提起量贩零食，很多消费者的第一印象是“便宜”。　　量贩零食是怎么把价格打下来的？商...

01-21

赛力斯：预计 2024 年营收 1442 亿元到 1467 亿元，同比上升 302.32% 到 309.30%

1 月 21 日消息，赛力斯今日公告，预计 2024 年度实现营业收入 1442 亿元到 1467 亿元，同比上升 302.32% 到 309.30%。从公告获悉，赛力斯预计 2024 年度实现归属于上市公...

01-22

2025年中国汽车业站上新起跑线

　　中国汽车工业协会日前发布数据显示，2024年，我国汽车产销累计完成3128.2万辆和3143.6万辆，同比...

01-27

《痞子无间道》第10集剧情解析

最近风靡的《痞子无间道》凭借演员们的颜值、演技以及引人入胜的剧情吸引了大量观众。这部剧集不仅情节扣人心弦，人物塑造生动，还包含许多精彩的场景和细节，引...

02-19

《六姊妹》有几个女婿六个人的结局是什么？

《六姊妹》有几个女婿‌《六姊妹》中有9个女婿‌。这九个女婿分别是：‌张建国‌：何家丽的大女婿，出身军人，孤儿身份，被何家当家人何常胜看中，成为何家丽的伴侣‌...

02-20

警惕流感季：知名艺人因流感引发肺炎离世，如何做好防治措施？

21世纪经济报道记者李佳英广州报道春节期间，中国台湾知名艺人徐熙媛（大S）不幸离世，享年48岁。根据世界卫生组织（WHO）的数据，在全球范围内，流感每...

02-04

上海加码国际医疗创新发展：当医疗遇上奢华，多层次医疗保障体系如何构建？

21世纪经济报道记者闫硕北京报道“国际医疗部的费用真的有点夸张，但体验也真是好。”“国际医疗部的号源相对宽裕，提前1-3天约就可以了。...

02-07

青岛港湾职业技术学院学子获全国大学生外语能力演讲大赛省赛一等奖

　　大众网记者杨涛报道　　日前，“外研社·国才杯”“理解当代中国”全国大学生外语能力演讲大赛（山东赛区高职组）成绩揭晓，青岛港湾职业技术学院的王淑珍同学凭借出色的表...

01-21

沈阳市珠江五校教育集团“好父母讲堂”——寒假假期家庭教育指导

在孩子的成长过程中，家庭教育担任的角色越来越受到重视。假期是家庭教育的关键时期，也是加强家校联系的重...

01-21

超2600次“围观”却无人出价宜宾银行3.52%股权首次法拍宣告流拍

　　财联社1月26日讯（记者邹俊涛）宜宾银行（2596.HK）近3.52%股权流拍，超千次围观却无人出价。　　1月...

01-28

交易逻辑切换集运指数（欧线）期货连续大涨

　　2月10日，集运指数（欧线）期货主力合约2504收涨14.22%。期货日报记者注意到，集运指数（欧线）期货主力...

02-11

怎样折磨狮子座男人，这几招征服他

狮子座男人通常自信、强势和有领导力，但是如果你想吸引他的注意并征服他的心，以下几招可...

01-22

射手男真正动情的表现爱你入骨

射手座的男生通常被认为是自由奔放、热情洋溢的人，他们喜欢追求刺激和冒险，对于感情也是...

01-22

休闲衬衫搭配什么裤子和鞋子好看？

休闲衬衫搭配什么裤子和鞋子好看？一、休闲衬衫搭配什么裤子和鞋子好看？休闲衬衫搭配什么裤子配阔腿牛仔裤随着复古的阔腿裤回归，阔腿裤的搭配越来越灵活。最常见的韩范妹子...

02-12

璀璨舞台：模特T台走秀大赛精彩主持稿

璀璨舞台：模特T台走秀大赛精彩主持稿亲爱的观众们，大家好！今天我们齐聚一堂，欢迎来到精彩绝伦的模特T台走秀大赛现场。我是今天的主持人[姓名]，倍感荣幸能与大家一同分享这场时尚...

02-12

苏宁易购：春节期间以旧换新订单增长92%

2月5日消息，苏宁易购发布的春节消费大数据显示：春节期间，本地以旧换新消费需求进一步扩大，苏宁易购门店迎来销售“小高峰”，全国门店客流同比提升80%，以旧换新订单量同比增长92%。...

02-07

拼多多首页测试改版多多买菜退下C位

2月19日消息，据亿邦动力消息，拼多多APP首页已在小范围内进行改版。原来与百亿补贴频道一起并列的多多买菜退下“C位”，留下百亿补贴频道独占一整排中心位置。多多买菜现在和限...

02-20

携程宣布多名高管调整

2月18日消息，据环球旅讯，携程集团近日宣布多名高层调整。截图图源：环球旅讯公众号任命公告具体为，陈刚出任集团首席产品官，将牵头集团AI相关产品的战略制订；谭煜东出任集团首席科...

02-19

马蜂窝魅力小城报告：区县旅游出行人数同比增长76.4%

2月27日消息，中国旅游研究院（文化和旅游部数据中心）日前与马蜂窝联合召开“旅游目的地发展创新研究合作及成果发布会”，会上发布旅游目的地系列研究首份成果——《中国魅力小城...

03-01

全部导航

智械危机？AI助手不写代码删数据库还谎报军情

《蔷薇风暴》收官热议不断，谭卓高叶丛林突围成就开年口碑黑马

金价攀升或非短期，多重利好年内或将黄金推升至3000

浙大天才，震惊全球

北大博雅完成A轮融资1500万

山东180亿估值独角兽，漫漫IPO路

明心数智完成近两亿元B轮融资

春晚“林黛玉”同款？益禾堂薄荷奶绿一夜爆红，国民饮品新宠儿震撼登场！

宠物经济崛起，年轻宠主塑造消费新纪元