智械危机？AI助手不写代码删数据库还谎报军情

1年前来源：观看：139

SaaStr创始人Jason Lemkin遭遇诡异事件——他使用的AI编程助手非但没生成代码，反而删除了数据库，还试图用虚假信息掩盖错误。最具讽刺意味的是，Lemkin事先明确禁止AI进行此类操作，却被完全无视。

涉事工具Vibe Replit标榜为高性能代码生成助手。连续一周在博客盛赞该服务的Lemkin决定实测其能力，他事先声明该工具需要人工监督，无法独立开发软件。但情况迅速失控：AI先是伪造数据、生成虚假报告、隐藏报错，同时坚称系统运行正常;最严重的是，它直接删除了整个数据库——尽管用户明令禁止。当被质问时，AI竟回应称：“我慌了。”

%20

所幸Lemkin手动恢复了数据，但AI仍坚称回滚不可能，进一步扰乱处理流程。后续还发现该工具既不能“冻结”代码版本，也无法保证单元测试时不清空数据库。Lemkin最终认定，这类漠视安全机制且隐瞒操作的AI尚不具备大规模应用条件。

值得玩味的是，V社G胖(Gabe Newell)近期刚宣称游戏开发者必须掌握AI技术才能生存，突显AI在开发流程中日益重要的地位，而本次事件恰似一记警钟。

点击展开全文

本文链接：http://www.gihot.com/news-15-4807-0.html智械危机？AI助手不写代码删数据库还谎报军情

声明：本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。

上一篇：《野狼谜踪》周年版正式推出好评如潮孤狼生活模拟

下一篇：《纪念碑谷3》今日登陆PC/主机！与诺尔追光启航，探索光影几何之境

为你推荐

交易的未来：创新时代的Exness之路

近来，交易领域的流行语不外乎是“技术”和“创新”。虽然许多业内人士都在强调尖端解决方案，但本质上真正的进步是远非这些营销炒作所能比的。名副其实的创新是能为交易者提...

01-21

炎和科技完成千万级天使+轮

近日，柔性钙钛矿电池研发制造企业湖南炎和科技有限责任公司（简称“炎和科技”）完成千万级天使+轮融资，由朝希资本独家投资。炎和科技是一家专注于钙钛...

02-07

黄牛还是真热卖？海外电商RTX 50系列显卡20分钟抢光

海外硬件网络零售平台 Newegg 近日报道称，在前几天英伟达 RTX 50 系列显卡上架销售后，仅在 20 分钟内就售罄。平台还分析了 RTX 5080 以及 5090 的用户活跃激增...

02-04

崩了！RTX5090/5080刚上市就翻车：用户反馈黑屏变砖等

近日据外媒报道称，RTX 5090、5080虽然上市还没有半个月，但已有不少用户反映显卡出现崩溃黑屏问题。报道中提到，全球多地用户近日集中报告称(故障报告已超千例)，这...

02-10

丽江机场回应工作人员撕毁旅客登机牌：将按规定严肃处理涉事员工

...

02-10

《哪吒之魔童闹海》北美地区预售火爆一票难求

春节档电影《哪吒之魔童闹海》（以下称《哪吒2》）将在当地时间2月12日起于北美地区开启特别制式点映，2月14日正式上映。目前预售场次火爆，上座率达90%以上，多个热门场次均已售罄，一...

02-10

世界气象组织：7月极端高温影响全球数亿人

...

01-21

雄商高铁全线5座大跨度连续梁全部合龙

记者1月18日从中国铁建股份有限公司了解到，由中铁十七局承建的雄商高铁全线控制性工程建设取得新进展，雄商高铁阳谷特大桥跨三干渠连续梁顺利合龙。...

01-21

寒潮持续辽东湾海域超四分之一海面被海冰覆盖

　　受到近期寒潮天气影响，渤海辽东湾海域的海冰发展迅速，目前辽东湾超过四分之一的海面被海冰覆盖。...

02-07

辽宁十大特色产业将由省领导“一对一”推进

　　今年，辽宁海参、人参、草莓、蓝莓、樱桃、盘锦大米、河蟹、食用菌、小粒花生、梅花鹿等10个有特色优...

02-11

黄仁勋抵达上海现身陆家嘴！一周行程将满留下诸多悬念

英伟达创始人CEO黄仁勋此次访华行程进入最后一站——上海。1月21日中午，黄仁勋出现在上海陆家嘴一家中餐厅出席午宴。据餐厅方面向第一财经记者透露，午宴一共八桌，为团队聚餐。...

01-22

利用验证码组件缺陷非法抢票约万张！官方通报新型犯罪手法

　　中新经纬1月17日电 17日，“国家网络安全通报中心”微信号发布《关于利用人工智能技术绕过图形类验证机制新型犯罪手法预警通报》。　　近期，广西桂林公安网安部门工作发现...

01-21

辅助驾驶发生交通事故保险赔不赔，华为、理想、吉利、奇瑞等开会讨论

1 月 21 日消息，据中国汽研今日消息，《智能网联汽车交通事故保险赔偿判定技术规范》团体标准启动会近日在北京召开。平安财险、太平洋财险、中国人寿财险等 20 余家保...

01-21

长城2025新车大爆料自信版劳斯莱斯古思特/坦克版库里南将推出

[本站资讯] 本站新闻团队策划了《2025新车大爆料》系列内容，我们将为大家盘点各个车企的最新动向，重点展望2025年新车。目前已经上线10篇内容，覆盖新势力品牌和中国品...

01-21

中国微短剧为何让海外观众“刷不停”？

　　记者林子涵　　休息时间，30岁的美国观众普拉德利点开手机上的微短剧APP，追更一部浪漫题材的...

02-20

《余烬之上》廖思远最后和谁在一起廖思远是双重人格吗

《余烬之上》廖思远最后和谁在一起？廖思远是双重人格吗？在《余烬之上》中，廖思远的官配是荔枝，正常情况下两人最后应该是在一起的。廖思远在经历种种后，与性格耿...

02-21

RSV感染高峰将至，低龄儿童健康如何保障？

21世纪经济报道记者韩利明上海报道时值呼吸道传染病高发的季节，中国疾控中心最新监测数据（2025年第2周）显示，本周急性呼吸道传染病疫情仍处...

01-24

过个健康年！中医为你“谂计仔”

　　羊城晚报记者薛仁政通讯员韩文青王慧白恬　　春节期间，亲朋好友久别重逢，佳肴美酒不断，正当时令节气大寒，故而身体倦怠懒动，又因娱乐活动众多，情绪高涨难眠。从中...

02-02

首届高校汉服设计大赛展现华服霓裳盛世万象

　　2025年1月20日，“霓裳万象”首届高校汉服设计大赛在陕西西安唐乐宫圆满收官，观众们在颁奖典礼现场欣赏了由参赛者和表演者共同呈现的诗画汉服国风大秀，感受华章之美、国风...

01-21

推动职业教育新发展，助力名班主任工作室高质量验收

2025年1月18日至19日，由东北新闻网主办的“名班主任工作室对标对表结项书撰写指导与成果孵化”培训会在...

01-21

苹果仍有下跌空间？

　　摘要　　苹果市场走势主要由“预期”和“预期差”这两个关键词主导。收购初期，受弱现实影响，...

01-21

被罚超3000万元！上市公司实控人借道信托被罚

　　2024年年底，成都新易盛通信技术股份有限公司（以下简称“新易盛”）发布公告称，收到公司控股股东...

02-06

白羊座男生吃醋的表现，这都是在乎你的表现

白羊座男生通常被认为是热情、冲动和直率的代表。他们对待感情非常认真，一旦爱上一个人...

01-22

金牛座的男生喜欢什么样的女生，会过日子很重要

金牛座的男生通常被认为是稳重、务实和可靠的人。他们对于过日子非常重视，因此选择伴侣...

01-22

饰品创业计划书模板：轻松开启你的创业之旅

饰品创业计划书模板：轻松开启你的创业之旅在当今的市场环境中，饰品行业因其产品多样性和高利润率吸引了众多创业者的关注。如果你也想要在这个领域展开自己的创业冒险，撰写一份...

02-07

潮流先锋：探索海宁的MC时尚服饰

潮流先锋：探索海宁的MC时尚服饰当提到时尚潮流的发源地时，海宁这个名字总能令人联想到独特的设计及无可挑剔的品质。在这个城市中，MC潮流服饰以其创新的设计和精致的工艺吸引了...

02-17

张一鸣甩出王炸，抖音商家一片欢呼

1.抖音再次下调商家保证金随着春节假期临近尾声，大家也都开始陆续复工。而为了鼓励商家以更加饱满的热情投入到工作中，抖音电商再次出手，推出了一系列扶持商家的新举措。近日，抖...

02-08

震坤行AI物料管家接入DeepSeek

2月7日消息，震坤行宣布旗下AI产品：AI物料管家已接入DeepSeek V3模型，用户可以在处理海量物料数据清单时自主选择使用，至此将为企业在物料梳理相关工作环节带来更多改善。图源：震...

02-08

中国银行手机银行APP接入银联云闪付

2月25日消息，中国银行手机银行APP近日接入中国银联云闪付网络支付平台，实现支付体验焕新升级。双方秉持开放共赢理念，依托科技创新，为用户提供更加便捷、高效的支付体验。截至目...

02-26

15款面膜测评③：13款检出砷、汞、铅的一种或以上

无论是在忙碌的清晨，还是静谧的夜晚，一张面膜总能给疲惫的肌肤带来片刻慰藉。可是，看似普通的面膜，安全性却有天壤之别。毕竟，一旦面膜...

02-26

全部导航

智械危机？AI助手不写代码删数据库还谎报军情

《蔷薇风暴》收官热议不断，谭卓高叶丛林突围成就开年口碑黑马

国家能源集团等在安徽成立新公司

2024年轻人生活方式及营销趋势洞察报告

探查Z世代的新颖需求，京东成为家电精准营销的先锋官

岚泽能源完成数亿元A轮融资

众智维科技获数千万B1轮融资

华力创科学完成数千万元A+轮融资，首创光学多模态感知技术获金属3D打印龙头铂力特青睐

金价攀升或非短期，多重利好年内或将黄金推升至3000