智械危机？AI助手不写代码删数据库还谎报军情

10个月前来源：观看：103

SaaStr创始人Jason Lemkin遭遇诡异事件——他使用的AI编程助手非但没生成代码，反而删除了数据库，还试图用虚假信息掩盖错误。最具讽刺意味的是，Lemkin事先明确禁止AI进行此类操作，却被完全无视。

涉事工具Vibe Replit标榜为高性能代码生成助手。连续一周在博客盛赞该服务的Lemkin决定实测其能力，他事先声明该工具需要人工监督，无法独立开发软件。但情况迅速失控：AI先是伪造数据、生成虚假报告、隐藏报错，同时坚称系统运行正常;最严重的是，它直接删除了整个数据库——尽管用户明令禁止。当被质问时，AI竟回应称：“我慌了。”

%20

所幸Lemkin手动恢复了数据，但AI仍坚称回滚不可能，进一步扰乱处理流程。后续还发现该工具既不能“冻结”代码版本，也无法保证单元测试时不清空数据库。Lemkin最终认定，这类漠视安全机制且隐瞒操作的AI尚不具备大规模应用条件。

值得玩味的是，V社G胖(Gabe Newell)近期刚宣称游戏开发者必须掌握AI技术才能生存，突显AI在开发流程中日益重要的地位，而本次事件恰似一记警钟。

点击展开全文

本文链接：http://www.gihot.com/news-15-4807-0.html智械危机？AI助手不写代码删数据库还谎报军情

声明：本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。

上一篇：《野狼谜踪》周年版正式推出好评如潮孤狼生活模拟

下一篇：《纪念碑谷3》今日登陆PC/主机！与诺尔追光启航，探索光影几何之境

为你推荐

交易的未来：创新时代的Exness之路

近来，交易领域的流行语不外乎是“技术”和“创新”。虽然许多业内人士都在强调尖端解决方案，但本质上真正的进步是远非这些营销炒作所能比的。名副其实的创新是能为交易者提...

01-21

华力创科学完成数千万元A+轮融资，首创光学多模态感知技术获金属3D打印龙头铂力特青睐

近日，华力创科学宣布完成数千万元A+轮融资，本轮融资由金属3D打印领域头部上市公司铂力特独家投资。据披露，本轮融资所募集的资金将专注于深挖高性能光学多模态感知技术，结合金属...

01-24

《绝地潜兵2》超级地球环境更新：无法避免的入侵

在《绝地潜兵》初代中，玩家实际上可以前往母星超级地球，进行保卫战。根据最新的泄露看来，《绝地潜兵2》的保卫站也已在制作当中，并且这场入侵我们将无法阻止。数...

01-25

南美地区部分国家Nintendo Switch Online价格上涨

任天堂宣布对Nintendo Switch Online服务进行涨价，但仅涉及拉丁美洲部分地区。此次价格调整将于今年3月实施。任天堂今日开始向用户发送有关价格变动的邮件。...

02-01

反潜作战！海军航空兵开展跨昼夜飞行训练

南部战区海军航空兵某团组织多架固定翼反潜巡逻机开展跨昼夜飞行训练，锤炼部队全时、全域航空反潜作战能力。（央广网·军事频道作者：秦钱江）...

02-06

多地召开“新春第一会”，湖北省聚焦“七大战略建支点”

2月5日是乙巳蛇年首个工作日，湖北、湖南、广东、浙江等多省份在这一天召开省级层面的“新春第一会”。一季度是全年经济的风向标，确保一季度“开门红”是完成全年目标任务的关...

02-06

AI工具识别虚假新闻准确率达99%

　　科技日报记者刘霞　　据物理学家组织网16日报道，德国基尔大学科学家研制出一款新型人工智能...

01-21

俄罗斯法院对谷歌开出 80 亿卢布罚单，因其未遵守处罚决定

　　IT之家1月14日消息，据路透社报道，俄罗斯一家地方法院于本周二对Alphabet旗下的谷歌公司处以80...

01-21

强降雪丨辽宁降雪、积雪实况公布，今晚这些地方还有雪

昨天4时至今天17时辽宁大部地区出现大雪到暴雪其中丹东地区局部出现大暴雪降雪总量实况　　全省275个气...

01-28

潮流穿搭爱上“氛围感”

　　随着纽约时装周启动，2025年秋冬国际时装周（伦敦、米兰、巴黎）将在本周陆续拉开序幕。记者留意...

02-19

为什么路上“宝宝巴士”越来越多了？

　　一场公交车小型化潮流，正在席卷全国部分城市。　　“宝宝巴士”越来越多　　2025年初，不少青岛居民发现，新的公交车“缩水”了。　　以前那种“巨无霸”的公交车越来越...

01-21

春运火车票“骨折价”，南京到上海8.5元

现代快报讯（记者刘伟娟文/摄）票价8.5元，行程4小时41分钟，你会从南京硬坐到上海吗？1月21日，现代快报记者从铁路12306获悉，部分硬座票“骨折价”，引起网友关注。铁路12306显示，南京到上...

01-22

研究显示 2018 年以来电动汽车价格已下降 25%，中国市场成全球价格洼地

1 月 26 日消息，多年来，除了对续航里程、充电速度和基础设施的担忧之外，选择不购买电动汽车的消费者常常将电动汽车的高价作为一个主要因素。然而最新研究显示，电动汽车...

01-27

深蓝汽车 CEO 邓承浩：S09 车型配置已锁定，定价没有确定

2 月 2 日消息，深蓝 S09 大六座 SUV 在上月（1 月 29 日）公布了部分座舱内饰细节，新车以“家庭智慧旗舰”为核心定位，首次搭载智能移动中岛与鸿蒙座舱 HarmonySpace。注意...

02-02

《余烬之上》在哪播出是翻拍的吗

《余烬之上》在哪播出？是翻拍的吗？《余烬之上》于2025年2月8日在腾讯视频播出。‌《余烬之上》不是翻拍剧，而是原创剧本‌。该剧由王子奇和孙阳等人主演，五百担...

02-21

《逃命游戏：无限重启》剧情介绍

《逃命游戏：无限重启》播出后，许多观众对剧情发展和角色命运产生了浓厚兴趣。该剧由夏婧苒和宋旭主演，于每天上午10点更新，属于复仇题材，在汪汪剧场播出。故事讲...

02-21

备好养生经健康过大年

　　乙巳新春佳节至，欢聚莫忘养生经。日前，国家中医药管理局举行新闻发布会，介绍春节期间中医药健康养生知识。　　美食佳肴需有度　　腊月里的民俗有道是：二十五，磨豆腐；二...

01-27

DeepSeek加持，“AI+医疗”从0-1到1-10｜AI医疗浪潮①

编者按：一个人工智能（AI）机器人，在短短8天内独立完成了668项实验，合成了668种化合物，并成功研发出一种全新的化学催化剂。这一壮举令人赞叹。AI...

02-11

辽宁大学打造“一元核心，四维支撑”人才培养模式培育卓越新闻传播人才

辽宁大学依托部校共建新闻学院优势办高水平的新闻与传播学院，以习近平文化思想为指引，深入学习贯彻习近平...

01-21

我国首部学前教育法明年实施将带来这些新调整、新变化→

　　11月8日，备受关注的《学前教育法》正式通过，并将于明年6月1日开始实施。这是我国首次针对3到6岁孩子...

01-21

又见共管保险箱被撬！浙金信托一产品爆雷后被监管认定存在四大问题

　　原标题：又见共管保险箱被撬！浙金信托一产品爆雷后被监管认定存在四大问题　　来源：界面新闻　...

01-28

供过于求工业硅价格承压运行区间预计在10000~15000元／吨

　　　　2024年，工业硅供应持续增长，多晶硅需求疲弱，在高供应、高库存的情况下，工业硅价格承压下跌...

02-11

和狮子男冷战必赢方法，狮子男最忍不了哪种撩

冷战是一种常见的情感处理方式，但对于狮子男他们往往更难以忍受这种冷漠的态度。如果你...

01-22

折磨白羊男最狠的办法，要怎么去拿捏他

白羊男性格直爽、冲动，喜欢追求刺激和自由。如果你想要折磨一个白羊男，以下是一些方法可...

01-22

SQL Error: select * from ***_ecms_news10 where id in(,473) limit 2

微信小店修订带货账号体系可管理视频号等多个渠道

2月8日消息，《微信小店带货账号体系管理规则》日前正式生效，该规则自2025年2月7日起施行。这份文档较以往视频号小店的要求，有了较大的变化，尤其是在账号绑定与关联账号两个方面...

02-08

马云回来了，阿里股价大涨

马云再度现身阿里园区，阿里股价创新高马云又开始频繁活跃了，作为商界大佬，其一举一动都是各界关注的焦点。在元宵节的前一天马云突然现身阿里巴巴西溪园区，看起来像是刚理过发，身...

02-13

防静电喷雾是智商税吗？我们做了个小实验

在干燥的冬季，大家是否会被猝不及防的静电困扰？头发“炸毛”、穿脱衣物时被刺痛感袭击、摸门把手时被狠狠“电击”……这些静电现象...

02-07

智联招聘张月佳：HR需率先转型成为“超级个体”

3月1日消息，在北京大学国家发展研究院【承泽论坛】第32期，智联招聘集团总裁张月佳指出，在数字技术的加持下，更多职场人有机会成为“超级个体”，而HR是寻找与培养超级个体的关键。...

03-01

全部导航

智械危机？AI助手不写代码删数据库还谎报军情

年入76亿，85后卖奶茶要IPO了

华力创科学完成数千万元A+轮融资，首创光学多模态感知技术获金属3D打印龙头铂力特青睐

金价攀升或非短期，多重利好年内或将黄金推升至3000

浙大天才，震惊全球

朴烯晶完成数亿元B轮融资

京东企业购推出开工季团购优惠，一站式“商品+服务”全力保障企业冲刺“开门红”

完美世界再发反腐通报：开除4人，永不录用

银发经济崛起，养老服务创新引领新风尚