智械危机？AI助手不写代码删数据库还谎报军情

7个月前来源：观看：75

SaaStr创始人Jason Lemkin遭遇诡异事件——他使用的AI编程助手非但没生成代码，反而删除了数据库，还试图用虚假信息掩盖错误。最具讽刺意味的是，Lemkin事先明确禁止AI进行此类操作，却被完全无视。

涉事工具Vibe Replit标榜为高性能代码生成助手。连续一周在博客盛赞该服务的Lemkin决定实测其能力，他事先声明该工具需要人工监督，无法独立开发软件。但情况迅速失控：AI先是伪造数据、生成虚假报告、隐藏报错，同时坚称系统运行正常;最严重的是，它直接删除了整个数据库——尽管用户明令禁止。当被质问时，AI竟回应称：“我慌了。”

%20

所幸Lemkin手动恢复了数据，但AI仍坚称回滚不可能，进一步扰乱处理流程。后续还发现该工具既不能“冻结”代码版本，也无法保证单元测试时不清空数据库。Lemkin最终认定，这类漠视安全机制且隐瞒操作的AI尚不具备大规模应用条件。

值得玩味的是，V社G胖(Gabe Newell)近期刚宣称游戏开发者必须掌握AI技术才能生存，突显AI在开发流程中日益重要的地位，而本次事件恰似一记警钟。

点击展开全文

本文链接：http://www.gihot.com/news-15-4807-0.html智械危机？AI助手不写代码删数据库还谎报军情

声明：本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。

上一篇：《野狼谜踪》周年版正式推出好评如潮孤狼生活模拟

下一篇：《纪念碑谷3》今日登陆PC/主机！与诺尔追光启航，探索光影几何之境

为你推荐

华力创科学完成数千万元A+轮融资，首创光学多模态感知技术获金属3D打印龙头铂力特青睐

近日，华力创科学宣布完成数千万元A+轮融资，本轮融资由金属3D打印领域头部上市公司铂力特独家投资。据披露，本轮融资所募集的资金将专注于深挖高性能光学多模态感知技术，结合金属...

01-24

浙大天才，震惊全球

2024年末，一位科技创业者火了。作者 | 王思琪来源 | 投资家（ID：touzijias）2024年末，一位科技创业者火了。2025年初，这位创业者再度爆火。近日，中国科技行业因一位85后年轻人现身《...

01-24

《光与影：33号远征队》游戏尚未推出但改编电影已在筹备中

由Sandfall Interactive开发的回合制RPG游戏《光与影：33号远征队》，计划于2025年4月24日正式推出。近日据外媒“Variety”报道，在游戏尚未发售的当下，《光与影：33号...

02-02

小岛秀夫发文暗示《死亡搁浅2》新预告即将发布

根据游戏制作人小岛秀夫最新的推文暗示，《死亡搁浅2：冥滩之上》或即将发布新预告片。此前，在TGS 2024上，小岛秀夫曾透露，《死亡搁浅2：冥滩之上》的正式发售日期将在2...

02-07

周冠宇成为法拉利储备车手

新华社上海2月5日电（记者许东远）F1（世界一级方程式赛车锦标赛）法拉利车队5日宣布，在即将到来的2025赛季，周冠宇将与安东尼奥·吉奥维纳兹共同担任其储备车手。周冠宇通过个人社交...

02-06

气温先升后降北方12日将迎本周最冷一天一周天气速览→

随着寒潮影响结束，本周前期气温将上升，但之后冷空气又来制造降温，同时雨雪范围又将增大。本周气温先升后降雨雪范围将增大中国气象局气象分析师李宁：到了本周仍然会有冷空气活...

02-10

“锑猫”实验为量子计算纠错提供新方法

　　科技日报记者张佳欣　　澳大利亚新南威尔士大学工程师成功演示了一个基于量子力学的“锑猫...

01-21

“喂”给人工智能的真实数据终将耗尽，合成数据能否让AI模型精确可靠？

人工智能（AI）初创公司xAI创始人埃隆·马斯克近日表示：“在AI训练中，我们现在基本上耗尽了人类知识的累积总和。”之前研究也表明，人类生成的真实...

01-22

乐享“中国节” 中国传统节日“圈粉”海国游客

　　央视网消息：1月22日，文化和旅游部发布2024年度国内旅游数据。2024年，国内出游人次56.15亿，比上...

01-24

辽宁突出特色打造世界级港口群

　　近日，《辽宁省沿海港口布局规划（2024—2035年）》（以下简称《规划》）正式出台。我省是2023年全国港口航道...

02-05

2024年券商业绩回暖？已有券商净利润暴增超1000%

2024年券商业绩如何？可以从率先一批披露的业绩预报中窥见一二。伴随着首批券商业绩预告出炉，2024年券商业绩表现逐渐浮出水面。记者注意到，除一些头部券商延续了稳健增长的态势...

01-21

中国甘肃等地发现大型金矿新增金资源量168吨

　　中国甘肃等地发现大型金矿新增金资源量168吨　　中新社北京1月19日电 (记者庞无忌)记者19日从中国自然资源部中国地质调查局获悉，中国地质调查局在甘肃、内蒙古、黑龙...

01-21

我国参与研制的 4 项智能网联汽车国际标准成功立项：车门开启预警系统、组合驾驶辅助系统等

1 月 23 日消息，从国家市场监督管理总局获悉，我国联合德国、日本、韩国、英国等国共同研制的多项智能网联汽车国际标准提案在国际标准化组织（ISO）成功立项，包括 4 项驾驶...

01-24

比亚迪：今年将在日本推出首款插混汽车，每年都有新车型

1 月 24 日消息，比亚迪近日宣布，计划于 2025 年首次在日本推出插电式混合动力汽车，以扩大其在日本市场的影响力。该市场长期以来由本土汽车制造商主导。据日经亚洲报道...

01-25

难哄向朗官配是谁

　　1、《难哄》向朗在剧中没有官配，他是温以凡的发小好友，也是十分优秀又温柔强大的海归精英。　　2、小说中向朗没有爱情线，他跟温以凡是纯粹的友情，对温以凡好是出于朋友之...

02-19

难哄钟思乔职业是什么

电视剧《难哄》中的钟思乔职业成为了近期热门话题。该剧开拍前就吸引了大量粉丝，随着剧集播出，更多观众加入粉丝群体，对剧情充满期待，并对钟思乔的职业感到好奇...

02-22

医院一床难求，能否"哪里有床住哪里"？

　　大城市就医紧张，一些大型三甲医院常年“一床难求”，患者住院经常需要漫长等待。能不能“哪里有床住哪里”? 　　试点医院住院“...

01-21

20秒短视频，无数商家血本无归！吃车厘子会中毒？专家：可能性极低

21世纪经济报道记者李佳英广州报道近日，不少人在社交平台上分享称，在食用了一定数量的车厘子后，出现了腹泻、呕吐等症状。这些描述迅速在...

01-21

菏泽医学专科学校构建技能竞赛育人新体系

　　大众网记者司心鹏报道　　在12月13日至16日举办的第十七届山东省职业院校技能大赛（高职组）体育活动设计与实施赛项中，菏泽医学专科学校公共教学部体育教研室指导的参...

01-21

山东商业职业技术学院云计算技术与应用产业学院在华为ICT大赛2023-2024全国总决赛中喜获佳绩

　　大众网记者司心鹏报道　　4月1日，华为ICT大赛2023—2024全国总决赛成绩公布，山东商业职业技术学院云计算技术与应用产业学院学生团队获得昇腾AI赛道国赛二等奖2项，计...

01-21

严定贵谈金融科技风险控制：稳扎稳打，步步为营

　　在金融科技日新月异的今天,创新与发展如同双轮驱动,推动着金融行业不断前行。然而,在这股汹...

01-22

中小金融机构加快改革化险

　　中央经济工作会议提出，要稳妥处置地方中小金融机构风险。近期金融监管总局召开的年度监管工...

01-23

双鱼男想你了会干嘛做什么

双鱼座的男生通常都是浪漫而敏感的，当他们想念某个人时，会有一系列特别的行为和反应。下...

01-22

处女座和什么座最配，首选这三个星座

每个人都希望找到一个与自己完美契合的伴侣，而星座匹配可以为我们提供一些有趣的线索。...

01-22

童装搭配技巧？童装搭配文案？

童装搭配技巧？童装搭配文案？一、童装搭配技巧？童装怎么样搭配！1，首先是看儿童的肤色选择深浅，2，儿童的胖瘦选择衣服，3，儿童的喜爱选择，4颜色深浅错开搭配，5舒适宽松二、童装搭配文案？1....

02-07

夏日狂欢：模特T台走秀泳衣背后的时尚魅力

夏日狂欢：模特T台走秀泳衣背后的时尚魅力在炎炎夏日，泳衣秀成为了时尚界的一大亮点，尤其是在模特T台走秀中，那些色彩艳丽、设计独特的泳衣总是能瞬间吸引观众的目光。那么，究竟是...

02-07

京东推出竞价购物玩法“京东指数”

2月8日消息，据“市象”公众号消息，京东近期正式推出竞价购物玩法“京东指数”，该玩法采用消费者与商家双方共同竞价的模式，形成商品价格的动态交易。接近京东的人士透露，这一新玩...

02-09

小杨哥有情况

已经闹上法庭。1、三只羊公司被起诉过去了这么久，没等到小杨哥复出，却等来了三只羊的官司。近日，据天眼查消息，合肥三只羊网络科技有限公司、广州市美诚食品有限公司等新增一则...

02-13

美团将取消超时扣款，百万骑手松了一口气

平台与骑手共赢，才是王道。1.美团将公布“取消骑手超时扣款”具体方案新的一年，美团要让骑手过得越来越好。2月11日晚，“美团Meituan”微信公众号公布了“取消骑手超时扣款”的...

02-13

京东互联网医院影像检查服务升级新增19个检查项目

2月15日消息，京东互联网医院近日宣布影像检查服务能力全新升级，新增19个CT、核磁共振、X线等影像检查项目，累计支持到店检查项目已达到84个。患者到京东互联网医院在线问诊时，如...

02-15

全部导航

智械危机？AI助手不写代码删数据库还谎报军情

游族网络发布2024年业绩预告，加速游戏上线节奏，AI布局扩张

探查Z世代的新颖需求，京东成为家电精准营销的先锋官

EBC平台第二届百万美金交易大赛：携手好友，以连接释放热爱

毅富能源完成天使+轮融资

港股四年最大 IPO ，来了

美克生能源再获数亿元D+轮融资

小米汽车登记智能屏界面设计作品著作权

成都，即将迎来一个商业航天IPO