重大升级!DolphinDB新版本发布!

11个月前 来源: 观看:114

新年伊始,DolphinDB迎来了24年度的首次版本升级。在刚刚发布的2.00.11 & 1.30.23 版本中,DolphinDB带来了如下亮点新功能:增加了TSDB 引擎的软删除功能、支持了SQL开窗函数、新增了Web端的数据面板功能。除此之外,DolphinDB的数据分析能力也进一步领先:新增了适合风控计算场景的规则引擎、优化了对数据回放的倍速限制、新增并扩展了一系列函数、还更新了2024年度的交易日历。同时,新版本还改善了函数视图、强化了资源监控与隔离等运维管理功能……下面一起来看看,具体都有哪些功能更新吧~jK7即热新闻——关注每天科技社会生活新变化gihot.com

引擎性能再提升jK7即热新闻——关注每天科技社会生活新变化gihot.com

软删除(Soft Delete)是一种在数据库中处理数据删除的方法,这种删除方式并不是直接从数据库中移除数据,而是通过特定的标记方式在查询的时候将此记录过滤掉,在后台合并数据文件时才真正删除数据。相对于硬删除(Hard Delete),即直接从数据库中永久删除数据,软删除以追加方式进行数据删除,可大幅度提升列式数据库删除的效率。jK7即热新闻——关注每天科技社会生活新变化gihot.com

2.00.11版本中支持了TSDB引擎的软删除功能,通过建表时进行配置,仅在去重机制为保留最新一条时可以生效。jK7即热新闻——关注每天科技社会生活新变化gihot.com

除此之外,新版本还优化了部分场景下的用户查询性能(如sortkey很多,且使用了sortKeyHashMappingFunc时),提升了流数据引擎的计算性能,降低了计算的峰值时延。jK7即热新闻——关注每天科技社会生活新变化gihot.com

Dashboard大更新jK7即热新闻——关注每天科技社会生活新变化gihot.com

此次跟随server版本一起更新的,还有DolphinDB数据面板功能。jK7即热新闻——关注每天科技社会生活新变化gihot.com

自2.00.11版本起,DolphinDB为用户提供了数据面板这一强大的数据可视化和分析工具,帮助用户更好地理解和利用数据。jK7即热新闻——关注每天科技社会生活新变化gihot.com

DolphinDB数据面板位于Web端,包含创建面板、编辑变量、配置数据源和自定义图表等功能。jK7即热新闻——关注每天科技社会生活新变化gihot.com

用户可以通过对表进行查询的方式添加数据源,选择包括柱状图、折线图、饼图、表格、K线、混合图、订单图、富文本、描述表、编辑器、仪表盘、雷达图、变量、散点图等14种图表形式进行自定义的数据呈现,并通过参数配置实现对仪表盘中查询元素的动态控制,以便更灵活地分析和呈现数据。jK7即热新闻——关注每天科技社会生活新变化gihot.com

分钟K线图jK7即热新闻——关注每天科技社会生活新变化gihot.com

数据分析功能更强大jK7即热新闻——关注每天科技社会生活新变化gihot.com

DolphinDB是集数据存储、数据分析和流数据处理为一体的统一实时数据处理平台,通过多范式的编程语言、强大的函数库、历史数据分析与实时流计算的有机融合等设计,为用户提供了卓越的数据分析使用体验。新版本在SQL编程、流数据、函数功能拓展等层面都进行了功能增强。jK7即热新闻——关注每天科技社会生活新变化gihot.com

SQL开窗函数功能支持jK7即热新闻——关注每天科技社会生活新变化gihot.com

开窗函数又叫做分析函数,是一种强大的分析工具,开窗函数允许用户在数据集中定义一个窗口,对窗口内的数据进行聚合或计算,而不是仅仅对整个数据集进行操作。这使得用户可以根据特定的条件来选择分析的范围,例如,计算每行的累积总和或平均值等。开窗函数能够满足更复杂的分析需求,特别是处理大型数据集或需要更详细分析的情况。DolphinDB从第一个版本开始就推出了SQL子句context by,可以完成开窗函数的功能。此次支持SQL的开窗函数,主要是为了兼容标准SQL,方便用户迁移。jK7即热新闻——关注每天科技社会生活新变化gihot.com

DolphinDB新版本中新增了一系列SQL开窗函数,包括:sum,avg,std,stdp,var,varp,count,min,max,skew,kurtosis,med,rank,dense_rank,percent_rank,row_number,cume_dist,lead,lag,ntile,first_value,last_value,nth_value函数。jK7即热新闻——关注每天科技社会生活新变化gihot.com

新增规则引擎,为风控计算提供更优解jK7即热新闻——关注每天科技社会生活新变化gihot.com

金融风控场景包含了流动性风险、信用风险、市场风险、法律和合规风险等,具有高度复杂性和即时性。为了有效管理和应对这些风险,往往会采用规则引擎,根据制定好的规则,自动识别异常交易,监测潜在欺诈行为,从而触发相应的预警或阻断措施。jK7即热新闻——关注每天科技社会生活新变化gihot.com

新版本中,通过新增函数createRuleEngine,可以创建规则引擎(RuleEngine)。该引擎支持用户自定义规则集,引擎会根据每条数据指示的规则集,校验输入,并按要求输出检查结果。同时还新增了函数updateRule和deleteRule,分别用于更新或删除规则引擎中的规则。jK7即热新闻——关注每天科技社会生活新变化gihot.com

例如持仓风控场景中,我们可以利用规则引擎,检查最大持仓、最大亏损以及收益率jK7即热新闻——关注每天科技社会生活新变化gihot.com

输出结果展示:jK7即热新闻——关注每天科技社会生活新变化gihot.com

jK7即热新闻——关注每天科技社会生活新变化gihot.com

可以看到,债券代码为230012的持仓数据通过了风控限额检查;230005在最大亏损和收益率上超过了限额,没有通过规则检查;230212在最大持仓和收益率上没有通过检查。jK7即热新闻——关注每天科技社会生活新变化gihot.com

数据回放再升级,回放倍速更灵活jK7即热新闻——关注每天科技社会生活新变化gihot.com

新版本中,数据回放可以完全支持按照数据到来时间的倍速进行回放,这意味着回放精度提高,用户可以更细致地控制回放的时间单位和间隔。jK7即热新闻——关注每天科技社会生活新变化gihot.com

此外,新版本缩短了用户取消回放任务的响应时间,帮助用户进一步提升分析决策效率。jK7即热新闻——关注每天科技社会生活新变化gihot.com

函数的新增与扩展jK7即热新闻——关注每天科技社会生活新变化gihot.com

新版本增加了对金融场景函数bondDuration, bondDirtyPrice, bondConvexity的支持,用于计算久期、含息价格、凸性等金融指标。jK7即热新闻——关注每天科技社会生活新变化gihot.com

统计分析层面,新增支持了:jK7即热新闻——关注每天科技社会生活新变化gihot.com

·函数iminLast ,imaxLast以及对应的滑动窗口实现,拓展了查找最值索引的功能,支持多个最值取最大的索引。jK7即热新闻——关注每天科技社会生活新变化gihot.com

·函数kendall,用于计算Kendall相关性系数。jK7即热新闻——关注每天科技社会生活新变化gihot.com

·函数clip,用于按数据范围进行极值掩盖。jK7即热新闻——关注每天科技社会生活新变化gihot.com

数值计算层面,新增支持了:jK7即热新闻——关注每天科技社会生活新变化gihot.com

·函数socp,用于更高效地求解二阶锥规划问题,计算目标函数在限定条件下的最小值。jK7即热新闻——关注每天科技社会生活新变化gihot.com

·函数osqp,支持半正定的二次项矩阵的优化问题求解。jK7即热新闻——关注每天科技社会生活新变化gihot.com

·函数brentq ,用于在给定区间范围内求根。jK7即热新闻——关注每天科技社会生活新变化gihot.com

高阶函数层面,新版本对已有函数byRow和byColumn进行了系统性的增强和统一,支持tuple, array vector和matrix,并进行了大量的性能优化。同时新增了用模式符号:H, :V和:U表示函数byRow, byColumn和loop的功能,借助这类模式编写脚本,代码的表达能力得以提升。jK7即热新闻——关注每天科技社会生活新变化gihot.com

2024年度交易日历更新jK7即热新闻——关注每天科技社会生活新变化gihot.com

随着新的一年到来,DolphinDB也在新版本中内置了2024年的交易日历,其中包含各国的法定节假日、休市日、交易时间调整等信息,能够为投资交易者提供更多参考。jK7即热新闻——关注每天科技社会生活新变化gihot.com

同时,新版本拓展了transfreq,asFreq和resample函数的规则。过去,参数rule可以指定交易日历的标识(国外交易所的ISO Code、国内交易所简称或自定义交易日历名称),以便基于交易日历进行计算。新版本中,交易日历可以配合使用数字,表示多个交易日(此时只能指定由4个大写字母组成的交易日历标识)。例如:“2XSHG”,表示上海证券交易所每两个交易日。jK7即热新闻——关注每天科技社会生活新变化gihot.com

易用性增强jK7即热新闻——关注每天科技社会生活新变化gihot.com

新版本在模块、函数视图功能上做了较大的改善,将函数视图的权限约束和集群共享功能与 module的模块化管理结合,从而在使用上更为便捷可控,更利于代码的工程化管理。改进具体表现在:jK7即热新闻——关注每天科技社会生活新变化gihot.com

·过去用户在命名函数视图时,可能会出现函数重名冲突的问题。新版本中为函数视图的功能增加了namespace属性,即用户可以把模块里的函数定义成函数视图,在不同模块定义同名函数时,也不会产生冲突。jK7即热新闻——关注每天科技社会生活新变化gihot.com

·拓展了权限管理功能,可以通过grant(`user, VIEW_EXEC, `module::fun) 的方式对模块及其函数进行权限管理。jK7即热新闻——关注每天科技社会生活新变化gihot.com

·addFunctionView 的模块将持久化至控制节点,并自动同步至整个集群,省去手动在各节点上传module的繁琐操作及一致性问题。jK7即热新闻——关注每天科技社会生活新变化gihot.com

运维管理功能再强化jK7即热新闻——关注每天科技社会生活新变化gihot.com

新版本在资源监控与隔离、备份恢复、可观测性、权限和作业管理等方面都进行了升级,帮助 DBA监控并保障相关业务稳定运行。jK7即热新闻——关注每天科技社会生活新变化gihot.com

以资源监控隔离为例,新版本新增了用户级别的资源跟踪功能:jK7即热新闻——关注每天科技社会生活新变化gihot.com

·新增函数 getUserHardwareUsage,用于采样CPU和内存使用量。jK7即热新闻——关注每天科技社会生活新变化gihot.com

·新增函数 getUserTableAccessRecords,用于记录SQL访问分布式表的信息。jK7即热新闻——关注每天科技社会生活新变化gihot.com

·新增函数 enableResourceTracking 和 disableResourceTracking,用于开启或关闭控制资源隔离。jK7即热新闻——关注每天科技社会生活新变化gihot.com

·新增配置项 resourceSamplingInterval, resourceSamplingMaxLogSize 和resourceSamplingLogRetentionTime,支持用户自定义采样间隔、拆分日志文件的大小阈值和日志保留时间。jK7即热新闻——关注每天科技社会生活新变化gihot.com

未完待续……jK7即热新闻——关注每天科技社会生活新变化gihot.com

此次版本发布,不但进一步提升了数据库的数据分析处理能力,也大大优化了用户的使用体验。后续我们也将致力于满足不断演进的用户需求,积极倾听大家的反馈。jK7即热新闻——关注每天科技社会生活新变化gihot.com

接下来的版本中,DolphinDB 将会推出的重点功能如下:jK7即热新闻——关注每天科技社会生活新变化gihot.com

·数据库提供catalog功能,用户对库表的访问更加方便,进一步兼容标准SQL。jK7即热新闻——关注每天科技社会生活新变化gihot.com

·推出新的主键存储引擎和向量存储引擎。jK7即热新闻——关注每天科技社会生活新变化gihot.com

·计算节点支持数据缓存,增强分布式计算的拓展能力。jK7即热新闻——关注每天科技社会生活新变化gihot.com

·支持GPU在计算中的应用,大大加速算子的计算性能,并支持遗传算法。jK7即热新闻——关注每天科技社会生活新变化gihot.com

·流计算推出复杂事件处理引擎,为实时事件应用程序提供低代码开发环境与完整的运行平台。jK7即热新闻——关注每天科技社会生活新变化gihot.com

·脚本语言支持Class,极大增强脚本语言的可扩展能力。jK7即热新闻——关注每天科技社会生活新变化gihot.com

温馨提示:1.30.23版本是1.30系列的最后一个版本,将于2025.12.31停止维护。后续 DolphinDB 更新版本为:2.00系列版本(稳定版)& 3.00系列版本(最新版)。jK7即热新闻——关注每天科技社会生活新变化gihot.com

以上就是 DolphinDB 2.00.11 & 1.30.23新版本的功能特性概览,欢迎大家点击阅读原文更新升级。试用过程中遇到任何问题,请添加 DolphinDB 小助手(dolphindb1)加入技术交流群,我们期待听到你们的声音~jK7即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-1-10703-0.html重大升级!DolphinDB新版本发布!

声明:本网页内容旨在传播知识,不代表本站观点,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:第78届联合国大会主席弗朗西斯将访华

下一篇:新疆乌什7.1级地震烈度图发布 最大烈度为9度

为你推荐
11月29日,银隆矿业集团2023年首届钒钛产业基地启动大会在北京隆重召开。本届大会以“矿“世奇迹 ”银”领未来为主题,服务国家能源战略、助力中国经济发展。...
12-01
南方财经全媒体记者郑康喜 东莞报道人才是强化现代化建设的第一资源。对正在坚持“科技创新+先进制造”城市定位的东莞而言,围绕城市发展需...
12-02
SQL Error: select * from ***_ecms_news1 where id in() limit 2
鞋边鞋底发黄怎么办?6个妙招快速解决! 在运动风流行的今天,一双板鞋早已是我们鞋柜必备款。舒适时髦,又能够搭配任何风格的单品,简直不要太好。 但板鞋都有一个特点,就是鞋子放...
12-02
买大米时,注意区分“籼米”和“粳米”,差别不止一点,别挑错了! 俗话道,人是铁,饭是钢,一日不吃饿得慌。我们经常说的“吃饭”,有两层含义,广义上是一日三餐,狭义上则是吃大米饭。大米,...
12-02
SQL Error: select * from ***_ecms_news3 where id in() limit 2
SQL Error: select * from ***_ecms_news4 where id in() limit 2
想知道京东白条怎么联系商家 京东白条是京东数科推出的一款消费型金融产品:一是需要消费;二是需要按期偿还,在日常生活中,我们难免都会遇到经济困难的时候,这个时候你会选择怎...
07-14
京东哪个店铺可以刷白条 京东白条是一款可以“先消费后还款”的信用支付方式,开通后,用户会获得一定的授信额度,消费时,直接用白条额度付款,然后在下个月的最后还款日还款即可,另...
07-14
SQL Error: select * from ***_ecms_news6 where id in() limit 2
复旦大学附属眼耳鼻喉科医院周行涛、黄锦海和哈佛大学陶伟团队近日在国际学...
12-01
中国教育报讯(记者 杨桂青)11月18日,第九届全国政法高校“立格联盟”马克思主义学院院长论坛暨“中国式现代化与党的青年工作”学术研讨会在中央团校举办...
12-04
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮