腾讯开源数据组件 Fast-Causal-Inference,用于分布式向量化统计
发布时间:2023-09-18 11:06:03来源:
9 月 18 日消息,腾讯在其公众号“腾讯开源”中宣布,旗下开源分布式数据科学组件项目 Fast-Causal-Inference 目前已经在 GitHub 中公布。
▲ 图源“腾讯开源”公众号
据悉,这是由腾讯微信研发,采用 SQL 交互的,基于分布式向量化的统计分析、因果推断计算库,据称“解决已有统计模型库 (R / Python) 在大数据下的性能瓶颈,提供百亿级数据秒级执行的 Causal inference 能力,同时通过 SQL 语言降低统计模型使用门槛,易用于生产环境中,目前已在微信视频号、微信搜一搜等微信内部多个业务进行了应用。”
官方介绍:
提供海量数据秒级执行的 Causal inference 能力 基于向量化 OLAP 执行引擎 ClickHouse / StarRocks,速度上更益于极致化用户体验。 极简的 SQL 使用方式 SQLGateway WebServer 通过 SQL 语言降低统计模型使用门槛,并在上层提供极简的 SQL 使用方式,透明做引擎相关的 SQL 展开和优化。 提供基础算子、高阶算子的因果推断能力,及上层的应用封装 支持 ttest, OLS, Lasso, Tree-based model, matching, bootstrap, DML 等。
同时得知,官方表示,首个版本已经支持如下特性:
基础因果推断工具 基于 deltamethod 的 ttest,支持 CUPED OLS,亿行数据,亚秒级进阶因果推断工具 以 OLS 为基础的 IV,WLS,以及其他 GLS,DID,合成控制,CUPED,mediation 正在孵化 uplift:千万数据分钟级别运算 bootstrap / permutation 等数据模拟框架,解决没有显示解的方差估计问题
(责编: admin)
免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。