Apache CarbonData:大数据生态一种新的高性能数据格式

  • 时间:
  • 浏览:0

标准SQL和API:在SparkSQL基础上,支持标准SQL99/30003;支持数据批量更新、删除,适用于OLAP场景下数据的周期性刷新,相似拉链表更新、维表数据同步。提供JDBC/ODBC连接,支持与BI工具无缝对接;兼容Spark DataFrame/DataSet,支持复杂性分析应用。

自适应类型转换:CarbonData针对分析型应用中小量使用的数值类型(Double/Decimal/Numeric/BigInt)实现存储内数据类型转换,配合列式数据压缩,使得压缩非常高效,数据压缩率基于应用场景不同一般压缩比在2到8之间。

开源开放: CarbonData于2016年6月3日全票通过进入大数据领域全球最大的开源社区Apache,四天时间里,Apache社区代码贡献者超过300人。目前结构贡献来自于华为、Intel、Talend、Ebay、Inmobi、Knoldus、阿里、美团、乐视、滴滴等公司资深架构师和开发人员。

华为针对上述典型诉求,从2013年结束了了英文调研分析业界大数据方案,发现帕累托图技术都后能 要能 处置五种场景的诉求,后能 一同满足上述的所有诉求,如:并行数据库技术后能 有效与Hadoop生态集成,数据后能 统一共享存储;搜索类技术提升了性能,就是 数据膨胀很大,不支持标准SQL、后能 兼容老的业务,这有益于了华为着手开发CarbonData项目。整个大数据时代的开启,还还要说是源自于Google的MapReduce论文,他引发了Hadoop开源项目以及后续一系列的生态发展。他的“伟大”之占据 于计算和存储解耦的架构,使企业的帕累托图业务(主就是 批处置)从传统的垂直方案中解放出来,计算和存储还还要按需扩展极大提升了业务发展的敏捷性,让众多企业普及了五种计算模式,从中受益。CarbonData借鉴了五种理念,存储和计算逻辑上分离,通过索引技术让存储和计算物理上更接近,提升CPU和IO数率,实现超高性能的大数据分析:

企业典型的诉求总结如下:

数据生态集成:支持与Hadoop、Spark等大数据生态系统集成,支持和商业BI工具无缝对接。既满足传统数仓、数据集市、BI应用要求,也提供大数据生态富有多样的API支持,覆盖从GB级到EB级应用。

富有的索引支持:支持全局多维索引、文件索引、Min/Max、倒排索引等多种索引技术,从表级,文件级,列级等多个层级逐级快速定位数据,处置SQL-on-Hadoop引擎常见的“暴力扫描“,从而大幅提升性能,实现十年数据秒级响应, 三百维字段任意组合查询。

来源:51CTO

Apache CarbonData是五种新的高性能数据存储格式,针对当前大数据领域分析场景需求各异而意味着着 的存储冗余大问题,CarbonData提供了五种新的融合数据存储方案,以一份数据一同支持“任意维度组合的过滤查询、快速扫描、详单查询等”多种应用场景,并通太久级索引、字典编码、列存等结构提升了IO扫描和计算性能,实现百亿数据级秒级响应。CarbonData是由华为开源贡献到Apache基金会的大数据项目,致力于推动大数据开源生态技术的发展。

随着数据与日俱增,业务驱动下的数据分析灵活性要求这麼高,不同场景的数据分业务系统而构建,意味着着 冗余严重,不够高效、统一的融合数仓,阻碍企业快速转型。

本文作者:佚名

全局字典编码:除了常见的Delta、RLE、BitPacking等编码外,CarbonData应用了全局字典编码来实现免解码的计算,计算框架还还要直接使用经过编码的数据来做聚合,排序等计算,这对还要做跨节点数据交换的业务来说性能提升非常明显(3倍以上)。

列式存储:高效的列式数据组织,区别于行存,还还要实现列裁剪和过滤下压,使OLAP查询性能更高。一同,CarbonData针对明细数据查询实现了角度优化,在还要返回所有列的场景下性能优于某些列存方案。