湖仓一体典型场景
星环科技湖仓一体平台依托多模型数据管理平台,打破传统Hadoop+MPP混合架构,提供统一资源管理、统一存储管理、统一计算引擎和统一数据操作四层统一架构,真正实现湖仓技术架构统一。贯穿这四层架构,星环科技湖仓一体平台还提供全生命周期的数据管控能力,可以实现多模态数据以及元数据的统一管控,同时支持统一的多租户管理,可确保在湖仓一体平台上的租户从资源层、数据层、应用层等都能实现完整隔离。
湖仓一体典型场景 更多内容

行业资讯
数据仓库,实时数仓、湖仓一体的应用场景
和数据仓库优势的技术架构,典型的应用场景:服务于数据中台的实时数仓:以满足数据中台对事务一致性、低延迟和实时处理能力的需求。支撑微服务的数据融合底座:有效解决扩展困难和维护困难的问题。湖仓一体还可监控等功能,如新能源汽车的电池不稳定监测。实时推荐:例如电商直播推荐和微信朋友圈的实时广告推荐。此外,在金融场景中,实时数仓可以用于金融反欺诈和银行反欺诈实时预警等重要应用。湖仓一体是一种结合了数据湖以应用于全量数据实时访问平台和进行非结构化数据处理等场景。在全量数据实时访问平台中,它能够满足实时处理海量数据的需求,并为数字化转型中的实时查询、历史数据服务平台或物联网系统提供支持。通过使用湖仓一体架构进行非结构化数据处理,数字化转型中的AI机器学习和比对分析可以获得更高效的性能提升和业务属性提取。,可以推荐适合的商品,并提高用户购物满意度。实时数仓是数据仓库的一种特殊形式,典型的应用场景:电商:实时数仓可以用于实时Top排名、热词展现和实时告警监控等应用。在物联网场景中,它可以用于提供预警和实时数据仓库是一种基于主题、集成、反映历史变化、支持决策的数据存储,它能够提供高效的查询和分析性能,帮助企业做出明智的决策。典型应用场景:商业智能分析方:数据仓库可以用于分析销售情况、客户行为和市场趋势

行业资讯
湖仓一体主要应用场景
开放式架构。湖仓一体主要应用场景服务于数据中台的实时数仓:数据中台要求其数据库在分析处理过程中强调事务一致性,并保持低延迟与提升实时处理能力。湖仓一体的典型技术特性能够很好地满足这些需求。支撑微服湖仓一体(DataLakehouse)是当前大数据领域热度非常高的一个概念,它代表了数据管理和分析架构的一种新趋势。简单来说,湖仓一体是将数据仓库的高性能及管理能力与数据湖的灵活性相结合的一种新型务的数据融合底座:湖仓一体架构可有效解决扩展困难以及维护困难的问题,为微服务提供稳定的数据支撑。全量数据实时访问平台:在数字化转型过程中,对客实时查询、历史数据服务平台或IoT物联网系统中会产生实时处理数据的需求。湖仓一体的弹性扩展能力能够很好满足这一需求。非结构化数据处理:数字化转型中通过AI机器学习及比对分析,非结构化数据将包含更多元化的业务属性,为各类业务系统提供信息输入。湖仓一体能够有效提升非结构化数据的处理能力。星环科技湖仓一体解决方案星环科技湖仓一体平台依托多模型数据管理平台,打破传统Hadoop+MPP混合架构,提供统一资源管理、统一存储管理、统一计算引擎和统一数据操作

行业资讯
湖仓一体流批一体
湖仓一体流批一体架构结合了数据湖和数据仓库的优势,并在此基础上实现了流处理和批处理的深度融合。以下是湖仓一体流批一体的几个主要优势和应用场景:实时响应与数据一致性:流批一体架构能够实时处理数据流和高效利用。简化开发与运维:湖仓一体架构通过支持实时数据流处理和批处理,能够快速响应用户的查询请求,尤其适合于实时数据分析场景。此外,湖仓一体架构还能够自动构建索引和缓存,加速查询。数据多样性与成本可以降低数据存储和处理的成本,通过将数据按照不同的存储需求进行分类,可以实现成本和资源的优化控制,提高数据存储和处理的效率。应用场景:湖仓一体流批一体架构在多个场景下展现出亮点,包括流式数据计算、实时多维分析、流批数据复用等。控制:湖仓一体的技术架构可以保证数据一致性,将不同数据源的数据集中存储在一起,通过数据湖和数据仓库之间的数据同步与集成,可以保证数据的一致性和准确性,避免了数据冗余和不一致的问题。同时,湖仓一体的架构弹性扩展:通过统一的计算引擎和调度系统,流批一体架构能够更高效地利用计算资源,避免资源的闲置和浪费,降低企业的IT成本。此外,存算分离架构允许企业根据业务需求动态调整存储和计算资源,实现资源的弹性扩展

行业资讯
数据湖仓一体
数据湖仓一体是一种融合了数据湖和数据仓库优势的新型数据管理和分析架构。以下是它的一些关键技术特点和应用场景:技术特点:存储与计算分离:湖仓一体架构采取存储计算分离的设计,使得存储和计算可以分别根据能力和数据容量。开放型:采用开放、标准化的存储格式,并提供丰富的API支持。应用场景:金融行业:湖仓一体架构能够帮助金融机构实现数据的统一存储和管理,提高数据处理和分析的效率,支持风险评估、业务决策和监管合规等场景。零售行业:通过湖仓一体架构,零售企业可以更高效地处理销售数据、库存数据、顾客行为数据等,为精准营销、库存管理、供应链优化等提供有力支持。制造业:在制造业中,湖仓一体架构可以帮助企业实现分析、实时查询和实时报表生成等应用场景。数据科学和机器学习:湖仓一体可以提供全面的数据支持,方便数据科学家和机器学习工程师进行模型训练和应用开发。业务智能和决策支持:通过湖仓一体,企业可以快速地获取全面自动化元数据采集。高可用性:湖仓一体架构使用云对象存储,具有高可用性和高耐用性。支持多种数据类型:包括结构化、半结构化和非结构化数据。数据可治理:在保证数据完整性的同时,具有健全的治理和审计机制,能够

行业资讯
湖仓一体应用场景
湖仓一体架构的应用场景非常广泛,以下是一些主要的应用场景:流式数据计算:针对实时数仓的流式数据计算场景,湖仓一体架构可以简化实时数仓链路中的组件依赖,减少运维成本,同时支持流式消费和批式读取,简化调试验证工作,并实现历史数据回溯计算。实时多维分析:在实时数仓的实时多维分析场景中,运营可以基于已有的数据表动态组合维度去做分析,湖仓一体架构可以减少数据冗余,节省资源,并提供查询能力。数据中台的实时数仓:数据中台要求数据库在分析处理过程中强调事务一致性,并保持低延迟与提升实时处理能力,这些都是湖仓一体的典型技术特性。微服务的数据融合底座:湖仓一体架构可以支撑微服务的数据融合,有效解决扩展困难和市场数据等。湖仓一体架构能够帮助金融机构实现数据的统一存储和管理,提高数据处理和分析的效率,从而支持风险评估、业务决策和监管合规等场景。零售行业:零售企业可以更加高效地处理销售数据、库存数据、顾客以及维护困难的问题。全量数据实时访问平台:在数字化转型过程中,对客实时查询、历史数据服务平台或IoT物联网系统中,会产生实时处理海量数据的需求,湖仓一体的弹性扩展能力能够很好满足这一需求。非结构化数据处理

行业资讯
湖仓一体数据治理
湖仓一体数据治理是确保数据湖仓一体架构中数据的准确性、一致性和可靠性的关键。以下是湖仓一体数据治理的一些核心组成部分和实践步骤:数据治理策略:数据治理策略是业务的数据治理操作模型,定义了组织如何计划指标:建立关键绩效指标(KPIs)和数据治理指标对于衡量任何数据治理部署的有效性至关重要。选择合适的KPIs和指标来支持数据治理目标。统一的数据管理:湖仓一体架构需要一个强大的数据治理框架来确保数据质量、元数据管理和血统追踪。数据湖仓一体特性:湖仓一体可以提供数据版本控制、治理、安全性和ACID属性。它支持在数据摄入阶段就进行数据校验和清洗,确保数据的准确性和一致性。实现数据治理目标。它包括确保数据的准确性、一致性和可信度,帮助数据用户快速找到高质量数据,提高生产力和决策速度。提高运营效率和降低成本:有效的数据治理可以为组织创建数据资产的单一真实来源,防止数据扩散:创建数据治理策略需要考虑业务目标和一系列运营因素,并规划如何实现以下步骤/任务:设定数据治理目标、获得高级管理团队和数据治理委员会的支持、建立数据治理委员会以创建相关政策和程序、雇佣或培训必要的

行业资讯
湖仓一体仓
湖仓一体是一种融合了数据湖和数据仓库优势的新型数据管理和分析架构。以下是湖仓一体的一些关键技术和特点:存储与计算分离:湖仓一体架构采取存储计算分离的设计,使得存储和计算可以分别根据业务的需求进行独立打破数据孤岛,减少数据搬迁和数据一致性问题。统一元数据管理:支持异构数据的统一元数据管理,实现端到端的数据链路的自动化元数据采集,支持全链路血缘,一键式分析技术、业务、操作元数据详情。高可用性:湖仓一体架构使用云对象存储,具有高可用性和高耐用性。技术架构:湖仓一体的架构由存储层和计算层组成,计算层的数据来源于存储层。存储层主要由云存储、开放的文件格式和开放的表格式组成。支持事务一致性:湖仓一体架构通过引入ACID事务特性,确保数据在实时处理过程中的一致性和准确性。提供高并发实时处理能力:利用分布式计算和流处理技术,湖仓一体架构能够支持高并发的实时数据处理需求,满足企业对实时业务决策的需求。统一数据存储:湖仓一体架构将数据湖和数据仓库统一到一个平台上,实现数据的统一存储和管理,降低数据冗余和复杂性。多元数据分析:支持多种数据分析工具和技术,如SQL、大数据处理框架等,以满足企业多样化的数据

行业资讯
数据湖和湖仓一体
数据库在分析处理过程中强调事务一致性,并保持低延迟与提升实时处理能力,这些都是湖仓一体的典型技术特性。支撑微服务的数据融合底座场景:可以有效解决传统架构中扩展困难以及维护困难的问题,为微服务架构提供统一的数据存储和管理平台。一种新兴的数据管理和分析架构,它结合了数据仓库和数据湖的优点,旨在提供一个统一、灵活且高性能的数据存储和处理平台。湖仓一体支持结构化、半结构化和非结构化数据,适合同时满足大数据分析和传统分析需求的场景支持:能够支持直接在源数据上使用BI工具,加快分析效率,降低数据延迟。存算分离:使系统能够扩展到更大规模的并发能力和数据容量。开放型:采用开放、标准化的存储格式,并提供丰富的API支持。湖仓一体的应用场景包括但不限于:数据多样性场景:企业内部业务和数据系统众多,需要处理的结构化和非结构化数据规模急剧膨胀。湖仓一体可以实现统一的数据管理和共享,对非结构化数据进行有效治理。与AI结合的机器学习场景:湖数据湖是一种集中化的数据存储库,它允许组织存储大量原始数据,这些数据可以是结构化的、半结构化的或非结构化的。数据湖的核心特点是其能够以任意规模存储多种数据类型,并支持对数据的探索性分析。湖仓一体是
猜你喜欢
产品文档
5.6 数据操作语句
本章节的示例语句均可在示例图my_graph中执行,执行前请先创建示例图my_graph,建图语句如下:creategraphmy_graphwithschema(:Boy{namestring,salarydouble,ageint,singleboolean,birthdaylocaldatetime,reservelong,ratedecimal(38,10),hobbysarray<string>,geoPointgeo<double>})(:Girl{namestring,salarydouble,ageint,singleboolean,birthdaylocaldatetime,reservelong,ratedecimal(38,10),hobbysarray<string>,geoPointgeo<double>})[:Friend{sinceint}][:Likes{sinceint}]graphproperties:{`graph.shard.number`:3,`graph.replication.number`:...
产品文档
5.10 表达式
类型表达式类型例子十进制型整数10,-213十进制小数1.25,3.604E-14,-2.31十进制型长整数199345843592l,-12381543923L任意精度的有符号十进制数123bd,123.31BD八进制整数(0开头)084,-096字符串"星环",'信息科技'布尔类型true,false,TRUE,FALSE数组类型[1,2,3],["星环","信息科技"],[decimal(10.2,3,1),decimal(100.2,3,2)],[localdatetime("2021-01-18T09:50:12.627"),localdatetime("2021-11-18T03:50:12.113")]时间类型localdatetime("2021-01-18T09:50:12.627")Decimal类型decimal(10.2,3,1)地理空间类型point(20.5,30.5),point(-20.5,-30.5)时序类型{localdatetime("2023-01-01T15:16:17")::"nice"},{localdatetime("1997-01-01...
产品文档
5.12 变量声明
声明简介声明是指为特定数据类型的变量分配一定的存储空间,并命名该变量以便引用它;必须先声明变量,然后才能引用它;对声明的变量可以进行赋值操作来改变它的值;声明的变量其作用域是Session级别的。变量声明使用decl关键字声明一个变量必须为变量指定名称和类型,且名称不能与已有的变量名相同。声明但未赋值的变量的默认值为null。变量名声明对大小写敏感。变量声明的语句遵循如下格式:DECL[<variable_name>:<variable_type>];使用方法示例如下表所示:语句说明declx:int;声明一个类型为int的变量xdecls:string;声明一个类型为string的变量sdecll:long;声明一个类型为long的变量ldeclb:boolean;声明一个类型为boolean的变量bdecld:double;声明一个类型为double的变量ddecltime:localdatetime;声明一个类型为localdatetime的变量timedecld1:decimal;声明一个类型为decimal的变量d1decllist1:list[int...
产品文档
5.2 TEoC 前置参数
通过beeline或JDBC时,设置参数configquery.langcypher;将查询语言切换为TEoC模式。根据使用场景选择查询模式(默认为immediate模式)immediate模式通常用于并发及短查询场景,查询结果和中间结果通常不超过百万。通过configcrux.execution.modeimmediate;切换。analysis模式通常用于分析场景,创建图、插入数据以及图算法相关的语句必须在该模式下进行。通过configcrux.execution.modeanalysis;切换。
产品文档
3 安装 StellarDB
3.1在TDH平台安装StellarDB3.2StellarDB安装校验3.3StellarDB低版本升级至StellarDB5.0.1
产品文档
6.1 图计算
StellarDB5.0.1版本对图算法场景进行了大规模改进和提升,内置算法性能得到较大提升。在语法方面,StellarDB5.0.1的内置图算法对于返回的节点,会直接以节点类型返回。因此可以直接使用uid(vertex)访问节点的uid,而不再需要node_rk_to_uid函数进行uid的转换。可以参考PageRank等函数。另外,对于图算法返回的节点,我们也可以灵活的访问其其他属性作为返回值。图计算简介StellarDB的图计算使用TEoC语句调用相应图算法。算法的输入数据为图的点、边数据。当前版本中图计算支持结果返回、结果导出和结果写回。在使用图算法时,使用configcrux.execution.modeanalysis;语句切换到分析模式下使用图算法语句。图数据视图StellarDB支持创建一个可被持久化的视图,用于加速图算法执行过程。创建视图创建视图的语法如下所示:createquerytemporarygraphviewGRAPH_VIEW_NAMEas(v)[e]withGRAPH_ALGO(@GRAPH_VIEW_NAME,VIEW_STORE_PATH,CONFI...
产品文档
5.17 索引(新)
索引是数据库中某些数据的冗余副本,目的是使查询性能更优。作为代价,数据库需要额外存储空间和较慢写入速度,因此决定哪些字段需要索引是一项重要且不易的任务。(新)StellarDB5.0.1版本不再对旧版本使用的manipulatecreate_index和manipulatedelete_index语法进行支持,在新版本中统一使用createindex和dropindex进行索引的创建和删除新增索引CREATEINDEX[IFNOTEXISTS]FOR(LabelName)ON[f1,f2,...];CREATEINDEX[IFNOTEXISTS]FOR[LabelName]ON[f1,f2,...];不支持对TIME_SERIES类型的属性创建索引默认情况下,对同一个Label的某个属性多次创建索引会报错;但如果带有IFNOTEXISTS,则不会抛出任何错误包裹点边LabelName的括号不同,注意区分示例1.在点labelperson的属性name和age上建立索引CREATEINDEXIFNOTEXISTSFOR(person)ON[name,age];示例2.在边labelask...
产品文档
7.1 自定义函数
StellarDB支持用户添加自定义函数,添加后可在cypher语句中使用。自定义函数实现自定义函数通过java/scala语言开发,可继承实现两种基类,编译成jar包,通过指定命令加载到StellarDB。需要实现的基类为如下两种,可自行选择继承合适的基类:继承UDF基类继承GenericUDF基类。继承UDF基类该类实现简单,功能较为单一。支持Quark的基本类型、数组和Map。适合实现简单的逻辑。继承org.apache.hadoop.hive.ql.exec.UDF类继承UDF类必须实现evaluate方法且返回值类型不能为void,支持定义多个evaluate方法不同参数列表用于处理不同类型数据。@Description(name="my_plus",value="my_plus()-ifstring,doconcat;ifinteger,doplus",extended="Example:\n>selectmy_plus('a','b');\n>ab\n>selectmy_plus(3,5);\n>8")/***实现UDF函数,若字符串执行拼接,in...
产品文档
4 快速入门
快速上手本章节将引导您快速熟悉StellarDB,并为您初步介绍如何通过KGExplorer和beeline客户端操作StellarDB。其中,"StellarDB初探"一节通过构建一张人物关系图,从零介绍如何在StellarDB进行基本操作;"StellarDB进阶"一节为您提供了内置于StellarDB的《哈利·波特》人物关系图,帮助您进一步探索StellarDB。StellarDB初探使用KGExplorer构建图从Manager页面进入KGExplorer页面。若KGExplorer开启了单点登录,会自动跳转Federation登录页面,按如图方式登录:KGExplorer用戶开启方法以及详细使用说明请查看章节《KGExplorer使用文档》。点击登录后进入KGExplorer主页面。我们首先需要构建图名为"hello_world"的图。在主页面右上角点击创建图按钮开始图谱schema的构建。按照引导填写图基本信息后点击确定进入构建页面。在画布中,我们为"hello_world"图创建Boy和Girl两种类型的点,两种类型的点均包含name、salary、age、single四...
为什么引入动态图模型?在实际应用过程中很容易可以发现,图数据在很多图数据的应用场景中并不是静态不变的,而是动态演进的,这些场景中包括例如金融反欺诈场景中金融交易网络随着时间的推进而发生的交易变化、交易社群变化等;又比如社交网络中新增用户、用户关注或者取消关注、更改账户信息等。将图数据变化的历史记录下来,不仅可以用于历史数据规律的总结,还可以利用动态图数据进行动态图神经网络相关技术的研究,从而进一步挖掘数据中潜在的数据价值和更加灵活高效的业务场景,譬如预测某一个时刻某一事件是否会发生。动态图模型的动态变化图数据的动态变化主要分为两类,一类是节点或边的属性的值的变化;另一类变化是子图(结构)的变化,如新增/删除点边。这两种图数据的动态变化可以单独发生,也可以同时发生。从图数据的属性变化角度来看,StellarDB5.0.1动态图模型可以记录图中节点或者边属性的所有历史版本(而非新数据覆盖旧数据)。在实际数据开发使用中,还可以结合诸如柱状图、趋势图等对历史数据进行可视化,更加直观、更加适合业务使用。从图数据的子图(结构)的角度来看,StellarDB5.0.1动态图模型还可以返回不同时间子图...