国内数据湖案例

一体应用案例某大型集团星环科技助力某大型集团建立一个以数据驱动为核心，以技术支撑为基础的湖仓一体平台，全面赋能该企业一体化协同、管理创新和业务创新。充分整合和管理该企业各个系统全生命周期数据、快速挖掘星环湖仓一体解决方案星环湖仓一体解决方案加强数据湖和数据仓库技术相结合，通过统一的SQL编译引擎、统一的计算引擎、统一的存储管理系统以及统一的资源管理系统四个统一技术，避免数据移动，将原始的、加工清洗的、模型化的数据，共同存储于一体化的“湖仓”中，既能面向业务实现高并发、精准化、高性能的历史数据、实时数据的查询服务，又能承载分析报表、批处理、数据挖掘等分析型数据集市业务，实现“湖仓集一体”。湖仓，赋能业务，综合提升企业管理和运营能力。某大型央企星环科技助力某大型央企建立湖仓一体集群域，支撑中心数据分析和业务支撑。基于星环科技的湖仓一体平台的统一资源管理、统一存储管理、统一分布式计算引擎、统一数据接口统一架构，汇聚了21个业务系统以及互联网、外部机构、实时流的数据，形成了企业数据资产，为CRM等平台提供大数据服务；并基于统一的SQL接口能力，完成了六大方向重点应用的业务平滑迁移。形成了统一数据管理、统一服务管理、统一运维管理、统一安全管理的湖仓一体平台管理门户。

星环科技是国内一家专业的隐私计算公司，致力于为企业提供安全可靠的数据隐私保护解决方案。星环科技分布式隐私计算平台SophonP²C星环科技分布式隐私计算平台SophonP²C集多方安全计算、联邦学习曾获信通院多方安全计算性能专项测评证书、联邦学习基础能力专项测评证书、卓信大数据联邦学习安全评估专项证书，以及信通院星河案例隐私计算优秀案例等多项认证和荣誉。随着数据隐私保护意识的不断增强和隐私法规的等多种功能，为隐私计算提供完整的解决方案，以隐私保护为前提，解决了跨组织协作时无法安全利用各方数据的困境。平台支持联邦学习、多方安全计算、匿踪查询等功能；性能方面，联邦学习与多方安全计算可达亿级数据量，助力数据要素安全流通和价值迸发，实现数字经济时代下的跨企业和行业的AI协作。星环科技的隐私计算技术已落地如数据流通、政务民生、金融营销等垂直业务场景，为跨企业数据协作提供安全可信的平台支持。在政务民生场景，SophonP²C通过纵向联邦学习联合居民用电数据与用水数据，生成群租房预测名单。在联合建模过程中，全程明文数据不出，有效保护了居民用水用电的数据隐私信息。联合训练模型比本地单独用电数据训练的

、三个优秀案例。其中，紫金农商银行基于星环科技ArgoDB的湖仓集一体大数据平台获评数据库方向优秀案例。随着企业数字化转型持续推进，数据分析需求在不断的拓展和提高，呈现数据类型多元化，分析场景多样化日前，由中国信息通信研究院及中国通信标准化协会大数据技术标准推进委员会（CCSATC601）共同组织的2022大数据「星河」案例重磅揭晓。星环科技作为支持单位与客户联合申报的四项成果斩获一个标杆案例，分析时效实时化和数据管控统一化的演进趋势。与此同时，为了满足多样化的数据分析需求，企业数据平台架构也在持续演进，湖仓一体的概念也应运而生。所谓湖仓一体，就是融合数据湖和数据仓库的一种新型开放式数据平台架构，将数据湖和数据仓库的优势充分结合，构建在数据湖低成本的数据存储架构之上，又继承了数据仓库的数据处理、分析和管理功能。从技术角度看，“湖仓一体”架构是以多模型数据平台技术为依托，打破传统Hadoop+MPP混合部署模式，实现湖仓技术架构统一。未来，湖仓一体作为新一代大数据技术架构，将逐渐取代单一数据湖和数据仓库架构。紫金农商银行基于星环科技分布式数据库ArgoDB的湖仓集一体架构落地实践，聚焦

、三个优秀案例。其中，郑州商品交易所全景数据分析平台获评行业数据应用方向标杆案例；甘肃省住房和城乡建设厅互联网+政务服务和监管系统获评行业数据应用方向优秀案例；紫金农商银行基于ArgoDB的湖仓集一体近日，由中国信息通信研究院及中国通信标准化协会大数据技术标准推进委员会（CCSATC601）共同组织的2022大数据「星河」案例重磅揭晓。星环科技作为支持单位与客户联合申报的四项成果斩获一个标杆案例大数据平台、基于分布式数据库的互联网金融业务系统分别获评数据库方向优秀案例。大数据“星河（Galaxy）”案例征集活动意在通过总结和推广大数据产业发展的优秀成果，推动大数据在社会生产生活中的应用,促进大数据技术产品及相关产业发展，已连续举办六年。本届大数据“星河”案例征集包括行业数据应用、数据安全、隐私计算、数据资产管理、数据库五大方向。案例征集自9月启动以来，受到了业界广泛关注和踊跃报名，共收解决方案，“湖仓一体、冷热分离”的技术架构，实现了极致性能和存储成本之间的动态平衡，探索数据服务“优解”。甘肃省住房和城乡建设厅互联网+政务服务和监管系统为了进一步推进全省住建系统数字化发展，甘肃省住房

日前，由中国信息通信研究院和中国通信标准化协会大数据技术标准推进委员会（CCSATC601）联合主办的第八届大数据“星河（Galaxy）”案例榜单揭晓，星环科技携手客户东证期货联合申报的案例获得数据智能底座专项典型案例，携手客户中国人寿资产管理申报的案例荣获数据智能底座专项潜力案例、携手国家光伏、储能实证实验平台（大庆基地）申报的案例获得数据库专项典型案例殊荣。本次案例共摘得典型案例殊荣2个、潜力案例殊荣1个，覆盖数据智能底座及数据库两个专项赛道。国家大数据战略作为数字时代推进中国式现代化的重要引擎，对于构筑国家竞争新优势具有重要意义。国家数据局出台《“数据要素X”三年行动计划推进委员会（CCSATC601）连续八年共同组织大数据“星河（Galaxy）”案例征集活动，该活动横跨电信、金融、政务、能源、制造等多个关键行业，展现了广泛的行业覆盖力与深度影响力，案例的质量、数量逐年攀升，彰显出各行业在大数据应用与实践中的成就与创新活力。第八届大数据“星河（Galaxy）”案例征集包括行业数据智能应用、数据库、数据安全、数据要素流通、数据资产管理、数据估值与入表、政务数据、以及

近日，中国信息通信研究院和中国通信标准化协会大数据技术标准推进委员会（CCSATC601）共同组织的2023大数据“星河（Galaxy）”案例评选结果重磅发布。星环科技作为支持单位与客户联合申报的七项成果在数据库、数据应用、数据资产管理三大方向斩获一个标杆案例、六个优秀案例，创历史新高，星环科技已连续六年入选大数据“星河”案例。大数据“星河（Galaxy）”案例征集活动意在通过总结和推广大数据产业发展的优秀成果，推动大数据在社会生产生活中的应用,促进大数据技术产品及相关产业发展，已连续举办七年。本届大数据“星河（Galaxy）”案例征集包括行业数据应用、数据安全、数据要素流通、数据资产管理、数据库、以及数据向善六大方向。案例征集自9月启动以来，受到了业界广泛关注和踊跃报名，共收到申报项目706份。中信证券基于图数据库构建知识图谱平台中信证券基于星环科技国产分布式图数据库StellarDB社会治理，服务民生，其中融资畅通工程成效显著，实现了与省金综平台、省农业农村厅、省市监局等政府部门数据打通。水发集团数据湖仓一体化建设数据湖作为水发集团数字化转型的大数据决策分析支撑平台，依托星环

湖仓一体是融合了数据仓库和数据湖架构的新概念，在数字化转型中被视为重要基础。它将数据仓库的高性能和管理能力与数据湖的灵活特性结合起来，实现数据和计算在“湖”和“仓”之间流动的自由，为企业提供高效、灵活、低成本的存储解决方案。在数字化转型时代，数据被视为数字化转型的基石，而数据存储是数据能平台的基础。作为数据智能平台的"底座的底座"，湖仓一体概念受到了广泛关注。据Gartner的技术成熟度模型显示，湖仓一体概念仍处于启动阶段，但其前景非常光明，并且预计会保持快速增长。在国内市场，湖仓一体也呈现出蓬勃发展的态势。据爱分析的调研报告显示，2022年中国湖仓一体平台软件场规模达到15.2亿元，预计到2025年将达到97.6亿元，复合增长率高达86%。这表明在数字化浪潮下，国内湖仓一体市场具有大的潜力，并且国内的基础软件正在迎来难得的机遇。在大数据时代，企业对于数据采集、存储和治理的需求越来越高。特别是随着数据量的增加以及人工智能的发展，企业对数据分析的需求也益增长。这使得企业开始重视数据平台的建设，而湖仓一体作为一种新兴的解决方案，成为了企业关注的焦点，得到了更多的关注和使用。星环科技湖仓

中台应用案例：数据中台应用案例河南投资集团数据中台河南投资集团已有的“信息孤岛”未完全打通，集团内数据采集、存储、开发、分析、展现、对外服务的能力有待提升，数据管理运维团队有待建设，数据资产管理体系工具、标准规范和管理制度。其中市级数据湖、数据资源池、数据交换子系统、数据集成子系统、数据服务子系统，由大数据中心统筹规划、建设与运维；各交换前置节点由各业务部门自行建设与运维。●汇集了统一、标准星环数据中台聚合跨域数据，对数据进行清洗、转换、整合，实现数据标准化、集成化、标签化，沉淀共性数据服务能力，以快速响应业务需求，支撑数据融通共享、分析挖掘和数据运营，创造业务价值。以下是星环部分数据制度有待完善，数据资产管理保障组织有待落实。星环科技助力集团数据中台项目建设，加强了数据资产管理能力，打通了各系统数据，提升数据质量和标准化水平，实现了应用端提供统一的接口和数据服务的能力。●数“聚”：汇聚不同来源数据至数据中台构建一体化集团逻辑数据模型，实现更加有序的存储和组织。●数“智”：控制、保护、交付和提高数据资产的价值，提供全面的数据保障。●数“赢”：对数据进行提纯沉淀，共建数据产品，提升

数据湖是一种存储和分析大量结构化、半结构化和非结构化数据的架构，旨在为企业提供更灵活、高效的数据管理和分析解决方案。以下是数据湖建设的关键技术和应用案例。1.数据湖架构数据湖的总体架构一般包括以下几个核心组件：数据源：可以是传感器、日志文件、社交媒体等各种数据生成源。数据接入：包括数据采集和数据摄取过程，将数据从数据源传输到数据湖。存储层：数据湖的核心部分，用于存储原始数据，通常使用分布式文件系统。数据处理：使用数据处理框架进行数据清洗、转化和分析。数据服务：为数据用户提供数据访问和分析的接口。2.数据湖技术数据湖技术具有以下特点：同时支持流批处理：能够处理实时流数据和批量数据。支持数据更新多种计算引擎：支持多种计算框架。3.数据湖建设的基本过程数据盘点：确定数据来源、类型、形态、模式、总量和增量等。技术选型：选择合适的数据湖存储引擎和计算框架。数据入湖：将数据从源头采集并存储到数据湖中，保持数据的原始格式。数据治理：进行数据清洗、转换、整合和加载（ETL），确保数据质量和安全。数据分析：使用数据处理框架进行数据分析和探索，提供决策支持。5.数据湖建设的挑战与解决方案数据治理：数据湖

为什么引入动态图模型？在实际应用过程中很容易可以发现，图数据在很多图数据的应用场景中并不是静态不变的，而是动态演进的，这些场景中包括例如金融反欺诈场景中金融交易网络随着时间的推进而发生的交易变化、交易社群变化等；又比如社交网络中新增用户、用户关注或者取消关注、更改账户信息等。将图数据变化的历史记录下来，不仅可以用于历史数据规律的总结，还可以利用动态图数据进行动态图神经网络相关技术的研究，从而进一步挖掘数据中潜在的数据价值和更加灵活高效的业务场景，譬如预测某一个时刻某一事件是否会发生。动态图模型的动态变化图数据的动态变化主要分为两类，一类是节点或边的属性的值的变化；另一类变化是子图（结构）的变化，如新增/删除点边。这两种图数据的动态变化可以单独发生，也可以同时发生。从图数据的属性变化角度来看，StellarDB5.0.1动态图模型可以记录图中节点或者边属性的所有历史版本（而非新数据覆盖旧数据）。在实际数据开发使用中，还可以结合诸如柱状图、趋势图等对历史数据进行可视化，更加直观、更加适合业务使用。从图数据的子图（结构）的角度来看，StellarDB5.0.1动态图模型还可以返回不同时间子图...

通过beeline或JDBC时，设置参数configquery.langcypher;将查询语言切换为TEoC模式。根据使用场景选择查询模式（默认为immediate模式）immediate模式通常用于并发及短查询场景，查询结果和中间结果通常不超过百万。通过configcrux.execution.modeimmediate;切换。analysis模式通常用于分析场景，创建图、插入数据以及图算法相关的语句必须在该模式下进行。通过configcrux.execution.modeanalysis;切换。

类型表达式类型例子十进制型整数10,-213十进制小数1.25,3.604E-14,-2.31十进制型长整数199345843592l,-12381543923L任意精度的有符号十进制数123bd,123.31BD八进制整数(0开头)084,-096字符串"星环",'信息科技'布尔类型true,false,TRUE,FALSE数组类型[1，2，3],["星环","信息科技"],[decimal(10.2,3,1),decimal(100.2,3,2)],[localdatetime("2021-01-18T09:50:12.627"),localdatetime("2021-11-18T03:50:12.113")]时间类型localdatetime("2021-01-18T09:50:12.627")Decimal类型decimal(10.2,3,1)地理空间类型point(20.5,30.5),point(-20.5,-30.5)时序类型{localdatetime("2023-01-01T15:16:17")::"nice"},{localdatetime("1997-01-01...

3.1在TDH平台安装StellarDB3.2StellarDB安装校验3.3StellarDB低版本升级至StellarDB5.0.1

声明简介声明是指为特定数据类型的变量分配一定的存储空间，并命名该变量以便引用它；必须先声明变量，然后才能引用它；对声明的变量可以进行赋值操作来改变它的值；声明的变量其作用域是Session级别的。变量声明使用decl关键字声明一个变量必须为变量指定名称和类型，且名称不能与已有的变量名相同。声明但未赋值的变量的默认值为null。变量名声明对大小写敏感。变量声明的语句遵循如下格式:DECL[<variable_name>:<variable_type>];使用方法示例如下表所示：语句说明declx:int;声明一个类型为int的变量xdecls:string;声明一个类型为string的变量sdecll:long;声明一个类型为long的变量ldeclb:boolean;声明一个类型为boolean的变量bdecld:double;声明一个类型为double的变量ddecltime:localdatetime;声明一个类型为localdatetime的变量timedecld1:decimal;声明一个类型为decimal的变量d1decllist1:list[int...

StellarDB5.0.1版本对图算法场景进行了大规模改进和提升，内置算法性能得到较大提升。在语法方面，StellarDB5.0.1的内置图算法对于返回的节点，会直接以节点类型返回。因此可以直接使用uid(vertex)访问节点的uid，而不再需要node_rk_to_uid函数进行uid的转换。可以参考PageRank等函数。另外，对于图算法返回的节点，我们也可以灵活的访问其其他属性作为返回值。图计算简介StellarDB的图计算使用TEoC语句调用相应图算法。算法的输入数据为图的点、边数据。当前版本中图计算支持结果返回、结果导出和结果写回。在使用图算法时，使用configcrux.execution.modeanalysis;语句切换到分析模式下使用图算法语句。图数据视图StellarDB支持创建一个可被持久化的视图，用于加速图算法执行过程。创建视图创建视图的语法如下所示：createquerytemporarygraphviewGRAPH_VIEW_NAMEas(v)[e]withGRAPH_ALGO(@GRAPH_VIEW_NAME,VIEW_STORE_PATH,CONFI...

本章节的示例语句均可在示例图my_graph中执行，执行前请先创建示例图my_graph，建图语句如下:creategraphmy_graphwithschema(:Boy{namestring,salarydouble,ageint,singleboolean,birthdaylocaldatetime,reservelong,ratedecimal(38,10),hobbysarray<string>,geoPointgeo<double>})(:Girl{namestring,salarydouble,ageint,singleboolean,birthdaylocaldatetime,reservelong,ratedecimal(38,10),hobbysarray<string>,geoPointgeo<double>})[:Friend{sinceint}][:Likes{sinceint}]graphproperties:{`graph.shard.number`:3,`graph.replication.number`:...

快速上手本章节将引导您快速熟悉StellarDB，并为您初步介绍如何通过KGExplorer和beeline客户端操作StellarDB。其中，"StellarDB初探"一节通过构建一张人物关系图，从零介绍如何在StellarDB进行基本操作；"StellarDB进阶"一节为您提供了内置于StellarDB的《哈利·波特》人物关系图，帮助您进一步探索StellarDB。StellarDB初探使用KGExplorer构建图从Manager页面进入KGExplorer页面。若KGExplorer开启了单点登录，会自动跳转Federation登录页面，按如图方式登录：KGExplorer用戶开启方法以及详细使用说明请查看章节《KGExplorer使用文档》。点击登录后进入KGExplorer主页面。我们首先需要构建图名为"hello_world"的图。在主页面右上角点击创建图按钮开始图谱schema的构建。按照引导填写图基本信息后点击确定进入构建页面。在画布中，我们为"hello_world"图创建Boy和Girl两种类型的点，两种类型的点均包含name、salary、age、single四...

StellarDB支持用户添加自定义函数，添加后可在cypher语句中使用。自定义函数实现自定义函数通过java/scala语言开发，可继承实现两种基类，编译成jar包，通过指定命令加载到StellarDB。需要实现的基类为如下两种，可自行选择继承合适的基类：继承UDF基类继承GenericUDF基类。继承UDF基类该类实现简单，功能较为单一。支持Quark的基本类型、数组和Map。适合实现简单的逻辑。继承org.apache.hadoop.hive.ql.exec.UDF类继承UDF类必须实现evaluate方法且返回值类型不能为void，支持定义多个evaluate方法不同参数列表用于处理不同类型数据。@Description(name="my_plus",value="my_plus()-ifstring,doconcat;ifinteger,doplus",extended="Example:\n>selectmy_plus('a','b');\n>ab\n>selectmy_plus(3,5);\n>8")/***实现UDF函数，若字符串执行拼接，in...

索引是数据库中某些数据的冗余副本，目的是使查询性能更优。作为代价，数据库需要额外存储空间和较慢写入速度，因此决定哪些字段需要索引是一项重要且不易的任务。（新）StellarDB5.0.1版本不再对旧版本使用的manipulatecreate_index和manipulatedelete_index语法进行支持，在新版本中统一使用createindex和dropindex进行索引的创建和删除新增索引CREATEINDEX[IFNOTEXISTS]FOR(LabelName)ON[f1,f2,...];CREATEINDEX[IFNOTEXISTS]FOR[LabelName]ON[f1,f2,...];不支持对TIME_SERIES类型的属性创建索引默认情况下,对同一个Label的某个属性多次创建索引会报错;但如果带有IFNOTEXISTS,则不会抛出任何错误包裹点边LabelName的括号不同，注意区分示例1.在点labelperson的属性name和age上建立索引CREATEINDEXIFNOTEXISTSFOR(person)ON[name,age];示例2.在边labelask...