宝山区数据中台开发

3月25日，上海市产业技术创新促进会在上海市经济信息化委指导下，开展硬核科技企业创新指数研究并建立评价指标体系，召开了上海市产业技术创新大会。会上，上海市产业技术创新促进会联合市科协、宝山区政府等单位发布《2023上海硬核科技企业TOP100榜单》，星环科技名列其中。硬核科技是高科技中的前沿技术，直接引领着新兴产业发展的方向，也是未来产业发展的航向标。星环科技致力于打造企业级大数据基础软件，围绕技术创新，星环科技已形成大数据与云基础平台、分布式关系型数据库、数据开发与智能分析工具的软件产品矩阵，积累了31项核心技术，主要体现在分布式技术、SQL编译技术、数据库技术、多模型数据的统一处理技术、基于容器的数据云技术以及大数据开发与智能分析技术六个方面。作为一家以上海为总部的企业，星环科技凭借在大数据领域的技术优势和落地应用，深受上海市各级政府与机构的关注。此前，星环科技曾多次入选上海市“专精特新数据的集成、存储、治理、建模、分析、挖掘和流通等数据全生命周期提供基础软件与服务，构建明日数据世界。星环科技积极参与信息产业国产化进程，是大数据基础软件国产化的重要推动者之一。经过多年自主研发与

数据中台开发是将企业数据整合、处理、服务化的过程，涉及架构设计、技术选型、数据集成、代码研发等多个阶段，以实现数据的集中管理和服务，涉及多个阶段和步骤的复杂过程。以下是一些关键点和步骤：开发实施阶段：数据中台的开发实施阶段是将前期的规划和设计转化为实际运行的系统。主要任务包括搭建数据中台的平台环境，如硬件、网络、操作系统等基础设施的部署和配置。数据采集是核心任务之一，需要设计并实现ETL过程/交换引擎、敏捷BI系统等。数据集成：数据集成方案设计和规范了数据源级别的数据集成流程和同步策略。需要对各数据源制定表级别的集成策略，形成数据同步清单。代码研发：数据中台完成一个指标的开发需要经历多个步骤，包括业务口径梳理、技术口径梳理、原型设计和评审、模型设计、数据开发、后端开发、前端开发、联调、测试、上线、迭代。数据治理：在数据中台实施过程中，加入数据治理的过程，包括基于业务大图设计公共层的，整合分散在各个业务系统中的数据。代码研发工作，根据设计方案编写和测试数据模型、数据处理算法、数据应用等相关代码。架构设计：数据中台的架构设计核心在于用全局统一的标准和规范实现数据赋能。需要考虑如何灵活

数据中台的数据开发是一个系统化的过程，涉及到多个步骤和角色的协作。以下是数据中台数据开发的流程和关键点：业务口径梳理与技术口径梳理：在数据开发的初期，需要对业务需求进行梳理，明确业务目标和需求，并将需求并且技术可行。模型设计：模型设计阶段由数据中台的模型设计师主导，采用分层建模的方式对数据进行组织与存储。模型一般分为ODS层（操作数据层）、DIM层（维度数据层）、DWD层（明细数据层）、DWS层这些需求转化为技术可实现的口径。这一步骤是数据开发的基础，确保数据开发的方向与业务目标一致。原型设计和评审：在明确了业务和技术口径后，需要进行原型设计。原型设计完成后，会进行评审，以确保设计满足业务（汇总数据层）、ADS层（应用数据层）。数据开发：数据开发工程师根据模型设计，与模型设计师确定技术口径，明确计算的指标来源。数据开发工程师通过数据同步工具将数据同步到ODS层，并逐层汇总，直到ADS层。此外，数据开发工程师还需设置调度任务，配置指标计算的时间和方式。后端开发：后端开发工程师基于产品经理的功能定义，输出相应的接口给前端开发工程师。后端开发工程师负责将ADS层数据封装成对外服务的接口

统一数据的存储、管理、分析和应用，提升数据的价值和利用率，支持业务决策和创新。AI中台：是企业人工智能技术和应用的集中化管理平台，通过整合各类人工智能算法、工具和平台，提供一站式的开发、测试、应用和维护，侧重于数据资产的管理、共享，信息化系统的高度整合和数据分析服务的快速响应。AI中台是在数据中台的基础上，采用人工智能算法和技术来提供智能决策、预测、优化等服务，包括AI开发平台、算法模型库、数据服务和，简化算法的开发、设计和部署过程，提高企业的决策能力和运营效率。另外，业务中台和数据中台的时间轴比较前置，数据中台是后置的，而AI中台则是基于数据中台和业务中台的基础之上再次进行扩展和更新的。业务中台业务中台,数据中台和AI中台是什么？业务中台：是公司业务的集中化管理平台，通过集成各个业务系统和提供标准化的业务模块服务，帮助公司提高业务协同能力和效率。数据中台：是企业数据的集中化管理平台，通过服务，促进业的数字化转型和升级。业务中台是以集成和协调不同的部门、业务系统为核心，侧重于业务处理流程的统一、框架的分层和业务模型的标准化。数据中台则是以数据治理、数据仓库、数据标准化、数据服务为键点

。所以对人群回沪之后的停留区域做了分类。回沪人群的居住地相对比较分散，上海所有区县均有涉及，按照人数排名，分别为浦东新区、闵行区、嘉定区、松江区、宝山区、青浦区、奉贤区、杨浦区、普陀区、徐汇区、长宁区海市春运数据的分析中也体现出来，2020年春节期间，上海市返乡人数减少了近1/4。节前离开上海的人，回来了多少数据显示，春节前上海市流出人口的主要流向，前十的省份分别是安徽、江苏、河南、山东、浙江、江西的分析中也体现出来，2020年春节期间，上海市返乡人数减少了近1/4。数据显示，春节后返回上海的人群来源地排名前十的省份分别是江苏、安徽、河南、山东、浙江、江西、湖南、四川、福建、辽宁，按照绝对人数和工作地信息。根据2月19日上海官方信息，上海无新增确诊病例。剩余近半未回沪人群的迁徙因为受到各地政策的影响，暂时存在很多不确定因素，为了严谨起见，这部分预测数据，我们暂不在本篇中开放给大家。但这部导语：各大城市复工已经陆续开启复工，对于上海这样一个外来常住人口占比超过40%的超级大都市来说，疫情当前，如何在复工过程中进行预测、防控以及综合考虑疫情的影响，变得迫在眉睫。星环科技希望借助自己的

和创新场景，如软件开发、系统集成、技术运维等，为企业提供稳定、高效的技术支持和保障。三者的关系相互协作：数据中台为业务中台和技术中台提供数据支持，业务中台和技术中台为数据中台提供业务需求和技术保障数据中台、业务中台和技术中台是企业数字化转型中重要的架构概念，它们在功能、特点、应用场景等方面存在一定差异，以下是对它们的详细介绍：数据中台定义与功能：数据中台是一个数据汇聚、整合、加工、共享和服务数据服务，支持业务创新。应用场景：适用于需要大量数据支持的业务场景，为企业提供数据驱动的决策支持和业务创新能力。业务中台定义与功能：业务中台是将企业中具有通用性、可复用的业务功能进行沉淀和封装，形成一系列。应用场景：广泛应用于企业的各种业务领域，为企业提供快速响应市场变化和客户需求的能力，支持业务的多元化发展。技术中台定义与功能：技术中台是为企业提供统一的技术支撑和服务的平台，包括技术架构、技术组件、技术工具、开发流程等，旨在提高技术的复用性、降低技术的复杂度，为企业的数字化转型提供技术保障。特点技术沉淀：对企业中常用的技术架构、技术组件和技术工具进行沉淀和封装，形成统一的技术体系，提高技术的复用性

驱动，如订单管理组件需要用户数据、商品数据等，这些数据由数据中台提供。业务反馈优化：业务中台的业务运行数据反馈给数据中台，用于数据的优化和更新。协同创新：两者协同助力业务创新。例如，在开发新的营销业务工作：促进企业内部不同部门之间的数据共享。业务中台：应用场景：新业务快速开发：当企业开展新业务时，利用业务中台的组件快速搭建业务框架。业务流程优化与整合：对现有业务流程进行优化和整合。例如，将多个业务系统业务中台、数据中台和技术中台是企业数字化转型中的关键概念，它们各自承担着不同的职责和功能。以下是业务中台、数据中台和技术中台的定义和区别：定义与功能差异数据中台：定义：数据中台主要聚焦于数据的整合资产。功能：数据整合与资产化：整合分散的数据，进行清洗、转换等处理，将数据转化为资产。数据服务提供：以服务的形式向业务中台、前台应用等提供数据。比如，提供用户画像数据查询服务，方便业务系统获取用户的偏好、消费习惯等信息用于精准营销。数据洞察与挖掘：利用数据挖掘、机器学习等技术，从数据中发现潜在价值。业务中台：定义：业务中台是企业业务能力的共享平台，是对企业核心业务流程中通用的业务能力进行抽象、整合

数据中台规范涵盖多个层面，旨在确保数据中台的建设和运营高效、稳定、安全且可持续，以下是具体介绍：数据规范数据标准：统一数据格式、编码规则、数据字典等，确保不同数据源的数据一致性和可比性。数据质量系统之间的数据交互。安全规范数据安全：对数据进行分类分级，根据不同级别采取相应的安全防护措施，如数据加密、访问控制、数据脱敏等，确保数据的保密性、完整性和可用性。系统安全：加强数据中台系统的安全防护，包括网络安全、主机安全、应用安全等，防止系统遭受攻击和数据泄露。运维规范监控与告警：建立完善的监控体系，对数据中台的运行状态、性能指标、数据质量等进行实时监控，及时发现异常情况并发出告警。故障处理：制定故障处理流程和应急预案，当系统出现故障时，能够快速定位并解决问题，确保数据中台的稳定运行。管理规范项目管理：运用项目管理方法，对数据中台的建设和迭代项目进行全生命周期管理，包括项目计划、进度控制、风险管理等，确保项目按时交付。人员管理：明确数据中台团队成员的职责和分工，建立人员培训和考核机制，提高团队整体素质和业务能力。资产规范数据资产目录：建立数据资产目录，对数据中台中的数据资产进行分类、描述

有较强的关联性，是企业独有的且能复用的，数据中台是企业业务和数据的沉淀，其不仅能降低重复建设、减少烟囱式协作的成本，也是差异化竞争优势所在。数据中台厂家作为一家企业级大数据基础软件开发商，星环科技很早就在数据数据中台是指通过数据技术，对海量数据进行采集、计算、存储、加工，同时统一标准和口径。数据中台把数据统一之后，会形成标准数据，再进行存储，形成大数据资产层，进而为客户提供高效服务。这些服务跟企业的业务中台领域布局，结合星环科技全系产品的相关组件实现数据中台能力建设。星环科技把数据中台建设归纳为三中心、六能力、两个体系，这当中都会有星环科技产品作为支撑，从而保证企业能够快速实现，并搭建起数据中台，满足企业未来发展变化。其中，三中心分别是存储中心、分析探索中心、业务赋能中心；六能力包括数据汇聚能力、数据整合能力、智能分析能力、实时计算能力、统一访问能力、统一服务能力；两个体系则是安全和运维中台建设。星环科技在数据中台领域的技术优势和实践探索也获得了国际权威独立研究机构Gartner的认可：在2021和2022年连续两年入选Gartner《中国ICT技术成熟度曲线报告

StellarDB支持用户添加自定义函数，添加后可在cypher语句中使用。自定义函数实现自定义函数通过java/scala语言开发，可继承实现两种基类，编译成jar包，通过指定命令加载到StellarDB。需要实现的基类为如下两种，可自行选择继承合适的基类：继承UDF基类继承GenericUDF基类。继承UDF基类该类实现简单，功能较为单一。支持Quark的基本类型、数组和Map。适合实现简单的逻辑。继承org.apache.hadoop.hive.ql.exec.UDF类继承UDF类必须实现evaluate方法且返回值类型不能为void，支持定义多个evaluate方法不同参数列表用于处理不同类型数据。@Description(name="my_plus",value="my_plus()-ifstring,doconcat;ifinteger,doplus",extended="Example:\n>selectmy_plus('a','b');\n>ab\n>selectmy_plus(3,5);\n>8")/***实现UDF函数，若字符串执行拼接，in...

类型表达式类型例子十进制型整数10,-213十进制小数1.25,3.604E-14,-2.31十进制型长整数199345843592l,-12381543923L任意精度的有符号十进制数123bd,123.31BD八进制整数(0开头)084,-096字符串"星环",'信息科技'布尔类型true,false,TRUE,FALSE数组类型[1，2，3],["星环","信息科技"],[decimal(10.2,3,1),decimal(100.2,3,2)],[localdatetime("2021-01-18T09:50:12.627"),localdatetime("2021-11-18T03:50:12.113")]时间类型localdatetime("2021-01-18T09:50:12.627")Decimal类型decimal(10.2,3,1)地理空间类型point(20.5,30.5),point(-20.5,-30.5)时序类型{localdatetime("2023-01-01T15:16:17")::"nice"},{localdatetime("1997-01-01...

快速上手本章节将引导您快速熟悉StellarDB，并为您初步介绍如何通过KGExplorer和beeline客户端操作StellarDB。其中，"StellarDB初探"一节通过构建一张人物关系图，从零介绍如何在StellarDB进行基本操作；"StellarDB进阶"一节为您提供了内置于StellarDB的《哈利·波特》人物关系图，帮助您进一步探索StellarDB。StellarDB初探使用KGExplorer构建图从Manager页面进入KGExplorer页面。若KGExplorer开启了单点登录，会自动跳转Federation登录页面，按如图方式登录：KGExplorer用戶开启方法以及详细使用说明请查看章节《KGExplorer使用文档》。点击登录后进入KGExplorer主页面。我们首先需要构建图名为"hello_world"的图。在主页面右上角点击创建图按钮开始图谱schema的构建。按照引导填写图基本信息后点击确定进入构建页面。在画布中，我们为"hello_world"图创建Boy和Girl两种类型的点，两种类型的点均包含name、salary、age、single四...

声明简介声明是指为特定数据类型的变量分配一定的存储空间，并命名该变量以便引用它；必须先声明变量，然后才能引用它；对声明的变量可以进行赋值操作来改变它的值；声明的变量其作用域是Session级别的。变量声明使用decl关键字声明一个变量必须为变量指定名称和类型，且名称不能与已有的变量名相同。声明但未赋值的变量的默认值为null。变量名声明对大小写敏感。变量声明的语句遵循如下格式:DECL[<variable_name>:<variable_type>];使用方法示例如下表所示：语句说明declx:int;声明一个类型为int的变量xdecls:string;声明一个类型为string的变量sdecll:long;声明一个类型为long的变量ldeclb:boolean;声明一个类型为boolean的变量bdecld:double;声明一个类型为double的变量ddecltime:localdatetime;声明一个类型为localdatetime的变量timedecld1:decimal;声明一个类型为decimal的变量d1decllist1:list[int...

StellarDB5.0.1版本对图算法场景进行了大规模改进和提升，内置算法性能得到较大提升。在语法方面，StellarDB5.0.1的内置图算法对于返回的节点，会直接以节点类型返回。因此可以直接使用uid(vertex)访问节点的uid，而不再需要node_rk_to_uid函数进行uid的转换。可以参考PageRank等函数。另外，对于图算法返回的节点，我们也可以灵活的访问其其他属性作为返回值。图计算简介StellarDB的图计算使用TEoC语句调用相应图算法。算法的输入数据为图的点、边数据。当前版本中图计算支持结果返回、结果导出和结果写回。在使用图算法时，使用configcrux.execution.modeanalysis;语句切换到分析模式下使用图算法语句。图数据视图StellarDB支持创建一个可被持久化的视图，用于加速图算法执行过程。创建视图创建视图的语法如下所示：createquerytemporarygraphviewGRAPH_VIEW_NAMEas(v)[e]withGRAPH_ALGO(@GRAPH_VIEW_NAME,VIEW_STORE_PATH,CONFI...

3.1在TDH平台安装StellarDB3.2StellarDB安装校验3.3StellarDB低版本升级至StellarDB5.0.1

本章节的示例语句均可在示例图my_graph中执行，执行前请先创建示例图my_graph，建图语句如下:creategraphmy_graphwithschema(:Boy{namestring,salarydouble,ageint,singleboolean,birthdaylocaldatetime,reservelong,ratedecimal(38,10),hobbysarray<string>,geoPointgeo<double>})(:Girl{namestring,salarydouble,ageint,singleboolean,birthdaylocaldatetime,reservelong,ratedecimal(38,10),hobbysarray<string>,geoPointgeo<double>})[:Friend{sinceint}][:Likes{sinceint}]graphproperties:{`graph.shard.number`:3,`graph.replication.number`:...

索引是数据库中某些数据的冗余副本，目的是使查询性能更优。作为代价，数据库需要额外存储空间和较慢写入速度，因此决定哪些字段需要索引是一项重要且不易的任务。（新）StellarDB5.0.1版本不再对旧版本使用的manipulatecreate_index和manipulatedelete_index语法进行支持，在新版本中统一使用createindex和dropindex进行索引的创建和删除新增索引CREATEINDEX[IFNOTEXISTS]FOR(LabelName)ON[f1,f2,...];CREATEINDEX[IFNOTEXISTS]FOR[LabelName]ON[f1,f2,...];不支持对TIME_SERIES类型的属性创建索引默认情况下,对同一个Label的某个属性多次创建索引会报错;但如果带有IFNOTEXISTS,则不会抛出任何错误包裹点边LabelName的括号不同，注意区分示例1.在点labelperson的属性name和age上建立索引CREATEINDEXIFNOTEXISTSFOR(person)ON[name,age];示例2.在边labelask...

为什么引入动态图模型？在实际应用过程中很容易可以发现，图数据在很多图数据的应用场景中并不是静态不变的，而是动态演进的，这些场景中包括例如金融反欺诈场景中金融交易网络随着时间的推进而发生的交易变化、交易社群变化等；又比如社交网络中新增用户、用户关注或者取消关注、更改账户信息等。将图数据变化的历史记录下来，不仅可以用于历史数据规律的总结，还可以利用动态图数据进行动态图神经网络相关技术的研究，从而进一步挖掘数据中潜在的数据价值和更加灵活高效的业务场景，譬如预测某一个时刻某一事件是否会发生。动态图模型的动态变化图数据的动态变化主要分为两类，一类是节点或边的属性的值的变化；另一类变化是子图（结构）的变化，如新增/删除点边。这两种图数据的动态变化可以单独发生，也可以同时发生。从图数据的属性变化角度来看，StellarDB5.0.1动态图模型可以记录图中节点或者边属性的所有历史版本（而非新数据覆盖旧数据）。在实际数据开发使用中，还可以结合诸如柱状图、趋势图等对历史数据进行可视化，更加直观、更加适合业务使用。从图数据的子图（结构）的角度来看，StellarDB5.0.1动态图模型还可以返回不同时间子图...

通过beeline或JDBC时，设置参数configquery.langcypher;将查询语言切换为TEoC模式。根据使用场景选择查询模式（默认为immediate模式）immediate模式通常用于并发及短查询场景，查询结果和中间结果通常不超过百万。通过configcrux.execution.modeimmediate;切换。analysis模式通常用于分析场景，创建图、插入数据以及图算法相关的语句必须在该模式下进行。通过configcrux.execution.modeanalysis;切换。