武汉数据中台公司

数据
星环数据解决方案聚合跨域数据,对数据进行清洗、转换、整合,实现数据标准化、集成化、标签化,沉淀共性数据服务能力,以快速响应业务需求,支撑数据融通共享、分析挖掘和数据运营,创造业务价值。

武汉数据中台公司 更多内容

数据就是一个集中的平台,它帮助公司管理、处理和分发数据,让数据在整个组织流动起来,支持业务决策和运营。通过数据公司能够更好地利用数据,提高效率和竞争力。数据这个概念听起来可能有点技术化,用一个通俗的比喻来解释一下:想象一下,公司就像一个大型超市,而数据就相当于超市的仓库管理系统。这个系统帮助超市管理所有的商品(数据),确保商品(数据)能够被正确地存储、分类、更新和分发到需要它们的地方。数据收集:就像超市从不同的供应商那里进货一样,数据公司的不同业务系统(比如销售系统、客户服务系统等)收集数据数据存储:收集来的数据被存储在数据,就像商品被存放在仓库里一样。这样:就像超市对一些商品进行包装和加工一样,数据也会对数据进行加工,比如进行数据分析和处理,使其更有价值。数据分发:加工好的数据会被分发到超市的各个部门,比如销售部门、库存部门等。在公司里,数据也,数据就可以被集中管理,而不是散落在各个地方。数据清洗和整理:仓库里的货物需要被分类和整理,数据也会对收集到的数据进行清洗和整理,去除错误的、重复的或者无用的数据,确保数据的准确性和可用性。数据加工
业务,数据和AI是什么?业务:是公司业务的集中化管理平台,通过集成各个业务系统和提供标准化的业务模块服务,帮助公司提高业务协同能力和效率。数据:是企业数据的集中化管理平台,通过统一数据的存储、管理、分析和应用,提升数据的价值和利用率,支持业务决策和创新。AI:是企业人工智能技术和应用的集中化管理平台,通过整合各类人工智能算法、工具和平台,提供一站式的开发、测试、应用和维护服务,促进业的数字化转型和升级。业务是以集成和协调不同的部门、业务系统为核心,侧重于业务处理流程的统一、框架的分层和业务模型的标准化。数据则是以数据治理、数据仓库、数据标准化、数据服务为键点,侧重于数据资产的管理、共享,信息化系统的高度整合和数据分析服务的快速响应。AI是在数据的基础上,采用人工智能算法和技术来提供智能决策、预测、优化等服务,包括AI开发平台、算法模型库、数据服务和智能应用等。业务,数据,AI的区别业务解决的是业务系统复杂性和运营效率低下的问题,数据解决的是数据孤立、分散、标准化和共享等数据管理问题,AI则是为满足企业的数据智能化应用
行业资讯
投研数据
可能在一个系统公司财务数据在另一个系统,研究人员需要从多个不同的数据源分别获取数据,然后自己手动进行整合和清洗。这种方式效率低下,数据质量参差不齐,而且容易出现数据不一致的情况。数据方式:投研数据将所有相关数据集中起来,采用统一的标准进行处理。例如,通过数据,宏观经济数据公司财务数据会被整合到一个平台上,并且按照预先设定的质量标准进行清洗和加工,研究人员可以通过统一的接口获取高质量的数据,大大提高了工作效率和数据质量。架构组成部分数据采集层:这是数据进入的入口。它负责从各种内外部数据源收集数据,包括但不限于金融数据库、公司内部的交易系统、研究报告系统、新闻资讯网站等。数据(如按行业、公司、时间等条件查询数据)、数据分析服务(如提供数据统计分析工具、数据挖掘工具的接口)和数据推送服务(如定期推送最新的研究报告、重要财经新闻等)。应用场景和优势投资策略研究:数据为投资投资策略能够及时根据市场变化进行调整。行业研究与公司研究:对于行业研究人员,数据可以提供整个行业的全景数据,包括行业规模、市场份额、竞争格局等数据。在研究公司时,能够提供公司的财务数据、经营数据
行业资讯
数据管理
管理的功能定位是完成公司内部数据能力的抽象、共享和复用。它搭建于大数据平台及数据仓库之上,将大数据平台和数据仓库所实现的功能以通用数据能力的形式提供给企业的所有部门。架构设计原则面向未来:数据应能。数据安全:数据越来越成为一个公司的核心价值,数据公司数据处理和能力共享的核心组件,我们要假设所有的规则都有人违背,一定会有人试图违规访问数据。技术架构数据技术架构主要包括数据采集层、数据存储层数据管理是企业数字化转型的核心架构,它集成了数据管理、数据治理、数据服务等多个方面,旨在为企业提供稳定、高效、安全的数据支持和服务。以下是数据管理的关键组成部分和设计原则:功能定位数据容易地将新出现的大数据、人工智能、机器学习应用和框架加入系统。需求驱动:数据的存在是为了更快、更好地满足业务部门的需求,因此其架构设计应该以如何快速处理需求为核心。面向个体:系统的每个使用者面对的(用户、数据、应用、资源),架构设计必须考虑其变化和生命周期。容错能力:对于数据这样复杂的系统,我们必须假设所有组件都有可能失败或出错。系统必须具备极强的容错性以及在发生大多数错误时自动恢复的能力
数据、业务和技术是企业数字化转型重要的架构概念,它们在功能、特点、应用场景等方面存在一定差异,以下是对它们的详细介绍:数据定义与功能:数据是一个数据汇聚、整合、加工、共享和服务数据服务,支持业务创新。应用场景:适用于需要大量数据支持的业务场景,为企业提供数据驱动的决策支持和业务创新能力。业务定义与功能:业务是将企业具有通用性、可复用的业务功能进行沉淀和封装,形成一系列和创新场景,如软件开发、系统集成、技术运维等,为企业提供稳定、高效的技术支持和保障。三者的关系相互协作:数据为业务和技术提供数据支持,业务和技术数据提供业务需求和技术保障。应用场景:广泛应用于企业的各种业务领域,为企业提供快速响应市场变化和客户需求的能力,支持业务的多元化发展。技术定义与功能:技术是为企业提供统一的技术支撑和服务的平台,包括技术架构、技术组件、技术,三者相互协作,共同推动企业的数字化转型。界限模糊:在实际应用,三者的界限可能会比较模糊,例如业务台中的某些业务组件可能会涉及到数据处理和技术实现,需要根据企业的实际情况进行灵活划分和调整。
行业资讯
台数据
台数据是指在企业数据架构经过整合、加工和治理后的数据集合。它不是原始的业务数据,而是对分散在各个业务系统数据进行抽取、清洗、转换、关联等操作后形成的具有更高价值的数据资产。这些数据资产,SCM(供应链管理)系统的库存数据、物流数据等。同时,也会包括外部数据,像市场调研报告、社交媒体数据(在合法合规获取的前提下)、合作伙伴提供的数据等。台数据的特点综合性:台数据整合了来自不同业务系统和数据源的数据,将原本孤立的数据关联起来,形成了一个全面的、跨业务领域的数据视图。标准化:经过数据治理过程,台数据遵循统一的数据标准。这包括数据格式的统一(如日期格式统一为“YYYY-MM-DD台数据被视为企业的重要资产。它经过加工处理后,具有更高的价值,可以用于数据驱动的决策、业务创新和市场竞争。台数据的处理与存储数据处理:台数据的处理过程包括数据清洗(去除错误、重复、不完整的数据数据仓库或关系型数据库存储。半结构化数据可存储在NoSQL数据库。非结构化数据则采用分布式文件系统或对象存储。同时,会设计合理的存储架构,如分层存储来优化存储成本和数据访问效率。台数据的应用场景业务决策
行业资讯
数据设计
数据设计是一个复杂的过程,涉及到架构规划、技术实现、数据治理等多个方面。以下是数据设计的关键要素和步骤:1.数据功能定位数据的功能定位是完成公司内部数据能力的抽象、共享和复用。它搭建于大数据平台及数据仓库之上,将大数据平台和数据仓库所实现的功能以通用数据能力的形式提供给企业的所有部门。2.数据架构设计原则面向未来:数据应能容易地将新出现的大数据、人工智能、机器学习应用和框架加入系统。需求驱动:数据的存在是为了更快、更好地满足业务部门的需求,因此其架构设计应该以如何快速处理需求为核心。面向个体:系统的每个使用者面对的都是系统的一个方面,但是他们都应该能够从系统获得他们需要的数据能力,自助完成他们的目标,达到最优的效率。3.数据架构分层数据的架构通常分为以下三层:数据资产层:通过数据治理、数据开发、借助数据仓库,把数据转化为可用的数据,即资产「数据资产化」。数据服务层:建立数据能力,把数据用起来,例如标签工厂、模型分析等,即「资产服务化」。数据应用层:通过智能化的场景给业务赋能,也就是「服务智能化」。4.数据建设步骤数据的建设可以分为以下
行业资讯
数据规范
数据规范涵盖多个层面,旨在确保数据的建设和运营高效、稳定、安全且可持续,以下是具体介绍:数据规范数据标准:统一数据格式、编码规则、数据字典等,确保不同数据源的数据一致性和可比性。数据质量系统之间的数据交互。安全规范数据安全:对数据进行分类分级,根据不同级别采取相应的安全防护措施,如数据加密、访问控制、数据脱敏等,确保数据的保密性、完整性和可用性。系统安全:加强数据系统的安全防护,包括网络安全、主机安全、应用安全等,防止系统遭受攻击和数据泄露。运维规范监控与告警:建立完善的监控体系,对数据的运行状态、性能指标、数据质量等进行实时监控,及时发现异常情况并发出告警。故障处理:制定故障处理流程和应急预案,当系统出现故障时,能够快速定位并解决问题,确保数据的稳定运行。管理规范项目管理:运用项目管理方法,对数据的建设和迭代项目进行全生命周期管理,包括项目计划、进度控制、风险管理等,确保项目按时交付。人员管理:明确数据团队成员的职责和分工,建立人员培训和考核机制,提高团队整体素质和业务能力。资产规范数据资产目录:建立数据资产目录,对数据台中的数据资产进行分类、描述
业务数据和技术是企业数字化转型的关键概念,它们各自承担着不同的职责和功能。以下是业务数据和技术的定义和区别:定义与功能差异数据:定义:数据主要聚焦于数据的整合资产。功能:数据整合与资产化:整合分散的数据,进行清洗、转换等处理,将数据转化为资产。数据服务提供:以服务的形式向业务、前台应用等提供数据。比如,提供用户画像数据查询服务,方便业务系统获取用户的偏好、消费习惯等信息用于精准营销。数据洞察与挖掘:利用数据挖掘、机器学习等技术,从数据发现潜在价值。业务:定义:业务是企业业务能力的共享平台,是对企业核心业务流程通用的业务能力进行抽象、整合。技术标准化与治理:推动企业内技术标准化,规定技术组件的使用规范、接口标准等。相互关系与协作方式数据与业务数据供给关系:数据为业务提供数据支持。业务的业务组件在运行过程需要数据来驱动,如订单管理组件需要用户数据、商品数据等,这些数据数据提供。业务反馈优化:业务的业务运行数据反馈给数据,用于数据的优化和更新。协同创新:两者协同助力业务创新。例如,在开发新的营销业务
产品文档
5.10 表达式
类型表达式类型例子十进制型整数10,-213十进制小数1.25,3.604E-14,-2.31十进制型长整数199345843592l,-12381543923L任意精度的有符号十进制数123bd,123.31BD八进制整数(0开头)084,-096字符串"星环",'信息科技'布尔类型true,false,TRUE,FALSE数组类型[1,2,3],["星环","信息科技"],[decimal(10.2,3,1),decimal(100.2,3,2)],[localdatetime("2021-01-18T09:50:12.627"),localdatetime("2021-11-18T03:50:12.113")]时间类型localdatetime("2021-01-18T09:50:12.627")Decimal类型decimal(10.2,3,1)地理空间类型point(20.5,30.5),point(-20.5,-30.5)时序类型{localdatetime("2023-01-01T15:16:17")::"nice"},{localdatetime("1997-01-01...
产品文档
5.12 变量声明
声明简介声明是指为特定数据类型的变量分配一定的存储空间,并命名该变量以便引用它;必须先声明变量,然后才能引用它;对声明的变量可以进行赋值操作来改变它的值;声明的变量其作用域是Session级别的。变量声明使用decl关键字声明一个变量必须为变量指定名称和类型,且名称不能与已有的变量名相同。声明但未赋值的变量的默认值为null。变量名声明对大小写敏感。变量声明的语句遵循如下格式:DECL[<variable_name>:<variable_type>];使用方法示例如下表所示:语句说明declx:int;声明一个类型为int的变量xdecls:string;声明一个类型为string的变量sdecll:long;声明一个类型为long的变量ldeclb:boolean;声明一个类型为boolean的变量bdecld:double;声明一个类型为double的变量ddecltime:localdatetime;声明一个类型为localdatetime的变量timedecld1:decimal;声明一个类型为decimal的变量d1decllist1:list[int...
为什么引入动态图模型?在实际应用过程中很容易可以发现,图数据在很多图数据的应用场景中并不是静态不变的,而是动态演进的,这些场景中包括例如金融反欺诈场景中金融交易网络随着时间的推进而发生的交易变化、交易社群变化等;又比如社交网络中新增用户、用户关注或者取消关注、更改账户信息等。将图数据变化的历史记录下来,不仅可以用于历史数据规律的总结,还可以利用动态图数据进行动态图神经网络相关技术的研究,从而进一步挖掘数据中潜在的数据价值和更加灵活高效的业务场景,譬如预测某一个时刻某一事件是否会发生。动态图模型的动态变化图数据的动态变化主要分为两类,一类是节点或边的属性的值的变化;另一类变化是子图(结构)的变化,如新增/删除点边。这两种图数据的动态变化可以单独发生,也可以同时发生。从图数据的属性变化角度来看,StellarDB5.0.1动态图模型可以记录图中节点或者边属性的所有历史版本(而非新数据覆盖旧数据)。在实际数据开发使用中,还可以结合诸如柱状图、趋势图等对历史数据进行可视化,更加直观、更加适合业务使用。从图数据的子图(结构)的角度来看,StellarDB5.0.1动态图模型还可以返回不同时间子图...
产品文档
7.1 自定义函数
StellarDB支持用户添加自定义函数,添加后可在cypher语句中使用。自定义函数实现自定义函数通过java/scala语言开发,可继承实现两种基类,编译成jar包,通过指定命令加载到StellarDB。需要实现的基类为如下两种,可自行选择继承合适的基类:继承UDF基类继承GenericUDF基类。继承UDF基类该类实现简单,功能较为单一。支持Quark的基本类型、数组和Map。适合实现简单的逻辑。继承org.apache.hadoop.hive.ql.exec.UDF类继承UDF类必须实现evaluate方法且返回值类型不能为void,支持定义多个evaluate方法不同参数列表用于处理不同类型数据。@Description(name="my_plus",value="my_plus()-ifstring,doconcat;ifinteger,doplus",extended="Example:\n>selectmy_plus('a','b');\n>ab\n>selectmy_plus(3,5);\n>8")/***实现UDF函数,若字符串执行拼接,in...
产品文档
6.1 图计算
StellarDB5.0.1版本对图算法场景进行了大规模改进和提升,内置算法性能得到较大提升。在语法方面,StellarDB5.0.1的内置图算法对于返回的节点,会直接以节点类型返回。因此可以直接使用uid(vertex)访问节点的uid,而不再需要node_rk_to_uid函数进行uid的转换。可以参考PageRank等函数。另外,对于图算法返回的节点,我们也可以灵活的访问其其他属性作为返回值。图计算简介StellarDB的图计算使用TEoC语句调用相应图算法。算法的输入数据为图的点、边数据。当前版本中图计算支持结果返回、结果导出和结果写回。在使用图算法时,使用configcrux.execution.modeanalysis;语句切换到分析模式下使用图算法语句。图数据视图StellarDB支持创建一个可被持久化的视图,用于加速图算法执行过程。创建视图创建视图的语法如下所示:createquerytemporarygraphviewGRAPH_VIEW_NAMEas(v)[e]withGRAPH_ALGO(@GRAPH_VIEW_NAME,VIEW_STORE_PATH,CONFI...
产品文档
3 安装 StellarDB
3.1在TDH平台安装StellarDB3.2StellarDB安装校验3.3StellarDB低版本升级至StellarDB5.0.1
索引是数据库中某些数据的冗余副本,目的是使查询性能更优。作为代价,数据库需要额外存储空间和较慢写入速度,因此决定哪些字段需要索引是一项重要且不易的任务。(新)StellarDB5.0.1版本不再对旧版本使用的manipulatecreate_index和manipulatedelete_index语法进行支持,在新版本中统一使用createindex和dropindex进行索引的创建和删除新增索引CREATEINDEX[IFNOTEXISTS]FOR(LabelName)ON[f1,f2,...];CREATEINDEX[IFNOTEXISTS]FOR[LabelName]ON[f1,f2,...];不支持对TIME_SERIES类型的属性创建索引默认情况下,对同一个Label的某个属性多次创建索引会报错;但如果带有IFNOTEXISTS,则不会抛出任何错误包裹点边LabelName的括号不同,注意区分示例1.在点labelperson的属性name和age上建立索引CREATEINDEXIFNOTEXISTSFOR(person)ON[name,age];示例2.在边labelask...
本章节的示例语句均可在示例图my_graph中执行,执行前请先创建示例图my_graph,建图语句如下:creategraphmy_graphwithschema(:Boy{namestring,salarydouble,ageint,singleboolean,birthdaylocaldatetime,reservelong,ratedecimal(38,10),hobbysarray<string>,geoPointgeo<double>})(:Girl{namestring,salarydouble,ageint,singleboolean,birthdaylocaldatetime,reservelong,ratedecimal(38,10),hobbysarray<string>,geoPointgeo<double>})[:Friend{sinceint}][:Likes{sinceint}]graphproperties:{`graph.shard.number`:3,`graph.replication.number`:...
通过beeline或JDBC时,设置参数configquery.langcypher;将查询语言切换为TEoC模式。根据使用场景选择查询模式(默认为immediate模式)immediate模式通常用于并发及短查询场景,查询结果和中间结果通常不超过百万。通过configcrux.execution.modeimmediate;切换。analysis模式通常用于分析场景,创建图、插入数据以及图算法相关的语句必须在该模式下进行。通过configcrux.execution.modeanalysis;切换。
产品文档
4 快速入门
快速上手本章节将引导您快速熟悉StellarDB,并为您初步介绍如何通过KGExplorer和beeline客户端操作StellarDB。其中,"StellarDB初探"一节通过构建一张人物关系图,从零介绍如何在StellarDB进行基本操作;"StellarDB进阶"一节为您提供了内置于StellarDB的《哈利·波特》人物关系图,帮助您进一步探索StellarDB。StellarDB初探使用KGExplorer构建图从Manager页面进入KGExplorer页面。若KGExplorer开启了单点登录,会自动跳转Federation登录页面,按如图方式登录:KGExplorer用戶开启方法以及详细使用说明请查看章节《KGExplorer使用文档》。点击登录后进入KGExplorer主页面。我们首先需要构建图名为"hello_world"的图。在主页面右上角点击创建图按钮开始图谱schema的构建。按照引导填写图基本信息后点击确定进入构建页面。在画布中,我们为"hello_world"图创建Boy和Girl两种类型的点,两种类型的点均包含name、salary、age、single四...