国内大数据分析平台

星环大数据基础平台
星环大数据基础平台(TDH) 是星环自主研发的一站式多模型大数据基础平台,包括多个大数据存储与分析产品,能够存储 PB 级别的海量数据,可以处理包括关系表、文本、时空地理、图数据、文档、时序、图像等在内的多种数据格式,提供高性能的查询搜索、实时分析、统计分析、预测性分析数据分析功能。目前 TDH 已经在政府、金融、能源、制造业等十多个行业内落地,支撑如金融风控与营销、智慧制造、城市大脑、智慧交通等多种核心行业应用。

国内大数据分析平台 更多内容

大数据分析平台是一种基于大数据技术和云计算技术的数据处理和分析系统,可以对海量、多维度、复杂的数据进行处理和分析,从而为企业和组织提供更高效、更准确、更有深度的数据分析服务。大数据分析平台通常包括)。通过大数据分析平台,企业和组织可以快速找到数据中的关键信息和趋势,帮助做出更好的决策,提高务效率和创新能力。大数据分析平台可以应用于许多领域,如金融、市场营销、医疗、物流、智能制造等。在金融领域,大数据分析平台可以通过对大量金融数据进行分析,预测风险、发现机会、提高效率;在市场营销领域,大数据分析平台可以精准定位目标客户、设计个性化营销策略提高市场销售效果;在医疗领域,大数据分析台可以搜集医疗数据并利用数据分析技术提供更准确的医疗预测和诊断;在物流领域,大数据分析平台可以优化物流路线、提高配送效率,节省物流成本;在智能制造领域,大数据分析平台可以优化生产流程、提高产品质量、提高生产效率。星环大数据基础平台-TranswarpDataHub星环大数据基础平台(TDH)是星环自主研发的一站式多模型大数据基础平台,包括多个大数据存储与分析产品,能够存储PB级别的海量数据,可以处理包括关系表
能源大数据分析平台是一种利用先进的信息技术,对能源领域中各类数据进行采集、存储、管理、分析和应用的综合性平台。以下是一些常见的能源大数据分析平台及其特点:1.数据来源与采集能源大数据平台数据来源场景能源资源的探索与开发:利用大数据分析对能源资源的分布、质量、生产成本等进行分析,提高资源开发的效率和成功率。能源生产与运输:利用大数据分析对能源生产设备的运行状况、生产效率、能源运输路线等进行分析,提高能源生产和运输的安全性和效率。能源市场和价格预测:利用大数据分析对能源市场的供需关系、价格波动等进行分析,为能源市场和价格预测提供有价值的信息和决策支持。能源消费和节能:利用大数据分析对能源消费的模式、节能措施的效果等进行分析,帮助企业和家庭实现能源节约和环保。能源安全和可靠性:利用大数据分析对能源设施的安全性、可靠性进行监测和评估,确保能源供应的稳定。各类设备的运行状态数据,如设备温度、压力、振动等参数,通过传感器实时采集。2.平台架构与功能能源大数据平台通常包括以下几个层次:基础设施层:由服务器、存储设备、网络设备等硬件资源构成,为平台运行提供基础
的工作转向使用专门的大数据平台来处理,不论是提升速度还是降低成本都有很大的改进空间;现有系统只能展现现状分析,无法提供历史数据分析,无法实现未来客流变化的预测,预判性防备工作暂时依赖人为经验来支撑,难度较大,同时准确性不高。解决方案星环科技以大数据基础平台TDH为数据底座,替代国外传统关系型数据库,利用大数据开发工具TDS进行数据开发和治理,结合智能分析工具Sophon构建基于客流预测算法的大数据分析粒度粗,数据应用场景受限;从应用查询效率上看,呈现速度较慢普遍在1分钟左右,目前前端展现数据与后台数据存储处理同为一套服务器;ACC平台目前使用传统关系型数据库,成本较高,能力扩展受限,数据分析方面项目背景智慧城市轨道交通建设是新基建的重点领域。同时,随着大数据、云计算、AI等新技术不断成熟与普及,智慧城市和轨道交通也不断升级与发展。为了推动城市轨道交通行业信息化健康发展和智慧城市轨道有序建设经验,同时为了提升数字化运营支撑能力,轨道交通清分系统(ACC)平台也建设了客流分析相关的基础展现报表。经过近一年的努力,利用系统数据来支撑地铁规范化运营的能力已初步形成。随着各地铁站点、线路客流逐渐
能源大数据分析平台是一种利用先进的信息技术,对能源领域中各类数据进行采集、存储、管理、分析和应用的综合性平台。以下是一些常见的能源大数据分析平台及其特点:1.数据来源与采集能源大数据平台数据来源运行效率等。4.应用场景能源资源的探索与开发:利用大数据分析对能源资源的分布、质量、生产成本等进行分析,提高资源开发的效率和成功率。能源生产与运输:利用大数据分析对能源生产设备的运行状况、生产效率、能源运输路线等进行分析,提高能源生产和运输的安全性和效率。能源市场和价格预测:利用大数据分析对能源市场的供需关系、价格波动等进行分析,为能源市场和价格预测提供有价值的信息和决策支持。能源消费和节能:利用大数据分析对能源消费的模式、节能措施的效果等进行分析,帮助企业和家庭实现能源节约和环保。能源安全和可靠性:利用大数据分析对能源设施的安全性、可靠性进行监测和评估,确保能源供应的稳定。各类设备的运行状态数据,如设备温度、压力、振动等参数,通过传感器实时采集。2.平台架构与功能能源大数据平台通常包括以下几个层次:基础设施层:由服务器、存储设备、网络设备等硬件资源构成,为平台运行提供基础
搭建大数据分析平台需要多方面的知识和技能,包括计算机硬件、软件、网络、数据库等方面的技术。以下是搭建大数据分析平台的一些基本步骤:确定需求和目标:在搭建大数据分析平台之前,需要明确平台的建设目标、功能需求、数据来源和数据处理要求等方面的具体内容。这些需求和目标需要根据实际业务需求来确定,以确保平台能够满足实际应用场景。选择合适的硬件:大数据分析平台需要高性能的硬件来支持,包括高性能服务器、容量存储设备、高速网络设备等。需要根据实际需求来选择合适的硬件设备,以确保平台的稳定性和可扩展性。安装基础软件:大数据分析平台需要安装各种基础软件,包括操作系统、数据库、分布式文件系统、数据处理工具等。需要根据实际需求来选择合适的软件版本和配置,并进行合理的数据规划和管理。搭建分布式集群:为了提高数据处理效率,需要搭建分布式集群来支持大数据分析平台。分布式集群可以通过多台服务器协同工作,以实现数据并行处理和分布式存储的目的。需要根据实际需求来选择合适的分布式框架和工具,并进行合理的集群规划和配置。开发数据处理和应用分析程序:大数据分析平台需要进行数据处理和应用分析,需要开发相应的程序来实现这些功能
大数据分析平台:数字化时代的“智慧大脑”在数字化浪潮汹涌澎湃的当下,数据已成为驱动各行业发展的核心要素,从互联网巨头的个性化推荐,到传统制造业的生产流程优化;从金融机构的风险防控,到医疗领域的疾病预测,大数据分析正以前所未有的深度和广度渗透到社会的各个角落。而大数据分析平台,作为承载和处理海量数据的关键枢纽,宛如数字化时代的“智慧大脑”,成为了企业和组织在激烈竞争中脱颖而出的必备利器。它不仅能够对海量、复杂的数据进行高效的收集、存储、处理和分析,还能从中挖掘出有价值的信息和洞察,为决策提供坚实的数据支撑,助力各行业实现创新发展与转型升级。搭建步骤全解析基础环境搭建基础环境搭建是大数据分析平台服务器集群中,不同的服务器可以承担不同的角色,如有的负责数据存储,有的负责数据计算,通过合理的分工和协作,实现大数据分析平台的高效运行。数据采集与存储数据采集是大数据分析平台获取数据的重要环节,如同从实时状态,为实时监测和分析提供了依据;还有社交媒体数据,如微博、微信等平台上的用户言论、互动信息等,这些数据蕴含着丰富的用户情感、市场趋势等信息。数据处理与分析数据处理与分析大数据分析平台的核心环节
大数据分析平台是一种集成了数据存储、处理、分析和可视化等功能的软件系统,它能够帮助企业和组织从海量数据中挖掘出有价值的信息和洞察。关键功能数据采集:大数据分析平台能够从多种数据源采集数据,包括传统。应用领域商业智能和市场分析:企业利用大数据分析消费者行为、市场趋势和竞争对。金融领域:大数据应用在风险管理、信用评估、反欺诈、投资决策等多个方面。健康医疗领域:帮助医疗机构更好地理解和管理疾病,提供量身定做的个性化课程。交通领域:预测未来交通情况,为改善交通状况提供优化方案。体育领域:用于运动员训练、比赛分析和体育营销等方面。制造业领域:利用大数据分析生产过程中的数据,实现智能化生产和质量控制。数据库、云存储及社交媒体等。数据存储:提供数据存储功能,支持海量数据的存储和管理。数据处理和清洗:包括ETL(提取、转换、加载)功能,对数据进行清洗和预处理,以便于分析数据分析和挖掘:支持基础的数据统计分析,整合机器学习与人工智能技术,进行数据挖掘和预测分析数据可视化:提供数据可视化功能,帮助用户直观展示数据分析结果,创建图表、仪表盘和报告。实时数据处理:支持实时数据更新,为用户提供最新的
交通大数据分析平台是一种集成了大数据技术、人工智能、物联网等先进技术的系统,旨在提升交通系统的运行效率、优化资源配置、改善服务质量以及支持科学决策。数据采集与监测:平台通过传感器、摄像头等设备采集交通数据,包括车辆识别、路况监测等,实现对城市交通的实时监测和智能分析数据处理与分析:利用大数据技术对海量交通数据进行存储、处理和分析,支持交通管理决策的科学化和精准化。智能交通管控:平台能够与信号宝贵时间,提升交通效率和安全。辅助决策:基于大数据分析和人工智能技术,通过数据可视化的直观方式,实现交通态势的总览总控,为领导决策提供全面、准确、及时、可靠的信息支撑。数据价值挖掘:整合多源信息资源,对数据进行检测、清洗、分析、挖掘等治理,将数据转化为资产,提高数据利用价值。控制系统对接,获取信号控制信息,提供过车信息数据、路网信息、违法数据等,实现智能交通管控。公共交通优化:通过对公共交通客流数据分析,为公交线路规划、班次安排提供科学依据,提升公共交通运行效率。数据可视化与交互:平台通过数据可视化技术,将复杂的交通数据以直观的方式呈现给用户,方便进行决策和评估。跨部门协作与信息共享:实现数据的互联互通和深度挖掘,业务系统的统一控制和协同调控,提升跨部门协作效率。技术
行业资讯
大数据分析
大数据分析是指通过对大规模数据进行收集、整理、分析和解释,以便从中提取出有价值的模式和关系。大数据分析可以帮助企业和组织做出更好的决策和制定有效的战略,同时也可以找出潜在的业务机会和风险。大数据分析业务流程改进产品设计、制定市场策略等。通过大数据分析,企业可以更好地了解客户需求和行为,优化产品和服务,提高运营效率,降低风险。同时,大数据分析也为科学研究、社会问题解决和公共决策提供了力的支持。星环智能分析工具-TranswarpSophon星环智能分析工具(Sophon)是一个一站式人工智能平台,包含一系列数据分析与机器学习建模工具的智能分析工具软件,能够一体化地完成数据采集、数据接入、模型构建、模型测试、模型管理、知识存算和推理以及辅助决策流程,支撑各类业务的数据分析、探索与服务。通过Sophon内置的统计算法、机器学习算法和深度学习算法,用户能够更高效地进行规模复杂数据分析和预测性分析,从而辅助业务决策,提供高企业的数字化运营能力和智能化决策能力。确保数据的准确性和一致性。数据存储:将清洗后的数据存储到适当的数据仓库或数据湖中,以便后续使用和分析数据分析:使用各种统计和机器学习算法对数据进行分析,以发现数据中的模式、趋势和关联。这可以通过挖掘
产品文档
7.1 自定义函数
StellarDB支持用户添加自定义函数,添加后可在cypher语句中使用。自定义函数实现自定义函数通过java/scala语言开发,可继承实现两种基类,编译成jar包,通过指定命令加载到StellarDB。需要实现的基类为如下两种,可自行选择继承合适的基类:继承UDF基类继承GenericUDF基类。继承UDF基类该类实现简单,功能较为单一。支持Quark的基本类型、数组和Map。适合实现简单的逻辑。继承org.apache.hadoop.hive.ql.exec.UDF类继承UDF类必须实现evaluate方法且返回值类型不能为void,支持定义多个evaluate方法不同参数列表用于处理不同类型数据。@Description(name="my_plus",value="my_plus()-ifstring,doconcat;ifinteger,doplus",extended="Example:\n>selectmy_plus('a','b');\n>ab\n>selectmy_plus(3,5);\n>8")/***实现UDF函数,若字符串执行拼接,in...
产品文档
3 安装 StellarDB
3.1在TDH平台安装StellarDB3.2StellarDB安装校验3.3StellarDB低版本升级至StellarDB5.0.1
产品文档
6.1 图计算
StellarDB5.0.1版本对图算法场景进行了大规模改进和提升,内置算法性能得到较大提升。在语法方面,StellarDB5.0.1的内置图算法对于返回的节点,会直接以节点类型返回。因此可以直接使用uid(vertex)访问节点的uid,而不再需要node_rk_to_uid函数进行uid的转换。可以参考PageRank等函数。另外,对于图算法返回的节点,我们也可以灵活的访问其其他属性作为返回值。图计算简介StellarDB的图计算使用TEoC语句调用相应图算法。算法的输入数据为图的点、边数据。当前版本中图计算支持结果返回、结果导出和结果写回。在使用图算法时,使用configcrux.execution.modeanalysis;语句切换到分析模式下使用图算法语句。图数据视图StellarDB支持创建一个可被持久化的视图,用于加速图算法执行过程。创建视图创建视图的语法如下所示:createquerytemporarygraphviewGRAPH_VIEW_NAMEas(v)[e]withGRAPH_ALGO(@GRAPH_VIEW_NAME,VIEW_STORE_PATH,CONFI...
本章节的示例语句均可在示例图my_graph中执行,执行前请先创建示例图my_graph,建图语句如下:creategraphmy_graphwithschema(:Boy{namestring,salarydouble,ageint,singleboolean,birthdaylocaldatetime,reservelong,ratedecimal(38,10),hobbysarray<string>,geoPointgeo<double>})(:Girl{namestring,salarydouble,ageint,singleboolean,birthdaylocaldatetime,reservelong,ratedecimal(38,10),hobbysarray<string>,geoPointgeo<double>})[:Friend{sinceint}][:Likes{sinceint}]graphproperties:{`graph.shard.number`:3,`graph.replication.number`:...
通过beeline或JDBC时,设置参数configquery.langcypher;将查询语言切换为TEoC模式。根据使用场景选择查询模式(默认为immediate模式)immediate模式通常用于并发及短查询场景,查询结果和中间结果通常不超过百万。通过configcrux.execution.modeimmediate;切换。analysis模式通常用于分析场景,创建图、插入数据以及图算法相关的语句必须在该模式下进行。通过configcrux.execution.modeanalysis;切换。
产品文档
5.12 变量声明
声明简介声明是指为特定数据类型的变量分配一定的存储空间,并命名该变量以便引用它;必须先声明变量,然后才能引用它;对声明的变量可以进行赋值操作来改变它的值;声明的变量其作用域是Session级别的。变量声明使用decl关键字声明一个变量必须为变量指定名称和类型,且名称不能与已有的变量名相同。声明但未赋值的变量的默认值为null。变量名声明对大小写敏感。变量声明的语句遵循如下格式:DECL[<variable_name>:<variable_type>];使用方法示例如下表所示:语句说明declx:int;声明一个类型为int的变量xdecls:string;声明一个类型为string的变量sdecll:long;声明一个类型为long的变量ldeclb:boolean;声明一个类型为boolean的变量bdecld:double;声明一个类型为double的变量ddecltime:localdatetime;声明一个类型为localdatetime的变量timedecld1:decimal;声明一个类型为decimal的变量d1decllist1:list[int...
索引是数据库中某些数据的冗余副本,目的是使查询性能更优。作为代价,数据库需要额外存储空间和较慢写入速度,因此决定哪些字段需要索引是一项重要且不易的任务。(新)StellarDB5.0.1版本不再对旧版本使用的manipulatecreate_index和manipulatedelete_index语法进行支持,在新版本中统一使用createindex和dropindex进行索引的创建和删除新增索引CREATEINDEX[IFNOTEXISTS]FOR(LabelName)ON[f1,f2,...];CREATEINDEX[IFNOTEXISTS]FOR[LabelName]ON[f1,f2,...];不支持对TIME_SERIES类型的属性创建索引默认情况下,对同一个Label的某个属性多次创建索引会报错;但如果带有IFNOTEXISTS,则不会抛出任何错误包裹点边LabelName的括号不同,注意区分示例1.在点labelperson的属性name和age上建立索引CREATEINDEXIFNOTEXISTSFOR(person)ON[name,age];示例2.在边labelask...
产品文档
4 快速入门
快速上手本章节将引导您快速熟悉StellarDB,并为您初步介绍如何通过KGExplorer和beeline客户端操作StellarDB。其中,"StellarDB初探"一节通过构建一张人物关系图,从零介绍如何在StellarDB进行基本操作;"StellarDB进阶"一节为您提供了内置于StellarDB的《哈利·波特》人物关系图,帮助您进一步探索StellarDB。StellarDB初探使用KGExplorer构建图从Manager页面进入KGExplorer页面。若KGExplorer开启了单点登录,会自动跳转Federation登录页面,按如图方式登录:KGExplorer用戶开启方法以及详细使用说明请查看章节《KGExplorer使用文档》。点击登录后进入KGExplorer主页面。我们首先需要构建图名为"hello_world"的图。在主页面右上角点击创建图按钮开始图谱schema的构建。按照引导填写图基本信息后点击确定进入构建页面。在画布中,我们为"hello_world"图创建Boy和Girl两种类型的点,两种类型的点均包含name、salary、age、single四...
为什么引入动态图模型?在实际应用过程中很容易可以发现,图数据在很多图数据的应用场景中并不是静态不变的,而是动态演进的,这些场景中包括例如金融反欺诈场景中金融交易网络随着时间的推进而发生的交易变化、交易社群变化等;又比如社交网络中新增用户、用户关注或者取消关注、更改账户信息等。将图数据变化的历史记录下来,不仅可以用于历史数据规律的总结,还可以利用动态图数据进行动态图神经网络相关技术的研究,从而进一步挖掘数据中潜在的数据价值和更加灵活高效的业务场景,譬如预测某一个时刻某一事件是否会发生。动态图模型的动态变化图数据的动态变化主要分为两类,一类是节点或边的属性的值的变化;另一类变化是子图(结构)的变化,如新增/删除点边。这两种图数据的动态变化可以单独发生,也可以同时发生。从图数据的属性变化角度来看,StellarDB5.0.1动态图模型可以记录图中节点或者边属性的所有历史版本(而非新数据覆盖旧数据)。在实际数据开发使用中,还可以结合诸如柱状图、趋势图等对历史数据进行可视化,更加直观、更加适合业务使用。从图数据的子图(结构)的角度来看,StellarDB5.0.1动态图模型还可以返回不同时间子图...
产品文档
5.10 表达式
类型表达式类型例子十进制型整数10,-213十进制小数1.25,3.604E-14,-2.31十进制型长整数199345843592l,-12381543923L任意精度的有符号十进制数123bd,123.31BD八进制整数(0开头)084,-096字符串"星环",'信息科技'布尔类型true,false,TRUE,FALSE数组类型[1,2,3],["星环","信息科技"],[decimal(10.2,3,1),decimal(100.2,3,2)],[localdatetime("2021-01-18T09:50:12.627"),localdatetime("2021-11-18T03:50:12.113")]时间类型localdatetime("2021-01-18T09:50:12.627")Decimal类型decimal(10.2,3,1)地理空间类型point(20.5,30.5),point(-20.5,-30.5)时序类型{localdatetime("2023-01-01T15:16:17")::"nice"},{localdatetime("1997-01-01...