信贷数据治理

近日，星环科技与安硕信息联合发布了新一代数字化信贷管理系统信创全栈解决方案。此次合作，结合了星环科技在数据基础设施方面的强大能力与安硕信息在金融IT领域的深厚积累，旨在为金融机构提供全面信创、高可用、高性能、安全可靠、运维简便的信贷管理系统，助力用户实现信贷管理业务的全面国产化。联合解决方案由安硕ALS9应用系统、安硕Kubemate分布式应用管理平台及星环科技分布式交易型数据库KunDB三部分组成。安硕分布式信贷管理系统ALS9采用微服务架构，支持云原生化，覆盖信贷、类信贷业务授信全流程管理，提供统一的服务与管控平台，并在基础架构、流程设计、数据使用、风险管控、系统工具等多方面进行全面提升性保证，满足自主可控的数据系统建设需求。此次推出的新一代数字化信贷管理系统联合解决方案，是双方工程师紧密合作、共同研发的成果，具备高可用性、高安全性、高可运维性、高性能的技术特色。高可用性：联合可视化集群管理能力，集成多种开源的组件服务端，满足运维过程中的要求，并可以方便的接入第三方的开源组件管理界面。星环科技分布式交易型数据库KunDB是星环科技基于分布式技术自主研发的分布式交易型数据

星环科技与安硕信息联合发布了新一代数字化信贷管理系统信创全栈解决方案。结合了星环科技在数据基础设施方面的强大能力与安硕信息在金融IT领域的深厚积累，旨在为金融机构提供全面信创、高可用、高性能、安全可靠、运维简便的信贷管理系统，助力用户实现信贷管理业务的全面国产化。星环科技分布式交易型数据库KunDB是星环科技基于分布式技术自主研发的分布式交易型数据库，提供完整的关系型数据库能力，具备高扩展、高并发、高可用、数据灾备等特性，重点面向高并发、低延迟、大数据量的交易型业务场景。可以支持企业生产、经营和管理业务，在技术上提供更好的数据一致性、可靠性和可运维性保证，满足自主可控的数据系统建设需求。此次推出的新一代数字化信贷管理系统联合解决方案，是双方工程师紧密合作、共同研发的成果，具备高可用性、高安全性、高可运维性、高性能的技术特色。高可用性：联合解决方案的三大组成部分均采用云原生的多冗余备份架构，与传统架构相比具有更高的可用性和稳定性。其中星环科技分布式交易型数据库KunDB采用Paxos协议，内置故障恢复和异地灾备机制，支持两地三中心部署，提供7x24小时连续服务保证。测试结果表明，整个

到应用的全生命周期。在金融行业，数据治理的重要性尤为凸显。以银行信贷业务为例，银行在审批贷款时，需要综合考量客户的多维度数据，包括个人基本信息、收入情况、信用记录、资产负债状况等。这些数据来自不同的渠道敏感信息进行加密存储和访问控制，防止数据泄露。这样，银行在进行信贷决策时，就能依据高质量的数据做出科学合理的判断，降低信贷风险，提高金融服务的质量和效率。在数据安全和隐私保护日益受到关注的今天，数据治理后的数据通过数据中台提供的数据服务，被应用于风险评估、信贷审批等业务场景，实现了数据治理与业务应用的紧密结合。数据治理是数仓和数据中台有效运行的保障。它为数据的采集、存储、处理和应用制定了统一的标准和治理，制定数据标准和管理规范，对数据进行清洗、标准化等操作，确保数据的质量和一致性，就像对食材进行清洗、分类和预处理。经过处理后的数据，被加工成各种数据服务，提供给不同的业务部门使用。营销部门可以基于货情况的发生；产品部门依据数据中台的用户反馈数据和市场趋势数据，了解用户对商品的需求和痛点，进行产品的迭代升级。数据的“交通警察”：数据治理数据治理，是保障数据有序流转和高效利用的关键环节，宛如数据

工具，如数据质量管理工具、元数据管理工具等，提高治理效率。与业务的融合与创新业务融合：将数据治理工作与银行的风险管理、信贷审批、客户服务等核心业务紧密结合，通过提升数据质量和数据应用水平，优化业务流程商业银行数据治理是指商业银行通过建立完善的数据治理体系，对其内部各类数据进行全生命周期管理，以提升数据质量、保障数据安全、促进数据共享与应用，从而增强银行的风险管理能力、提升经营决策水平和市场竞争力的一系列活动，以下是详细介绍：治理背景与目标背景：随着金融科技的快速发展和银行业务的日益复杂，商业银行面临着海量数据的管理挑战，同时监管要求也日益严格，对数据质量和数据安全提出了更高的标准。目标：提高数据质量，确保数据的准确性、完整性、一致性和时效性；加强数据安全管理，保护客户隐私和银行敏感信息；促进数据共享与应用，提升银行的业务创新能力和决策效率。治理架构与职责治理架构：通常包括决策层、管理层和执行层。决策层负责制定数据治理战略和政策，统筹协调各方资源；管理层负责制定具体的数据治理计划和流程，监督执行情况；执行层负责具体的数据治理工作的实施。职责分工：数据治理委员会作为决策机构，负责制定战略

数据治理和元数据治理紧密相关，元数据治理是数据治理的核心和基础，以下是对它们的详细介绍：数据治理定义：数据治理是对数据的全生命周期进行管理，包括数据的规划、采集、存储、处理、分析、应用等各个环节数据治理定义：元数据治理是对元数据的创建、采集、存储、整合、共享等过程进行管理和控制，以确保元数据的质量和一致性，提高元数据的可用性和价值，为数据治理提供有力支持。主要任务元数据的定义与规范：制定元，及时反映数据的变化和业务的需求，确保元数据的准确性和时效性。元数据的应用与服务：通过元数据管理工具，为数据治理的其他环节提供元数据服务，如数据建模、数据质量管理、数据安全管理等，提高数据治理的效率和效果。二者的关系元数据治理是数据治理的基础：元数据描述了数据的定义、结构、来源、关系等信息，是数据治理的核心要素。通过元数据治理，可以建立数据的清晰脉络，为数据治理的各项工作提供准确的依据。数据治理对元数据治理提出需求：数据治理的过程中，需要不断完善和更新元数据，以满足数据管理和应用的需求。，旨在提高数据质量，确保数据的安全性、完整性和一致性，实现数据资产的有效管理和价值最大化。主要目标提升数据质量：通过一系列的管理活动和技术手段，保证数据的准确性、完整性、一致性、时效性等，减少数据错误和

可以实时监测数据，及时发现并纠正诸如客户姓名错别字、交易金额错误等问题，为金融机构的风险评估、信贷决策等提供可靠的数据基础。数据治理智能化平台还承担着数据安全与合规的重任。它通过加密技术、访问控制解锁数据新动能：探秘数据治理智能化平台数据治理智能化平台：开启数据管理新时代在数字化浪潮席卷全球的当下，数据已成为企业乃至整个社会发展的核心资产。从日常的消费记录到企业的运营数据，从科研机构的实验数据到政府部门的政务数据，海量的数据正以前所未有的速度产生和积累。数据治理智能化平台，正是在这样的背景下应运而生，成为解锁数据价值的关键钥匙，引领我们步入数据管理的崭新时代。它以先进的技术架构和智能算法为支撑，打破数据的“孤岛”，实现数据的整合与共享；提升数据质量，为决策提供精准可靠的数据支持；同时，还能满足日益严格的数据合规要求，保障数据安全。（一）平台的基本定义与内涵数据治理智能化平台，是一种服务于业务决策与创新。从功能层面来看，数据治理智能化平台具备多项核心能力。在数据整合方面，它能打破企业内部不同系统、不同部门之间的数据壁垒，将分散在各处的结构化、半结构化和非结构化数据汇聚在一起，形成一个

顾问可以帮助客户进行投资组合管理，根据客户的风险偏好、收入水平和投资目标等因素，给出个性化的投资建议和风险评估，提高投资回报和降低风险。信贷风险控制：银行可以利用知识图谱将客户的个人信息、财务数据、社交网络等多维度数据进行整合和分析，从而更准确地评估客户的信用风险，提高信贷决策的准确性和效率。通过应用知识图谱技术，银行能够更全面、准确地了解客户和市场，提供个性化的金融服务，提高风控能力和业务效率知识图谱在银行业的应用主要包括以下几个方面：金融风控和合规：银可以利用知识图谱来构建客户关系图，将客户的个人信息、交易记录、贷款信息等结构化和非结构化数据进行整合和分析，从而提供更准确的风险评估和合规管理，例如发现关联交易和反洗钱行为。客户关系管理：知识图谱可以帮助银行建立客全貌，将客户的个人信息、资金流动、交易偏好等多种数据进行关联和分析，从而更好地了解客户需求，提供个性化的服务和产品推荐金融、保险等场景的图数据模型、规则模型和算法模型，可以帮助用户快速解决不同场景下的业务问题。目前，星环科技Sophon已经在金融等多个行业成功落地，在反洗钱、反欺诈、疫情防控、公共安全、企业级营销

数据治理是对企业或组织内的数据进行全生命周期管理的一系列活动，旨在提高数据质量、确保数据安全、促进数据共享和提升数据价值。目标与意义提高数据质量：通过数据治理，能够对数据的准确性、完整性、一致性、时效性等质量维度进行有效管理和监控，及时发现并解决数据中的问题，从而为企业决策和业务运营提供可靠的数据支持。确保数据安全：数据治理涵盖了数据安全管理的各个方面，包括数据访问控制、数据加密、数据脱敏等依据。主数据管理：对企业内的关键业务数据，如客户、供应商、产品等主数据进行统一管理和维护，确保主数据的准确性、完整性和一致性。实施步骤规划与评估：明确数据治理的目标和范围，对企业现有的数据状况进行全面评估，包括数据质量、数据安全、数据管理流程等方面，找出存在的问题和差距。设计与建设：根据评估结果，设计数据治理的整体架构和实施方案，包括数据治理组织架构、数据标准体系、数据质量评估体系、数据安全管理体系等，并进行相关系统和工具的建设。执行与监控：按照设计方案，全面推进数据治理工作的实施，对数据治理的各项活动进行严格的监控和管理，及时发现并解决实施过程中出现的问题。优化与持续改进：定期对数据治理的效果

数据治理平台是一种通过整合多种技术和工具，为企业提供数据治理全流程功能支撑的综合性软件平台。功能架构数据标准管理模块：支持数据标准的制定、审核、发布、修订等全生命周期管理，提供标准的查询、对比和映射安全性。数据资产目录模块：对企业的数据资产进行梳理和分类，形成清晰的数据资产目录，方便用户快速查找和了解数据资产的分布和使用情况。数据治理流程管理模块：支持数据治理工作流程的自定义，如标准制定流程、质量问题处理流程等，实现数据治理工作的流程化和规范化。技术架构数据层：负责存储数据治理过程中涉及的各类数据，包括元数据、数据标准、质量规则、主数据等，通常采用关系型数据库或NoSQL数据库进行存储。服务层：提供各种数据治理服务，如数据标准服务、数据质量服务、元数据服务等，通过接口的方式供上层应用调用。应用层：是用户直接操作的数据治理平台界面，包括各种功能模块的前端应用，如数据标准管理界面、数据质量管理界面等。工具层：集成了一些数据治理辅助工具，如数据清洗工具、元数据采集工具、数据加密工具等，为数据治理工作提供技术支持。关键特性集成性：能够与企业内的各种数据源、数据仓库、大数据平台等进行集成，实现

StellarDB5.0.1版本对图算法场景进行了大规模改进和提升，内置算法性能得到较大提升。在语法方面，StellarDB5.0.1的内置图算法对于返回的节点，会直接以节点类型返回。因此可以直接使用uid(vertex)访问节点的uid，而不再需要node_rk_to_uid函数进行uid的转换。可以参考PageRank等函数。另外，对于图算法返回的节点，我们也可以灵活的访问其其他属性作为返回值。图计算简介StellarDB的图计算使用TEoC语句调用相应图算法。算法的输入数据为图的点、边数据。当前版本中图计算支持结果返回、结果导出和结果写回。在使用图算法时，使用configcrux.execution.modeanalysis;语句切换到分析模式下使用图算法语句。图数据视图StellarDB支持创建一个可被持久化的视图，用于加速图算法执行过程。创建视图创建视图的语法如下所示：createquerytemporarygraphviewGRAPH_VIEW_NAMEas(v)[e]withGRAPH_ALGO(@GRAPH_VIEW_NAME,VIEW_STORE_PATH,CONFI...

通过beeline或JDBC时，设置参数configquery.langcypher;将查询语言切换为TEoC模式。根据使用场景选择查询模式（默认为immediate模式）immediate模式通常用于并发及短查询场景，查询结果和中间结果通常不超过百万。通过configcrux.execution.modeimmediate;切换。analysis模式通常用于分析场景，创建图、插入数据以及图算法相关的语句必须在该模式下进行。通过configcrux.execution.modeanalysis;切换。

StellarDB支持用户添加自定义函数，添加后可在cypher语句中使用。自定义函数实现自定义函数通过java/scala语言开发，可继承实现两种基类，编译成jar包，通过指定命令加载到StellarDB。需要实现的基类为如下两种，可自行选择继承合适的基类：继承UDF基类继承GenericUDF基类。继承UDF基类该类实现简单，功能较为单一。支持Quark的基本类型、数组和Map。适合实现简单的逻辑。继承org.apache.hadoop.hive.ql.exec.UDF类继承UDF类必须实现evaluate方法且返回值类型不能为void，支持定义多个evaluate方法不同参数列表用于处理不同类型数据。@Description(name="my_plus",value="my_plus()-ifstring,doconcat;ifinteger,doplus",extended="Example:\n>selectmy_plus('a','b');\n>ab\n>selectmy_plus(3,5);\n>8")/***实现UDF函数，若字符串执行拼接，in...

索引是数据库中某些数据的冗余副本，目的是使查询性能更优。作为代价，数据库需要额外存储空间和较慢写入速度，因此决定哪些字段需要索引是一项重要且不易的任务。（新）StellarDB5.0.1版本不再对旧版本使用的manipulatecreate_index和manipulatedelete_index语法进行支持，在新版本中统一使用createindex和dropindex进行索引的创建和删除新增索引CREATEINDEX[IFNOTEXISTS]FOR(LabelName)ON[f1,f2,...];CREATEINDEX[IFNOTEXISTS]FOR[LabelName]ON[f1,f2,...];不支持对TIME_SERIES类型的属性创建索引默认情况下,对同一个Label的某个属性多次创建索引会报错;但如果带有IFNOTEXISTS,则不会抛出任何错误包裹点边LabelName的括号不同，注意区分示例1.在点labelperson的属性name和age上建立索引CREATEINDEXIFNOTEXISTSFOR(person)ON[name,age];示例2.在边labelask...

类型表达式类型例子十进制型整数10,-213十进制小数1.25,3.604E-14,-2.31十进制型长整数199345843592l,-12381543923L任意精度的有符号十进制数123bd,123.31BD八进制整数(0开头)084,-096字符串"星环",'信息科技'布尔类型true,false,TRUE,FALSE数组类型[1，2，3],["星环","信息科技"],[decimal(10.2,3,1),decimal(100.2,3,2)],[localdatetime("2021-01-18T09:50:12.627"),localdatetime("2021-11-18T03:50:12.113")]时间类型localdatetime("2021-01-18T09:50:12.627")Decimal类型decimal(10.2,3,1)地理空间类型point(20.5,30.5),point(-20.5,-30.5)时序类型{localdatetime("2023-01-01T15:16:17")::"nice"},{localdatetime("1997-01-01...

声明简介声明是指为特定数据类型的变量分配一定的存储空间，并命名该变量以便引用它；必须先声明变量，然后才能引用它；对声明的变量可以进行赋值操作来改变它的值；声明的变量其作用域是Session级别的。变量声明使用decl关键字声明一个变量必须为变量指定名称和类型，且名称不能与已有的变量名相同。声明但未赋值的变量的默认值为null。变量名声明对大小写敏感。变量声明的语句遵循如下格式:DECL[<variable_name>:<variable_type>];使用方法示例如下表所示：语句说明declx:int;声明一个类型为int的变量xdecls:string;声明一个类型为string的变量sdecll:long;声明一个类型为long的变量ldeclb:boolean;声明一个类型为boolean的变量bdecld:double;声明一个类型为double的变量ddecltime:localdatetime;声明一个类型为localdatetime的变量timedecld1:decimal;声明一个类型为decimal的变量d1decllist1:list[int...

3.1在TDH平台安装StellarDB3.2StellarDB安装校验3.3StellarDB低版本升级至StellarDB5.0.1

本章节的示例语句均可在示例图my_graph中执行，执行前请先创建示例图my_graph，建图语句如下:creategraphmy_graphwithschema(:Boy{namestring,salarydouble,ageint,singleboolean,birthdaylocaldatetime,reservelong,ratedecimal(38,10),hobbysarray<string>,geoPointgeo<double>})(:Girl{namestring,salarydouble,ageint,singleboolean,birthdaylocaldatetime,reservelong,ratedecimal(38,10),hobbysarray<string>,geoPointgeo<double>})[:Friend{sinceint}][:Likes{sinceint}]graphproperties:{`graph.shard.number`:3,`graph.replication.number`:...

快速上手本章节将引导您快速熟悉StellarDB，并为您初步介绍如何通过KGExplorer和beeline客户端操作StellarDB。其中，"StellarDB初探"一节通过构建一张人物关系图，从零介绍如何在StellarDB进行基本操作；"StellarDB进阶"一节为您提供了内置于StellarDB的《哈利·波特》人物关系图，帮助您进一步探索StellarDB。StellarDB初探使用KGExplorer构建图从Manager页面进入KGExplorer页面。若KGExplorer开启了单点登录，会自动跳转Federation登录页面，按如图方式登录：KGExplorer用戶开启方法以及详细使用说明请查看章节《KGExplorer使用文档》。点击登录后进入KGExplorer主页面。我们首先需要构建图名为"hello_world"的图。在主页面右上角点击创建图按钮开始图谱schema的构建。按照引导填写图基本信息后点击确定进入构建页面。在画布中，我们为"hello_world"图创建Boy和Girl两种类型的点，两种类型的点均包含name、salary、age、single四...

为什么引入动态图模型？在实际应用过程中很容易可以发现，图数据在很多图数据的应用场景中并不是静态不变的，而是动态演进的，这些场景中包括例如金融反欺诈场景中金融交易网络随着时间的推进而发生的交易变化、交易社群变化等；又比如社交网络中新增用户、用户关注或者取消关注、更改账户信息等。将图数据变化的历史记录下来，不仅可以用于历史数据规律的总结，还可以利用动态图数据进行动态图神经网络相关技术的研究，从而进一步挖掘数据中潜在的数据价值和更加灵活高效的业务场景，譬如预测某一个时刻某一事件是否会发生。动态图模型的动态变化图数据的动态变化主要分为两类，一类是节点或边的属性的值的变化；另一类变化是子图（结构）的变化，如新增/删除点边。这两种图数据的动态变化可以单独发生，也可以同时发生。从图数据的属性变化角度来看，StellarDB5.0.1动态图模型可以记录图中节点或者边属性的所有历史版本（而非新数据覆盖旧数据）。在实际数据开发使用中，还可以结合诸如柱状图、趋势图等对历史数据进行可视化，更加直观、更加适合业务使用。从图数据的子图（结构）的角度来看，StellarDB5.0.1动态图模型还可以返回不同时间子图...