向量数据库 替代 大模型

数据库通过将高维向量进行近似相似度比较，能够高效地处理大规模的向量数据。相比传统的关系型数据库，向量数据库能够更好地支持向量数据的查询和检索，并能够提供更加丰富的数据分析功能。在大模型时代，向量数据库向量数据库是一种专门用于存储和管理高维向量的数据库系统。随着深度学习和大数据技术的不断发展，向量数据库逐渐成为了一种重要的数据处理工具，尤其在推荐系统、搜索引擎、图像识别等领域中得到了广泛应用。向量的应用场景越来越广泛。例如，在推荐系统中，通过将用户行为和物品特征转化为高维向量，向量数据库可以高效地实现用户和物品的相似度匹配，从而为用户推荐更加精准的物品。在搜索引擎中，向量数据库可以用于实现语义搜索和图像识别等功能，提高搜索的准确性和效率。星环分布式向量数据库-TranswarpHippo星环分布式向量数据库Hippo作为一款企业级云原生分布式向量数据库，基于分布式特性，可以对文档、图片数据库不同，星环分布式向量数据库Hippo具备高可用、高性能、易拓展等特点，支持多种向量搜索索引，支持数据分区分片、数据持久化、增量数据摄取、向量标量字段过滤混合查询等功能，很好地满足了企业针对海量向量数据的高实时性检索等场景。

向量数据库是一种专门用于存储和查询向量的数据库系统。通过使用向量数据库来存储和查询数据，可以显著提高效率并降低成本。向量数据库主要应用于大模型训练、推理和知识库补充等场景，并且在接入层、计算层和存储层等方面已实现了全面的人工智能化。当前，大模型正快速进入各行业，但这些模型通常包含数十亿甚至更多的参数，其训练成本非常高昂。向量数据库可以用于大模型预训练数据的分类、去重和清洗等任务。与传统方式相比，向量数据库能够提升10倍的效率。如果将向量数据库作为外部知识库用于模型推理，则可以将成本降低几个数量级。以往，企业要接入一个大模型可能需要花费很久的时间，而使用向量数据库后，仅需几天即可完成，大大降低与查询向量相似的数据，对于大规模数据的处理非常高效。在大模型训练方面，向量数据库的应用非常广泛。例如，在自然语言处理领域，可以使用向量数据库存储和查询单词向量，以提高模型的效率和准确性。在图像识别方面，可以使用向量数据库存储和查询图像特征向量，以加快图像搜索和识别的速度。除了大模型训练，向量数据库还可以应用于推理和知识库补充等场景。在推理方面，向量数据库可以作为外部知识库，为模型提供更加多样化和

为高维度的多维向量，由此可以结构化地在向量数据库中进行管理，实现快速、高效的数据存储和检索过程，结合相似性检索特性，进而更高效地支撑更广泛的应用场景，比如智能推荐场景等。同时，随着大语言模型应用中对AI应用场景。在赋予大模型拥有“长期记忆”的同时，还可以协助企业解决目前担忧的大模型数据隐私泄露问题。大模型的快速应用，推动向量数据库向高扩展、高性能、实时性方向发展大模型正在与企业应用迅速结合，重塑各种类型的非结构化数据。用户可以通过表示学习的预处理方式将这些数据转化为多维向量，并存储在向量数据库中，从而可以很好地解决上述三个问题。比如，在应用端与大模型进行交互时，将输入的文字、图片等问题信息进行向量化，先进行语义搜索，找到相关的信息，将其拼接成提示词传递给大模型，大模型通过计算分析后反馈结果。星环科技创始人、CEO孙元浩表示，“向量数据库承担了中间存储的角色，我们认为向量数据库就是大语言模型的海马体，是一个记忆体。其基本功能是能够存储多维向量，并提供进一步的检索。”向量数据库早先被用于文本搜索或者语义搜索，过去不少公司用来做个性化推荐、构建知识图谱等。随着大模型的兴起，向量数据库可以让大模型

大规模生成式AI模型的崛起进一步推动了对向量数据库的需求。以下是其中的原因：容纳海量数据：大规模生成式AI模型需要大量的训练数据来捕捉复杂的语义和上下文信息。因此，数据量激增。作为熟练的数据管理者，向量数据库在高效处理和管理这些海量数据方面发挥着关键作用。实现准确的相似性搜索和匹配：大规模生成式AI模型生成的文本通常需要进行准确的相似性搜索和匹配，以提供精确的回复、推荐或匹配结果。传统基于关键词的搜索方法在处理复杂的语义和上下文时可能显得力不从心。向量数据库在这方面表现出色，为这些任务提供高度相关性和有效性。支持多模态数据处理：大规模生成式AI模型不仅能处理文本数据，还可以处理图像和语音等多模态数据。作为全面的系统，能够存储和处理各种类型的数据，向量数据库有效支持多模态数据的存储、索引和查询，提高了其灵活性和多功能性。考虑到这些因素，向量数据库的发展与大规模生成式AI模型的演进密切相关。随着未来几年的快速发展，对向量数据库的需求无疑会持续大幅增长。

领域的语义理解和判断能力。然而，由于领域知识的复杂性和变化性，大模型无法完全做到准确性。面对这些限制，我们可以考虑引入向量数据库，它是专门为存储向量数据而设计的数据库。向量是由一组有序的数值(通常是文本的特征向量数据，帮助大模型实现长期记忆和专业能力扩展。当用户向大模型提问时，用户问题会被转化为一组高维向量，进行语义搜索，找到相关信息，并拼接成提示词，发给大语言模型生成答案反馈用户。向量数据库在其中承担了中间存储的角色，类似于海马体，是大模型存放长期记忆的地方。然而，向量数据库也需要具备一些特点，如高可用、高性能、易拓展等。它应该支持多种向量搜索索引，数据分区分片、数据持久化、增量数据摄取、向量标量字段过滤混合查询等功能，才能满足企业针对海量向量数据的高实时性查询、检索、召回等场景。使用向量数据库能够有效克服大模型的限制，提高其准确性和反馈效率。星环分布式向量数据库浮点数)来表示一个对象或数据点，在多维空间中表示数据点的位置、特征或属性。对于图片、视频、文本等非结构化数据，可以通过抽取生成一组高维的特征向量，存储在向量数据库中。向量数据库具有较强的处理大规模、多维

。通过将非结构化数据转换为向量表示，向量数据库为复杂的数据分析提供了有力的支持。向量数据库之所以被称为大模型的“海马体”，是因为为大模型提供了强大的记忆和检索能力，使得大模型能够更好地处理非结构化数据中，大模型可以获取这些数据的向量表示，从而拥有了对过去学习经验的“长期记忆”。这种记忆能力使得大模型能够在处理新数据时更加准确和高效，减少了产生“幻觉”或错误预测的可能性。向量数据库通过执行近似近邻（ANN）搜索，能够在大规模数据集中快速识别相似的项目。这种能力使得大模型能够迅速从海量的数据中检索出与当前任务相关的信息，进一步提高了模型的性能和准确性。向量数据库使用的降维和索引算法等技术，使得这种搜索过程能够在短的时间内完成，提供了快速的响应时间。这不仅简化了开发者对向量数据的管理，还为大模型提供了强大的记忆和检索能力，使得大模型能够更好地应对复杂的数据分析任务。这种能力使得向量数据库成为推荐系统、异常检测和自然语言处理等应用的理想选择，推动了人工智能技术的进一步发展。并提高性能。海马体在人的大脑中扮演着记忆和学习的关键角色，尤其是与长期记忆的形成和巩固密切相关。类似地，向量数据库在人工智能系统中起到了存储和检索“记忆”的作用。通过将非结构化数据转换为向量并存储在数据库

大模型与行业应用相结合，实现更加智能化的应用，是当前面临的重要问题。向量数据库和图数据库是大模型与行业应用相结合的重要工具。向量数据库是一种基于向量的存储和处理数据的数据库，可以高效地存储和检索向量数据，为大模型的训练和推理提供强大的支持。图数据库则是一种基于图结构的存储和处理数据的数据库，可以高效地存储和检索图结构数据，为大模型的训练和推理提供更加灵活的数据结构。相较于通用大模型，结合向量数据库、图数据库与知识图谱所存储的具体行业知识，领域大模型更精通特定行业的知识，具备高效的语料匹配能力和知识推理能力，能够有效回答用户的提问。在医疗领域，领域大模型可以帮助医生更加准确地诊断疾病。通过对大量随着人工智能技术的不断发展和应用，大模型已经成为一个热门技术。大模型是指模型参数数量庞大、训练数据量巨大的深度学习模型。这些模型在自然语言处理、计算机视觉、语音识别等领域取得了显著成果。然而，如何将的医疗数据进行分析和处理，领域大模型可以学习到疾病与症状之间的关联，并利用这些关联对新的病例进行诊断。在金融领域，领域大模型可以帮助银行识别欺诈行为。通过对大量的交易数据进行分析和处理，领域大模型可以学习到欺诈行为的特点和规律，并利用这些特点对新的交易进行检测。

向量数据库是一种新型的数据库架构，它使用向量表示法来存储和检索数据。这些向量是由深度学习模型生成的，可以简化处理多结构化内容的方式。与传统的关系型数据库不同，向量数据库设计为多语言和多模态，可以在同一向量空间内处理任何形式的自然语言和非结构化数据，如图像、视频、音频、文本等。这意味着，无论数据的形式如何，都可以使用相同的向量表示法进行处理。向量数据库通过处理深度学习模型的嵌入式向量来存储、索引和搜索大型非结构化数据集。这些向量是通过对原始数据应用某种转换或嵌入函数来生成的。嵌入函数可以基于各种方法，如机器学习模型、词嵌入、特征提取算法等。在向量数据库中搜索使用相似性指标和索引。相似性指标定义了数据库如何评估两个向量之间的距离和差值。常用的相似性度量是欧几里得距离，也称为L2范数。此外，索引也在加快查询速度和处理并发性方面发挥着关键作用。与传统的基于文本的数据库相比，向量数据库的主要优点是允许根据向量距离或相似性快速准确地搜索和检索数据。这意味着，用户可以使用向量数据库根据语义或上下文含义查找相似或相关的数据，而不是使用基于完全匹配或预定义条件查询数据库的传统方法。这种基于相似性的搜索方法可以更好地处理语义层面的查询，而不仅仅是基于关键词的匹配。

采用全面容器化部署，支持服务的弹性扩缩容，同时具备多租户和强大的资源管控能力。基于星环分布式向量数据库Hippo，可以有效地解决大模型在知识时效性低、输入能力有限、准确度低等问题。通过将新资料、专业知识、个人习惯等海量信息向量存储在星环分布式向量数据库Hippo中，可以极大地拓展大模型的应用边界，让大模型保持信息实时性，并能够动态调整，使大模型拥有“长期记忆”。此外，通过星环分布式向量数据库Hippo对向量数据进行存储，有效解除大模型对输入的限制，并且大模型在安全机制下访问向量数据库中的隐私数据，可以充分保证数据安全，杜绝隐私泄露风险。同时星环科技还将分布式向量数据库Hippo和分布式图数据库StellarDB结合，并以此作为微调的数据凭依，可以更低成本、更高效地构建特定领域的大模型应用。星环分布式向量数据库Hippo作为一款企业级云原生分布式向量数据库，基于分布式特性，可以对文档、图片、音视频等多源、海量数据转化后的多维向量进行统一存储和管理。通过多进程架构与GPU加速技术，充分发挥并行检索能力，实现毫秒级高性能数据检索，结合相似度检索等技术，帮助用户快速挖掘数据价值。优势特点：与开源的向量数据库不同，星环分布式向量数据库Hippo具备高可用、高性能、易拓展等特点，支持多种向量

利用向量数据库和图数据库，可以构建特定领域的大模型应用。在大模型应用开发软件栈中，知识图谱、向量数据库、模型仓库和图数据库构成的知识语义层，与模型运行层、大语言模型、提示工程层、应用前端集成层协同，帮助用户创建大模型应用，让每个人都拥有自己的个性化AI助理。其中，向量数据库可用于应用的文本检索，让查询更满足人性化的需求;可以实现语音、图像、视频检索，覆盖如人脸识别、语音识别、视频指纹等各类AI图谱作为大语言模型提示即可发起模型微调，以较低代价就可获得行业的专属大语言模型问答应用。而向量数据库、图数据库与大语言模型结合，可以构建业务域知识图谱和业务系统的应用服务，进一步提高人机交互的效率，提供更灵活的组合业务服务，激发出更多更深入的业务场景AI应用。相较于通用大模型，结合向量数据库、图数据库与知识图谱所存储的具体行业知识，领域大模型更精通特定行业的知识，具备高效的语料匹配能力和知识推理能力，能够有效回答用户的提问。场景;实现个性化推荐，做到千人千面的个性化推荐效果。而图数据库和知识图谱联合，与大模型可视化端到端构建工具一起，提供了知识抽取融合、知识建模、知识图谱生成存储、基于大模型的知识问答等闭环功能。客户以知识

通过beeline或JDBC时，设置参数configquery.langcypher;将查询语言切换为TEoC模式。根据使用场景选择查询模式（默认为immediate模式）immediate模式通常用于并发及短查询场景，查询结果和中间结果通常不超过百万。通过configcrux.execution.modeimmediate;切换。analysis模式通常用于分析场景，创建图、插入数据以及图算法相关的语句必须在该模式下进行。通过configcrux.execution.modeanalysis;切换。

声明简介声明是指为特定数据类型的变量分配一定的存储空间，并命名该变量以便引用它；必须先声明变量，然后才能引用它；对声明的变量可以进行赋值操作来改变它的值；声明的变量其作用域是Session级别的。变量声明使用decl关键字声明一个变量必须为变量指定名称和类型，且名称不能与已有的变量名相同。声明但未赋值的变量的默认值为null。变量名声明对大小写敏感。变量声明的语句遵循如下格式:DECL[<variable_name>:<variable_type>];使用方法示例如下表所示：语句说明declx:int;声明一个类型为int的变量xdecls:string;声明一个类型为string的变量sdecll:long;声明一个类型为long的变量ldeclb:boolean;声明一个类型为boolean的变量bdecld:double;声明一个类型为double的变量ddecltime:localdatetime;声明一个类型为localdatetime的变量timedecld1:decimal;声明一个类型为decimal的变量d1decllist1:list[int...

StellarDB5.0.1版本对图算法场景进行了大规模改进和提升，内置算法性能得到较大提升。在语法方面，StellarDB5.0.1的内置图算法对于返回的节点，会直接以节点类型返回。因此可以直接使用uid(vertex)访问节点的uid，而不再需要node_rk_to_uid函数进行uid的转换。可以参考PageRank等函数。另外，对于图算法返回的节点，我们也可以灵活的访问其其他属性作为返回值。图计算简介StellarDB的图计算使用TEoC语句调用相应图算法。算法的输入数据为图的点、边数据。当前版本中图计算支持结果返回、结果导出和结果写回。在使用图算法时，使用configcrux.execution.modeanalysis;语句切换到分析模式下使用图算法语句。图数据视图StellarDB支持创建一个可被持久化的视图，用于加速图算法执行过程。创建视图创建视图的语法如下所示：createquerytemporarygraphviewGRAPH_VIEW_NAMEas(v)[e]withGRAPH_ALGO(@GRAPH_VIEW_NAME,VIEW_STORE_PATH,CONFI...

3.1在TDH平台安装StellarDB3.2StellarDB安装校验3.3StellarDB低版本升级至StellarDB5.0.1

索引是数据库中某些数据的冗余副本，目的是使查询性能更优。作为代价，数据库需要额外存储空间和较慢写入速度，因此决定哪些字段需要索引是一项重要且不易的任务。（新）StellarDB5.0.1版本不再对旧版本使用的manipulatecreate_index和manipulatedelete_index语法进行支持，在新版本中统一使用createindex和dropindex进行索引的创建和删除新增索引CREATEINDEX[IFNOTEXISTS]FOR(LabelName)ON[f1,f2,...];CREATEINDEX[IFNOTEXISTS]FOR[LabelName]ON[f1,f2,...];不支持对TIME_SERIES类型的属性创建索引默认情况下,对同一个Label的某个属性多次创建索引会报错;但如果带有IFNOTEXISTS,则不会抛出任何错误包裹点边LabelName的括号不同，注意区分示例1.在点labelperson的属性name和age上建立索引CREATEINDEXIFNOTEXISTSFOR(person)ON[name,age];示例2.在边labelask...

本章节的示例语句均可在示例图my_graph中执行，执行前请先创建示例图my_graph，建图语句如下:creategraphmy_graphwithschema(:Boy{namestring,salarydouble,ageint,singleboolean,birthdaylocaldatetime,reservelong,ratedecimal(38,10),hobbysarray<string>,geoPointgeo<double>})(:Girl{namestring,salarydouble,ageint,singleboolean,birthdaylocaldatetime,reservelong,ratedecimal(38,10),hobbysarray<string>,geoPointgeo<double>})[:Friend{sinceint}][:Likes{sinceint}]graphproperties:{`graph.shard.number`:3,`graph.replication.number`:...

StellarDB支持用户添加自定义函数，添加后可在cypher语句中使用。自定义函数实现自定义函数通过java/scala语言开发，可继承实现两种基类，编译成jar包，通过指定命令加载到StellarDB。需要实现的基类为如下两种，可自行选择继承合适的基类：继承UDF基类继承GenericUDF基类。继承UDF基类该类实现简单，功能较为单一。支持Quark的基本类型、数组和Map。适合实现简单的逻辑。继承org.apache.hadoop.hive.ql.exec.UDF类继承UDF类必须实现evaluate方法且返回值类型不能为void，支持定义多个evaluate方法不同参数列表用于处理不同类型数据。@Description(name="my_plus",value="my_plus()-ifstring,doconcat;ifinteger,doplus",extended="Example:\n>selectmy_plus('a','b');\n>ab\n>selectmy_plus(3,5);\n>8")/***实现UDF函数，若字符串执行拼接，in...

为什么引入动态图模型？在实际应用过程中很容易可以发现，图数据在很多图数据的应用场景中并不是静态不变的，而是动态演进的，这些场景中包括例如金融反欺诈场景中金融交易网络随着时间的推进而发生的交易变化、交易社群变化等；又比如社交网络中新增用户、用户关注或者取消关注、更改账户信息等。将图数据变化的历史记录下来，不仅可以用于历史数据规律的总结，还可以利用动态图数据进行动态图神经网络相关技术的研究，从而进一步挖掘数据中潜在的数据价值和更加灵活高效的业务场景，譬如预测某一个时刻某一事件是否会发生。动态图模型的动态变化图数据的动态变化主要分为两类，一类是节点或边的属性的值的变化；另一类变化是子图（结构）的变化，如新增/删除点边。这两种图数据的动态变化可以单独发生，也可以同时发生。从图数据的属性变化角度来看，StellarDB5.0.1动态图模型可以记录图中节点或者边属性的所有历史版本（而非新数据覆盖旧数据）。在实际数据开发使用中，还可以结合诸如柱状图、趋势图等对历史数据进行可视化，更加直观、更加适合业务使用。从图数据的子图（结构）的角度来看，StellarDB5.0.1动态图模型还可以返回不同时间子图...

类型表达式类型例子十进制型整数10,-213十进制小数1.25,3.604E-14,-2.31十进制型长整数199345843592l,-12381543923L任意精度的有符号十进制数123bd,123.31BD八进制整数(0开头)084,-096字符串"星环",'信息科技'布尔类型true,false,TRUE,FALSE数组类型[1，2，3],["星环","信息科技"],[decimal(10.2,3,1),decimal(100.2,3,2)],[localdatetime("2021-01-18T09:50:12.627"),localdatetime("2021-11-18T03:50:12.113")]时间类型localdatetime("2021-01-18T09:50:12.627")Decimal类型decimal(10.2,3,1)地理空间类型point(20.5,30.5),point(-20.5,-30.5)时序类型{localdatetime("2023-01-01T15:16:17")::"nice"},{localdatetime("1997-01-01...

快速上手本章节将引导您快速熟悉StellarDB，并为您初步介绍如何通过KGExplorer和beeline客户端操作StellarDB。其中，"StellarDB初探"一节通过构建一张人物关系图，从零介绍如何在StellarDB进行基本操作；"StellarDB进阶"一节为您提供了内置于StellarDB的《哈利·波特》人物关系图，帮助您进一步探索StellarDB。StellarDB初探使用KGExplorer构建图从Manager页面进入KGExplorer页面。若KGExplorer开启了单点登录，会自动跳转Federation登录页面，按如图方式登录：KGExplorer用戶开启方法以及详细使用说明请查看章节《KGExplorer使用文档》。点击登录后进入KGExplorer主页面。我们首先需要构建图名为"hello_world"的图。在主页面右上角点击创建图按钮开始图谱schema的构建。按照引导填写图基本信息后点击确定进入构建页面。在画布中，我们为"hello_world"图创建Boy和Girl两种类型的点，两种类型的点均包含name、salary、age、single四...