联 系 我 们
售前咨询
售后咨询
微信关注:星环科技服务号
更多联系方式 >

Transwarp Hippo

AIGC向量数据库解决方案

软硬件深度融合,释放大语言模型价值
方案简介
为了更好地帮助企业应对大模型时代海量、多维向量数据的高并发和实时计算等挑战,星环科技与英特尔合作,推出了基于第四代英特尔® 至强® 可扩展处理器的Transwarp Hippo分布式向量数据库解决方案,帮助企业解决大模型应用时实时性不够、二次训练周期长成本高、答非所问等问题。通过软硬件深度融合,满足大模型时代海量、高维向量的存储和计算需求,为用户构建高性能向量数据库系统和大模型应用提供了重要依据和选型方向。
星环科技 Transwarp Hippo 主要优势
一站式
提供向量转化工具和Embedding模型,一站式完成模型上架、模型评估和模型部署,降低用户使用成本,提高数据入库效率。
高精度
多类索引支持,一库搞定向量+全文联合检索,提高大模型召回准确率;结合自研图数据库,可进一步提高大模型精度。
高性能
支持多进程架构与GPU加速,充分发挥并行检索能力,结合软硬件深度优化,充分发挥CPU多核、高内存带宽等优势,为海量、多维向量提供强劲算力。
易对接
提供标准的Python、Restful、Java API等接口,可轻松对接各类应用和模型,提高应用开发和调用的效率。
软硬件深度融合,激发强劲性能
第四代英特尔® 至强® 可扩展处理器是英特尔公司2023年发布的数据中心处理器,凝聚了英特尔数十年来在数据中心、网络和智能边缘等领域积累的技术经验,采用全新架构,提升了单核性能,每路配备多达 60 个内核支持 8 通道 DDR5 内存,有效提升了内存带宽与速度,并通过 PCIe 5.0(80 个通道)实现了更高的 PCIe 带宽提升。第四代英特尔® 至强® 可扩展处理器提供了出色性能和安全性。以结果为导向、工作负载至上,为AI、云、网络、边缘和全球领先的超级计算机带来全新功能。
20%~30%性能提升
客户价值
专业向量数据库—解决大模型的局限性
通过将 新的信息语料存储在Transwarp Hippo 向量数据库中,能够让大模型保持信息实时性,使大模型拥有“长期记忆”;协助企业解决大模型数据泄露隐私问题,拓展大语言模型的空间边界;通过多模态信息向量化存储以及近似检索、混合检索等能力帮助大模型解决“AI 幻觉”问题。
更高性能—应对大模型应用带来的挑战
海量、高维度向量数据处理,以及低时延和高精确度等要求给向量数据库性能带来了巨大挑战。通过与第四代英特尔® 至强® 可扩展处理器的深度融合,星环科技Transwarp Hippo可以更好地帮忙用户应对大模型应用带来的挑战,更高效地挖掘大模型应用价值。
高扩展—敏捷地满足大模型发展需求
随着大模型场景的深入化和丰富化,数据多模态加剧,如文本、图像、音频和视频等,向量数据维度也逐渐增高,数据量呈现爆炸式增长。星环科技Transwarp Hippo可以按需水平扩展,利用容器技术支持服务弹性扩缩容,可以满足企业大模型未来发展对海量向量数据的存储和计算需求。
降低 TCO—提升大模型投资回报率
基于星环科技Transwarp Hippo向量数据库可以大幅降低大模型二次训练成本,加速大模型业务上线和创新。同时,自带Embedding工具和模型、高扩展、以及与第四代英特尔® 至强® 可扩展处理器深度融合带来的更高性能等特性可满足企业业务发展需求,提升大模型建设的投资回报率。

星环科技,构建明日数据世界