联 系 我 们
售前咨询
售后咨询
微信关注:星环科技服务号
更多联系方式 >

Transwarp Hippo

AIGC向量数据库解决方案

软硬件深度融合,释放大语言模型价值
方案简介
为了更好地帮助企业应对大模型时代海量、多维向量数据的高并发和实时计算等挑战,星环科技与英特尔合作,推出了基于第五代英特尔® 至强® 可扩展处理器的Transwarp Hippo分布式向量数据库解决方案,帮助企业用户解决大模型应用时实时性不够、二次训练周期长成本高、答非所问等问题。通过软硬件深度融合,基于第五代英特尔®至强®可扩展处理器带来的强大算力, 实现了约 2 倍的代际性能提升,满足大模型时代海量、高维向量的存储和计算需求,为用户构建高性能向量数据库系统和大模型应用提供了重要依据和选型方向。
星环科技 Transwarp Hippo 主要优势
一站式
提供向量转化工具和Embedding模型,一站式完成模型上架、模型评估和模型部署,降低用户使用成本,提高数据入库效率。
高精度
多类索引支持,一库搞定向量+全文联合检索,提高大模型召回准确率;结合自研图数据库,可进一步提高大模型精度。
高性能
支持多进程架构与GPU加速,充分发挥并行检索能力,结合软硬件深度优化,充分发挥CPU多核、高内存带宽等优势,为海量、多维向量提供强劲算力。
易对接
提供标准的Python、Restful、Java API等接口,可轻松对接各类应用和模型,提高应用开发和调用的效率。
软硬件深度融合,激发强劲性能
第五代英特尔® 至强® 可扩展处理器拥有更可靠的性能,更出色的能效。在运行各种工作负载时均可实现显著的每瓦性能增益,在 AI、数据中心、网络和科学计算的性能和总体拥有成 本 (TCO) 方面亦有更出色的表现。相较上一代产品,第五代英特尔® 至强® 可扩展处理器可在相同功耗范围内提供更高的算力和更快的内存。此外,第五代英特尔® 至强® 可扩展处理器与上一代产品的软件和平台兼容,因此部署新系统时可大大减少测试和验证工作。
2倍性能提升,提供强劲算力
对比第三代英特尔® 至强® 可扩展处理器,基于第五代英特尔® 至强® 可扩展处理器的 Transwarp Hippo 性能是其 2.07 倍。
客户价值
支撑数据的高效处理
基于第五代英特尔® 至强® 可扩展处理器的 Transwarp Hippo 能够实现海量、高维度向量数据处理,并具备低时延、高精确度等优势,可以满足大模型训练等场景对于数据处理能力的苛刻要求。
高扩展满足大模型发展需求
随着大模型场景的深入化和丰富化,数据多模态加剧,如文本、图像、音频和视频等,向量数据维度也逐渐增高,数据量呈现爆炸式增长。星环科Transwarp Hippo可以按需水平扩展,利用容器技术支持服务弹性扩缩容,可以满足企业大模型未来发展对海量向量数据的存储和计算需求。
降低向量数据库的总体拥有成本 (TCO)
由于第五代英特尔® 至强® 可扩展处理器实现了代际性能的大幅提升,有助于提升 Transwarp Hippo 服务器节点的性能密度,帮助用户节省在服务器采购、部署等方面的投资。同时,第五代英特尔® 至强® 可扩展处理器在性能提升的同时,具备更高的每瓦性能,有助于节省单位性能的能耗支出。
具备性能进一步提升潜力
除了更多的核心数量,更快的 IPC 性能之外,第五代英特尔® 至强® 可扩展处理器还搭载了英特尔® In-Memory Analytics Accelerator(英特尔® IAA)等硬件加速特性,有助于进一步提升数据库等场景的性能。

星环科技,构建明日数据世界