大模型带火数据训练，腾讯云向量数据库重磅发布！

AI 技术不断向前发展，一个核心驱动因素，就是背后的存储、处理和分析大量数据所需要的强大基础设施也在不断发生进步。这波“新基建”浪潮也催生出又一颗冉冉升起的新星——向量数据库，一种用于管理非结构化数据，包括数字形式的文本、音频、图像和视频的强大解决方案。

可以说大模型数据训练需求的催化，让向量数据库愈发红火。

大模型的出现给人工智能带来了新的计算范式 —— the CVP Stack。其中,“C”代表大模型( ChatGPT 等 )，负责向量计算；“V”代表向量数据库( Vector Database )，负责向量存储；“P”代表 Prompt 工程，负责向量交互。

随着大模型技术的发展，向量数据库将在 AI 时代扮演极为重要的角色。它可以最大限度地发挥大模型威力的同时保护数据隐私，实现更丰富的智能应用。

大模型引发爆发增长的向量数据库

当我们见到一个熟悉的人的时候，大脑是这样思考的：首先，眼睛中的视杆细胞和视锥细胞记录下光的强度。这些信号传递到位于你大脑后方的视觉皮层，在皮层中数以百万计的神经元以不同的强度被激活。激活信号传输到你的颞叶，你的大脑解释为：我看到了某某。

尽管大模型呈现出的形式是端到端、文本输入输出的，但实际模型接触和学习的数据并不是文本本身，而是向量化的文本。想要按这种”脑回路“组织数据，需要一个专门的数据库——向量数据库。

过往，承担数据组织的是传统关系型数据库，但它更适合用来应对结构化的数据。大模型和神经网络，更多面对的是海量的非结构化数据，比如文本、音频、视频、关系等。

把复杂的非结构化数据通过向量化（embedding），处理统一成多维空间里的坐标值，通过计算向量之间的相似度或距离，快速定位最相关的近似值。

它被广泛地用于大模型训练、推理和知识库补充等场景：

支撑训练阶段海量数据的分类、去重和清洗，给大模型的训练降本增效；

通过新数据的带入，帮助大模型提升处理新问题的能力，突破预训练带来的知识时间限制，避免大模型出现幻觉；

提供一种私有数据连接大模型的方式，解决私有数据注入大模型带来的安全和隐私问题，加速大模型在产业落地。

……

简而言之，如果大模型是一个智能的处理器，那向量数据库就是配合这台处理器的”外置缓存"。

腾讯云向量数据库重磅发布

与传统数据库不同，向量数据库特别擅长从非结构化数据中提取见解。这些数据库使用向量嵌入来表示数值型数据，并将其排列在彼此相似的一个个聚类当中，能够帮助用户使用相似对象查询数据库，从而轻松比较并找出最适合的匹配项。向量搜索的另一个优势就是这类查询延迟更低，特别适合生成式 AI 应用。

企业开始大力投资向量数据库以提升算法准确性和效率。据相关统计，2023年4月的AI投资领域呈增长趋势，尤其是向量数据库领域的投资活动颇为活跃，Pinecone、Chroma 和 Weviate等向量数据库初创公司都在这个月获得了融资。

近日，腾讯云发布了国内首个AI原生的向量数据库，它最高支持业界领先的10亿级向量检索规模，并将延迟控制在毫秒级。相比传统单机插件式数据库检索规模提升10倍，同时具备百万级每秒查询（QPS）的峰值能力。

针对大模型场景，它在接入层、计算层、存储层实现了全面AI化：

在接入层，智能化支持自然语言文本的直接检索；

在计算层，通过AI算子替代企业寻找/调优AI算法，将接入工期从一个月缩短到3天；

在存储层，融合智能压缩算法，把向量存储成本降低50%。

统计显示，将腾讯云向量数据库用于大模型预训练数据的分类、去重和清洗，相比传统方式可以实现10倍效率的提升。

如果将向量数据库作为外部知识库用于模型推理，则可以将成本降低2～4个数量级。

其实，腾讯云向量数据库经历了鹅厂内部业务的长期锤炼：

覆盖腾讯视频、QQ浏览器、QQ音乐等上百个业务场景，每日调用量超千亿次；

支撑QQ音乐人均听歌时长提升3.2%，QQ浏览器成本降低37.9%，腾讯视频有效曝光人均时长提升1.74%；

向量化能力（embedding）多次获得权威机构认可，曾登顶MS MARCO榜单第一。

更多产品了解

欢迎扫码加入云巴巴企业数字化交流服务群

产品交流、问题咨询、专业测评

都在这里！