【全球架构师峰会】大模型时代数据库技术创新.pptx

大模型时代数据库技术创新;

01数据库与大模型

02DB4AI：向量数据库

03AI4DB：数据库运维应用;

数据库与大模型;;;;

DB4AI：向量数据库;

?文档，向量混合搜索

?多路召回，排序模型有：CohereRerank和BGE-Reranker;

结构化/半结构化数据

websiteDatabase;

?成本低

?性能好，尤其是响应时延更好

?问答稳定，解决大模型幻觉问题

?复杂问题，安全问题处理更好（复杂过滤，安全回答）

?定位方便（大模型是黑盒）;

业务场景

基于大模型的推理能力，搭配向量数据库私有数据召回能力，构建私域知识库;

传统数据库通过扩展向量字段，并基于开源Faiss，nswlib，annoy等来扩展向量索引，受原有架构影响，在写入效率，查询延时和并发性能上均存在瓶颈;;;;

数据类型

?支持强Schema模型，同时支持标量和向量数据类型

索引

?支持二级索引，支持各类向量索引

?支持标量检索、向量检索和标量向量混合检索

数据存储与均衡

?支持标量和向量数据的增删改以及批量处理

?基于LSM模型，支持行存、列存、行列混存

?支持KV分离存储模型

?支持引擎内再分片以及细粒度向量索引调度

数据压缩

?支持压缩

数据备份恢复

?支持快照及恢复

?支持数据多版本机制

硬件优化

?支持指令集优化、CPU硬件优化、编译器优化等;;;

【全栈LLM技术支撑】

完整数据库管控能力

?数据全生命周期管理

?360°性能监控和优化

百度文心全技术栈支撑

?领先的中文Embedding能力

?千帆大模型应用引擎支持

【极致性价比控制】

内存开销降低90%;

AI4DB：数据库运维应用;;;;

文本大模型