更新时间:2023/8/3 7:08:37  文章录入:admin  责任编辑:admin
近日,由极客公园主办的 AGI Playground 2023 活动在北京圆满结束,活动汇聚了当下 AGI 领域最具公信力、话语权、前瞻性的行业领袖与公司,起底潮流下的大模型技术底层逻辑和新范式变革的底层思维。向量数据库公司Zilliz、360 集团、阿里云、百度、百川智能等行业头部公司参会,Zilliz 创始人兼 CEO 星爵、百川智能创始人王小川、360 集团创始人周鸿祎等明星创业者分别在不同的主题下进行了分享。其中,Zilliz 创始人兼 CEO 星爵的演讲让人印象深刻。星爵的演讲主题为《AGI 时代到来,为什么向量数据库成关键?》,在他看来:●当下 CVP Stack 已经成为 AGI 时代重要的数据应用开发范式,代表 “V” 的向量数据库扮演着重要角色,Milvus 和 Zilliz Cloud 作为向量数据库中的佼佼者,无论是性能还是成本方面,都能很好地满足开发者的需求。●向量数据库作为大模型的记忆体,能够为 LLMs 提供向量检索和存储的功能,是大模型开发和训练中不可缺少的重要组成部分。●AGI 时代的下一个 Killer App 是智能体,向量数据库可以为其提供长期的记忆存储。向量数据库成为新型开发范式 CVP Stack 的重要一环向量数据库是一种为了高效存储和索引 AI 模型产生的向量嵌入(embedding)数据而专门设计的数据库。在传统的关系型数据库中,数据通常以表格的形式存储,而在向量数据库中,数据以向量的形式存储。向量(embedding)是一组数值,可以表示一个点在多维空间中的位置。向量数据库非常擅长处理大量的高维 embedding数据,这种数据在机器学习和深度学习应用中很常见。LLM 时代之下,工具栈变得更加简化,开发者甚至可以实现用周末两天时间做出一个不错 demo 的设想,其背后的终极奥义便是 CVP Stack。其中,C 的意思是以 ChatGPT 为代表的大模型,它在 AI 程序中充当中央处理器的角色;V 代表 Vector Database,即以 Milvus 为代表的向量数据库,充当 embedding storage 的角色;最终会通过 prompt 的方式进行交互。总结来看,在大模型时代下,无论是谁,只要拥有一个 ChatGPT 账号、会写 prompt、找到一个 embedding 的数据库为模型提供相关领域的知识,甚至为其提供一个缓存层,便可以轻而易举地成为一个很好的工程师。OSSChat(https://osschat.io)就是典型的应用,用于解决开源项目文档冗长、不易查找等问题,目前已经支持几十个主流的开源项目。|Zilliz 创始人兼 CEO 星爵向量数据库之于大模型的关键作用向量数据库可以看作大模型的外置记忆快,能够长期存储大模型的数据,供模型随时调用。向量数据库在LLM领域的应用主要可以分为以下 6 类:管理私有数据和知识库、为大模型提供实时数据更新、实现大模型的个性化和增强、提供智能体的记忆、保存大模型的处理结果、构建更复杂的AI系统。对于大模型应用开发者来说,向量数据库是一个非常重要的基础设施,可以在最大限度发挥大模型威力的同时保护数据隐私,实现更丰富的功能。LLMs 和向量数据库共同推动 AGI 的发展,二者缺一不可。向量数据库为下一个 Killer App 提供长期的记忆存储智能体是大模型的一个新兴应用场景,用于构建具有独立智能的虚拟人物、虚拟代理甚至人形机器人。向量数据库不仅可以帮助智能体记忆其感知的历史数据和上下文,帮其做出智能决策,还能使其根据长期记忆来实现自我演进,被认为是下一代 Killer App。智能体需要记忆。人类的大脑有一个区域叫做海马体,负责长期记忆,记忆是人类智能很重要的部分,不可能今天把昨天的事情忘记还说自己很聪明。行业里面的正在尝试用向量数据库为智能体存储长期记忆,因为向量数据库的成本是很可控的。未来如果每个人都能够有几十个智能体帮助人类生产生活,像向量数据库这样具有语义检索的存储市场会迎来很大的增长。向量数据库作为一款数据库产品,“更大更快更便宜”是未来发展的核心趋势。更大是指能处理更大的数据量,这意味着支持百亿条数据甚至更高的可扩展性;更快是指更高的性能,包括毫秒级的响应时间和高达数万的QPS;更便宜是指更少的资源消耗更高的性价比,在相同资源消耗的情况下提供更强大的性能。 打印本文 打印本文  关闭窗口 关闭窗口