生成式 AI 正在改变人们与计算机交互的方式，为各行各业带来前所未有的便利与效率。其快速迭代的节奏也在吸引着全世界的关注。
为构建大模型能力，算法、算力和数据是三个重要的方向。此前，人们对于算法和芯片算力关注度甚高，但对于很多企业来说，如何利用好数据同样是构建生成式 AI 应用的重要挑战。
近日，亚马逊云科技在「无数据不模型 —— 生成式 AI 时代的数据基座」媒体沟通会上，探讨了数据在生成式 AI 时代的关键作用。
「企业需要的是懂业务、懂用户的生成式 AI 应用，而打造这样的应用需要从数据做起，」亚马逊云科技大中华区产品部总经理陈晓建表示。「亚马逊云科技构建数据基座的三大核心能力涵盖从基础模型训练到生成式 AI 应用构建的重要场景，能够帮助企业轻松应对海量多模态数据，提升基础模型能力。亚马逊云科技正在帮助各个行业、各种规模的企业打造强健的数据基座，在确保用户业务和数据安全的前提下，将数据的独特价值赋予基础模型和生成式 AI 应用，加速企业业务增长。」
亚马逊云科技多年来持续引领数据基础设施的构建，在生成式 AI 时代围绕数据的三大核心能力，即模型微调和预训练所需的数据处理能力、利用专有数据与模型快速结合以产生独特价值的能力，以及有效处理新数据以助推生成式 AI 应用持续快速发展的能力，提出了一系列先进的工具。
面向核心的数据处理工具
在数据存储方面，扩展性和响应速度是关键。
Amazon Simple Storage Service（Amazon S3）对象存储几乎是云上扩展性的代名词，它支持广泛的数据协议，能够轻松应对各种数据类型，还支持智能分层以降低训练成本。专门构建的文件存储服务 Amazon FSx for Lustre 则能够提供亚毫秒延迟和数百万 IOPS 的吞吐性能，能够进一步加快模型优化的速度。
在实践中，LG AI Research 使用 Amazon FSx for Lustre 将数据分发到实例中来加速模型训练，开发了自己的基础模型 EXAONE，通过减少基础设施管理和提高 GPU 扩展效率，降低了约 35% 的成本。
企业用户面临着繁重的数据清洗加工任务，Amazon EMR Serverless 和 Amazon Glue 可以帮助企业轻松完成数据清理、去重、乃至分词的操作，让企业专注于生成式 AI 业务创新。
其中，Amazon EMR serverless 采用无服务器架构，帮助企业运行任何规模的分析工作负载，其自动扩展功能可在几秒钟内调整资源大小，以满足不断变化的数据量和处理要求。Amazon Glue 是一个简单可扩展的无服务器数据集成服务，可以轻松快速地完成微调或预训练模型的数据准备工作。
在数据治理方面，企业难以在多个账户和区域中查找数据，也缺乏有效的数据治理工具。Amazon DataZone 让企业能够跨组织边界大规模地发现、共享和管理数据，不但能够为多源多模态数据进行有效编目和治理，而且还提供简单易用的统一数据管理平台和工具，从而为用户解锁所有数据的潜能。
让企业专有数据释放更大价值
生成式 AI 基础模型的局限性之一在于无法及时拥有企业专有数据，通过技术手段加速数据与模型的结合成为企业数据基座的第二项关键能力。
生成式 AI 时代，我们需要的数据不止是原始数据，还需要转化后向量形式的数据。把向量数据和原始数据进行统一存储或许会是最有效的方法。这意味着原始数据不需要进行迁移，能力在整合后会有更快、更便捷的体验，使用门槛也更低。亚马逊云科技的存储基础设施支持了向量搜索能力。
检索增强生成（Retrieval-Augmented Generation，RAG）技术被普遍认为是实现数据与模型结合的主要途径之一，它通过将数据转换为向量并存储到向量数据库中，从而将语义的关联性转化为向量间的数学距离问题，以实现内容的关联性计算。
现代应用程序需精准理解用户需求并正确关联产品或内容，这一需求广泛存在于搜索、评论、购物车及产品推荐等交互框架中，这些框架又依赖于功能各异的数据库，这使得数据库成为实施 RAG 技术的理想平台。
亚马逊云科技将向量搜索的支持功能加入到主流的数据服务中，通过将数据和向量存储在一起来提升数据查询性能。这能够让企业轻松利用 RAG 技术将专有数据提供给基础模型，从而释放更大价值。
此外，亚马逊云科技还为图数据库 Amazon Neptune 推出了分析数据库引擎，以结合图数据库与大模型的优势，从而能够快速从图形数据中获取洞察，并进行更快的向量搜索。
有效处理生成式 AI 应用的新数据
在生成式 AI 应用上，企业如何应用数据？目前有三类持续应用数据的方式，第一类是检索增强（RAG），把企业已有的数据和文档，与大模型相结合，提供信息检索辅助化的能力；第二类是微调，即通过提示工具，让大语言模型更了解实际应用情况；第三类持续预训练的门槛更高 —— 这需要用户拥有大量的业务数据，同时把实时产生的数据持续用于大模型训练。
这三种能力在亚马逊云科技的 Bedrock 上都已可以实现。
对生成式 AI 应用程序而言，基础模型频繁调用将会导致成本的增加和响应的延迟，因此如何处理生成式 AI 应用程序新生成的数据，提升模型调用效率成为企业数据基座的第三项关键能力。
Amazon Memory DB 内存数据库通过缓存之前问答生成的新数据，实现对类似问题的快速响应和准确回答，同时有效降低基础模型的调用频率。Amazon Memory DB 能够存储数百万个向量，只需要几毫秒的响应时间，能够以 99% 的召回率实现每秒百万次的查询性能。
此外，生成式 AI 应用程序需要快速占领市场。亚马逊云科技通过提供无服务器数据库服务和 Amazon OpenSearch Serverless 用于向量搜索，最大限度为企业减少运维负担和成本，消除性能瓶颈，使企业能够专注于生成式 AI 业务创新。
从亚马逊云科技对于数据处理的看重，我们可以看出，在生成式 AI 技术走向落地的现在，企业和开发者正在面临新的挑战。对于数字基础设施的提供者而言，这将带来新的机遇。
「生成式 AI 发展到今天，用户所关注的不止是大模型，数据应该是运行的保证，而且是差异化的关键，」陈晓建表示。
