阿里云：2024年GenAI技术落地白皮书.pdf

GenAI技术落地

白皮书

GenAI技术落地白皮书

目录

Contents

核心观点1

1.GenAI构建企业竞争新优势2

2.大模型的选择3

3.大模型的培育7

4.大模型的使用10

5.GenAI技术落地策略总结

17

1

GenAI技术落地白皮书

核心观点

生成式人工智能（Generative

Artificial

Intelligence,

GenAI)即将迎来全面爆发，各行各

业必须为此做好准备。本报告从企业视角出发，聚焦技术，阐述GenAI在企业落地时的关键考量

点，提出了“选-育-用”方法论，覆盖了从模型和技术路线的选择，到如何培育适合企业的大

模型，并将其广泛应用在企业流程实现全面创新的全生命周期，为企业规模化GenAI落地提供

指导。核心观点如下：

1.企业应充分了解不同产品服务、技术解决方案背后的技术难度、成本及其

能达到的效果，结合自身的技术实力、资金储备以及业务目标，作出合适

的选择；特别是面向不同应用场景时，可以采取不同的产品服务模式而不

必限于单一选择。

2.选：企业需要结合自身情况选择构建GenAI能力的技术路线：深度研发大

模型，或者基于现有大模型进行工程化适配，或者直接使用大模型服务。

后两条路线适合大多数企业，此时要做好大模型的选择，形成自己的大模

型池。面对具体的应用场景，选择大模型的关键是在成本、效果和性能的

“不可能三角”间进行权衡和取舍。

3.育：定制适应企业的大模型需要基于基础大模型进行工程化适配，按照技

术难度从小到大和投入成本从少到多，主要包括提示词工程、检索增强生

成和微调三种方式。其中，微调会改变部分大模型参数，微调后还可以通

过知识蒸馏、剪枝、量化等手段“压缩”大模型达到灵活的适应性，需要

较高的技术门槛。

4.用：广泛应用GenAI需要解决基础设施问题。相比传统的自建或租用数据

中心方式，使用云基础设施或者采用云托管大模型的方式能够节约时间成

本、降低现金流压力。企业可以通过Agent将大模型的能力与企业应用紧

密集成，基于GenAIOps做好跨团队紧密协作、消除流程断点，从而加速

GenAI应用上线，并根据效果及时更新。此外，需要始终关注GenAI应用

的信任、风险和安全管理，构筑可信任的基石。

1

GenAI技术落地白皮书GenAI构建企业竞争新优势

1.GenAI构建企业竞争新优势

GenAI是一种先进的人工智能技术，它能够基于已有的数据和知识生成全新的内容。这种技

术的发展得益于深度学习、大数据和计算能力的发展，特别是大型语言模型

（Large

Language

Models，LLMs）等基础模型的进步。GenAI将逐渐改变人们与机器交互的

方式，为各行各业带来前所未有的创新机