大模型垂直领域低算力迁移

定　　价：89 元

• 作者：程戈著
• 出版时间：2024/11/1
• ISBN：9787111767671
• 出 版 社：机械工业出版社

• 中图法分类：TP18 
• 页码：226页
• 版次：1
• 开本：24cm

内容简介

本书主要介绍了垂直领域大模型的低算力迁移技术，包括微调、部署与优化等方面。全书共12章，第1章从垂直领域大模型的生态系统出发，介绍了当前大模型带来的行业变革，以及垂直领域迁移的动机和机遇。第2、3章详细探讨了垂直领域低算力迁移的技术栈、大模型的主流开源生态，如HuggingFace、Megatron等。第4-6章介绍了自举技术、高效的数据集访问技术及大模型的抽象技术。第7-10章深入介绍了低算力微调的原理和方法、分布式训练、推理优化技术，以及大模型的编译优化手段。第11、12章讨论了大模型部署的非性能需求，以及服务器端的架构与优化方法。