目录
●前言
第1章大语言模型应用开发体系1
1.1大语言模型应用开发概述1
1.1.1大语言模型应用场景1
1.1.2大语言模型应用开发的核心技术4
1.2大语言模型集成性开发框架11
1.2.1集成性开发框架的功能特性11
1.2.2代表性开发框架12
1.3本章小结18
第2章实现并重构一个翻译器工具19
2.1基于OpenAI API实现翻译器19
2.1.1引入OpenAI LLM19
2.1.2OpenAI API对接21
2.1.3构建翻译器工具V1.027
2.2基于LangChain重构翻译器28
2.2.1LangChain集成OpenAI LLM29
2.2.2使用PromptTemplate创建提示词33
2.2.3构建LLMChain37
2.2.4构建翻译器工具V2.043
2.3本章小结44
第3章构建通用的文档检索助手45
3.1RAG解析45
3.1.1RAG技术的核心概念45
3.1.2RAG应用开发流程46
3.2基于LangChain4j实现文档检索助手48
3.2.1LangChain4j的聊天模型48
3.2.2LangChain4j的RAG技术组件53
3.3使用高级RAG技术实现强化版文档检索助手61
3.3.1查询压缩61
3.3.2查询路由62
3.4本章小结64
第4章开发纠错型RAG应用66
4.1纠错型RAG应用的核心组件67
4.2基于LangChain4j Workflow实现工作流67
4.2.1LangChain4j Workflow的工作原理68
4.2.2LangChain4j Workflow的实现76
4.3基于工作流实现CRAG应用79
4.3.1CRAG应用的通用开发步骤79
4.3.2CRAG应用开发的工作流88
4.3.3测试和验证91
4.4本章小结93
第5章设计智能化的简历匹配服务94
5.1简历匹配服务与RAG技术94
5.2基于LlamaIndex实现简历匹配服务96
5.2.1LlamaIndex的RAG技术组件96
5.2.2设计简历数据提取管道99
5.2.3创建和存储简历索引102
5.3简历匹配优化策略105
5.3.1构建混合检索器105
5.3.2检索结果重排序108
5.3.3基于Streamlit构建交互界面110
5.4本章小结115
第6章开发多模态处理器116
6.1多模态处理的场景分析116
6.2基于LangChain进行图像处理117
6.2.1图像解析117
6.2.2图像生成125
6.3基于LangChain进行语音处理127
6.3.1自动语音识别127
6.3.2文本转语音129
6.4多模态处理器的系统整合132
6.4.1对话机制集成132
6.4.2回调和流式处理135
6.5本章小结139
第7章定制化Agent开发实战140
7.1Agent的运行机制140
7.2LlamaIndex的Tool和Agent组件141
7.2.1Tool141
7.2.2OpenAIAgent148
7.2.3ReActAgent151
7.2.4AgentRunner和Agent-Worker156
7.3构建自定义Agent158
7.3.1自定义Agent的场景分析158
7.3.2创建Tool组件159
7.3.3实现自定义Agent163
7.3.4测试和验证168
7.4本章小结171
第8章混合Agent架构设计实战172
8.1MoA架构解析172
8.2基于LangChain4j实现MoA架构173
8.2.1MoA架构的实现步骤174
8.2.2构建MoA工作流178
8.3基于LangChain实现MoA架构185
8.3.1文档嵌入和检索185
8.3.2构建MoA架构的主流程192
8.3.3整合MoA架构、Agent与向量数据197
8.4本章小结204
内容介绍
这是一本案例驱动的LLM应用开发指南,适合具备一定编程基础的开发者阅读。通过本书,读者可以在短时间内掌握多种类型的LLM应用的开发方法,以及基于现实中的业务场景设计并实现符合用户真实诉求的AI系统。对此,本书提供了丰富的“即插即用”的案例代码和很好实践。本书分为8章,全面阐述LLM应用的技术体系、开发模式和落地案例,具体内容如下:第1章先介绍LLM的基本概念和应用场景,然后介绍LLM应用开发的核心技术,并引出主流的集成性开发框架。第2~8章分析大语言模型应用的场景案例,即基于常见业务场景,梳理LLM应用的系统架构和实现过程,并采用主流的开源框架完成案例场景的开发落地。每章讲解一个系统案例,包含翻译器工具、通用的文档检索助手、纠错型RAG应用、智能化的简历匹配服务、多模态处理器、定制化Agent开发、混合Agent架构设计7个具体的案例。针对每一个案例,都提供具体的应用场景分析和系统架构设计......