Transformer自然语言处理实战 使用Hugging Face Transformers库构建NLP应用
作 者:(澳)路易斯·汤斯顿,(瑞士)莱安德罗·冯·韦拉,(法)托马斯·沃尔夫 著 叶伟民,叶志远 译
定 价:139
出 版 社:机械工业出版社
出版日期:2024年01月01日
页 数:356
装 帧:平装
ISBN:9787111741923
目录
●序1
前言3
第1章 欢迎来到Transformer的世界11
1.1 编码器-解码器框架12
1.2 注意力机制14
1.3 NLP的迁移学习15
1.4 Hugging FaceTransformers库:提供规范化接口18
1.5 Transformer应用概览19
1.6 Hugging Face生态系统23
1.7 Transformer的主要挑战27
1.8 本章小结27
第2章 文本分类29
2.1 数据集30
2.2 将文本转换成词元36
2.3 训练文本分类器44
2.4 本章小结60
第3章 Transformer架构剖析62
3.1 Transformer架构62
3.2 编码器64
……
内容介绍
本书涵盖了Transformer在NLP领域的主要应用。首先介绍Transformer模型和Hugging Face 生态系统。然后重点介绍情感分析任务以及Trainer API、Transformer的架构,并讲述了在多语言中识别文本内实体的任务,以及Transformer模型生成文本的能力,还介绍了解码策略和度量指标。接着深入挖掘了文本摘要这个复杂的序列到序列的任务,并介绍了用于此任务的度量指标。之后聚焦于构建基于评论的问答系统,介绍如何基于Haystack进行信息检索,探讨在缺乏大量标注数据的情况下提高模型性能的方法。最后展示如何从头开始构建和训练用于自动填充Python源代码的模型,并总结Transformer面临的挑战以及将这个模型应用于其他领域的一些新研究。
(澳)路易斯·汤斯顿,(瑞士)莱安德罗·冯·韦拉,(法)托马斯·沃尔夫 著 叶伟民,叶志远 译