书籍：Large Language Models: A Deep Dive: Bridging Theory and Practice
作者：Uday Kamath，Kevin Keenan，Garrett Somers，Sarah Sorenson
出版：Springer
编辑：陈萍萍的公主@一点人工一点智能
地址：https://mp.weixin.qq.com/s/iP4huaeZqby2SVSHNTWyJA
01 书籍介绍
大型语言模型（LLMs）已成为一项基石技术，彻底改变了我们与信息交互的方式，并重新定义了人工智能的边界。LLMs以前所未有的能力直观且深刻地理解、生成及与人类语言进行交互，从而在内容创作、聊天机器人、搜索引擎及研究工具等多个领域催生了革命性应用。尽管LLMs令人着迷，但其复杂的工作机制——包括精密的架构、底层算法及伦理考量——亟需深入探索，这也催生了对该主题进行全面阐述的书籍需求。
本书探讨了LLMs的设计、训练、演进及应用。首先，它概述了预训练语言模型与Transformer架构，为理解基于提示的学习技术奠定了基础。随后，深入探讨了LLMs的微调方法，包括通过强化学习实现价值对齐，以及LLMs与计算机视觉、机器人技术及语音处理的融合趋势。本书特别强调了实际应用，详细阐述了如对话式聊天机器人、检索增强生成（RAG）及代码生成等真实世界用例。这些精心挑选的案例展示了LLMs在不同行业和场景中的多样化和影响力。
读者将从本书中获得关于LLMs运营与部署的深刻见解，从现代工具与库的实现到应对偏见及伦理影响等挑战。此外，本书还引入了前沿的多模态LLMs领域，这些模型能够处理音频、图像、视频及机器人输入。通过提供将LLMs应用于自然语言任务的实操教程，这本详尽指南为读者提供了充分利用大型语言模型潜力的理论知识与实践技能。
这一综合资源适合广泛的读者群体，包括人工智能或自然语言处理领域的学生、研究人员及学者、数据科学家实践者，以及任何希望掌握LLMs精髓与复杂性的读者。
核心特色：
· 汇集超过100种尖端技术与方法，涵盖预训练、基于提示的调优、指令调优、参数高效与计算高效的微调、终端用户提示工程，以及构建与优化检索增强生成系统。同时，提供利用强化学习使大型语言模型（LLMs）与人类价值观相一致的策略。
· 精心整合超过200个数据集，从预训练到多模态调优，一应俱全，为多样化的LLM应用奠定坚实基础。
· 阐述超过50种策略，以解决幻觉、毒性、偏见、公平性和隐私等关键伦理问题。提供全面的方法用于测量、评估及缓解这些挑战，确保LLM的负责任部署。
· 设立超过200个基准测试，全面覆盖LLM在各种任务中的性能、伦理考量、多模态应用，并提供超过50种LLM生命周期评估指标。
· 包含九篇详尽教程，引导读者通过预训练、微调、对齐调优、偏见缓解、多模态训练等过程，并利用与Google Colab兼容的工具和库部署大型语言模型，确保理论概念的实际应用。
· 为数据科学家和从业者提供超过100条实用建议，涵盖实施细节、技巧及工具，助力他们成功驾驭LLM生命周期，高效完成任务。
02 作者简介
Uday Kamath拥有25年的分析开发经验，并获得了可扩展机器学习领域的博士学位。他的卓越贡献遍布众多期刊、会议、书籍和专利之中。其著作颇丰，包括《应用因果推断》、《可解释的人工智能》、《机器学习中的Transformer》、《深度学习与自然语言处理及语音识别》、《精通Java机器学习》以及《机器学习：Java开发者端到端指南》等。目前，他担任Smarsh公司的首席分析官，负责引领通信人工智能领域的数据科学与研究工作。同时，他还是多家实体机构的顾问委员会活跃成员，包括商业公司Falkonry和乔治梅森大学人机合作中心等学术机构。
Kevin Keenan博士在学术界、网络安全和金融服务领域拥有超过15年的统计、数据分析和机器学习应用经验。在这些领域中，他专注于科学方法的严谨应用，特别是在数据质量和完整性往往不尽如人意的复杂商业环境中，他仍能从中挖掘出巨大的价值和见解。凯文拥有8年以上的NLP使用经验，能够从通信和深度数据包网络流量数据中识别出人为干预的企业、法律和监管风险，并成功实现了大规模非结构化数据的机器学习应用。他还是进化遗传学领域四篇已发表科学论文的作者，累计被引用次数超过1400次，并且是R统计编程语言中用于种群遗传学研究的开源项目“diveRsity”的作者和维护者。
Sarah Sorenson在软件行业工作了超过15年，是一位多语言程序员，曾在不同时期从事过Python、Java、C#和JavaScript的全栈开发工作。过去十年，她致力于构建机器学习能力并将其付诸实践，主要服务于金融服务领域。她在机器学习应用于欺诈检测方面拥有丰富的经验，最近则专注于为世界上一些顶级银行开发和部署用于大规模通信数据监管合规的NLP模型。
Garrett Somers从事数据密集型研究已超过10年。他原本是一名天体物理学家，职业生涯初期致力于研究遥远黑洞的X射线辐射，并撰写了关于恒星演化结构、自转和磁场的数值模型的博士论文。他是八篇同行评审天体物理学文章的第一作者，这些文章累计被引用次数超过400次，此外还参与了另外二十七篇文章的撰写（总计引用次数超过4000次）。2019年，他转行进入数据科学领域，专注于将自然语言处理应用于大型通信语料库中的行为分析。
03 书籍大纲