AI 学习资料 · 进阶与原理
大型语言模型简介
导读
这是 Google 机器学习速成课程里讲大语言模型的三页：语言模型怎样根据前文预测下一个词，Transformer 和“注意力”是怎么回事，通用模型怎样经过微调、蒸馏和提示变成专用模型。篇幅短，需要一点机器学习常识，适合想知道大模型背后大致怎样运作、又不想啃教材的读者。Google 的中文是机器翻译，有几个关键例句译错了，本库已对照英文改正。
目录
出处与授权
| 作者 | Google（Google for Developers《机器学习速成课程》；页脚署名与许可声明出自 Google） |
|---|---|
| 原文地址 | https://developers.google.com/machine-learning/crash-course/llm?hl=zh-cn |
| 上游版本 | 2026-01-09 |
| 获取日期 | 2026-10-27 |
| 许可 | CC BY 4.0（正文）；代码示例 Apache-2.0；图片、视频不在许可内 · 许可条款 · 随附许可文本 · Apache-2.0.txt |
| 出处注明 | 本文改编自 Google 创作并分享的作品，依据知识共享署名 4.0 国际许可（CC BY 4.0，https://creativecommons.org/licenses/by/4.0/）使用。原文：Google for Developers《机器学习速成课程》大语言模型单元的三页——「大型语言模型简介」（https://developers.google.com/machine-learning/crash-course/llm?hl=zh-cn，最后更新 2026-01-09）、「LLM：什么是大语言模型？」（https://developers.google.com/machine-learning/crash-course/llm/transformers?hl=zh-cn，最后更新 2026-01-02）、「LLM：微调、蒸馏和提示工程」（https://developers.google.com/machine-learning/crash-course/llm/tuning?hl=zh-cn，中文版最后更新 2025-01-31，英文版 2025-12-03），本站 2026-10-27 获取。原中文为 Google 的 AI 翻译，API GET 已对照英文原文校订，删去图片、互动组件和测验，练习改写为文字问答（见“本库改动”）。API GET 与 Google 无关联，本文不表示 Google 认可本站。Portions of this page are modifications based on work created and shared by Google and used according to terms described in the Creative Commons 4.0 Attribution License. |
| 转载许可 | 三页中英两版的页脚都写明“如未另行说明，那么本页面中的内容已根据知识共享署名 4.0 许可获得了许可，并且代码示例已根据 Apache 2.0 许可获得了许可”，并指向 Google 开发者网站政策（https://developers.google.com/site-policies），已存于 raw/。CC BY 4.0 允许复制、分发和改编，包括商业用途，条件是署名、给出许可链接并注明改动。CC BY 4.0 不允许附加限制（第 2(a)(5)(B) 条）：本库不得对本条加任何禁止转载或防复制的条款或技术措施，读者可按 CC BY 4.0 再分享。站点政策不授权商标和品牌元素，也不授权未另行说明的图片、音频和视频：三幅示意图、页眉图 mlcc-hero.png和翻译图标都未取用，只写了文字说明；Google 等名称只作描述性使用，不暗示认可。未发现与页脚声明冲突的其他说明。 |
| 本库改动 | 取三页的正文（div.devsite-article-body），转成 Markdown，每页一章；删去全部图片（三幅示意图改为“图略”文字说明）、页内互动练习组件、帮助中心按钮、导航和页脚，未收录课后测验页；“点击图标了解更多”的折叠段落改成普通小节，各页练习改写成带答案与解析的文字问答。以 Google 的 AI 中文译文为底稿，逐段对照英文原文校订：改正 2 元语法和 3 元语法示例（原译把英文短语“you are very nice”拆成了“你是/非常/非常好”“您非常/非常不错”）、antidisestablishmentarianism 的子词切分（原译混入“反”“建立”）、概率表里被译成中文的英文 token 和句子（恢复英文并加中文释义）、示意图说明里被译成中文的英文输入句、练习中的“转换器”（应为 Transformer）、“零样本问题”（应为零样本提示），以及多处语序和用词；第三页“十亿个参数”按英文现行版改为“一百亿”；统一“自注意力”“蒸馏”等术语，token 保留英文、不译作“词元”（首次出现处注明“词元”）；第三页指向上一页的链接改为本库章节链接；O(N<sup>2</sup>) 改用上标字符 N²；加了三条编者注（体例说明、损失定义、drupe/pome 释义）。 |
未收录的内容
- 示意图 Iamagooddog.png、TransformerBasedTranslator.png、Theanimaldidntcrossthestreet.png：站点政策不授权未另行说明的图片；以“图略”文字说明代替
- 页眉图 mlcc-hero.png、翻译图标 translated.svg 及其他站点图标：图片与品牌元素不在许可内，也不是正文
- 课后测验页 llm/test-your-knowledge：fetch_spec 要求跳过，未抓取
- 英文版页面顶部 AI 生成的 Page Summary 面板：只出现在英文版，不属于中文底稿；只用英文版作校对依据
- 页内互动练习组件（devsite-multiple-choice）原样：互动组件无法在静态页使用；题目、选项和解析改写为文字问答保留
- 帮助中心按钮、上一页/下一页导航、站点导航、反馈组件、页脚、“AI 翻译可能包含错误”横幅：不是正文；AI 翻译这一事实已写进出处注明