| Lecture 01:Transformers United——Attention、架构与模型家族 |
Fall 2021 课程 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 02:Generative Pretraining——从 GPT-3、iGPT 到 Codex |
Fall 2021 课程 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 03:Vision Transformers——通用视觉表示、规模化与归纳偏置 |
Fall 2021 课程 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 04:Decision Transformer——把离线强化学习重构为条件序列建模 |
CS25 V1 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 05:Switch Transformer——用稀疏路由扩展参数,而不是扩展每个 token 的计算 |
CS25 V1 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 06:Perceiver 与 Perceiver IO——用 latent bottleneck 统一高维输入与结构化输出 |
CS25 V1 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 07:从 Self-Attention 到 Non-Parametric Transformer——让模型在 datapoints 之间推理 |
CS25 V1 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 08:Transformer Circuits 与 Induction Heads——从行为相变到可验证的 in-context learning 机制 |
CS25 V1 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 09:Audio Transformers——从波形、离散代码到任务自适应听觉前端 |
CS25 V1 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 10:GLOM——固定神经网络如何表示动态 Part-Whole Hierarchy |
CS25 V2 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 11:Transformer 从 Attention 到通用序列计算 |
CS25 V2 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 12:语言模型与人类意图对齐 |
CS25 V2 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 13:大语言模型的涌现能力与 Scaling |
CS25 V2 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 14:Strategic Games、Inference-Time Search 与 Cicero |
CS25 V2 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 15:Robotics Foundation Model、RT-1 与具身规划 |
CS25 V2 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 16:Neurosymbolic Commonsense Reasoning |
CS25 V2 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 17:Biomedical Transformers |
CS25 V2 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 18:Neuroscience-Inspired Artificial Intelligence |
CS25 V2 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 19:Low-level Embodied Intelligence with Foundation Models |
CS25 V3 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 20:Generalist Agents in Open-Ended Worlds |
CS25 V3 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 21:How I Learned to Stop Worrying and Love the Transformer |
CS25 V3 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 22:Recipe for Training Helpful Chatbots |
CS25 V3 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 23:No Language Left Behind |
CS25 V3 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 24:Beyond LLMs |
CS25 V3 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 25:Retrieval Augmented Language Models |
CS25 V3 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 26:Overview of Transformers |
CS25 V4 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 27:从 Scaling Intuition 到 Transformer 架构演化 |
CS25 V4 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 28:Aligning Open Language Models |
CS25 V4 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 29:Demystifying Mixtral of Experts |
CS25 V4 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 30:Near-Shallow Transformers 与 Precision Language Models |
CS25 V4 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 31:从大语言模型到大多模态模型 |
CS25 V4 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 32:LLM 预训练幕后——StarCoder 数据、治理与评测 |
CS25 V4 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 33:从 Transformer 历史理解 AI 的主导力量 |
CS25 V4 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 34:Transformer 全景图——从数据到持续学习 |
CS25 V5 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 35:RL、产品与研究的协同设计 |
CS25 V5 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 36:AGI 的到来与可用 Agent 系统 |
CS25 V5 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 37:大语言模型推理——解码、训练、聚合与检索 |
CS25 V5 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 38:大语言模型的“生物学”——特征、回路、并行计算与规划 |
CS25 V5 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 39:用于药物发现的多模态世界模型 |
CS25 V5 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 40:扩散模型中的 Transformer——从 DiT 到 MMDiT 与高效生成 |
CS25 V5 · 2026 年 source-first 重写版 |
LaTeX |
| Lecture 41:视频生成中的 Transformer——Movie Gen 的表示、Flow Matching 与规模化系统 |
CS25 V5 · 2026 年 source-first 重写版 |
LaTeX |