跳转至

CS25

Transformers United (V1-V6)

共 41 份讲义,来源:Stanford Online。

讲义 日期 资源
Lecture 01:Transformers United——Attention、架构与模型家族 Fall 2021 课程 · 2026 年 source-first 重写版 LaTeX
Lecture 02:Generative Pretraining——从 GPT-3、iGPT 到 Codex Fall 2021 课程 · 2026 年 source-first 重写版 LaTeX
Lecture 03:Vision Transformers——通用视觉表示、规模化与归纳偏置 Fall 2021 课程 · 2026 年 source-first 重写版 LaTeX
Lecture 04:Decision Transformer——把离线强化学习重构为条件序列建模 CS25 V1 · 2026 年 source-first 重写版 LaTeX
Lecture 05:Switch Transformer——用稀疏路由扩展参数,而不是扩展每个 token 的计算 CS25 V1 · 2026 年 source-first 重写版 LaTeX
Lecture 06:Perceiver 与 Perceiver IO——用 latent bottleneck 统一高维输入与结构化输出 CS25 V1 · 2026 年 source-first 重写版 LaTeX
Lecture 07:从 Self-Attention 到 Non-Parametric Transformer——让模型在 datapoints 之间推理 CS25 V1 · 2026 年 source-first 重写版 LaTeX
Lecture 08:Transformer Circuits 与 Induction Heads——从行为相变到可验证的 in-context learning 机制 CS25 V1 · 2026 年 source-first 重写版 LaTeX
Lecture 09:Audio Transformers——从波形、离散代码到任务自适应听觉前端 CS25 V1 · 2026 年 source-first 重写版 LaTeX
Lecture 10:GLOM——固定神经网络如何表示动态 Part-Whole Hierarchy CS25 V2 · 2026 年 source-first 重写版 LaTeX
Lecture 11:Transformer 从 Attention 到通用序列计算 CS25 V2 · 2026 年 source-first 重写版 LaTeX
Lecture 12:语言模型与人类意图对齐 CS25 V2 · 2026 年 source-first 重写版 LaTeX
Lecture 13:大语言模型的涌现能力与 Scaling CS25 V2 · 2026 年 source-first 重写版 LaTeX
Lecture 14:Strategic Games、Inference-Time Search 与 Cicero CS25 V2 · 2026 年 source-first 重写版 LaTeX
Lecture 15:Robotics Foundation Model、RT-1 与具身规划 CS25 V2 · 2026 年 source-first 重写版 LaTeX
Lecture 16:Neurosymbolic Commonsense Reasoning CS25 V2 · 2026 年 source-first 重写版 LaTeX
Lecture 17:Biomedical Transformers CS25 V2 · 2026 年 source-first 重写版 LaTeX
Lecture 18:Neuroscience-Inspired Artificial Intelligence CS25 V2 · 2026 年 source-first 重写版 LaTeX
Lecture 19:Low-level Embodied Intelligence with Foundation Models CS25 V3 · 2026 年 source-first 重写版 LaTeX
Lecture 20:Generalist Agents in Open-Ended Worlds CS25 V3 · 2026 年 source-first 重写版 LaTeX
Lecture 21:How I Learned to Stop Worrying and Love the Transformer CS25 V3 · 2026 年 source-first 重写版 LaTeX
Lecture 22:Recipe for Training Helpful Chatbots CS25 V3 · 2026 年 source-first 重写版 LaTeX
Lecture 23:No Language Left Behind CS25 V3 · 2026 年 source-first 重写版 LaTeX
Lecture 24:Beyond LLMs CS25 V3 · 2026 年 source-first 重写版 LaTeX
Lecture 25:Retrieval Augmented Language Models CS25 V3 · 2026 年 source-first 重写版 LaTeX
Lecture 26:Overview of Transformers CS25 V4 · 2026 年 source-first 重写版 LaTeX
Lecture 27:从 Scaling Intuition 到 Transformer 架构演化 CS25 V4 · 2026 年 source-first 重写版 LaTeX
Lecture 28:Aligning Open Language Models CS25 V4 · 2026 年 source-first 重写版 LaTeX
Lecture 29:Demystifying Mixtral of Experts CS25 V4 · 2026 年 source-first 重写版 LaTeX
Lecture 30:Near-Shallow Transformers 与 Precision Language Models CS25 V4 · 2026 年 source-first 重写版 LaTeX
Lecture 31:从大语言模型到大多模态模型 CS25 V4 · 2026 年 source-first 重写版 LaTeX
Lecture 32:LLM 预训练幕后——StarCoder 数据、治理与评测 CS25 V4 · 2026 年 source-first 重写版 LaTeX
Lecture 33:从 Transformer 历史理解 AI 的主导力量 CS25 V4 · 2026 年 source-first 重写版 LaTeX
Lecture 34:Transformer 全景图——从数据到持续学习 CS25 V5 · 2026 年 source-first 重写版 LaTeX
Lecture 35:RL、产品与研究的协同设计 CS25 V5 · 2026 年 source-first 重写版 LaTeX
Lecture 36:AGI 的到来与可用 Agent 系统 CS25 V5 · 2026 年 source-first 重写版 LaTeX
Lecture 37:大语言模型推理——解码、训练、聚合与检索 CS25 V5 · 2026 年 source-first 重写版 LaTeX
Lecture 38:大语言模型的“生物学”——特征、回路、并行计算与规划 CS25 V5 · 2026 年 source-first 重写版 LaTeX
Lecture 39:用于药物发现的多模态世界模型 CS25 V5 · 2026 年 source-first 重写版 LaTeX
Lecture 40:扩散模型中的 Transformer——从 DiT 到 MMDiT 与高效生成 CS25 V5 · 2026 年 source-first 重写版 LaTeX
Lecture 41:视频生成中的 Transformer——Movie Gen 的表示、Flow Matching 与规模化系统 CS25 V5 · 2026 年 source-first 重写版 LaTeX