Lecture17

LaTeX 源码

\makecscover

来源审计与课程主线

这讲课横跨临床语言、蛋白质序列和基因调控，表面上像四篇论文的串讲，真正的主线却很统一：先把生物医学对象写成序列，再让 Transformer 的表示、注意力与生成能力适配每个领域的约束。 因此，本讲不能只摘录 Med-PaLM 的结果，也不能把后半段压缩成“Transformer 还能用于生物学”。我们需要追问每个案例的输入是什么、监督信号是什么、长上下文或噪声在哪里、模型输出怎样被验证，以及实验结果不能推出什么。

本讲如何重建

课程官网给出录像和三项推荐工作，但没有公开独立 slide deck。本讲以 Stanford Online 的全高清官方录像为视觉母版：画面尺寸为 1920 像素乘 1080 像素；每两秒采样得到 2,045 帧，稳定性与差异过滤留下 103 个高召回候选，人工逐张比较后保留 84 个独立教学状态。所有图像都从全宽原视频重新提取，没有裁掉右侧内容；官方 en-US 人工字幕则用于恢复讲者的动机、限制、课堂问答和过渡。

证据层	本地材料	在讲义中的职责
官方录像	1:08:09 视频与 84 张教学画面	决定课堂顺序、表格、公式、结果图和讲者实际展示的证据
官方人工字幕	lecture17.en.srt 与 timed transcript	恢复“为什么”、图表纠错、风险解释、工程影响和未来判断
指定论文	Med-PaLM、ProtNLM、Enformer	核对任务定义、模型机制、实验对象与结论边界
背景论文	Performer、DeepConsensus、PaLM、Flan-PaLM	补齐课堂压缩展示的公式与系统上下文
审计文件	manifest、coverage、ledger、blueprint	证明每个视觉节点与 teacher voice 节点都有明确去向

历史边界：2023 年 2 月 21 日

本讲重建课堂当日的知识状态。后来的 Med-PaLM 2、Gemini 系列、生物医学多模态模型、监管事件与更新 benchmark 都不倒灌为课堂证据。讲者最后提出的是 foundation biomedical AI 的研究愿景，不是一个已经统一临床、蛋白质和基因组任务的成品系统。

三段旅程：临床、蛋白质、基因组

标题页只给出主题，agenda 页却揭示了课程设计：先从第一性原理回答“为什么是 Transformer”，再依次进入 clinical、proteins、genomics，最后讨论未来。读这两页时要注意，领域顺序大致沿着抽象层次下沉：从医生和患者使用的自然语言，走向氨基酸序列，再走向核苷酸与调控信号；但每向下一层，模型输出都必须重新定义，不能沿用聊天机器人的评价标准。

\lecturefigure{slide-01-title-transformers-biomedicine.jpg}{Biomedical Transformers：课程标题与讲者}{官方录像恢复幻灯片 V001；Stanford CS25 Lecture 17}

\lecturefigure{slide-02-agenda.jpg}{课程路线：临床应用、蛋白质、基因组与未来}{官方录像恢复幻灯片 V002；Stanford CS25 Lecture 17}

\teachervoice{讲者开场说自己的目标是“peel back the curtains”，让学生看到 AI 与 biomedicine 交叉处正在发生的创新。他并不打算证明某一个模型统治所有任务，而是选择跨越 biomedical stack 的案例，让共同机制与领域差异同时显现。}

贯穿全课的五个问题

对每个案例都应依次回答：输入序列如何构造？上下文为什么难？监督信号来自哪里？输出如何被人或实验验证？结果支持的是 benchmark 改进、科学发现、临床辅助，还是实际部署？如果这五层混在一起，模型分数很容易被误写成医学能力。

本章小结

本讲的证据链由官方录像、人工字幕与五组主要论文构成。课堂结构不是“医疗聊天机器人合集”，而是比较 Transformer 如何处理不同生物医学序列、如何改变复杂度、如何定义输出，以及如何把模型结果接回临床或实验验证。

为什么 Transformer 适合生物医学数据

前一章确定了课程地图，本章从表示层回答共同问题。Transformer 最直接的优势并不是“懂医学”，而是能够在长序列中建立上下文依赖，并用相近的计算骨架接收离散 token、事件、氨基酸或核苷酸。这个统一视角很强，但只有在同时保留各领域语义时才成立。

四类序列不是同一种语言

讲者先请现场学生回答为什么 Transformer 适合 biomedicine，然后把回答落到四个具体对象。clinical note 是医生书写的文本序列；electronic medical record（EMR，电子病历）可以看作患者与医疗系统交互形成的事件序列；protein 是通过肽键连接的氨基酸序列；genome 则是核苷酸碱基序列。它们都存在顺序，却拥有完全不同的“词表”、时间尺度和错误来源。

\lecturefigure{slide-03-why-transformers-biomedicine.jpg}{第一性原理问题：为什么 Transformer 适合生物医学？}{官方录像恢复幻灯片 V003；Stanford CS25 Lecture 17}

\lecturefigure{slide-04-clinical-notes-sequences.jpg}{临床笔记：医生语言形成的文本序列}{官方录像恢复幻灯片 V004；Stanford CS25 Lecture 17}

读图：先区分“序列单位”

临床笔记中的位置通常表示文本顺序，但事件记录中的位置可能代表时间、就诊或检查；蛋白质中的位置对应 amino acid residue，基因组中的位置对应 nucleotide。共同点是上下文会改变当前位置的意义，差异则是模型必须使用领域适配的 tokenization、位置编码、目标函数和校验方式。

电子病历页强调“encounters with the medical system”：患者的诊断、处方、化验和就诊并不只是自然语言段落，而是带有时间、不规则间隔和缺失值的事件流。蛋白质页进一步下沉到分子层级，氨基酸的线性排列会折叠为三维结构，并影响结合位点与功能；因此，序列建模可以提供表示，却不能绕开结构与实验。

\lecturefigure{slide-05-electronic-medical-records.jpg}{电子病历：患者与医疗系统交互的事件序列}{官方录像恢复幻灯片 V005；Stanford CS25 Lecture 17}

\lecturefigure{slide-06-protein-sequences.jpg}{蛋白质：由氨基酸连接形成的生物序列}{官方录像恢复幻灯片 V006；Stanford CS25 Lecture 17}

\teachervoice{讲者把 clinical notes 戏称为“doctor gibberish”，随即改口为 doctor speak。这个玩笑包含真实设计问题：模型也许能生成医学术语，但患者能否理解、医生能否快速核查，是后面 human evaluation 必须单独测量的维度。}

基因组与“序列无处不在”

基因组页展示核苷酸碱基对，随后把临床文本、影像、蛋白质和 DNA 放进同一张总览图。这里的 multimodal（多模态）不是把所有数据强行转成一句话，而是让不同模态保留各自编码，再通过共同表示或跨模态注意力建立联系。比如影像不是天然的一维序列，但可以被切成 patch token；基因表达轨迹也不是语言，却可以作为每个位置的预测目标。

\lecturefigure{slide-07-genome-sequences.jpg}{基因组：核苷酸碱基对构成的长序列}{官方录像恢复幻灯片 V007；Stanford CS25 Lecture 17}

\lecturefigure{slide-08-biomedical-sequences-everywhere.jpg}{生物医学中的序列与模态无处不在}{官方录像恢复幻灯片 V008；Stanford CS25 Lecture 17}

术语	序列单位	主要上下文	不能忽略的领域约束
clinical note	subword / word	病史与当前问题	缩写、否定、时间、隐私、临床共识
EMR event	就诊/诊断/药物/化验	患者纵向轨迹	不规则时间、缺失、编码体系与选择偏差
protein sequence	amino acid	局部 motif 与远程残基关系	三维折叠、进化保守性、实验功能
genome sequence	nucleotide	调控元件与长程作用	非编码区、细胞类型、染色质环境与测量噪声
multimodal input	text/image/signal token	模态内与跨模态关系	对齐、采样偏差、不同误差尺度

这张术语表还隐含一个重要的数据工程结论：所谓“规模化预训练”在四类数据上并不是同一件事。临床文本的规模受隐私、机构书写习惯和去标识化约束；EMR 事件常因保险、就诊可及性与编码制度产生选择偏差；蛋白质数据库大量序列来自相近物种，随机切分可能让训练集和测试集共享近亲；基因组 track 则集中在少数细胞系与实验协议。若只报告 token 数而不报告来源、去重、家族或个体切分，模型可能通过相似样本记忆获得乐观结果。因此，序列表示之后的第一项工程工作应是定义独立性：患者级、时间级、蛋白质家族级或染色体级切分分别阻断什么泄漏。

共同计算骨架与适用边界

总览页把优势压缩成三个词：sequence modeling、long-range dependencies、scaling。标准 self-attention 对长度为 \(n\) 的序列构造两两相似度，因此能直接连接远距离位置；预训练又允许模型利用大量未标注或弱标注数据。但计算和统计优势并不自动带来临床安全、蛋白质功能真实性或变异因果性，后续四个案例正是在补这些缺口。

\lecturefigure{slide-09-transformer-biomedical-fit.jpg}{Transformer 与生物医学数据的匹配点}{官方录像恢复幻灯片 V009；Stanford CS25 Lecture 17}

统一表示，不等于统一证据

Transformer 提供的是统一的计算语言：token 表示、上下文交互与可扩展训练。医学结论仍需要领域证据闭环：临床答案由医生与患者评价，蛋白质描述要回到数据库和实验，测序纠错要看 read-level accuracy，调控预测要与真实 genomic tracks 和 variant assays 对照。

“任何东西都是序列”的误区

只要把对象排成一列，并不意味着模型学到了正确不变量。EMR 的时间间隔、蛋白质的三维邻近、DNA 的细胞类型依赖都可能被一维顺序隐藏。序列化是建模入口，不是领域结构的替代品。

本章小结

临床文本、医疗事件、蛋白质和基因组共享顺序与上下文依赖，但 token 语义、长度、噪声和验证方式完全不同。Transformer 的价值在于提供可迁移的计算骨架；高质量生物医学系统则必须为每种数据补回领域结构与独立证据。

临床问题：从医学知识到 MultiMedQA

有了序列视角，课程首先进入最接近语言模型原始形态的临床文本。问题并不是“模型能否背出医学事实”，而是能否在开放问题中组织科学共识、覆盖必要信息、避免危险遗漏，并把答案写成医生与普通用户都能使用的形式。

为什么临床知识评估困难

临床章节的分隔页之后，讲者引出 Large Language Models Encode Clinical Knowledge。动机页展示医学知识的规模和复杂性：疾病、症状、检查、治疗与个体背景相互依赖，而且专业知识持续更新。单个 multiple-choice 分数可以测局部选择能力，却无法告诉我们一段长答案是否准确、是否遗漏关键危险信号、是否对患者真正有帮助。

\lecturefigure{slide-10-section-clinical.jpg}{章节切换：临床应用}{官方录像恢复幻灯片 V010；Stanford CS25 Lecture 17}

\lecturefigure{slide-11-clinical-knowledge-paper.jpg}{指定工作：Large Language Models Encode Clinical Knowledge}{官方录像恢复幻灯片 V011；Stanford CS25 Lecture 17}

\lecturefigure{slide-12-clinical-motivation.jpg}{临床动机：医学知识规模大、关系复杂且高风险}{官方录像恢复幻灯片 V012；Stanford CS25 Lecture 17}

背景概念：医学问答的三层难度

第一层是事实召回，例如某药物的作用；第二层是把多条事实组合到病例上下文中；第三层是沟通与风险管理，包括识别缺失信息、表达不确定性和建议就医。选择题主要覆盖前两层的一部分，长答案才暴露第三层，但长答案也更难自动评分。

从专用模型到大型通用模型

时间线页回顾 biomedical language model 的演进：早期方法通常在 PubMed 或临床文本上训练专用模型，随后大规模通用语言模型开始以 few-shot 或 instruction-following 的方式进入医学 benchmark。下一页用“What's missing?”提醒读者：规模和流畅性尚未回答医学可信度、长答案评价与使用者差异。

\lecturefigure{slide-13-biomedical-llm-timeline.jpg}{生物医学语言模型的发展时间线}{官方录像恢复幻灯片 V013；Stanford CS25 Lecture 17}

\lecturefigure{slide-14-clinical-whats-missing.jpg}{已有医学语言模型还缺少什么？}{官方录像恢复幻灯片 V014；Stanford CS25 Lecture 17}

读图时应先比较训练范式，而不是只比较参数量：domain-specific pretraining 用专业语料改变表示；few-shot prompting 主要改变上下文；instruction tuning 用任务集合训练模型遵循指令；Med-PaLM 的 instruction prompt tuning 则进一步学习医学任务所需的软提示。它们分别干预语料、参数或提示，不能统称为“医学微调”。

大模型会答题，不等于会行医

benchmark 题目通常已经给出封闭问题和候选答案，真实临床却需要主动收集信息、处理冲突证据并承担后果。课堂只讨论知识问答与文本辅助的研究证据，没有证明模型能够独立诊断、开药或代替医生。

MultiMedQA：把分散基准放进同一框架

Medical question answering 页先把任务分成专业考试、医学研究问答与消费者健康问题。MultiMedQA 随后汇集 MedQA、MedMCQA、PubMedQA、MMLU clinical topics 等多项数据，并加入 HealthSearchQA 一类真实消费者问题。这样做的价值不是制造一个万能总分，而是让模型同时面对封闭选择与开放长答案。

\lecturefigure{slide-15-medical-question-answering.jpg}{医学问答：从考试题到真实用户问题}{官方录像恢复幻灯片 V015；Stanford CS25 Lecture 17}

\lecturefigure{slide-16-multimedqa-benchmark.jpg}{MultiMedQA：多数据集医学问答基准}{官方录像恢复幻灯片 V016；Stanford CS25 Lecture 17}

\lecturefigure{slide-17-multimedqa-examples.jpg}{MultiMedQA 中不同来源的问题示例}{官方录像恢复幻灯片 V017；Stanford CS25 Lecture 17}

\lecturefigure{slide-18-multimedqa-summary.jpg}{MultiMedQA 的任务范围与评价层次}{官方录像恢复幻灯片 V018；Stanford CS25 Lecture 17}

读图：不要把不同数据集直接平均成“医学能力”

MedQA 近似美国执照考试风格，MedMCQA 覆盖多学科医学选择题，PubMedQA 更接近文献证据判断，MMLU clinical topics 是通用评测中的医学子集，消费者问题则没有天然候选项。它们测量的知识来源、答案形式与评分可靠性不同；总览应被当作 coverage map，而不是单一潜变量的精确测量。

从数据设计角度看，MultiMedQA 同时制造了一个机会和一个张力。机会是同一个基础模型可以在统一 prompting 接口下接受多种问题，研究者因而能观察能力是否跨数据集迁移；张力是不同数据集的 label semantics 并不一致：PubMedQA 的“yes/no/maybe”依赖给定文献语境，MedQA 的最佳选项依赖考试规范，消费者问题往往需要澄清信息而不是立即作答。若训练时把所有答案都当作同质 token loss，模型可能学会形式而不是决策条件。更稳妥的系统会保留 dataset identity、answer type、evidence requirement 和 abstention policy，并分别报告每个子任务，而非用一个宏平均数掩盖失败集中在哪类用户问题上。

\teachervoice{讲者强调，医学是 knowledge intensive 的领域，但“模型知道答案”还不够。真正缺失的是让专家与普通用户都能评价的长答案框架，因为医生关注科学共识、遗漏与伤害，患者还关心是否读得懂、是否回应了自己的意图。}

本章小结

MultiMedQA 的贡献首先是扩大问题类型和使用者范围。它把医学选择题、研究问答与消费者长问题放到同一研究框架中，同时暴露一个关键事实：越接近真实沟通，越不能只依赖 exact match 或多项选择准确率。

长答案怎样评估：专家与普通用户的双重视角

前一章说明了为什么需要开放问答，本章解决更难的问题：一段没有唯一标准答案的医学文本，究竟怎样判断好坏？课程把 evaluation 拆成多个轴，并让 clinicians 与 laypeople 分别评价自己最有能力判断的部分。

评价框架不是一个总分

Evaluation framework 页是后续所有结果图的阅读钥匙。专家评价关注与 scientific consensus 的一致性、是否展示正确或错误的 comprehension、retrieval 与 reasoning、是否有 missing content、潜在 harm 与 bias；普通用户评价则更关注答案是否回应问题意图、是否 helpful。每个轴都对应不同失败模式，因此不能用一个平均分掩盖危险短板。

\lecturefigure{slide-19-evaluation-framework.jpg}{长答案的人类评价框架}{官方录像恢复幻灯片 V019；Stanford CS25 Lecture 17}

\lecturefigure{slide-20-clinician-evaluation-rubric.jpg}{临床专家评价维度}{官方录像恢复幻灯片 V020；Stanford CS25 Lecture 17}

\lecturefigure{slide-21-layperson-evaluation-rubric.jpg}{普通用户评价维度}{官方录像恢复幻灯片 V021；Stanford CS25 Lecture 17}

评价轴	主要问题	典型失败
scientific consensus	回答是否符合当时可靠医学知识？	给出与共识冲突或证据不足的断言
comprehension / retrieval / reasoning	是否理解问题、取回相关知识并正确组合？	同一回答同时包含正确与错误推断
incorrect or missing content	是否加入无关错误，或漏掉关键内容？	详细但跑题；忽略必须就医的危险信号
extent / likelihood of harm	错误可能造成多严重、多可能的伤害？	低估病情、误导延迟治疗、错误自我处置
bias	是否出现不当人口统计或社会偏见？	无证据地把群体属性与诊断或价值判断绑定
intent / helpfulness	是否回应提问者真正关心的问题？	技术上正确但无法理解、无法行动

医学评价的向量视角

把每个回答记为评价向量 \(\mathbf{e}=(c,r,m,h,b,u)\)，分别表示共识、推理、缺失、伤害、偏见与效用。系统改进不是让一个总分上升，而是寻找不能接受的坐标：例如 helpfulness 提升但 harm 也上升，就不能称为净改进。

这种向量评价还改变了模型迭代方式。假设新 prompt 让 scientific consensus 上升，却让 missing content 与 verbosity 同时增加，团队就需要检查新增段落，而不是宣布版本整体更好；如果 layperson helpfulness 上升但 clinician harm 评价恶化，则面向患者的可读性优化越过了安全边界。实际审计可以把每次模型变更写成“哪个维度改善、哪个维度退化、退化是否可接受、由谁签字”的 change log。这样，human evaluation 不再只是论文末尾的展示，而成为发布门禁。课堂的 rubric 因此也提供了一套通用工程模板：先把失败模式拆开，再给每个维度找到合格评审者和升级路径。

从通用语言模型到医学域对齐

对齐页提出下一步：基础模型已经拥有广泛语言和知识能力，如何让它适应医学问题的格式与评价标准？这里的“domain alignment”不只是追加专业语料，而是让模型学会在医学指令下选择相关知识、组织长答案，并尽可能满足上述多维 rubric。

\lecturefigure{slide-22-aligning-medical-domain.jpg}{将大型语言模型对齐到医学领域}{官方录像恢复幻灯片 V022；Stanford CS25 Lecture 17}

\teachervoice{讲者在问答中明确承认 human evaluation set 仍然很小，约一百四十道长问题。昂贵的专家标注既是研究限制，也是值得建设的公共资源；因此，后面图表应被理解为有价值但初步的人类证据，而不是覆盖全部临床情境的统计保证。}

评审者身份决定可回答的问题

患者可以判断是否易懂和有帮助，却不一定能判断细节是否符合临床共识；医生能判断医学内容，却未必代表所有患者的沟通需求。双重评价不是互相替代，而是把不同 epistemic role 放到正确位置。

本章小结

长答案评价必须拆成多个风险与效用维度，并区分医生和普通用户的判断职责。这个框架为后续 Med-PaLM 结果提供了坐标系，也说明临床模型研究的瓶颈不仅是训练数据，还包括高质量、可复核的人类评价数据。

PaLM、Flan-PaLM 与 Med-PaLM

评价框架就位后，课程开始比较三层模型：PaLM 提供大规模基础能力，Flan-PaLM 通过多任务 instruction tuning 改善指令遵循，Med-PaLM 再用医学 exemplar 与 instruction prompt tuning 做领域对齐。每一步改变的对象不同，理解这条链比记住一个排行榜数字更重要。

规模与 instruction tuning 的分工

PaLM 页展示 Pathways Language Model 的规模与架构背景；结果页说明扩大模型在多种任务上带来明显增益。Flan-PaLM 页则强调 instruction fine-tuning：模型在大量用自然语言描述的任务上训练，学习“读懂任务并按要求作答”，而不只是继续预测下一 token。

\lecturefigure{slide-23-palm-architecture-scale.jpg}{PaLM：大规模基础语言模型}{官方录像恢复幻灯片 V023；Stanford CS25 Lecture 17}

\lecturefigure{slide-24-palm-benchmark-results.jpg}{PaLM 在通用 benchmark 上的规模收益}{官方录像恢复幻灯片 V024；Stanford CS25 Lecture 17}

\lecturefigure{slide-25-flan-palm.jpg}{Flan-PaLM：通过 instruction tuning 学习任务遵循}{官方录像恢复幻灯片 V025；Stanford CS25 Lecture 17}

术语消化：三种“调优”

\term{continued pretraining} 继续优化模型参数以吸收领域语料；\term{instruction tuning} 用许多显式任务与示例更新模型参数，使其遵循自然语言指令；\term{instruction prompt tuning} 冻结大模型，只学习一小段连续 soft prompt，并配合医学 exemplar 引导模型。三者的成本、可控性和证据都不同。

医学选择题结果与 Scaling 曲线

三张 benchmark 页分别覆盖 MedQA、MedMCQA/PubMedQA 与 MMLU clinical topics。应先看相对趋势：更大的 Flan-PaLM 显著超过早期专用基线，表明通用模型的规模与 instruction tuning 能迁移到医学选择题；再看限制：题目通常封闭、答案短，而且准确率不检查模型给出的解释是否安全。

\lecturefigure{slide-26-medqa-sota.jpg}{MedQA（USMLE 风格）上的 state-of-the-art 结果}{官方录像恢复幻灯片 V026；Stanford CS25 Lecture 17}

\lecturefigure{slide-27-medmcqa-pubmedqa-results.jpg}{MedMCQA 与 PubMedQA 结果比较}{官方录像恢复幻灯片 V027；Stanford CS25 Lecture 17}

\lecturefigure{slide-28-mmlu-clinical-results.jpg}{MMLU 临床主题上的模型结果}{官方录像恢复幻灯片 V028；Stanford CS25 Lecture 17}

Scaling plots 页把多个模型规模画在横轴上，纵轴是不同医学任务的准确率。主要趋势是规模增大时性能上升，但不同任务的斜率和饱和点不同；这说明 scale 是强变量，却不是唯一变量。若两个模型拥有不同 instruction-tuning 数据，曲线差异也不能全部归因于参数量。

\lecturefigure{slide-29-scaling-plots.jpg}{医学问答中的 Scaling 趋势}{官方录像恢复幻灯片 V029；Stanford CS25 Lecture 17}

比较 scaling 曲线时还要控制训练与推理预算。更大的模型可能看过更多 token、使用更强 instruction mixture，也可能在 few-shot prompt 中获得更多示例；如果这些条件不同，横轴“参数量”并不是唯一变化。医疗场景还会增加延迟、成本与隐私约束：一个云端超大模型在 benchmark 上多几个百分点，未必胜过可在医院受控环境运行、能够引用院内指南并稳定拒答的小模型。课堂提出“还需要 clinical LM 吗”正是提醒我们，Pareto frontier 至少包含准确率、长答案风险、推理成本、数据治理和可更新性，而非单一排行榜。

读图时不能推出什么

一条向上的 scaling curve 不能证明模型形成了可靠临床推理，也不能证明继续增大参数必然消除伤害与偏见。它只说明在当前数据、提示和评分规则下，规模与任务准确率相关；长答案证据必须另行测量。

Selective prediction：允许模型拒答

Selective prediction（选择性预测）让模型只回答高置信度样本。设样本集合为 \(D\)，模型给出答案 \(\hat y_i\) 与置信分数 \(s_i\)，阈值为 \(\tau\)。覆盖率与条件准确率分别为 $$ \operatorname{coverage}(\tau)=\frac{1}{|D|}\sum_{i\in D}\mathbf{1}[s_i\ge\tau], \qquad \operatorname{acc}(\tau)= \frac{\sum_i\mathbf{1}[s_i\ge\tau]\mathbf{1}[\hat y_i=y_i]} {\sum_i\mathbf{1}[s_i\ge\tau]}. $$ 其中 \(D\) 表示评测样本，\(s_i\) 表示第 \(i\) 个回答的置信度，\(\tau\) 表示拒答阈值，\(\mathbf{1}[\cdot]\) 是指示函数，\(y_i\) 是正确答案。提高 \(\tau\) 通常降低 coverage、提高保留下来的准确率，但前提是置信度与真实错误相关。

\lecturefigure{slide-30-selective-prediction.jpg}{Selective prediction：覆盖率与准确率的权衡}{官方录像恢复幻灯片 V030；Stanford CS25 Lecture 17}

选择性预测的阈值化流程（示意）

def selective_answer(question, threshold):
    answer, confidence = model.generate_with_confidence(question)
    if confidence < threshold:
        return "ABSTAIN"
    return answer

拒答能力的前提

abstention 只有在置信度校准有效、拒答能够交给更可靠的人或系统、且低覆盖率可被业务接受时才有价值。医学系统还必须检查“模型最自信的错误”，因为错误校准会把风险样本保留下来。

选择性预测还需要定义拒答后的动作。如果低置信度答案只是返回空白，用户可能转向更不可靠的信息源；如果系统自动升级给 clinician，就要测量升级队列、响应时间和工作负担。阈值也不能只在静态 benchmark 上选择，因为真实问题分布会漂移，新的药物、指南和罕见病例可能系统性地产生过度自信。一个完整监控回路应记录 coverage、错误率、校准误差、拒答原因和人工接管结果，并按科室或人群分层检查。这样才能知道“少答一些”是否真的把风险转移给更可靠的流程，而不是把困难用户排除在服务之外。

为什么仍需要医学域对齐

Human evaluation limitations 页承认开放答案难以规模化评估；下一页则回答为何不能停在 Flan-PaLM：通用模型虽然选择题很强，长答案仍可能偏离医学共识、遗漏关键信息或不适合患者阅读。医学数据与专家 rubric 不是为了重新训练全部世界知识，而是为了改变回答行为。

\lecturefigure{slide-31-human-eval-limitations.jpg}{人类长答案评价的规模与成本限制}{官方录像恢复幻灯片 V031；Stanford CS25 Lecture 17}

\lecturefigure{slide-32-need-domain-data.jpg}{为什么仍需要医学领域数据与对齐信号}{官方录像恢复幻灯片 V032；Stanford CS25 Lecture 17}

Instruction prompt tuning 与 Med-PaLM 流程

Prompt tuning 页显示：大模型参数保持冻结，训练的是一组连续 prompt vectors；医学 exemplar 则为任务提供格式与语义示范。将二者放在一起，得到 Med-PaLM 的对齐流程。它不是课堂旧稿所写的 RLHF，也没有在课上引入双语 fairness prompt 或每周 clinician review 回灌；可信重建应只保留幻灯片和论文支持的步骤。

\lecturefigure{slide-33-prompt-tuning.jpg}{Instruction prompt tuning：冻结模型并学习软提示}{官方录像恢复幻灯片 V033；Stanford CS25 Lecture 17}

\lecturefigure{slide-34-medpalm-pipeline.jpg}{将医学 exemplar 与 prompt tuning 组合为 Med-PaLM}{官方录像恢复幻灯片 V034；Stanford CS25 Lecture 17}

设冻结语言模型为 \(f_{\theta}\)，可学习软提示为 \(P\in\mathbb{R}^{m\times d}\)，输入 token embedding 为 \(X\)，目标答案为 \(Y\)。训练目标可写为 $$ P^{*}=\arg\min_{P}\; -\sum_{t=1}^{|Y|}\log p_{\theta}(Y_t\mid P,X,Y_{<t}). $$ 其中 \(\theta\) 是冻结参数，\(m\) 是软提示长度，\(d\) 是 embedding 维度，\(Y_t\) 是第 \(t\) 个目标 token。更新量集中在 \(P\)，因此参数效率高；但软提示学到什么仍取决于 exemplar、训练任务与评价标准。

\teachervoice{讲者把这一段称为“putting it all together”：基础模型提供广泛知识，instruction tuning 提供任务遵循，医学 prompt tuning 与 exemplar 提供领域行为。课堂没有把任何一步说成安全保证，后面仍要逐轴与 clinician answer 对比。}

不要把 soft prompt 写成可读的系统提示

连续 prompt vectors 是模型 embedding 空间里的可学习参数，不一定对应人类可读的词。它与在聊天框中追加“请谨慎回答”的离散提示不同，也不自动提供可解释的医学规则。

从可复现性看，这条 pipeline 至少需要记录四类配置：基础模型 checkpoint、instruction-tuning 版本、医学 exemplar 集合和 soft-prompt 参数。只发布最后一个模型名，无法判断改进来自规模、任务混合还是示例选择。尤其在医学问答中，few-shot exemplar 可能泄漏答案格式或隐含标签分布；因此应在独立问题集上重新选择阈值，并报告 prompt sensitivity。参数高效并不等于评价简单：虽然只更新少量向量，模型行为仍可能在不同措辞、问题长度和用户背景下明显变化。讲义把这些组件拆开，是为了让读者能够定位失败，而不是把所有行为归因于“Med-PaLM”这个单一标签。

本章小结

PaLM、Flan-PaLM 与 Med-PaLM 分别贡献基础规模、通用指令遵循和医学域行为。选择题与 scaling 结果证明大模型具有强迁移能力，selective prediction 提供拒答机制，而 instruction prompt tuning 以较少可训练参数完成领域对齐；这些机制仍必须通过长答案的人类评价检验。

Med-PaLM 的多维人类评价

模型链条搭好后，课程回到最重要的证据问题：Med-PaLM 是否只是在选择题上更强，还是在真实长答案的科学性、风险与可用性上也缩小了与医生的差距？接下来的九张结果页不能只看颜色高低，而要逐轴阅读。

科学共识与推理证据

Scientific consensus 页比较 Flan-PaLM、Med-PaLM 和 clinician answers。总体趋势是 Med-PaLM 明显改善并接近专家，但仍有差距。下一页把 comprehension、knowledge retrieval 与 reasoning 拆开；课堂问答特别指出，正确证据与错误证据不是 \(1-x\) 的互补关系，一段回答可以同时包含正确事实与错误推论。

\lecturefigure{slide-35-clinical-consensus.jpg}{与科学和临床共识的一致性}{官方录像恢复幻灯片 V035；Stanford CS25 Lecture 17}

\lecturefigure{slide-36-comprehension-retrieval-reasoning.jpg}{理解、医学知识检索与推理证据}{官方录像恢复幻灯片 V036；Stanford CS25 Lecture 17}

\teachervoice{现场学生问两组 comprehension 指标是否互为补数，讲者明确回答“不”。正确理解和错误理解可以同时出现，例如回答先正确识别疾病，又在治疗建议上加入不相关推断。这是阅读复杂 human-evaluation 图时非常重要的纠错。}

读图：为什么指标可以同时为真

长答案由许多 proposition 组成。设其中一部分正确、一部分错误，则“存在正确理解证据”和“存在错误理解证据”都可为真。用一个 accuracy 把整段文字压成对错，会丢失这种混合状态；逐轴评价的价值就在于暴露局部失败。

更长的回答也可能制造更多错误

Incorrect or missing content 页揭示对齐的副作用：Med-PaLM 被引导生成更完整、更详细的答案，但增加的内容也扩大了出现无关或错误陈述的机会。讲者解释，某些轴上 Flan-PaLM 看似略好，并不意味着它整体更安全，可能只是因为它说得更少。评价必须同时看 completeness 与 precision。

\lecturefigure{slide-37-incorrect-missing-context.jpg}{错误内容与缺失内容的双重风险}{官方录像恢复幻灯片 V037；Stanford CS25 Lecture 17}

临床生成中的长度悖论

短答案可能遗漏关键警告，长答案可能引入额外幻觉。目标不是最大化字数，而是在覆盖必要决策信息的同时控制未经支持的 proposition。工程上应把“回答长度”视作风险变量，而不是天然的质量信号。

伤害与偏见：错误的后果并不等价

Harm 页同时考虑可能性与严重程度。课堂问答给出具体解释：严重伤害不只来自推荐危险治疗，也可能来自 misdiagnosis、漏掉危及生命的病情，或没有传达疾病严重性。Bias 页则检查回答是否引入不当人口统计偏见。两者都需要领域专家结合上下文判断，不能用关键词黑名单代替。

\lecturefigure{slide-38-extent-likelihood-harm.jpg}{潜在伤害的程度与发生可能性}{官方录像恢复幻灯片 V038；Stanford CS25 Lecture 17}

\lecturefigure{slide-39-potential-bias.jpg}{回答中潜在偏见的评价}{官方录像恢复幻灯片 V039；Stanford CS25 Lecture 17}

伤害不是“答案里有没有危险词”

模型即使没有直接给出危险建议，也可能因漏诊、低估严重程度或错误安慰而造成延迟治疗。相反，提到癌症或死亡并不自动构成伤害；关键是内容是否与问题和证据匹配，以及它可能怎样改变用户行为。

\teachervoice{讲者把严重 harm 的例子具体化为未识别 cancer 等致命病理，或没有适当传达严重程度。他还指出这一主题很细致，论文借助 AHRQ 风险框架；课堂图只是高层概览，不应被讲义改写成完整临床安全规范。}

普通用户看到的是 helpfulness 与可理解性

Layperson 结果页关注意图与帮助程度。课堂给出的近似趋势是：Flan-PaLM 回答约六成被认为 helpful，Med-PaLM 提升到约八成，而 clinician answers 接近九成。重要的不是把这些比例当作部署阈值，而是看到医学对齐能缩小沟通差距，却没有达到医生水平。

\lecturefigure{slide-40-helpfulness-utility.jpg}{普通用户评价：意图覆盖、帮助程度与效用}{官方录像恢复幻灯片 V040；Stanford CS25 Lecture 17}

\lecturefigure{slide-41-clinical-qualitative-example.jpg}{定性案例：医生、Flan-PaLM 与 Med-PaLM 的回答差异}{官方录像恢复幻灯片 V041；Stanford CS25 Lecture 17}

定性示例页应该从信息组织方式读取：医生答案往往精确、简短，但专业术语可能让患者难以理解；模型可以展开解释、补充背景，却也可能因为展开而增加错误。两者的互补点是语言转换与信息整理，而不是让模型在无人监督下替代医学判断。

读图：比较答案时先看四件事

先看是否直接回答用户意图，再看关键医学事实是否齐全，然后检查新增细节是否有证据，最后判断是否明确给出需要专业就医的边界。流畅度只能放在这四项之后；否则最会写作的回答可能被误判为最安全的回答。

定性案例也说明自动 metric 的盲区。两段答案可能共享大量词汇，却在一个关键否定词、剂量或就医建议上产生完全不同后果；反过来，医生用一句专业缩写给出正确结论，语言相似度可能很低。适合的评测应先把答案分解为临床 proposition，检查每条是否由问题和共识支持，再评价组织、语气和可行动性。若系统用于把医生笔记改写给患者，还应要求保留原始文本链接和人工确认入口，使“易懂版本”不能悄悄改写医学事实。这样，语言模型的优势被用于解释和转换，而权威来源仍可追溯。

临床语言模型还需要吗？

倒数第二页提出一个开放问题：当通用大模型已经很强，是否还需要临床专用语言模型（clinical LM）？课堂没有给出简单否定。小型领域模型可能在成本、隐私、本地部署或特定数据分布上有价值；大型通用模型则利用更广知识和 scaling。真正问题是在哪些数据、任务和约束下，领域预训练的边际收益超过更大通用模型。

\lecturefigure{slide-42-clinical-lm-question.jpg}{开放问题：是否仍需要专门的临床语言模型？}{官方录像恢复幻灯片 V042；Stanford CS25 Lecture 17}

\lecturefigure{slide-43-clinical-key-takeaways.jpg}{临床章节的关键结论与限制}{官方录像恢复幻灯片 V043；Stanford CS25 Lecture 17}

\teachervoice{讲者对近期临床应用给出的角色不是 autonomous physician，而是 augment physicians：把难懂的 doctor speak 转成患者更容易理解的说明，帮助医生与患者、医生与医生、医生与研究者沟通。他同时说这仍“不完美”，complementarity 才是当前机会。}

临床章节的证据结论

课堂证据支持三点：大型通用模型能在医学选择题上强迁移；医学 prompt tuning 能改善长答案的多项人工指标；近期价值更像沟通与知识辅助。它不支持“通过考试即获得临床资格”，也不支持“长答案更详细就更安全”。

本章小结

Med-PaLM 在科学共识、推理、帮助程度等多项人类评价上显著优于 Flan-PaLM，并缩小与医生答案的差距；同时，详细回答可能引入更多错误，伤害与偏见仍需专家判断。最可信的课堂落点是受监督的临床增强，而不是自动替代。

长蛋白质序列：Performer 与 Protein LM

临床章节主要挑战是知识、评价与风险；进入蛋白质后，第一道障碍变成序列长度和计算复杂度。氨基酸序列可以像 token 序列一样输入模型，但长蛋白质会让标准 attention 的 \(n\times n\) 相关矩阵迅速占满计算与内存。Performer 在这里不是抽象的效率技巧，而是让更长生物序列可训练的前置条件。

为什么蛋白质需要长上下文

章节分隔页把视角从医生语言切换到分子语言。下一页指出，不同蛋白质的长度跨度很大，远距离氨基酸可能在折叠后彼此邻近并共同决定活性位点。只看固定小窗口可能错过这种依赖；直接使用全局 self-attention 又要付出二次复杂度。

\lecturefigure{slide-44-section-proteins.jpg}{章节切换：蛋白质应用}{官方录像恢复幻灯片 V044；Stanford CS25 Lecture 17}

\lecturefigure{slide-45-long-biological-sequences.jpg}{长生物序列带来的建模与计算问题}{官方录像恢复幻灯片 V045；Stanford CS25 Lecture 17}

标准 scaled dot-product attention 为 $$ \operatorname{Attn}(Q,K,V)= \operatorname{softmax}!\left(\frac{QK^{\top}}{\sqrt d}\right)V. $$ 其中 \(Q,K,V\in\mathbb{R}^{n\times d}\) 分别是 query、key、value，\(n\) 是序列长度，\(d\) 是每个 head 的维度。瓶颈来自 \(QK^{\top}\in\mathbb{R}^{n\times n}\)：即使最终只需要 \(n\times d\) 输出，也要显式或隐式处理所有位置对。

长序列的困难不只是“显存不够”

二次 attention 同时增加训练时间、中间激活和通信压力。简单截断虽然省计算，却可能删除远距离 motif 或跨结构域关系；分块 attention 又可能把真正相关的位置隔开。效率方法的目标是在计算预算与全局信息之间做受控折衷。

Performer：用 kernel feature 重排计算

上一小节已经把瓶颈定位为完整的 \(n\times n\) score matrix；本节进一步回答怎样在不把序列切碎的情况下改变计算顺序。Performer 页展示 FAVOR+ 思路：把 softmax kernel 近似为特征内积，让全局依赖仍能通过一个压缩统计量传播。读图时要同时看数学重排、随机近似误差与真实硬件曲线，而不能只把“linear attention”当作一个复杂度口号。 $$ \exp(q^{\top}k)\approx \phi(q)^{\top}\phi(k), $$ 再利用结合律把 \(\phi(K)^{\top}V\) 先聚合，而不是构造完整 attention matrix。忽略归一化细节后，单个 query 的输出可写为 $$ \operatorname{Attn}(q_i,K,V)\approx \frac{\phi(q_i)^{\top}\left(\sum_j \phi(k_j)v_j^{\top}\right)} {\phi(q_i)^{\top}\left(\sum_j \phi(k_j)\right)}. $$ 其中 \(\phi(\cdot)\) 是随机正特征映射，\(q_i,k_j,v_j\) 分别表示第 \(i\) 个 query 与第 \(j\) 个 key/value。重排后不再保存 \(n^2\) 个 pairwise score，时间和空间可随 \(n\) 近似线性增长；代价是 kernel approximation 带来的方差与实现复杂度。

\lecturefigure{slide-46-performer-kernel-attention.jpg}{Performer：以随机特征近似 softmax attention}{官方录像恢复幻灯片 V046；Stanford CS25 Lecture 17}

\lecturefigure{slide-47-performer-speed-complexity.jpg}{Performer 的速度、内存与复杂度比较}{官方录像恢复幻灯片 V047；Stanford CS25 Lecture 17}

线性化 attention 的计算顺序（示意）

def performer_attention(query, key, value, phi):
    q_features = phi(query)
    k_features = phi(key)
    kv_summary = k_features.T @ value
    k_summary = k_features.sum(axis=0)
    numerator = q_features @ kv_summary
    denominator = q_features @ k_summary
    return numerator / denominator[:, None]

读图：复杂度图应该怎样看

先固定模型维度与 batch，再沿横轴增加 sequence length；标准 attention 的时间和内存曲线更快上升，Performer 的增长更接近线性。图支持“长序列更可扩展”，却不证明所有长度、硬件和精度目标下都更快；随机特征数量、kernel 实现和常数项都会改变交叉点。

从实现角度看，线性 attention 的收益取决于中间张量是否真正按重排后的顺序计算。如果代码为了调试仍显式生成 pairwise score，理论复杂度并不会兑现；如果随机 feature 数设置过大，\(n r d\) 的常数项也可能超过优化良好的标准 attention。反之，在蛋白质这种长度分布很宽的任务里，可以按长度 bucket 选择实现：短序列使用精确 attention，长序列切换 Performer，并在一组可承受的样本上比较近似输出与精确输出。这样的验证把“更快”与“偏差可接受”绑定起来，避免只测吞吐而忽略模型行为改变。

\teachervoice{讲者把 Performer 放在蛋白质章节开头，是因为生物序列在“开始做生物学推理之前”就会撞上二次 attention 成本。课堂重点不是背 FAVOR+ 名字，而是看到领域数据的长度分布会反向推动新的 attention algorithm。}

Protein LM 学到了什么

结果页展示语言模型在 protein sequence modeling 上的收益，attention visualization 页则把不同 amino acid 之间的注意力画出来。合理解释是：预训练迫使模型利用保守 motif、局部化学环境和较远残基关系来预测被遮盖位置，因此表示中出现与结构或功能相关的模式。

\lecturefigure{slide-48-protein-lm-results.jpg}{Protein language modeling 的实验结果}{官方录像恢复幻灯片 V048；Stanford CS25 Lecture 17}

\lecturefigure{slide-49-amino-acid-attention.jpg}{氨基酸之间的 attention pattern 与复杂依赖}{官方录像恢复幻灯片 V049；Stanford CS25 Lecture 17}

Attention map 不是因果解释

高 attention weight 表示模型计算中某些位置发生强交互，不等于这对残基在真实蛋白质中直接接触，也不证明它们导致某项功能。可靠生物结论还需要结构数据、mutagenesis 或其他实验。可视化最适合提出假设和检查模型，而不是替代实验验证。

Performer 案例的课程意义

当数据天然很长时，模型架构与算法复杂度会决定哪些科学问题可被提出。Performer 通过近似 kernel attention 扩大可处理的上下文；protein LM 则利用这些上下文学习统计规律。效率突破和领域发现是两层证据，不能合并为一个结论。

本章小结

蛋白质序列把 Transformer 的长上下文成本暴露得非常直接。Performer 通过随机特征与结合律避免完整 \(n\times n\) attention matrix，使长序列训练更可行；protein LM 的表示和 attention pattern 可提供生物学线索，但仍需结构与实验验证。

ProtNLM：从氨基酸序列生成自然语言功能描述

上一章仍以序列表示和 masked prediction 为主，ProtNLM 把输出进一步改成自然语言。这个任务的价值在于数据库中的 protein function 本来就以自由文本存在；如果模型能从 sequence 生成可检索、可读的描述，就能帮助研究者在大量未充分注释的蛋白质中提出候选功能。

为什么蛋白质注释是语言任务

标题页给出 ProtNLM，随后两页说明需求：测序产生的蛋白质序列增长很快，人工实验注释却昂贵缓慢；UniProt 等数据库包含大量自由文本描述，但深度和可靠性不均。模型要学习的不是“给序列起一个好听标题”，而是把 sequence evidence 映射到功能、家族、位置和生物过程的语言表述。

\lecturefigure{slide-50-protnlm-title.jpg}{ProtNLM：Model-based Natural Language Protein Annotation}{官方录像恢复幻灯片 V050；Stanford CS25 Lecture 17}

\lecturefigure{slide-51-protein-function-demand.jpg}{海量蛋白质序列与功能注释需求}{官方录像恢复幻灯片 V051；Stanford CS25 Lecture 17}

\lecturefigure{slide-52-uniprot-free-text.jpg}{UniProt 中的蛋白质自由文本注释}{官方录像恢复幻灯片 V052；Stanford CS25 Lecture 17}

术语表：protein annotation 的证据层级

\term{sequence annotation} 从氨基酸序列预测标签或描述；\term{curated annotation} 由专家结合实验和文献整理；\term{automatic annotation} 根据相似性或模型批量传播；\term{experimental validation} 通过生化、结构或细胞实验确认功能。ProtNLM 主要改善前两层之间的信息接口，不能把生成文本升级为实验事实。

Sequence-to-language：把两种词表连接起来

Sequence-to-language 页把输入的 amino acid token 与输出的 natural-language token 放在同一 encoder--decoder 框架中；captioning 示例说明模型可以生成连贯功能描述。这里的关键不是语言流畅，而是描述是否包含与输入序列一致的 family、domain、localization 或 process 信息。

\lecturefigure{slide-53-sequence-to-language.jpg}{从蛋白质序列到自然语言的 encoder--decoder 任务}{官方录像恢复幻灯片 V053；Stanford CS25 Lecture 17}

\lecturefigure{slide-54-protein-captioning.jpg}{蛋白质 captioning 的输入与生成描述示例}{官方录像恢复幻灯片 V054；Stanford CS25 Lecture 17}

给定氨基酸序列 \(S=(s_1,\ldots,s_n)\) 和目标描述 \(Y=(y_1,\ldots,y_T)\)，条件生成目标为 $$ \mathcal{L}{\text{caption}}=-\sum). $$ 其中 }^{T}\log p(y_t\mid S,y_{<t\(s_i\) 是第 \(i\) 个 amino acid，\(y_t\) 是第 \(t\) 个自然语言 token，\(n\) 与 \(T\) 分别是输入和输出长度。这个目标奖励与参考文本一致的生成，但如果数据库标签本身缺失或噪声很大，模型也会继承不确定性。

生成得像，不等于注释得真

自由文本目标会奖励常见措辞，模型可能依据家族先验生成听起来合理但未经实验确认的描述。评价必须区分 lexical similarity、专业实体正确性、功能层级一致性和新颖预测；任何自动描述都应保留 provenance 与不确定性。

训练集切分在这里尤其敏感。如果高度同源的蛋白质同时出现在训练和测试中，模型可能通过近邻记忆复述家族描述，看起来像从 sequence 推断功能。更严格的评价会按 sequence identity 或 protein family 分组，把远缘家族留到测试集，并分别报告常见功能与稀有功能。生成文本还可被拆成结构化槽位，例如 family、catalytic activity、subcellular location 与 evidence qualifier；逐槽位核验比一个整体 BLEU 或 ROUGE 分数更接近科学用途。自然语言接口很方便，但越方便越需要把证据等级显式写进输出。

T5 多任务训练与结果

T5 页显示 ProtNLM 不只做单向 captioning，而是把 span corruption、sequence-to-text 与相关任务统一为 text-to-text 形式。多任务训练让模型同时学习蛋白质局部模式和语言表述。结果页总结模型在内部评价与人类判断上的改进；应理解为注释质量和覆盖的证据，而不是对所有新蛋白质功能的实验确认。

\lecturefigure{slide-55-protnlm-t5-tasks.jpg}{ProtNLM 的 T5 风格预训练与多任务目标}{官方录像恢复幻灯片 V055；Stanford CS25 Lecture 17}

\lecturefigure{slide-56-protnlm-results.jpg}{ProtNLM 的蛋白质描述生成结果}{官方录像恢复幻灯片 V056；Stanford CS25 Lecture 17}

读图：结果需要拆成“覆盖”和“可信度”

自动模型可以快速为更多序列给出描述，这是 coverage 收益；描述与参考注释或专家判断的一致性属于 quality 收益。两者必须同时看：只扩大覆盖会批量传播错误，只追求极高 precision 又可能拒绝大量未知蛋白质。

CRISPR-Cas9 案例：生成描述如何服务发现

前面已经说明模型怎样生成蛋白质描述，本节把接口放入真实发现流程。应用页展示 CRISPR-Cas9 相关蛋白质空间；研究者面对的并不是一个已知答案，而是大量可能具有相似机制、不同大小或不同 targeting 特性的候选。模型生成或组织自然语言注释，可以帮助搜索序列、比较家族和形成实验假设。正确工作流是“模型筛选与解释候选—研究者检查数据库与结构证据—设计实验—验证功能”，而不是“模型写出描述—功能已被发现”。

\lecturefigure{slide-57-crispr-cas9-application.jpg}{应用示例：寻找 CRISPR-Cas9 相关蛋白质}{官方录像恢复幻灯片 V057；Stanford CS25 Lecture 17}

\teachervoice{讲者用 CRISPR 案例说明自然语言接口的科学价值：研究者不必只在 embedding 空间里寻找近邻，而可以用功能描述组织候选。但课堂措辞仍是 annotation 与 discovery support，没有把生成句子当作 wet-lab proof。}

ProtNLM 的正确定位

ProtNLM 把蛋白质序列和人类可读知识连接起来，使检索、归纳和候选生成更高效。它最像“科学信息接口”：输入是 sequence，输出是可读 hypothesis；真正的生物功能仍由数据库 provenance、文献与实验闭环决定。

本章小结

ProtNLM 将蛋白质表示学习扩展为 sequence-to-language，通过 T5 风格多任务训练生成自由文本功能描述。它能扩大注释覆盖、改善知识检索并支持候选发现，但文本生成质量与生物功能真实性必须分开评价。

DeepConsensus：用 Transformer 修正测序读段

课程进入 genomics 后先处理一个“输入质量”问题。基因组分析依赖测序 read；如果 read 本身含错，后续 variant calling、组装与疾病研究都会受到影响。DeepConsensus 把多次观测同一 DNA 分子的 subreads 对齐成一个带 gap 的二维表示，再预测更准确的 consensus sequence。

从圆形共识测序到学习式纠错

章节分隔页之后，问题页直接询问 Transformer 能否改进 DNA 测序。DeepConsensus 角色页把模型放在测序 pipeline 中：它不生成新的生物序列，而是利用仪器产生的重复观测修正 base call。PacBio circular consensus sequencing（CCS）页说明，同一环形分子可被多次读取，多个 subread 提供冗余证据。

\lecturefigure{slide-58-section-genomics.jpg}{章节切换：基因组应用}{官方录像恢复幻灯片 V058；Stanford CS25 Lecture 17}

\lecturefigure{slide-59-deepconsensus-question.jpg}{问题：Transformer 能否改善 DNA 测序？}{官方录像恢复幻灯片 V059；Stanford CS25 Lecture 17}

\lecturefigure{slide-60-deepconsensus-role.jpg}{DeepConsensus 在测序流程中的位置}{官方录像恢复幻灯片 V060；Stanford CS25 Lecture 17}

\lecturefigure{slide-61-pacbio-consensus-sequencing.jpg}{PacBio circular consensus sequencing 的重复读取机制}{官方录像恢复幻灯片 V061；Stanford CS25 Lecture 17}

背景概念：read、subread 与 consensus

\term{read} 是测序仪输出的一段碱基序列；环形模板被多次经过时产生多个 \term{subread}；把它们按参考位置对齐并综合，得到 \term{consensus read}。重复观测能平均随机错误，但 insertion、deletion 与系统偏差要求模型理解 alignment，而不是逐列多数投票。

输入标签与 gap-aware 表示

纠错任务页把多条 subread 对齐到当前 draft，标签页说明输出是真实 consensus base。困难在于插入和删除会产生 gap；如果模型把 gap 当普通空白，位置关系就会错乱。DeepConsensus 因而使用 gap-aware representation，把 base identity、质量、strand、位置与对齐事件编码为可供 Transformer 处理的特征。

\lecturefigure{slide-62-ccs-correction-task.jpg}{CCS correction：从多条 noisy subread 预测共识序列}{官方录像恢复幻灯片 V062；Stanford CS25 Lecture 17}

\lecturefigure{slide-63-deepconsensus-labels.jpg}{训练标签：正确 base 与对齐位置}{官方录像恢复幻灯片 V063；Stanford CS25 Lecture 17}

\lecturefigure{slide-64-deepconsensus-transformer.jpg}{DeepConsensus 的 gap-aware Transformer 架构}{官方录像恢复幻灯片 V064；Stanford CS25 Lecture 17}

DeepConsensus 式纠错流程（概念伪代码）

def correct_consensus(aligned_subreads):
    features = encode_bases_gaps_quality(aligned_subreads)
    hidden = gap_aware_transformer(features)
    base_logits, quality_logits = output_heads(hidden)
    sequence = decode_aligned_bases(base_logits)
    quality = calibrate_quality(quality_logits)
    return sequence, quality

为什么 gap 不是 padding

padding 表示“这里没有输入”，alignment gap 却表示相对于另一条序列发生了 insertion 或 deletion，是需要解释的生物与测量事件。错误掩掉 gap 会改变后续位置对应关系，使模型在恰恰最难的 indel 区域失去信息。

这个输入还体现了“多次观测不是普通 batch”这一点。不同 subread 对应同一物理分子，模型应该在对齐列上综合证据，同时识别某次 pass 的局部低质量；如果把 subread 当互不相关样本，就失去共识信息。相反，若直接做多数投票，又无法利用 strand、质量分数和上下文相关错误。Transformer 的作用正是在每个对齐位置汇集多条 read 的证据，并通过邻近列理解 insertion/deletion pattern。数据增强也必须保持这种几何结构，不能随意打乱列或把不同分子的 read 拼在一起。

Alignment loss 与 base quality

普通 token cross-entropy 假设预测位置和标签位置一一对应，但测序序列中的 insertion/deletion 会造成整体位移。Alignment loss 页强调需要允许局部对齐后再惩罚差异。可用抽象形式表示为 $$ \mathcal{L}{\text{align}}(\hat Y,Y)= \min \sum_{(i,j)\in a} c(\hat y_i,y_j)+\lambda\,g(a), $$ 其中 }(\hat Y,Y)\(\hat Y\) 是预测序列，\(Y\) 是 truth，\(\mathcal{A}\) 是允许的 alignment 集合，\(c\) 是 base mismatch 代价，\(g(a)\) 是 gap 代价，\(\lambda\) 控制 gap 惩罚。公式表达的重点是：相同生物序列若只差一个插入，不应被误判为后续所有位置都错。

\lecturefigure{slide-65-alignment-loss.jpg}{特殊 alignment loss：处理插入、删除与位置错位}{官方录像恢复幻灯片 V065；Stanford CS25 Lecture 17}

模型还输出 base quality，用 Phred 风格分数表达错误概率： $$ Q=-10\log_{10}p_{\mathrm{error}}. $$ 其中 \(p_{\mathrm{error}}\) 是该 base 错误的概率，\(Q\) 越高表示预测越可靠。质量分数必须校准：如果声称 \(Q=30\)，相似预测中错误率应接近千分之一，而不只是 logit 数值很大。

\lecturefigure{slide-66-base-quality-output.jpg}{DeepConsensus 同时输出共识 base 与质量分数}{官方录像恢复幻灯片 V066；Stanford CS25 Lecture 17}

两个输出头对应两个决策问题

base head 回答“序列是什么”，quality head 回答“我们有多确定”。下游 variant caller 需要同时使用两者；高准确但严重过度自信的模型仍会放大错误。校准因此不是附属指标，而是测序 pipeline 的接口契约。

Read-level accuracy 与真实系统影响

Read-level accuracy 页把模型与已有 consensus 方法比较。关键趋势是 DeepConsensus 提高高精度 read 的比例，而不是只在平均 per-base error 上获得微小收益。Real-world impact 页进一步展示部署层收益：更准确读段可以减少为达到相同质量所需的重复测序，提高吞吐，并降低后续分析成本。

\lecturefigure{slide-67-read-level-accuracy.jpg}{DeepConsensus 对 read-level accuracy 的提升}{官方录像恢复幻灯片 V067；Stanford CS25 Lecture 17}

\lecturefigure{slide-68-real-world-impact.jpg}{真实系统影响：更高精度、吞吐与成本收益}{官方录像恢复幻灯片 V068；Stanford CS25 Lecture 17}

读图：从模型指标走向系统指标

先看 base error 是否下降，再看完整 read 达到高质量阈值的比例，最后看同一预算下可交付多少有效数据。前两层属于模型和测序质量，最后一层才是系统效益。部署收益还依赖硬件、pipeline 延迟、失败重跑和下游工具兼容性，不能只由单一准确率外推。

部署评估还应关注错误分布，而非只看平均曲线。某些重复区域、同聚物或极端 GC 区域可能仍然困难；若错误集中在临床相关基因，平均 read accuracy 会掩盖下游风险。系统团队需要把旧 pipeline 与新模型在相同样本、相同 compute budget 下做 paired comparison，并检查 variant calling、assembly 或 methylation 等下游任务是否真正改善。只有当模型收益穿过这些接口仍然存在，real-world impact 才不是把离线指标换算成市场数字。

\teachervoice{讲者把 DeepConsensus 视为“真实世界已经产生影响”的例子：Transformer 不只写文本或刷 benchmark，而是进入测序基础设施，改变可获得的数据质量与成本。这一案例提醒我们，biomedical AI 的价值经常通过整个 pipeline 放大。}

本章小结

DeepConsensus 利用同一 DNA 分子的多次 noisy 观测，借助 gap-aware Transformer、alignment-sensitive loss 和质量分数预测生成更准确的 consensus read。它的完整证据链从 base 到 read，再到测序系统吞吐与成本，展示了模型指标如何转化为基础设施价值。

Enformer：从 DNA 序列预测长程调控与基因表达

DeepConsensus 先改善“看见的序列是否正确”，Enformer 再问“这段序列会产生什么调控效果”。许多疾病相关变异位于 non-coding region，不直接改变蛋白质编码，却可能影响 transcription factor binding、enhancer--promoter interaction 与 gene expression。要预测这种效应，模型需要覆盖远超局部 motif 的上下文。

为什么 GWAS 把问题推向非编码区

论文页引出 Enformer，GWAS 页显示随着 cohort 增大，发现的 disease-associated loci 快速增加。Coding versus non-coding 页给出关键事实：大量关联信号位于不编码蛋白质的区域。它们可能通过调控影响基因，而不是直接改变 amino acid；因此，传统只看 coding mutation 的流程无法解释多数关联。

\lecturefigure{slide-69-gene-expression-paper.jpg}{指定工作：Effective Gene Expression Prediction from Sequence}{官方录像恢复幻灯片 V069；Stanford CS25 Lecture 17}

\lecturefigure{slide-70-gwas-growth.jpg}{GWAS 规模增长与关联位点发现}{官方录像恢复幻灯片 V070；Stanford CS25 Lecture 17}

\lecturefigure{slide-71-coding-vs-noncoding.jpg}{Coding 与 non-coding 变异的功能差异}{官方录像恢复幻灯片 V071；Stanford CS25 Lecture 17}

背景概念：GWAS、variant 与因果

\term{GWAS} 比较群体中的 genetic variant 与表型关联；\term{variant} 是个体相对参考基因组的碱基差异；\term{association} 表示统计相关，不自动等于 causal variant。连锁不平衡、群体结构和环境因素都可能让附近多个位点共同显著，因此模型预测主要用于优先级排序与机制假设。

Enhancer、promoter 与远程作用

Transcription regulation 页展示 promoter、enhancer、transcription factor 与 gene expression 的关系。Variant disrupts binding 页进一步说明，一个非编码碱基变化可能改变因子结合，继而改变远处基因的表达。局部卷积能识别 motif，却难以直接连接相隔数万碱基的 enhancer 与 promoter；这正是 attention 在基因组中的动机。

\lecturefigure{slide-72-transcription-regulation.jpg}{转录调控：promoter、enhancer 与 transcription factor}{官方录像恢复幻灯片 V072；Stanford CS25 Lecture 17}

\lecturefigure{slide-73-variant-disrupts-binding.jpg}{非编码变异如何破坏结合并改变表达}{官方录像恢复幻灯片 V073；Stanford CS25 Lecture 17}

调控预测不是疾病诊断

模型可以预测某个 allele 可能改变 chromatin 或 expression track，但疾病表型还涉及组织、发育阶段、环境、多个基因和临床背景。变异效应分数适合筛选实验候选，不应直接翻译成个人患病概率。

Enformer 的输入输出与混合架构

任务页把长 DNA sequence 作为输入，预测许多 genomic tracks；Enformer 页展示 convolution 与 Transformer 的组合。卷积先压缩局部 motif，attention 再在更长范围建立位置交互，输出头为不同细胞类型和实验测量预测信号。模型大约读取二十万碱基上下文，因此比短窗口模型更有机会连接远程调控元件。

\lecturefigure{slide-74-dna-sequence-prediction-task.jpg}{从 DNA 序列预测多种功能基因组信号}{官方录像恢复幻灯片 V074；Stanford CS25 Lecture 17}

\lecturefigure{slide-75-enformer-model.jpg}{Enformer：卷积与 Transformer 结合的长程模型}{官方录像恢复幻灯片 V075；Stanford CS25 Lecture 17}

可把模型抽象为 $$ \hat Z=f_{\theta}(X),\qquad X\in{A,C,G,T}^{L},\quad \hat Z\in\mathbb{R}^{B\times K}. $$ 其中 \(X\) 是长度为 \(L\) 的 DNA 序列，\(B\) 是输出位置 bin 数，\(K\) 是不同 assay、cell type 或 genomic track 的数量，\(\hat Z\) 是预测信号。对某个变异的 effect 可用两条 allele 序列之差表示： $$ \Delta_k=f_{\theta}(X_{\text{alt}})k-f)_k. $$ 其中 }(X_{\text{ref}\(X_{\text{ref}}\) 与 \(X_{\text{alt}}\) 只在候选 variant 处不同，\(\Delta_k\) 是第 \(k\) 个 track 的预测变化。这个差值是模型内的 counterfactual estimate，不是实验因果证明。

混合架构也体现了尺度分工。卷积对局部 motif 具有强归纳偏置，能够高效识别短的转录因子结合模式；池化逐步扩大感受野并降低序列长度；Transformer 再让压缩后的远距离位置交互。若一开始就对二十万碱基做全分辨率 attention，成本很高；若只堆卷积，远程 enhancer 的信号可能经过许多层才到达 promoter。Enformer 不是“attention 取代卷积”，而是把局部模式与全局调控分别交给合适组件。

Thousands of tracks：输出不是一个标签

Tracks 页展示模型要同时预测大量实验信号，例如不同细胞类型中的 chromatin accessibility、transcription factor binding 与 gene expression。多任务输出让共享表示吸收相关生物过程，但也增加了 label noise 与数据不均衡；某些 track 数据丰富，某些组织和人群则明显不足。

\lecturefigure{slide-76-enformer-tracks.jpg}{Enformer 预测的多细胞类型 genomic tracks}{官方录像恢复幻灯片 V076；Stanford CS25 Lecture 17}

读图：把 genomic track 当作“位置函数”

横轴是基因组位置，纵轴是某种实验信号强度，不同颜色或行代表 assay、cell type 或模型/真实值。先看峰的位置是否对齐，再看强度是否一致，最后检查远处 enhancer 变化能否对应 promoter 附近的 expression 改变。只看总体相关系数可能掩盖关键稀有峰。

结果与可用边界

结果页比较 promoter 与 enhancer 相关预测，显示更长上下文提升 regulatory activity prediction。Application takeaways 页把用途归纳为解释 non-coding variation、预测 gene expression 和帮助 variant prioritization。模型的科学价值在于缩小实验搜索空间：从数以万计关联位点中找出更值得做 assay 的候选。

\lecturefigure{slide-77-promoter-enhancer-results.jpg}{Enformer 对 promoter 与 enhancer activity 的预测改进}{官方录像恢复幻灯片 V077；Stanford CS25 Lecture 17}

\lecturefigure{slide-78-application-takeaways.jpg}{Enformer 的应用结论与限制}{官方录像恢复幻灯片 V078；Stanford CS25 Lecture 17}

\teachervoice{讲者先用“绝大多数 GWAS hits 在 non-coding region”建立需求，再解释远距离 enhancer--promoter interaction。这个顺序很重要：attention 不是因为它时髦，而是因为生物机制提出了超出局部 receptive field 的问题。}

Enformer 的正确证据链

长 DNA 上下文提高多种 genomic track 与 expression 预测；reference/alternate allele 的差分可以为 variant 排序；实验再检验结合、表达与表型。模型把“在哪里做实验”变得更聪明，但没有取消实验，也没有把 statistical association 自动升级为 disease mechanism。

如果要把 Enformer 用于 variant prioritization，还需要选择与疾病组织相符的 track。对心脏疾病只看任意细胞系的总体分数，可能得到生物学上不相关的候选；对群体变异还要检查训练数据是否代表目标 ancestry。更稳妥的报告会列出模型分数、相关 cell type、附近 gene、已有 eQTL/epigenomic 证据和实验可行性，让研究者知道排序依据。模型在这里扮演的是 evidence aggregator，而不是最终裁判。

本章小结

Enformer 将长 DNA 序列映射为多细胞类型、多 assay 的 genomic tracks，利用卷积提取局部 motif、用 Transformer 建立长程调控关系。它能改善 gene-expression 与 variant-effect 预测，为非编码变异实验排序提供依据，但关联、预测与因果仍是三层不同证据。

总结与延伸

课程最后从四个案例上升到 foundation biomedical AI。讲者的核心判断不是“是否”会发生变化，而是“何时、以何种方式”发生。要理解这句话，必须把前文重新压缩成一条完整链：临床模型处理人类知识与沟通，蛋白质模型连接 sequence 与 function language，DeepConsensus 提高观测质量，Enformer解释调控上下文；未来系统的机会在于让这些层互相提供证据，而不是把所有数据塞进一个聊天界面。

从四个模型提炼出的共同框架

未来章节页先标记讨论层次的变化，随后提出“when and how”。这不是时间预测，而是工程与科学问题：哪些数据能够合法、安全地联合？哪些输出可以由自动 metric 验证，哪些必须交给 clinician 或 wet lab？多模态 foundation model 的规模收益，如何与 provenance、calibration 和 selective prediction 一起设计？

\lecturefigure{slide-79-section-future.jpg}{章节切换：Biomedical AI 的未来}{官方录像恢复幻灯片 V079；Stanford CS25 Lecture 17}

\lecturefigure{slide-80-future-how-not-if.jpg}{未来问题：不是会不会，而是何时、如何发生}{官方录像恢复幻灯片 V080；Stanford CS25 Lecture 17}

案例	输入与挑战	模型机制	外部验证
Med-PaLM	医学问题；知识、沟通与风险	Scaling、instruction tuning、prompt tuning、abstention	医生与普通用户多维评价
Performer / Protein LM	超长氨基酸序列	kernel attention 与表示学习	结构、数据库与实验
ProtNLM	蛋白质序列到自由文本	encoder–decoder、多任务 T5	注释 provenance、专家与实验
DeepConsensus	对齐的 noisy subreads	gap-aware attention、alignment loss、quality head	base/read accuracy 与系统吞吐
Enformer	长 DNA 到 genomic tracks	convolution + long-range attention	实验轨迹、表达与 variant assay

统一原则：模型输出必须接回对应世界

文本答案接回临床共识与使用者，蛋白质描述接回数据库和实验，测序纠错接回 read 与 pipeline，调控预测接回 assay 与表型。Foundation model 可以共享表示和数据，但不能共享一个模糊的“看起来合理”评价标准。

这张总表还说明，foundation model 的共享部分与专用部分应被分别设计。共享 encoder 可以学习跨模态表示、统一检索和条件生成；专用 output head、loss、calibration 与 reviewer 则负责把输出约束到临床、蛋白质或基因组语义。若为了“统一”删除专用验证，系统会在界面上更简洁，却在证据上更脆弱。相反，模块化并不妨碍端到端训练，只要求每个关键接口都能单独审计：输入来自哪里、表示怎样传递、输出由谁确认、失败如何升级。

Foundation biomedical AI：整合而不是抹平差异

Foundation biomedical AI 页用多模态圆盘表达整合愿景。下一页并列著名 physician 与 scientist，讲者借此说明未来 AI 不必把 clinical application 与 biological application 分开：临床观察可以提出机制问题，分子模型可以生成候选，实验结果再更新临床知识。这里的“foundation”更像跨层接口，而不是单纯更大参数量。

\lecturefigure{slide-81-foundation-biomedical-ai.jpg}{Foundation biomedical AI 的多模态整合愿景}{官方录像恢复幻灯片 V081；Stanford CS25 Lecture 17}

\lecturefigure{slide-82-biomedical-ai-scientists.jpg}{医生与科学家的角色可以在 AI 系统中被连接}{官方录像恢复幻灯片 V082；Stanford CS25 Lecture 17}

\teachervoice{讲者说 clinical applications 与 biological applications 不必永远分离；把它们连接起来，才可能产生新 insight、加速 biomedical research，并最终回到疾病与健康问题。这个判断应被写成研究方向，而不是声称 2023 年已经有统一闭环。}

跨层整合最容易发生的三种混淆

第一，把临床相关性当成分子因果；第二，把模型 confidence 当成实验重复性；第三，把同一患者或数据库泄漏到训练和测试当成泛化。越是 foundation 化，数据 provenance、时间切分、隐私与独立验证越重要。

AI 会在哪个领域获得第一枚 Nobel Prize？

倒数第二页把问题留给学生：AI 最先在哪个领域促成 Nobel-level discovery？这不是要求猜奖项，而是在追问“什么证据才算科学突破”。如果 AI 只是压缩已有文献，贡献属于工具；如果它提出新机制、指导实验并经独立复现，才接近发现。生物医学的特殊之处在于它同时拥有巨大未解空间、可测量实验和直接人类价值，也拥有最高的伦理与验证门槛。

\lecturefigure{slide-83-ai-nobel-question.jpg}{开放问题：AI 会在哪个领域获得第一枚 Nobel Prize？}{官方录像恢复幻灯片 V083；Stanford CS25 Lecture 17}

\lecturefigure{slide-84-thank-you.jpg}{课程结束与协作者致谢}{官方录像恢复幻灯片 V084；Stanford CS25 Lecture 17}

\teachervoice{讲者把问题留在课堂，没有给出年份和确定答案；随后表示自己希望多数人会想到 medicine。真正值得保留的是评价尺度：AI 若要在医学产生 Nobel-level 影响，必须从预测走到可复现发现，再从发现走到健康收益。}

给工程实践的七条检查清单

1. 先定义序列单位。 token、event、amino acid 与 nucleotide 的位置语义不能混用。
2. 先写外部验证，再选模型。 如果输出无法接回 clinician、database、assay 或 pipeline，benchmark 很难代表真实价值。
3. 把长上下文成本显式化。 记录 sequence length、attention 复杂度、截断策略与可能丢失的远程关系。
4. 把不确定性做成接口。 selective prediction、quality score 与 calibration 必须服务后续升级路径，而不是只画一条曲线。
5. 把多维风险保留下来。 accuracy、missing content、harm、bias 与 helpfulness 不应过早压成一个分数。
6. 区分预测、关联和因果。 attention map、variant score 与生成注释都可以提出假设，但不能替代实验。
7. 保留历史边界。 用课堂当时的模型和证据回答课堂问题，后来的进展应放入独立更新，而不是改写原讲义的因果链。

最终压缩

Biomedical Transformer 的核心不是把医学、生物学都“语言化”，而是用统一的上下文建模工具连接不同序列，同时为每个领域保留专属表示、损失、校准和验证。真正的 foundation system 不是一个无所不答的模型，而是一组能在多层证据之间传递信息、知道何时拒答、并把关键判断交还给医生和实验的可靠接口。

拓展阅读

• Singhal et al., Large Language Models Encode Clinical Knowledge（Nature）
• Choromanski et al., Rethinking Attention with Performers（arXiv）
• Google Research, ProtNLM 官方代码与说明
• Baid et al., DeepConsensus（Google Research）
• Avsec et al., Effective Gene Expression Prediction from Sequence by Integrating Long-range Interactions（Nature Methods）

这五项工作分别代表临床评价、长序列 attention、科学语言接口、测序基础设施和调控基因组学。建议阅读时统一使用本讲的五个问题：输入怎样表示、上下文为何困难、监督从哪里来、输出如何验证、结论不能推出什么。这样才能把论文结果转化为可迁移的研究方法，而不是模型名词清单。