\documentclass[a4paper]{article}

% Basic packages
\usepackage[fontset=fandol]{ctex}
\usepackage{amsmath, amssymb}
\usepackage{graphicx}
\usepackage[margin=2.5cm]{geometry}
\usepackage[most]{tcolorbox}
\usepackage{etoolbox}
\usepackage{listings}
\usepackage{hyperref}
\usepackage{booktabs}
\usepackage{subcaption}
\usepackage{float}

% Highlight boxes
\newtcolorbox{knowledgebox}[1]{
    enhanced, colback=blue!5!white, colframe=blue!75!black, colbacktitle=blue!75!black,
    coltitle=white, fonttitle=\bfseries, title=#1, attach boxed title to top left={yshift=-2mm, xshift=2mm},
    boxrule=1pt, sharp corners
}
\newtcolorbox{importantbox}[1]{
    enhanced, colback=yellow!10!white, colframe=yellow!80!black, colbacktitle=yellow!80!black,
    coltitle=black, fonttitle=\bfseries, title=#1, sharp corners
}
\newtcolorbox{warningbox}[1]{
    enhanced, colback=red!5!white, colframe=red!75!black, colbacktitle=red!75!black,
    coltitle=white, fonttitle=\bfseries, title=#1, sharp corners
}

\lstset{
    language=Python, basicstyle=\ttfamily\small, keywordstyle=\color{blue},
    stringstyle=\color{red!60!black}, commentstyle=\color{green!60!black},
    breaklines=true, frame=single, numbers=left, numberstyle=\tiny\color{gray}, captionpos=b, extendedchars=false
}

% Metadata
\newcommand{\notetitle}{访谈笔记：Demis Hassabis —— AGI 为何比工业革命更重大}
\newcommand{\noteauthors}{基于公开课程资料整理}
\newcommand{\notedate}{2026-04-07}
\newcommand{\videochannel}{20VC with Harry Stebbings}
\newcommand{\videopublishdate}{2026-04-07}
\newcommand{\videoduration}{36分钟}
\newcommand{\videourl}{https://www.youtube.com/watch?v=SSya123u9Yk}
\newcommand{\videocoverpath}{cover.jpg}
\newcommand{\repourl}{https://github.com/hqhq1025/ai-course-notes}

\usepackage{fancyhdr}
\pagestyle{fancy}
\fancyhf{}
\fancyfoot[C]{\thepage}
\fancyfoot[R]{\footnotesize\color{gray}\href{\repourl}{AI Course Notes}}
\renewcommand{\headrulewidth}{0pt}
\renewcommand{\footrulewidth}{0pt}

\begin{document}

\begin{titlepage}
\centering
{\Large 访谈笔记\par}
\vspace{1.2cm}
{\huge\bfseries \notetitle\par}
\vspace{0.8cm}
{\large \noteauthors\par}
\vspace{0.3cm}
{\large \notedate\par}
\vspace{1.2cm}
\ifdefempty{\videocoverpath}{\vspace{4cm}}{
\includegraphics[width=0.82\textwidth,height=0.45\textheight,keepaspectratio]{\videocoverpath}\par
}
\vfill
\begin{tcolorbox}[width=0.9\textwidth, colback=black!2!white, colframe=black!60, sharp corners]
\textbf{频道}：\videochannel\par
\textbf{发布日期}：\videopublishdate\par
\textbf{视频时长}：\videoduration\par
\ifdefempty{\videourl}{}{\textbf{视频链接}：\href{\videourl}{\nolinkurl{\videourl}}\par}\par
\textbf{项目主页}：\href{\repourl}{\nolinkurl{\repourl}}\par
\end{tcolorbox}
\vspace{0.3cm}
{\small 本期嘉宾为 Demis Hassabis，Google DeepMind 联合创始人兼 CEO，领导了 AlphaGo 与 AlphaFold 项目（2024 年诺贝尔化学奖），同时运营 Isomorphic Labs 推动 AI 药物发现。主持人为 Harry Stebbings。\par}
\end{titlepage}

\tableofcontents
\newpage

%% ==================== Section 1 ====================
\section{AGI 的定义与时间线}

\subsection{什么是 AGI}

Demis Hassabis 将 AGI（Artificial General Intelligence）定义为\textbf{能够模拟人类全部认知能力的人工智能系统}。与当前的``窄 AI''不同，AGI 需要具备跨领域的通用推理能力——不仅仅是在某一项任务上表现出色，而是能够像人类大脑一样，将来自不同领域的知识编织成连贯的整体。

\begin{importantbox}{AGI 的核心定义}
AGI = 能够模拟人类全部认知能力（full human cognitive capabilities）的通用人工智能。关键特征包括：
\begin{itemize}
    \item 跨领域推理与知识整合
    \item 持续学习与记忆更新
    \item 长期规划与多步骤决策
    \item 一致性的通用推理能力
\end{itemize}
这不是某个单一 benchmark 的突破，而是认知能力的\textbf{全面覆盖}。
\end{importantbox}

\subsection{时间线：五年之内}

Hassabis 明确表示，AGI 在\textbf{未来五年内实现的可能性很大}（``very good chance of it being within the next 5 years''）。值得注意的是，这一判断与 DeepMind 联合创始人 Shane Legg 在 2010 年的预测一脉相承——当时 Legg 预测 AGI 将在 20 年内到来，而现在距离那个预测恰好过去了约 16 年。

驱动 AGI 到来的两大引擎是：
\begin{enumerate}
    \item \textbf{算力规模化（Compute Scaling）}：更大的计算集群、更高效的硬件
    \item \textbf{算法进步（Algorithmic Progress）}：新的架构设计、训练方法与优化策略
\end{enumerate}

\begin{knowledgebox}{Shane Legg 的远见}
Shane Legg 是 DeepMind 的联合创始人之一，早在 2010 年就公开预测 AGI 将在 20 年内实现。当时这被视为极端乐观的预测，但如今 Hassabis 指出这条时间线正在兑现。从最初的三人创业（Hassabis、Legg 与 Mustafa Suleyman）到今天的 Google DeepMind，这种对 AGI 的长期信念一直是团队的核心驱动力。
\end{knowledgebox}

\subsection{量化 AGI 的影响}

Hassabis 给出了一个令人震撼的量化表述：

\begin{importantbox}{``十倍工业革命、十倍速度''}
\textit{``我有时将 AGI 的到来量化为十倍的工业革命，以十倍的速度发生。''（``I sometimes quantify the coming of AGI as 10 times the industrial revolution at 10 times the speed.''）}

工业革命用了一百多年才让人类消化其副作用（童工、城市化阵痛、阶级冲突等），而 AGI 带来的变革将在十年内压缩完成。这意味着人类社会几乎没有缓冲时间来适应。
\end{importantbox}

工业革命前，儿童死亡率高达 40\%；工业革命后的科技进步让人类寿命翻倍、生活水平大幅提升。但这一过程历时逾百年。AGI 的承诺是将同等规模（甚至更大）的变革压缩进一代人的生命周期——这既是巨大的机遇，也是前所未有的挑战。

\subsection{本章小结}

Hassabis 将 AGI 定义为模拟人类全部认知能力的通用智能，预期五年内实现。他用``十倍工业革命、十倍速度''来量化其影响规模，强调人类社会必须以前所未有的紧迫感来准备这一变革。

%% ==================== Section 2 ====================
\section{当前 AI 的能力与短板（``参差不齐的智能''）}

\subsection{``Jagged Intelligences''：惊人与翻车并存}

Hassabis 用一个生动的概念来描述当前 AI 系统的状态——\textbf{``参差不齐的智能''（Jagged Intelligences）}。这些系统在某些方面表现惊人，但换一种提问方式就会在基础层面翻车。

\begin{warningbox}{当前 AI 的本质缺陷}
\textit{``以一种方式提问，表现惊人；换一种方式重新表述同样的问题，就会在最基础的层面失败。''（``Pose question one way = amazing, rephrase = fail at elementary level.''）}

这不是简单的``还不够聪明''，而是一种\textbf{结构性缺陷}：当前模型是碎片化的（fragmented），它们无法像人类大脑一样，将所有知识和经验编织成一个连贯的整体（``cannot weave everything into coherent whole like brain''）。
\end{warningbox}

\subsection{四大缺失能力}

Hassabis 系统地梳理了通向 AGI 需要弥补的四大核心短板：

\begin{table}[H]
\centering
\begin{tabular}{p{0.2\textwidth} p{0.7\textwidth}}
\toprule
\textbf{缺失能力} & \textbf{现状与解决方向} \\
\midrule
持续学习（Continual Learning） & 当前模型训练后权重冻结，无法从交互中持续学习。需要借鉴生物学中的睡眠式记忆巩固机制（bio-inspired sleep-like memory consolidation），通过强化学习实现持续更新。 \\
记忆架构（Memory Architecture） & 当前方案过度依赖暴力式的长上下文窗口（brute force long context），需要更优雅的记忆解决方案——类似人脑的分层存储与检索机制。 \\
长期层级规划（Long-term Hierarchical Planning） & 多步骤推理能力严重不足。模型无法有效地制定和执行需要多层次分解的长期计划。 \\
一致性通用推理（Consistent General Reasoning） & 需要根本性的架构创新，让模型在不同领域、不同表述方式下保持推理的一致性，而非呈现``参差不齐''的表现。 \\
\bottomrule
\end{tabular}
\caption{通向 AGI 需要弥补的四大核心短板}
\end{table}

\begin{knowledgebox}{记忆巩固与睡眠的类比}
哺乳动物的大脑在睡眠期间会进行记忆巩固——将短期记忆转化为长期记忆，同时遗忘不重要的信息。Hassabis 认为 AI 系统需要类似的机制：不是简单地``记住更多''（更长的上下文窗口），而是学会有选择地保留、整合和遗忘。这与 Hassabis 本人在神经科学领域的学术背景密切相关——他的博士研究方向就包括记忆与想象的神经机制。
\end{knowledgebox}

\subsection{碎片化：问题的根源}

所有这些短板的共同根源在于\textbf{碎片化}。当前的 LLM 在各个子能力上可以达到令人印象深刻的水平，但它们缺乏将这些能力统一起来的``黏合剂''。人类大脑天然地将视觉、语言、记忆、推理、情感等模块整合为一个无缝的认知系统，而当前的 AI 系统更像是一组独立运行的``专家模块''的拼凑。

\begin{importantbox}{碎片化 vs 整合}
人类智能的核心特征不是某一项能力的极致，而是\textbf{将所有能力编织成连贯整体}的能力。一个人可以在阅读一篇论文时调用视觉处理、语言理解、长期记忆、批判性推理和情感判断——这些能力之间的无缝协作才是``通用智能''的本质。

当前 AI 的``参差不齐''正是因为它还没有实现这种整合。
\end{importantbox}

\subsection{本章小结}

当前 AI 是``参差不齐的智能''——在某些维度表现超人，在另一些维度不如孩子。根源在于碎片化架构，无法像大脑一样进行跨领域整合。弥补持续学习、记忆架构、层级规划和一致性推理四大短板，是通往 AGI 的关键路径。

%% ==================== Section 3 ====================
\section{Scaling Laws 与 LLM 的未来}

\subsection{Scaling Laws：收益递减但远未终结}

针对近期``Scaling Laws 已死''的论调，Hassabis 给出了明确的反驳：\textbf{Scaling Laws 的收益在递减，但远未触及天花板}（``diminishing returns but not dead''）。

\begin{importantbox}{Scaling Laws 的真实现状}
\begin{itemize}
    \item Scaling Laws \textbf{没有被突破}（have NOT been hit）
    \item 收益在递减，但曲线仍在下降
    \item 竞争的本质正在发生转变：从``比谁钱多''转向``比谁能想出新东西''
\end{itemize}
\textit{``收益递减但没死。真正的转变是竞争从'比谁钱多'变成'比谁能想出新东西'。''（Scaling: diminishing returns but not dead, competition shifting from ``who has more money'' to ``who can think of new things.''）}
\end{importantbox}

这个判断意味着：单纯堆算力的时代正在过去，但这并不意味着 Scaling 本身失效——而是进入了一个需要更多创造性思维的新阶段。算法创新、新的训练范式、更高效的架构设计将成为新的竞争焦点。

\subsection{算力：第一大瓶颈}

Hassabis 明确指出，\textbf{算力（Compute）是当前通往 AGI 的第一大瓶颈}。尽管竞争正在转向算法创新，但计算资源的规模仍然是前沿 AI 实验室之间拉开差距的关键因素。

\begin{warningbox}{LLM 不会被 Commoditize}
一个常见的误解是``LLM 最终会变成日用品，谁都能做''。Hassabis 对此表示明确反对：
\begin{itemize}
    \item LLM 不会被商品化（will NOT be commoditized）
    \item 前沿 AI 公司之间的差距\textbf{不是在缩小，而是在拉大}
    \item 只有前沿的 4 家左右的公司能持续推进 frontier 模型
\end{itemize}
原因在于：前沿模型需要的算力、数据、人才和算法 know-how 的门槛都在同时上升。
\end{warningbox}

\subsection{LLM 是 AGI 的基础组件}

尽管 LLM 有诸多短板，Hassabis 明确表示 LLM 将是未来 AGI 的\textbf{基础组件}（foundational component），而非被替代的过渡技术。关键不在于抛弃 LLM，而在于在 LLM 之上叠加缺失的能力：持续学习、记忆、规划和一致性推理。

\begin{knowledgebox}{从 LLM 到 AGI 的技术路径}
可以将 LLM 理解为 AGI 的``语言中枢''——它提供了强大的语言理解和生成能力，但 AGI 还需要：
\begin{itemize}
    \item 持续学习系统（类似海马体的记忆巩固）
    \item 层级规划模块（类似前额叶皮层的执行功能）
    \item 世界模型（对物理和社会世界的内部模拟）
    \item 一致性推理引擎（跨领域的逻辑一致性保证）
\end{itemize}
LLM 不会被替换，但会被大幅增强和扩展。
\end{knowledgebox}

\subsection{感知差距：短期高估、长期低估}

Hassabis 指出了一个重要的认知偏差：

\begin{importantbox}{AI 的感知差距}
\textit{``AI 在短期内被过度炒作，在长期（10 年尺度）被严重低估。''（AI overhyped short-term, underappreciated long-term.）}

这种感知差距导致了两个问题：
\begin{itemize}
    \item \textbf{短期}：过度的期望导致失望和``AI 寒冬''的恐慌
    \item \textbf{长期}：低估变革速度导致社会准备不足
\end{itemize}
正确的态度是：对近期进展保持务实，对长期影响保持敬畏。
\end{importantbox}

\subsection{本章小结}

Scaling Laws 远未终结，但竞争焦点正从资本密集型转向创新密集型。LLM 不会被商品化，前沿实验室的差距在拉大而非缩小。LLM 将作为 AGI 的基础组件被持续增强。公众对 AI 的感知存在``短期高估、长期低估''的系统性偏差。

%% ==================== Section 4 ====================
\section{DeepMind 的组织变革与战略}

\subsection{三合一整合：打造 AI 超级团队}

Google DeepMind 的成立是一次大规模的组织整合——将 Google Brain、Google Research 和原来的 DeepMind 三支团队合并为一个统一的实体。这次整合的核心逻辑是：\textbf{用初创公司式的聚焦取代大公司式的分散}。

\begin{importantbox}{``90\% 的突破来自我们''}
\textit{``支撑现代 AI 的 90\% 的突破，都是由 Google Brain、Research 或 DeepMind 完成的。''（``90\% of breakthroughs that underpin modern AI were done by Google Brain, Research, or DeepMind.''）}

这不仅仅是自夸。Transformer 架构（Google Brain）、BERT、T5（Google Research）、AlphaGo、AlphaFold（DeepMind）——这些确实构成了现代 AI 的基础设施。整合的目标是将这些分散的创新力量集中起来，避免内部重复竞争和资源浪费。
\end{importantbox}

\subsection{三层模型战略}

整合后的 Google DeepMind 采用了清晰的三层模型战略：

\begin{table}[H]
\centering
\begin{tabular}{p{0.15\textwidth} p{0.2\textwidth} p{0.5\textwidth}}
\toprule
\textbf{层级} & \textbf{代表产品} & \textbf{定位与策略} \\
\midrule
前沿模型 & Gemini 系列 & 最强性能，闭源，商业化核心产品 \\
开源模型 & Gemma 系列 & 滞后前沿约 6 个月发布，服务开发者生态与学术社区 \\
领域专用模型 & AlphaFold 等 & 针对特定科学领域深度优化，创造不可替代的价值 \\
\bottomrule
\end{tabular}
\caption{Google DeepMind 三层模型战略}
\end{table}

\begin{knowledgebox}{近期 DeepMind 的技术进展}
除了核心的 Gemini 模型外，DeepMind 近期在多个方向取得了重要进展：
\begin{itemize}
    \item \textbf{视频模型}：生成式视频理解与创作
    \item \textbf{交互式世界模型}：能够模拟和预测物理世界的变化
    \item \textbf{Gemma 开源系列}：为开发者社区提供高质量的开源基础模型
\end{itemize}
这些方向共同构成了通向 AGI 的技术矩阵——语言理解（Gemini）、视觉感知（视频模型）、物理推理（世界模型）和生态建设（Gemma）。
\end{knowledgebox}

\subsection{留在英国的战略选择}

一个有趣的细节是，尽管硅谷是全球 AI 的中心，DeepMind 选择\textbf{留在英国}发展。Hassabis 对此表示自豪，并且认为\textbf{完全有可能在欧洲建立万亿美元级别的公司}。

这一选择背后的逻辑包括：英国深厚的学术传统（剑桥、牛津、UCL 的 AI 研究基础）、相对友好的监管环境，以及保持组织文化独立性的需要。

\begin{knowledgebox}{Hassabis 与 Elon Musk}
Hassabis 提到与 Elon Musk 的早期交集——两人分享了对 AGI 的共同野心。Musk 正是在与 Hassabis 的交流中，更深入地理解了 AGI 的潜力与风险，这也间接推动了 Musk 后来参与创立 OpenAI 以及后来的 xAI。两人虽然在商业上走向了不同的道路，但在``AGI 将彻底改变世界''这一核心判断上高度一致。
\end{knowledgebox}

\subsection{本章小结}

Google DeepMind 通过三合一整合将分散的创新力量集中化，采用前沿/开源/领域专用三层模型战略。组织选择留在英国，展示了在硅谷之外构建世界级 AI 实验室的可能性。

%% ==================== Section 5 ====================
\section{AI 驱动的科学与药物发现}

\subsection{AGI 对科学的革命性影响}

在所有 AGI 可能改变的领域中，Hassabis 最为激动的是\textbf{科学发现和医学}。他认为 AGI 有潜力彻底改变科学研究的范式——从人类主导的假说驱动型研究，转向 AI 辅助的大规模模拟与发现。

\begin{importantbox}{Hassabis 的终极目标}
Hassabis 的核心使命不仅仅是构建 AGI，而是\textbf{用 AGI 来推进科学、治愈疾病}。他明确表示，自己的遗产（legacy）目标是：推进人类科学认知、攻克重大疾病。

这也是他同时领导 Google DeepMind 和 Isomorphic Labs 的原因——前者追求通用智能，后者将 AI 直接应用于药物发现。
\end{importantbox}

\subsection{Isomorphic Labs：AI 药物发现}

Hassabis 创立了 Isomorphic Labs，专注于用 AI 革新药物发现流程。目标是建立一个\textbf{通用的药物设计平台}（general-purpose drug design platform），最终目标是\textbf{攻克癌症}。

药物发现的 AI 化路径包括：
\begin{enumerate}
    \item \textbf{化合物设计}：AI 生成候选药物分子
    \item \textbf{毒性预防}：在设计阶段就预测和规避毒性问题
    \item \textbf{代谢模拟}：用 AI 模拟药物在人体内的代谢过程
    \item \textbf{回溯验证}：将模拟结果与已知数据进行交叉验证
\end{enumerate}

预计时间线：5--10 年内实现变革性的成果。

\begin{importantbox}{跳过动物实验：药物审批加速的两步策略}
Hassabis 提出了一种大胆的药物审批加速方案：

\textbf{Step 1}：AI 设计药物 $\to$ 模拟人体代谢过程 $\to$ 与已知数据回溯验证

\textbf{Step 2}：如果模拟精度足够高，可以\textbf{跳过部分动物实验}，直接进入人体临床试验

这需要监管机构的适应和配合——如果 AI 的预测准确率远超动物模型，继续坚持传统的动物测试流程就变成了不必要的时间浪费。
\end{importantbox}

\subsection{AlphaFold 的启示}

AlphaFold 是 Hassabis 关于``AI 驱动科学发现''愿景的最佳范例。该系统解决了生物学界 50 年来的核心挑战——蛋白质结构预测问题，为此 Hassabis 获得了 2024 年诺贝尔化学奖。

\begin{knowledgebox}{从 AlphaFold 到通用药物设计}
AlphaFold 的成功证明了一个关键命题：\textbf{AI 可以在科学问题上达到甚至超越人类专家的水平}。但蛋白质折叠只是药物发现链条中的一环。从``预测蛋白质结构''到``设计有效且安全的药物''还需要跨越巨大的鸿沟：理解蛋白质-配体相互作用、预测药代动力学、评估脱靶效应等。

Isomorphic Labs 的使命正是从 AlphaFold 的成功出发，向着完整的药物设计流水线延伸。
\end{knowledgebox}

\subsection{监管必须适应}

Hassabis 强调，\textbf{监管流程必须适应 AI 时代的速度}。如果 AI 能在几天内完成传统上需要数年的药物设计和安全性评估，但审批流程仍然需要 10 年，那么技术突破的价值就会被制度瓶颈严重稀释。

\begin{warningbox}{制度瓶颈可能比技术瓶颈更致命}
最大的风险不是 AI 做不到，而是\textbf{即使 AI 做到了，制度系统也跟不上}。药物审批、临床试验规范、国际协调机制——这些人类制度的进化速度远慢于 AI 技术的进步速度。

如果我们不主动改革监管流程，AI 发现的救命药物可能会在审批流水线上等待数年，而在此期间患者在继续死去。
\end{warningbox}

\subsection{本章小结}

AI 驱动的药物发现是 Hassabis 最核心的使命。Isomorphic Labs 致力于构建通用药物设计平台，通过 AI 模拟代谢过程来加速审批、跳过部分动物实验。但监管制度的进化速度是关键瓶颈——技术突破需要与制度改革同步推进。

%% ==================== Section 6 ====================
\section{社会经济影响与财富分配}

\subsection{比工业革命更剧烈的冲击}

Hassabis 对 AGI 社会影响的判断极为严肃。他将 AGI 类比为工业革命，但强调其规模和速度都远超前者。

\begin{importantbox}{工业革命的历史教训}
工业革命前，儿童死亡率高达约 40\%。工业革命带来的科技进步最终极大地改善了人类生活，但\textbf{人类花了整整一百年来消化其副作用}——童工制度、贫民窟、阶级对立、环境污染。

AGI 带来的变革将是``十倍规模、十倍速度''——这意味着社会将这一百年的适应过程\textbf{压缩进十年}。我们必须提前规划，而不是事后补救。
\end{importantbox}

\subsection{劳动力替代的风险}

Hassabis 承认 AGI 带来的\textbf{劳动力替代风险}是真实且严重的。他对 Marc Andreessen 等技术乐观主义者的观点提出了明确的反驳：

\begin{warningbox}{对 Andreessen 的反驳：这次不一样}
Marc Andreessen 等人常用历史类比来论证技术进步最终会创造更多就业：``过去每次技术革命都没有导致大规模失业，这次也不会。''

Hassabis 的反驳是：\textbf{这次的规模和速度使得历史类比不再适用}。过去的技术革命（蒸汽机、电力、互联网）都是替代了人类的\textbf{体力}或\textbf{特定认知能力}，而 AGI 将替代\textbf{全面的认知能力}——这在人类历史上没有先例。用过去的模式来预测一个没有先例的事件，在逻辑上是不充分的。
\end{warningbox}

\subsection{财富分配机制}

面对``AI 利润集中在少数公司''的担忧，Hassabis 指出了一个重要的现有机制：

\begin{knowledgebox}{养老基金与主权基金的角色}
AI 领先公司的主要投资者包括\textbf{养老基金}（pension funds）和\textbf{主权财富基金}（sovereign wealth funds）。这意味着 AI 创造的财富并非完全集中在少数创始人和风险投资者手中——大量普通人通过养老金计划间接持有 AI 公司的股份。

这并非完美的解决方案，但它提供了一种已经存在的、不需要全新制度设计的财富再分配渠道。真正的问题在于：这种间接分配是否足以应对 AGI 时代的就业结构性变化？
\end{knowledgebox}

\subsection{本章小结}

AGI 的社会经济影响将远超工业革命，劳动力替代风险不能简单用历史类比来化解。现有的养老基金和主权基金提供了部分财富分配渠道，但可能不足以应对全面认知替代带来的结构性冲击。

%% ==================== Section 7 ====================
\section{AI 安全与国际监管}

\subsection{两大核心风险}

Hassabis 将 AI 安全风险分为两个维度：

\begin{enumerate}
    \item \textbf{恶意使用（Misuse）}：坏人利用 AI 工具造成伤害——这是 Hassabis 认为的\textbf{首要安全担忧}（primary concern）
    \item \textbf{技术对齐（Technical Alignment）}：确保 AI 系统的行为与人类意图一致
\end{enumerate}

\begin{importantbox}{恶意使用是第一优先级}
Hassabis 将恶意使用——而非抽象的``AI 失控''——列为首要安全关切。这包括：
\begin{itemize}
    \item 使用 AI 进行大规模网络攻击
    \item 利用 AI 辅助生物武器设计
    \item 用 AI 生成深度伪造内容进行社会工程攻击
    \item 国家和非国家行为体利用 AI 增强破坏能力
\end{itemize}
\textit{关键洞察：最紧迫的威胁往往不是 AI 自己``变坏''，而是人类主动将 AI 用于恶意目的。}
\end{importantbox}

\subsection{``Kite Mark'' 认证与欺骗检测}

Hassabis 提出了一套务实的安全验证框架：

\begin{itemize}
    \item \textbf{欺骗行为基准测试}（benchmarks for deception）：系统性地检测 AI 模型是否具备欺骗能力或倾向
    \item \textbf{``Kite Mark'' 认证}：类似产品安全认证标志——通过独立测试的模型获得安全认证标记
    \item \textbf{AI Safety Institutes 的验证角色}：支持各国 AI 安全研究所承担独立的第三方验证职能
\end{itemize}

\begin{knowledgebox}{什么是 ``Kite Mark''？}
Kite Mark 是英国标准协会（BSI）颁发的产品安全认证标志，类似于中国的 CCC 认证或欧盟的 CE 标志。Hassabis 用这个类比来说明：AI 模型也需要类似的、由独立机构颁发的安全认证——不是开发者自己说``我的模型是安全的''，而是经过标准化测试后由第三方背书。
\end{knowledgebox}

\subsection{国际监管体系的设想}

Hassabis 的首要政策诉求是建立一个\textbf{类似国际原子能机构（IAEA）的 AI 国际监管机构}。

\begin{importantbox}{Hassabis 的政策首选：AI 版 IAEA}
\textit{Hassabis 最希望看到的政策行动是：建立一个类似 IAEA 的国际机构，专门负责 AI 安全的全球协调与验证。}

这个类比的深层含义：
\begin{itemize}
    \item \textbf{核武器的教训}：核技术是人类历史上第一个需要国际协调的``存在性风险''技术。IAEA 的成立花了十多年，但最终证明了其必要性。
    \item \textbf{生物技术的教训}：《生物武器公约》（BWC）虽然有缺陷，但提供了国际规范的基本框架。
    \item \textbf{AI 的特殊性}：AI 比核技术更容易扩散（不需要铀矿），因此国际协调更加紧迫。
\end{itemize}
\end{importantbox}

\begin{warningbox}{为什么自律是不够的}
一个常见的行业论调是``让我们自己来监管自己就好了''。Hassabis 明确反对这种观点：

AI 安全不能仅依赖企业自律——需要有强制力的国际标准和独立验证机制。原因很简单：在竞争压力下，没有外部约束的自律承诺是脆弱的。就像没有哪个核电站会说``我们不需要 IAEA 的检查，我们自己就能保证安全''。
\end{warningbox}

\subsection{本章小结}

AI 安全的首要威胁是恶意使用，需要通过欺骗检测基准和``Kite Mark''式认证来建立信任。Hassabis 最核心的政策诉求是建立 AI 版 IAEA——一个具有国际约束力的安全监管与验证机构。

%% ==================== Section 8 ====================
\section{能源危机与解决路径}

\subsection{AI 正在引发能源危机}

Hassabis 坦率地承认了一个不太舒适的事实：\textbf{AI 正在引发能源危机}。大规模训练和推理所需的数据中心消耗着巨量的电力，全球数据中心的能源需求正在以前所未有的速度增长。

\begin{warningbox}{AI 的能源悖论}
AI 技术一方面在解决人类的各种问题，另一方面却在制造新的问题——对能源的巨大需求。如果不加以解决，AI 的发展可能会因为能源供给不足而减速，或者加剧气候变化。

这是一个典型的``你需要 AI 来解决的问题，正是 AI 制造的问题''式悖论。
\end{warningbox}

\subsection{AI 也能解决能源问题}

但硬币的另一面是：\textbf{AI 同时具备解决能源危机的潜力}。这包括：

\begin{itemize}
    \item \textbf{核聚变}：AI 可以加速等离子体控制和材料科学研究，推动可控核聚变的实现
    \item \textbf{电网优化}：AI 驱动的智能电网管理可以显著提高能源效率
    \item \textbf{新材料发现}：AI 可以帮助发现更高效的太阳能电池材料、储能材料等
    \item \textbf{能源管理}：数据中心本身的能源使用效率也可以通过 AI 优化
\end{itemize}

\begin{importantbox}{能源问题的辩证视角}
AI 引发了能源需求的激增，但 AI 同时也可能是解决能源问题的关键工具。这种``制造问题 $\to$ 解决问题''的循环，本质上是所有变革性技术的共同特征——蒸汽机既创造了工业污染，也最终推动了清洁能源技术的发展。

关键在于：\textbf{解决的速度必须快于问题恶化的速度}。如果 AI 能在 10 年内推动核聚变的突破，那么当前的能源消耗就是值得付出的``投资''。
\end{importantbox}

\subsection{本章小结}

AI 正在引发能源危机，但也具备解决这一危机的潜力。关键在于解决速度是否能快于问题恶化的速度。核聚变、新材料发现和电网优化是 AI 可以施力的方向。

%% ==================== Section 9 ====================
\section{总结与延伸}

\subsection{核心观点回顾}

本期访谈中，Demis Hassabis 围绕 AGI 的定义、时间线、影响和风险，呈现了一幅完整的图景。以下是核心观点的压缩总结：

\begin{table}[H]
\centering
\begin{tabular}{p{0.25\textwidth} p{0.65\textwidth}}
\toprule
\textbf{议题} & \textbf{核心判断} \\
\midrule
AGI 时间线 & 五年内很有可能实现 \\
AGI 影响规模 & 十倍工业革命、十倍速度 \\
当前 AI 状态 & ``参差不齐的智能''，碎片化是根源 \\
四大缺失能力 & 持续学习、记忆架构、层级规划、一致性推理 \\
Scaling Laws & 收益递减但未终结，竞争转向算法创新 \\
LLM 前景 & 不会被商品化，是 AGI 基础组件 \\
前沿公司差距 & 在拉大，不是在缩小 \\
DeepMind 战略 & 三合一整合，前沿/开源/领域专用三层模型 \\
药物发现 & 5--10 年内变革性成果，目标攻克癌症 \\
首要安全风险 & 恶意使用 > 技术对齐 \\
政策首选 & 建立 AI 版 IAEA \\
能源 & AI 既是问题制造者也是问题解决者 \\
感知偏差 & 短期被高估，长期被严重低估 \\
\bottomrule
\end{tabular}
\caption{Hassabis 核心观点一览}
\end{table}

\subsection{关键语录}

本期访谈中最具冲击力的直接引语：

\begin{enumerate}
    \item \textit{``我有时将 AGI 的到来量化为十倍的工业革命，以十倍的速度发生。''} ——关于 AGI 影响的规模
    \item \textit{``以一种方式提问表现惊人，换个问法在最基础的地方翻车。''} ——关于``参差不齐的智能''
    \item \textit{``支撑现代 AI 的 90\% 的突破，都是由 Google Brain、Research 或 DeepMind 完成的。''} ——关于 DeepMind 的历史贡献
    \item \textit{``在未来五年内实现 AGI 的可能性很大。''} ——关于时间线，与 2010 年 Shane Legg 的 20 年预测一脉相承
    \item \textit{``AI 在短期内被过度炒作，在长期被严重低估。''} ——关于感知偏差
\end{enumerate}

\subsection{对读者最实际的结论}

\begin{enumerate}
    \item \textbf{不要低估 AGI 的时间线}——五年不是虚言，Hassabis 从 2010 年就开始押注这个方向，而且到目前为止他一直在正确的轨道上
    \item \textbf{关注制度适应性}——技术突破越快，制度瓶颈就越凸显。监管改革、教育转型、社会保障体系重设计都需要提前启动
    \item \textbf{AI 安全需要国际协作}——这不是单个公司或单个国家能解决的问题，需要类似 IAEA 的全球机制
    \item \textbf{短期务实、长期敬畏}——不要被炒作裹挟，也不要因为短期的``AI 幻灭''而忽视长期的深刻变革
\end{enumerate}

\subsection{拓展阅读}

\begin{itemize}
    \item Demis Hassabis et al., \textit{AlphaFold: Protein Structure Prediction with Deep Learning}, Nature, 2021
    \item Demis Hassabis et al., \textit{Mastering the Game of Go with Deep Neural Networks and Tree Search}, Nature, 2016
    \item Shane Legg, \textit{Machine Super Intelligence}, PhD Thesis, 2008
    \item Google DeepMind, \textit{Gemini Technical Report}, 2024
    \item Rich Sutton, \textit{The Bitter Lesson}, 2019
    \item Dario Amodei, \textit{Machines of Loving Grace}, 2024
\end{itemize}

\end{document}
