\documentclass[a4paper]{article}

% Basic packages
\usepackage[fontset=fandol]{ctex}
\usepackage{amsmath, amssymb}
\usepackage{graphicx}
\usepackage[margin=2.5cm]{geometry}
\usepackage[most]{tcolorbox}
\usepackage{etoolbox}
\usepackage{listings}
\usepackage{hyperref}
\usepackage{booktabs}
\usepackage{subcaption}
\usepackage{float}

% Highlight boxes
\newtcolorbox{knowledgebox}[1]{
    enhanced, colback=blue!5!white, colframe=blue!75!black, colbacktitle=blue!75!black,
    coltitle=white, fonttitle=\bfseries, title=#1, attach boxed title to top left={yshift=-2mm, xshift=2mm},
    boxrule=1pt, sharp corners
}

\newtcolorbox{importantbox}[1]{
    enhanced, colback=yellow!10!white, colframe=yellow!80!black, colbacktitle=yellow!80!black,
    coltitle=black, fonttitle=\bfseries, title=#1, sharp corners
}

\newtcolorbox{warningbox}[1]{
    enhanced, colback=red!5!white, colframe=red!75!black, colbacktitle=red!75!black,
    coltitle=white, fonttitle=\bfseries, title=#1, sharp corners
}

% Listings
\lstset{
    language=Python,
    basicstyle=\ttfamily\small,
    keywordstyle=\color{blue},
    stringstyle=\color{red!60!black},
    commentstyle=\color{green!60!black},
    breaklines=true,
    frame=single,
    numbers=left,
    numberstyle=\tiny\color{gray},
    captionpos=b,
    extendedchars=false
}

% Front-page metadata
\newcommand{\notetitle}{张钹院士：迈向通用人工智能}
\newcommand{\noteauthors}{基于公开课程资料整理}
\newcommand{\notedate}{2025}
\newcommand{\videochannel}{AITIME论道}
\newcommand{\videopublishdate}{2025}
\newcommand{\videoduration}{约20分钟}
\newcommand{\videourl}{}
\newcommand{\videocoverpath}{cover.jpg}
\newcommand{\repourl}{https://github.com/hqhq1025/ai-course-notes}


% Footer with repo info
\usepackage{fancyhdr}
\pagestyle{fancy}
\fancyhf{}
\fancyfoot[C]{\thepage}
\fancyfoot[R]{\footnotesize\color{gray}\href{\repourl}{AI Course Notes}}
\renewcommand{\headrulewidth}{0pt}
\renewcommand{\footrulewidth}{0pt}

\begin{document}

\begin{titlepage}
\centering
{\Large 演讲笔记\par}
\vspace{1.2cm}
{\huge\bfseries \notetitle\par}
\vspace{0.8cm}
{\large \noteauthors\par}
\vspace{0.3cm}
{\large \notedate\par}
\vspace{1.2cm}

\ifdefempty{\videocoverpath}{
{\small 请在生成笔记时填入视频封面图的本地路径。\par}
}{
\includegraphics[width=0.82\textwidth,height=0.45\textheight,keepaspectratio]{\videocoverpath}\par
}

\vfill
\begin{tcolorbox}[width=0.9\textwidth, colback=black!2!white, colframe=black!60, sharp corners]
\textbf{视频作者/频道}：\videochannel\par
\textbf{发布日期}：\videopublishdate\par
\textbf{视频时长}：\videoduration\par
\ifdefempty{\videourl}{}{
\textbf{视频链接}：\href{\videourl}{\nolinkurl{\videourl}}\par
}
\par
\textbf{项目主页}：\href{\repourl}{\nolinkurl{\repourl}}\par
\end{tcolorbox}
\end{titlepage}

\tableofcontents
\newpage

%% --- 正文内容开始 --- %%

\section{引言：大语言模型究竟掌握了什么？}

张钹院士（清华大学人工智能研究院名誉院长，中国科学院院士）从语言学和哲学的高度，系统分析了大语言模型的原理、局限，以及迈向通用人工智能（AGI）的真正挑战。

他从一个根本性的问题出发：机器能不能像人类一样理解语言？

\begin{importantbox}{大语言模型的成就与局限}
在外部提示下，机器已经能够在开放领域生成多样性的、语义上连贯的、类似人类的语言。这算不算掌握了人类语言？答案是：算，但\textbf{还不够彻底}。它在很多地方与人类语言仍有本质差异。
\end{importantbox}


\section{分布式语义：大模型的理论基础}

\subsection{从稀疏到稠密}

大语言模型的核心原理是\textbf{分布式语义}——用一个词周围的上下文来定义这个词的意义（Firth的经典观点）。

\begin{knowledgebox}{关键技术突破}
将语言从高维空间中的\textbf{稀疏表示}转化为\textbf{稠密的向量空间几何结构}，这是一个重大进步。它使得语言处理问题完全变成了\textbf{数学计算问题}——原来稀疏的共现空间不可计算，变成稠密向量空间后就可以用数学工具处理。
\end{knowledgebox}

\subsection{可证明的极限性质}

可以证明：只要数据量足够多、上下文足够长，这个向量空间就会趋近于\textbf{语义关系空间}。这解释了为什么当前研究都在追求更长的上下文和更多的数据。

\begin{importantbox}{语义趋近的含义}
一旦向量空间趋近了语言的语义关系，在一定意义下就可以做到``理解''，甚至可以做到\textbf{自反性}——对自己的思考进行思考。这在大语言模型中已经被观察到了。
\end{importantbox}

\subsection{本章小结}

大语言模型基于分布式语义原理，通过稀疏到稠密的向量空间转换，实现了语言的可计算化。但这种语义定义本身是近似的。


\section{模型近似的五大缺陷}

\subsection{语义定义的根本困境}

张钹院士提出了一个深刻的观点：当前大语言模型中出现的很多怪现象，\textbf{不能简单归结于数据问题}。

\begin{warningbox}{被广泛误解的归因}
``很多人发现机器里出现很多怪现象，都归结于数据问题。这是完全错误的。现在很多东西是由于\textbf{模型近似}引起的。''世界上有七八种不同哲学学派对``语义''的定义，没有任何一种是科学上完备的。分布式语义只是其中一种近似。
\end{warningbox}

\subsection{五大缺陷}

由于语义定义的不完备性，大语言模型必然存在以下五个缺陷：

\begin{importantbox}{大语言模型的五大固有缺陷}
\begin{enumerate}
\item \textbf{指称缺陷}：模型不能真正指向现实世界中的实体
\item \textbf{真实和因果缺陷}：模型缺乏因果推理能力，只能捕捉统计相关性
\item \textbf{语用缺陷}：模型无法真正理解语言在特定社会情境中的使用规则
\item \textbf{多义和动态缺陷}：词义的多样性和动态变化超出了静态向量表示的能力
\item \textbf{语境和闭环行为缺陷}：模型缺乏与物理环境的闭环交互能力
\end{enumerate}
\end{importantbox}

张钹院士强调：这五个缺陷是\textbf{固有的、必然存在的}——不是通过更多数据或更大模型就能消除的，因为问题的根源在于语义定义本身的不完备。


\section{AGI的可操作定义：五项关键能力}

\subsection{为什么需要新定义}

张钹院士指出，当前对AGI的定义（如马斯克的``能完成人类70\%以上任务''）\textbf{完全不可执行、不可检验}，必然引起争议。

\begin{warningbox}{模糊定义的危害}
以模式识别为例：识别率超过人类就算``达到人类水平''吗？有人说算，有人说从鲁棒性来看差得远。模糊的定义让AGI的讨论陷入无休止的口水战。
\end{warningbox}

\subsection{五项关键能力}

张钹院士提出了一个\textbf{可执行、可检验}的AGI定义，即必须达到以下五项关键能力（特别注意每项的\textbf{限定形容词}）：

\begin{importantbox}{AGI的五项关键能力}
\begin{enumerate}
\item \textbf{时空一致的}多模态理解——关键在``时空一致性''：不同模态的时间节奏不同步（视频逐帧、文本千年一句），对齐极其困难
\item \textbf{在线的}学习和适应——区别于离线学习；核心挑战是\textbf{可控性}，强化学习过程能否收敛到目标
\item \textbf{可检验的}推理和\textbf{长期的}规划——推理结果必须可验证；规划必须具备长期性
\item \textbf{可检验的}反思和元认知——当前反思都是``感觉性''的，缺乏可回溯、可验证的信号
\item \textbf{跨任务的}泛化——不仅是跨领域泛化（大模型已做得较好），还必须是分布外、结构不同、长尾场景下的跨任务泛化
\end{enumerate}
\end{importantbox}

\begin{knowledgebox}{形容词为什么重要}
张钹院士反复强调``形容词非常重要''。例如：``多模态理解''很多团队都在做，但加上``时空一致''后难度骤增；``推理''很多模型都有，但``可检验的''推理则是完全不同的要求。这些限定词划定了真正的技术前沿。
\end{knowledgebox}


\section{从LLM到Agent：实现路径}

\subsection{当前的六大技术方向}

张钹院士认为，当前业界正在做的六件事都是冲着上述五个目标来的：

\begin{enumerate}
\item 多模态融合与具身交互
\item 检索增强（RAG）
\item 结构化知识对齐
\item 工具与执行的绑定
\item 对齐与约束
\item 在线学习与适应
\end{enumerate}

\subsection{本章小结}

从LLM到能执行复杂任务的Agent，需要在五个维度上取得突破。当前六大技术方向各有对应，但每个方向都面临着从``有''到``好''的关键形容词挑战。


\section{AI主体性的三个层次}

张钹院士提出了人工智能作为``主体''的三个发展层次：

\begin{importantbox}{三个主体层次}
\begin{enumerate}
\item \textbf{行为主体}（Agent of Action）：机器作为工具执行人类指令——\textbf{已经达到}，我们很希望它达到，因为它帮助我们
\item \textbf{规范和责任主体}（Agent of Norm）：机器能够承担责任——\textbf{尚未达到}，技术难度较高，但是可追求的目标
\item \textbf{体验和意识主体}（Agent of Consciousness）：机器拥有意识——这是最令人担忧的层次
\end{enumerate}
\end{importantbox}

对于实际从业者，张钹院士建议关注前两个层次，不必过早考虑第三个层次。


\section{对齐与治理：治理的对象是人，不是机器}

\subsection{对齐的悖论}

\begin{warningbox}{对齐到底对齐什么？}
机器一定要和人类对齐吗？人类自身存在贪婪、欺骗等缺陷——而这些恰恰是机器原本没有的。人类道德并非最高标准。那么``对齐''到底该对齐什么？这值得深入讨论。
\end{warningbox}

\subsection{治理研究者与使用者}

张钹院士明确指出：\textbf{最重要的治理对象不是机器，而是人类}——特别是研究者和使用者。AI时代的企业家必须承担更大的社会责任。


\section{AI时代企业家的新使命}

张钹院士过去不赞成学生创业，但大模型出现后改变了看法——\textbf{最优秀的学生应该去做企业}，因为人工智能重新定义了企业家的角色。

\begin{importantbox}{六项新职责}
AI时代的企业家不再是简单地赚钱，而应：
\begin{enumerate}
\item \textbf{重新定义价值创造}：不是简单提供产品和服务，而是将知识和推理变为可复用的工具
\item 将AI作为像水和电一样的通用技术交给人类
\item 承担社会责任与治理职责
\item 实现普惠的可持续增长
\item 参与AI安全与伦理建设
\item 推动教育与人才培养
\end{enumerate}
\end{importantbox}


\section{总结与延伸}

张钹院士的演讲从哲学和科学的根基出发，为我们理解AGI的路径提供了深刻的框架：

\begin{enumerate}
\item \textbf{理论基础}：分布式语义使语言可计算化，但语义定义本身是近似的
\item \textbf{五大固有缺陷}：指称、因果、语用、多义/动态、闭环行为——源于模型近似而非数据不足
\item \textbf{AGI的可操作定义}：五项关键能力，每项的限定形容词划定了真正的技术前沿
\item \textbf{从LLM到Agent}：六大技术方向对应五个目标
\item \textbf{主体性三层次}：行为主体 $\rightarrow$ 规范主体 $\rightarrow$ 意识主体
\item \textbf{治理的核心}：治理人（研究者和使用者），而非机器
\item \textbf{企业家新使命}：从赚钱到造福人类，AI重新定义了企业家角色
\end{enumerate}

\begin{knowledgebox}{拓展阅读}
\begin{itemize}
\item Firth (1957): ``A Synopsis of Linguistic Theory''——分布式语义的哲学根基
\item 语义学七大流派（指称论、真值条件论、语用学、认知语义学等）
\item AGI等级定义：OpenAI的L1--L5框架与Google DeepMind的AGI分类
\item 可检验推理（Verifiable Reasoning）的最新研究进展
\item 张钹院士此前关于``第三代人工智能''的系列论述
\end{itemize}
\end{knowledgebox}

%% --- 正文内容结束 --- %%

\end{document}
