如果你最近在关注大模型、ChatGPT、文本生成或者多模态 AI，几乎一定会反复看到两个词：Transformer 和 Self-Attention。

很多人第一次接触这两个概念时，常常会觉得它们非常“学术”，像是只有论文研究者才需要理解的内容。但实际上，今天几乎所有主流大模型——无论是聊天、写作、翻译、代码生成，还是图像与文本结合的多模态系统——背后都深深建立在这套机制之上。

如果说大模型是今天 AI 爆发的结果，那么 Transformer 和 Self-Attention，就是支撑这场爆发最重要的底层方法之一。

本文会先从 Transformer 的整体结构讲起，再把 Self-Attention 机制拆开说明，最后解释它为什么能成为现代大模型的核心基础。

如果你最近在关注大模型、自动化助手和智能应用，几乎一定会听到一个高频词：AI Agent。

很多人第一次接触这个概念时，会把它简单理解成“更聪明一点的聊天机器人”或者“会自动执行任务的大模型”。这些理解不能说完全错误，但都还没有真正抓住 Agent 的核心。

AI Agent 的关键，不只是会回答问题，而是能够围绕目标进行理解、规划、执行和反馈。