1. 编程范式的转变：从 1.0 到 2.0​

我们要学的不是一种新的编程语言，而是一种全新的思考方式。

传统编程（Software 1.0）​

如果你是写业务代码的工程师，你每天做的事情大概是这样的：你告诉计算机每一条具体的规则。

如果你是写业务代码的工程师，你每天做的事情大概是这样的：你告诉计算机每一条具体的规则。

• 场景：判断一张照片里是不是猫。
• 做法：写 if (有耳朵) and (有胡须) and (毛茸茸)...
• 问题：根本写不完！老虎也有耳朵胡须，玩具猫怎么算？规则稍微变一点，代码就得重写。

$规则 + 数据 = 答案$

机器学习（Software 2.0）​

既然规则太复杂写不出来，那能不能让机器自己把规则找出来？

我们不写规则了，给机器看一万张猫的照片和一万张不是猫的照片，然后告诉它："你自己找规律，反正左边这些必须叫'猫'，右边这些不行。"

机器经过一通计算，最后归纳出了一套超级复杂的数学公式（可能有一亿个参数）。这套公式，就是我们炼出来的模型（Model）。

$答案 + 数据 = 规则$

这就是机器学习的核心：用数据换取规则。

2. 三大学习范式​

和人类学习方式一样，机器学习也有三种范式。

2.1 监督学习（Supervised Learning）​

2.2 无监督学习（Unsupervised Learning）​

2.3 强化学习（Reinforcement Learning）​

3. 绕不开的数学直觉​

虽然我们承诺不堆砌吓人的公式，但知识图谱里的这几个数学名词，是你学 AI 必须建立的核心直觉。它们构成了机器能"学"懂一切的数理基石。

3.1 概率统计：模型眼里的世界是不确定的​

• 概率分布：现代AI输出的往往不是绝对的答案（"这是猫"），而是概率分布（"90%是猫，10%是狗"）。理解这一点，就能理解为什么语言模型每次生成的回答都不一样。
• 最大似然估计（MLE）：听起来很高深，其实就是"事后诸葛亮"。训练模型的过程，其实就是在寻找一组参数，使得这组参数**最有可能（似然最大化）**推导出我们手头正确的训练数据。
• 贝叶斯定理：不仅是推荐系统的底层逻辑，也是人类学习的逻辑。它告诉模型如何根据"新收集的证据（后验）"来修正原本的"固有印象（先验）"。
• 信息论（熵与交叉熵）："熵"在物理学里代表混乱，在信息论里代表不确定性。衡量"模型的预测概率"和"真实答案"之间有多大差异的尺子，就是我们要学的交叉熵。

3.2 微积分与凸优化：如何找到最优解​

• 导数与链式法则：导数就是斜率（下山的坡度）。而在有很多步骤的复杂计算中，如何把最终的误差"一层层向前传导回去"？这就靠高数里最重要的链式法则。它就是下一章我们要学的反向传播的灵魂。
• 凸优化与拉格朗日乘子法：早期的机器学习（比如传统的支持向量机 SVM）非常追求数学完美，利用这些方法能在理论上证明找到了"全局最优的唯一解"；但现在的深层神经网络面对的地形太复杂了（非凸优化），我们大多只能靠"梯度下降"这种摸石头过河的方法找可行解。

3.3 线性代数：AI 世界的"乐高积木"​

• 标量、向量、矩阵与张量（Tensor）：AI 里的数据到底长什么样？一个孤立的数字叫标量；一排数字叫向量；一张由数字组成的二维表格叫矩阵；三维及以上的数字魔方统称张量。大名鼎鼎的 PyTorch，本质上就是一个超级强大的"张量计算器"（类似于自带 GPU 加速的高级 NumPy）。
• 矩阵乘法与点积（Dot Product）：神经网络前向传播的本质，就是把你的输入数据矩阵和无穷无尽的权重矩阵相乘。到了第2阶段你会发现，让 Transformer 一战封神的注意力机制，核心动作不过是精妙地计算了几次点积（算出两个向量在某个维度上有多少"相似度"）。
• 广播机制（Broadcasting）：写 AI 代码最常碰到的概念。当你把一个"小矩阵"（比如偏置常量）加到"大矩阵"上时，底层框架会自动把小矩阵复制并拉伸到和大矩阵一样的形状再计算。理解了这个，你的网络模型才不会一上线就疯狂报"维度不匹配"的错。

4. 工程师黑话对照表​

以后看论文、看文档，你会反复看到这几个词，先把它们映射到人话：

5. 机器"学习"的本质：训练循环​

这是本章最重要的部分。所谓"训练模型"，其实就是在跑一个死循环。

想象一个蒙着眼睛的人摸着下山：

第一步：猜（Forward Pass / 前向传播） 模型拿到一道题，先根据当前参数瞎猜一个答案。

模型：我觉得这是猫！

第二步：对答案（Loss Function / 损失函数） 用损失函数来衡量猜得有多离谱。Loss 越高表示错得越离谱。

裁判：错！这是狗。你的答案离正确答案差了十万八千里（Loss = 1000）。

第三步：找方向（Gradient / 梯度） 计算出要往哪个方向调参数，才能让 Loss 变小。就把梯度理解成"坡度"——指出下山的方向。

模型：那我该往哪个方向改？是把参数调大点还是调小点？

第四步：改错（Optimizer / 优化器） 用优化器按照梯度方向，微调模型里的参数。

优化器：刚才那个参数调小一点点，下次应该能对。

这个循环跑几百万次，直到 Loss 几乎变成 0，我们就说：训练完成了。

6. 一个必须知道的陷阱：过拟合​

Loss 越低 = 模型越好？不对。

过拟合（Overfitting）：模型在训练集上 Loss 极低，但在新数据上一塌糊涂。 就像一个学生把历年真题答案全背下来了，但换一道新题就不会了。

这也是为什么我们要把数据分成三份：

• 训练集（Training Set）：用来训练，调整参数。
• 验证集（Validation Set）：训练过程中监控"有没有过拟合"，不用于更新参数。
• 测试集（Test Set）：训练完成后，最终考试用一次，评估真实水平。

7. 总结​

1. 机器学习 = 用数据换规则，让机器自己找规律。
2. 监督学习 是最主流的范式，本质就是带答案的刷题。而强化学习则是 DeepSeek-R1 等终极推理模型的秘密基石。
3. 训练循环 = 猜答案 → 算 Loss误差 → 找下山梯度 → 优化器改参数，循环往复。
4. 过拟合 是永恒的陷阱，训练集/验证集/测试集的划分是基本功。

有了这个“黑箱循环框架”，这就足够了。 关于具体的 损失函数（交叉熵/MSE） 和 优化器（SGD/AdamW等） 有哪些分类，这属于构建具体模型时的底层黑科技，我们将在下一阶段详细解答。

下一章预告： 现在我们知道了机器是怎么"学"的——但如果问题复杂到了“识别图片是一只猫”、或者“理解一段长语言”？仅仅靠简单的线性数学公式绝对搞不定。

这就需要一个层级庞大、能画出任意弯曲边界的超级"脑子"——欢迎进入第1阶段：深度学习核心。 我们将在这个阶段，把神经网络这个黑箱扒开，看看人工神经元和链式法则的真面目。

下一章: 1.1 神经网络骨架（MLP与反向传播）

[!NOTE] Q: 为什么要设置虚拟环境 A: 首先，它防止版本冲突。它将每个代理的依赖项隔离开来，确保一个代理的更新不会意外地破坏另一个工具或系统。

cd path\to\your\project
python -m venv agent-env
agent-env\scriptslactivate
pip install dependencies
pip freeze > requirements.txt

理解 ReAct 推理循环

在自主 AI 开发中，ReAct 循环扮演着同样的角色。它为 AI 系统提供了一种结构化的方式来思考任务、选择合适的工具并智能地行动。ReAct 将模型转变为一个由迭代思考和行动驱动的解决问题代理，而不是简单地用文本回应的聊天机器人。

ReAct 概述和目的​

ReAct，全称 Reasoning + Acting，是现代自主系统的核心。它将逻辑推理与工具执行相结合，使 AI 能够像人类助手一样处理任务。其核心优势包括：

• 支持多步骤、结构化的工作流。
• 启用工具使用，如 API、记忆检索或计算。
• 允许代理根据中间结果进行适应。
• 为有目标导向的行动提供可预测的周期

ReAct Loop​

这个过程始于代理接收到输入，类似于实验室助理接到任务。代

1. 输入接收：

   • 代理的旅程始于接收到某种输入。这可以是用户提出的问题、从记忆中检索的信息，或者是工具输出的结果。

2. 观察信息：

   • 代理在接收到输入后，会首先观察和分析这些信息。这一步骤类似于实验室助理在接到任务后，先查看所有相关的笔记和资料，以确保理解上下文。

3. 设定上下文：

   • 观察信息的过程为后续的决策打下基础。通过理解输入的内容，代理能够更好地决定下一步的行动。

推理：代理在行动前思考​

在采取任何行动之前，代理会进行内部推理。它可能会将任务分解为步骤，考虑哪个工具最合适，或分析它已经掌握的信息。推理是代理的"计划时刻"，确保行动是有意而非冲动的。这就像助理决定是查找数据、运行实验还是请求澄清后再继续进行。

• 内部推理：代理在行动前会思考，确保其行动是经过深思熟虑的，而不是随意的。
• 任务分解：代理可能会将复杂任务拆分为更小的步骤，便于处理。
• 工具选择：代理会考虑使用哪些工具来完成任务。
• 信息分析：代理会回顾已有的信息，以便更好地制定计划。

行动：触发工具以推进​

一旦代理有了计划，它通常通过调用函数或外部工具来采取行动。这可能是一个搜索查询、API 调用、计算或内存查找。在代理框架中，这些行动通常表示为结构化的 JSON 命令，告诉系统使用哪个工具以及传递什么参数。就像实验室助理根据他们的推理执行特定任务一样，代理精确地执行函数，并且是确定性的。

• 采取行动：代理在制定计划后，会执行相应的操作。
• 工具调用：行动可能涉及调用外部工具，如API或进行计算。
• JSON命令：代理的操作通常以JSON格式描述，明确指定使用的工具和参数。
• 精确执行：代理的操作是基于推理的结果，确保每一步都是有目的的。

反思：从每一步中学习​

行动之后，代理评估结果。工具是否返回了所需信息？问题是否解决，还是需要其他步骤？这种反思反映了人类助手在继续之前检查实验是否成功或查询是否提供了正确数据的过程。反思可以防止无限循环，并帮助助手与目标保持一致。

• 结果评估：代理在行动后会检查结果是否符合预期。
• 问题解决：代理需要判断问题是否已经解决，或者是否需要进一步的步骤。
• 防止循环：通过反思，代理可以避免陷入无尽的循环，并确保行动与目标一致。

完成循环：多步问题解决​

代理会持续循环观察 → 推理 → 行动 → 反思，直到得出最终答案。在实践中，这可能涉及多次工具调用、多轮推理，或记忆查询与计算的组合。就像研究人员不断迭代直到找到解决方案一样，ReAct 循环使 AI 助手能够处理跨越多步骤的任务。

• 循环过程：代理不断重复观察、推理、行动和反思的过程，直到解决问题。
• 多步任务：在复杂任务中，代理可能需要多次调用工具和进行推理。
• 迭代解决：代理的工作方式类似于研究人员，通过反复尝试寻找解决方案。