视频素材：[【闪客】一小时从 Transformer 到大模型！] 一、大模型是一台「预测下一个词」的机器 给定一串文字，求下一个词，可以写成一个函数：f(多个词) → 下一个词。输入“飞天闪”，期望输出“客”；输入“今天天气真”，候选答案可能是“好”。大语言模型反复执行的就是这个计算。对话、翻译和写代码的形式看起来差别明显，但模型生成时都会从词表中选择下一个 Token，然后把新 Token 接

一、为什么要给 RAG 一张图 1.1 纯向量检索的两个短板 向量 RAG 的标准流程大家都熟：文档切块（chunk）、每块算嵌入（embedding）、问题也算嵌入、按余弦相似度捞回最相近的几块，塞进 prompt 让 LLM 作答。这套流程在课程里先跑了一遍：NetApp 的 10-K 文件，Item 1 章节切成 254 块，全部写入 Neo4j 并建好向量索引，套上 LangChain 的

一张四行的太阳镜库存表，字段是 id / name / description / price / stock。顾客问：「有 100 美元以下、还有货的圆框墨镜吗？」表里没有「圆框」这一列，这个词埋在 description 的自由文本里；有没有货在 stock 列，贵不贵在 price 列。开发者当然可以把「查描述 → 查库存 → 查价格」这三步写死进代码，但下一个顾客问「我上个月退的那副处理好

一、先做出原型，再谈评估 1.1 别空想几周，先做个能跑的 构建 Agentic 系统最难的地方在于，你没法提前知道它在哪些输入上会工作得很好、在哪些输入上会翻车，也就不知道力气该往哪儿使。所以常见的建议是：先做一个快而糙的原型，跑一遍，看它在哪里表现不如意，再集中精力改进。反过来，坐在那里推演几周该怎么做，通常是更差的选择。 关键前提是：这个原型要安全、负责任地做，不能泄漏数据，在这个底线上越快

本文内容整理自吴恩达（Andrew Ng）《Agentic AI》课程模块3「工具使用」 LLM 只会生成文本 token，它凭什么能查数据库、发日历邀请、跑一段 Python？答案是它压根不执行任何东西。工具使用（tool use）的真实链路是：LLM 按约定格式输出一个调用请求，宿主代码解析这个请求、真正执行函数、把返回值写回对话历史，LLM 再基于这段历史继续生成。「请求—执行—回填」这个三

一、反射设计模式：让 Agent 审视自己的输出 1.1 从人类反思到 LLM 反思 人写东西很少一遍到位。草稿写完回头看，会发现日期不明确、用词不准、漏了签名，改完再发。这个「写完 → 审视 → 修改」的过程就是反思（reflection）。 LLM 也能走同样的流程。与其让它一次生成最终答案，不如分两步：先生成初稿，再让它以另一个提示词审视初稿、指出问题、写出改进稿。课程里用邮件举过例子：约朋

本文内容整理自吴恩达（Andrew Ng）《Agentic AI》课程模块1（共 8 节） 一、从一次性单向生成到 Agentic 工作流 1.1 一次生成的问题（直接调用裸模型思考） 今天大多数人用 LLM（大语言模型，接收提示、逐词生成文本的模型）的方式，相当于要求一个人从第一句写到最后一句，中途不许回头、不许查资料、不许改。人在这种约束下写不出好东西，因为输出顺序必须一次就对。 模型也一样。

上一篇把「女生撩刘海」这三个 token 算到了注意力的输出 Z。但 Z 还不是这一层的结果。从 Z 到真正送给下一层的东西，中间还隔着多头拼接、两次残差、两次层归一化和一个前馈网络。这几步各自解决一个具体问题，去掉任何一个，模型要么学不到足够丰富的关系，要么深度一堆上去就训不动。 这一篇把它们逐个计算完，例子和维度都沿用上一篇：三个 token，d = 2。 一、回顾：注意力机制算到了哪 输入矩