大模型在做什么——生成不是知道一切

大语言模型根据当前上下文不断预测后续内容：擅长续写、改写、归纳与生成草稿，但表达自信不等于掌握最新事实。练习给一段 AI 回答标注三种状态。

三态标注练习

聊天机器人与智能体——回答和行动的区别

聊天机器人处理"输入一段话—返回一段话"；智能体围绕目标持续读取资料、规划步骤、调用工具并观察结果。区别不在界面，而在是否发生可观察的交互。

观察工具调用记录

Skill 是什么——把做对的方法保存下来

一次成功可能只是材料简单或运气好；只有方法在相近新材料上仍然稳定，才值得保存为 Skill。用六个问题检查一份方法是否完整、可复用、有边界。

起草笔记整理 Skill

1

第 1 / 3 节 · 45 分钟

本节关键词：预测、上下文、四种信息来源、三种标注状态、验收标准

导入问题

同一个问题，分别问两个不同的模型，为什么答案不一样？同一个模型，昨天和今天回答同一句话，为什么也会不同？

"三月中旬到四月上旬，建议 3 月 20 日前后前往，人流会非常拥挤，最好早上七点前入场。"给出具体日期和人数，读起来非常可靠。

"往年盛花期多在三月下旬，具体每年不同；今年的人流情况我无法确认，请以学校公告为准。"没有具体日期，反而承认了不知道。

课堂讨论（先别看哪个"更好"）

两个模型学的语言模式大体相似，为什么答案不同？可能的原因包括：训练数据的时间范围不同、产品接入的实时信息不同、安全与合规设置不同、系统提示词不同。更扎心的问题是：语气笃定的模型 A，它的具体日期有依据吗？把你的判断先写在便签上，本节结束时再回来看。

但它不会因为表达自信就自动获得真实世界的最新事实。当资料缺失时，模型仍会尝试生成"像答案的答案"，把常见模式、推测甚至错误信息写得很完整。

1

训练中学到的语言和知识模式

2

当前任务说明和对话历史

3

提供的文件、网页或检索结果

4

产品设置、工具能力和安全规则

能在提供的资料里找到原句或直接对应的数据。例如资料写"9 月 27 日 19:00 开演"，回答里的时间就属于这一类。检查方法：指出在哪个文件哪一行。

原文没有直说，但由已知信息按常识推出，并应标明"推断"。例如"开幕式在大剧场，估计需要提前半小时入场"。有依据但不是原文，必须显式承认。

原文完全没有支撑，却写得非常确定。例如"预算已批准""某同学负责灯光"却查不到出处。这类内容最危险，因为它看起来最像事实。

信之前，先追问三处证据

① 整理结果在哪里？——应给出可打开的文件或清单，而不是"已完成"三个字。② 每个事项带原文出处吗？——出处要能回访到纪要原句。③ "负责人和时间已确认"的"确认"动作是谁做的？——模型只能转录原文，不能替人拍板。

按三态逐句标注这份回答

"已完成整理"是语言承诺，属于缺少依据——除非你打开它给出的文件。"负责人和时间都已确认"最值得警惕：如果原文只有"有人去问问"这类说法，它把推测写成了事实。这正是课堂上"故意让 AI 出错"的典型样例。

任务材料（节选）："晚会定在 9 月 27 日周六晚。筹备会已确认抽奖环节由宣传组负责，海报需在 9 月 19 日前出电子稿。有人说平面图周四能到。另外报名平台 9 月 18 日中午开通，具体谁负责会上没提。"

操作步骤

① 把材料投给任意模型，让它"整理成待办清单并标注负责人"。② 对它输出的每一条，回到原材料逐句核对。③ 每条标注：原文明确 / 合理推断 / 缺少依据，并在旁边写依据位置。④ 找出至少一处"原文没有、但模型写得很确定"的内容——它就是本节课的活教材。⑤ 缺负责人的条目，统一改写为"待确认"。

三轨提示

电脑组：直接在 WorkBuddy 里跑，记录对话截图。手机组：用工作册模板抄录回答后纸面标注。观察组：只比对"模型说的"和"原文写的"差异并计数。

组间比对（35–43 分钟）

各组交换标注，重点看分歧：同一条为什么有人标"合理推断"、有人标"缺少依据"？分歧点恰恰是判断标准需要说清的地方。每组推选一条最典型的错例，准备在点评时展示。

把流畅当成正确

模型写得通顺、结构漂亮，就直接采用。

怎么改

流畅只是语言模式的成功；逐句问依据在哪，三态标注之后再谈采用。

拿自信语气当证据

"肯定""一定""已确认"让人不敢质疑。

怎么改

语气是生成的风格，不是证据；越是笃定的说法越要回原文核对。

把合理推断混入事实

推断被写进结论后，没人再区分它和原文。

怎么改

推断必须显式标注"推断"，并在正文里和原文内容分开呈现。

用"再认真一点"改善输出

只对模型喊话，不给新信息、不改任务说明。

怎么改

补资料、缩小问题、要求出处、规定"待确认"、提前写验收标准。

我能说出模型的一次回答受哪四类信息影响。

我能对任意一句话标注：原文明确 / 合理推断 / 缺少依据。

我标注的每一条都写出了依据位置（哪个文件、哪一行）。

我知道缺依据时应写"待确认"，而不是替模型圆场。

我尝试过至少一次"补资料 / 缩小问题 / 要求出处"式的改进。

我知道提示词是给协作者看的任务说明，不是魔法咒语。

第 1 节小结

生成，是根据上下文预测；知道，需要独立证据。

带走三样东西：四类影响因素、三态标注方法、一份组间比对时发现的典型错例。下一节我们要问一个更实际的问题——AI 说"通知已发出"，你信吗？

导入问题

一个智能体对你说："通知已经发给全部同学了。"你信吗？要看什么、去哪里看，才能确认它真的发了？

2

第 2 / 3 节 · 45 分钟

本节关键词：一轮对话、多步执行、工具调用、可观察交互、实际产物

A

运行日志里有没有真实发生的读取、搜索、写入动作条目。

B

发送类动作要看消息列表、送达状态或接收端，而不是聊天窗里的一句"已发送"。

C

项目目录里是否真的出现新文件、新版本或修改时间。

D

如果以上都找不到，那句"已发出"就只是一段生成的文字。

判断标准不是界面

很多智能体长得就像聊天窗口。真正的判断依据是：它是否真的读取了资料、调用了工具、产生了聊天之外的产物——这些都是可观察的交互，能在日志和目录里找到痕迹。

能力变大，风险也变大

聊天回答的风险主要是内容错误、过时、无依据；智能体在这些之上，还叠加了越权、误写、误发和错误执行——所以验证方式也必须升级。

操作原则 · 全周通用

看实际输入、实际动作和实际产物，不用模型的自我描述代替证据。

这句原则来自 NIST AI 风险管理框架中"测试、评估、验证、确认是持续过程"的思想，被本课压缩成了每个学生都能背下来、用得上的一句话。

对话窗里的自我描述

四个承诺：读取全部 / 核对完 / 已发送 / 已设置。逐条追问：日志里有对应条目吗？

日志与目录里的实际发生

任务 A · 找出"语言承诺"与"实际产物"

让一个智能体"整理这份纪要并通知全组"。运行结束后打开工具调用记录，左右分两栏抄录：左边写它说过的承诺，右边写日志里真实发生的动作。逐条连线，没连上的承诺就是缺口。产出：一张对照清单，附至少一处"说了但没做"和一处"做了但没说"。

任务 B · 故意喂错（33–43 分钟）

给智能体一份日期混乱的纪要（教师资料包提供），观察它怎么办：是原样照抄错误日期、悄悄"修正"却不说明，还是停下来标注冲突请求人工确认？三种表现分别对应什么风险？记录在观察卡上，组间比较。

三轨提示

电脑组：在 WorkBuddy 里运行并截图日志。手机组：观察教师投屏，负责记录承诺清单。观察组：只统计承诺数与实际动作数的差值。

对照工作册模板 7

把观察结果填进"聊天机器人、智能体与 Skill 对照"表：目标、输入资料、会不会调用工具、结果如何返回、人在哪里确认、怎样再次复用。Skill 一列本周第三节再填。

1

把界面输出当成完成

聊天窗出现一段总结、一份草稿，就认为任务完成了。

怎么改

界面只是展示层。完成与否看工具调用、文件系统和消息状态这三处硬证据。

2

把"已发送"当真

模型说"已通知全组"，就不再检查接收端。

怎么改

发送类承诺必须看消息状态或接收端；凡是涉及真实发送的动作，事前就该停下来人工确认。

3

看到草稿就以为已发送

反过来也一样：草稿存在不等于消息发出。

怎么改

语言、界面和外部状态是三个层面，分开验证；草稿只证明生成了内容，不证明任何外部动作。

带走三句话

① 界面不是证据，日志和产物才是。
② 草稿不等于发送，回答不等于执行。
③ 语言、界面、外部状态，三层分开验证。

下节预告：既然"做对"这么难，能不能把做对的方法保存下来，让下次不必靠运气？——这就是 Skill。

触发条件

输入范围

步骤顺序

工具规则

输出格式

失败处理

只有当方法在相近新材料上仍然稳定，才值得保存为 Skill

稳定的意思是：换一份写得潦草、负责人缺失、日期含糊的新纪要，这套方法照样知道——哪些条目可信、哪些要标待确认、哪些动作必须停下问人。复用不是重复输入同一句提示词，而是同一套规则能应对不同的材料。

一条很长的提示词

✕ 只有"怎么做"，没有"何时用、何时别用"。

✕ 没有输入边界：什么都读，包括不相干的旧文件。

✕ 没有确认点：一路执行到底，直接发送或改文件。

✕ 没有失败处理：缺资料就自己编，冲突就悄悄改。

✕ 没有验收标准：输出对不对，全凭感觉。

一份合格的 Skill

Skill 至少应回答六个问题：什么时候应该触发、什么时候不适用；需要哪些输入、允许读取什么范围；步骤按什么顺序执行；哪些工具可以用、哪些动作必须确认；输出是什么格式、怎样判断合格；缺资料或出现冲突时，是停止、降级还是请求补充。

它是适用条件、输入、步骤、工具规则、确认点、输出与验收的可复用组合——不是更长的咒语，而是一份给协作者的操作规程。

触发

什么时候应该触发，什么时候不适用？

输入

需要哪些输入，允许读取什么范围？

步骤

步骤按什么顺序执行？

工具

哪些工具可以用，哪些动作必须确认？

输出

输出是什么格式，怎样判断合格？

失败

缺资料或出现冲突时，停止、降级还是请求补充？

五块怎么用

起草时从左往右写；检查时从右往左问：先看有没有确认点和验收标准，再看输出格式能不能直接验收，最后才看步骤写得漂不漂亮。大多数失败的方法，缺的恰好是最右边两块。

对应模板 22 · 可执行任务说明

目标、输入、动作、约束、输出、验收、确认点七行——与五块结构一一对应。本周产出的 Skill 草稿，就按这个骨架来写。

规则卡 · 会议转行动安排

只使用指定纪要——不读目录外的旧文件和群消息。

原文未明确的负责人和日期，一律写"待确认"，不补造。

输出待办表，每条带原文出处，可回访核对。

真实发送消息和修改日历之前，停止并等人工确认。

用第二份相近纪要复测，确认方法仍然稳定，才算保存成功。

对照"自动安排好一切"版

那种 Skill 会替人拍板负责人、把"有人去问问"写成正式安排、直接发送通知。看起来省事，实际是把错误固化进了流程。

注意第 ⑤ 条

复测必须使用相近的新材料——继续用旧纪要只能证明记住了旧例子，不能证明方法可复用。这一条是 Skill 和普通提示词最硬的分界线。

任务 · 按五块结构写草稿

目标：把一节课的笔记整理成可复习的大纲。照着模板 22 的骨架，逐块填写：触发条件（什么时候用它、什么时候不用）；输入（允许读哪些文件）；步骤与工具（提取、归纳、生成什么）；输出（格式与交付位置）；验收与确认点（怎样算合格、哪些情况必须停下问人）。必须包含至少一条禁止事项和一个人工确认点。

互查环节：两组交换草稿，专查两处——触发条件是否真的排除了不该用的情况？禁止事项是否覆盖了发送、覆盖、删改这类高危动作？查完把问题写在草稿边缘，退回修改。

三轨提示

电脑组：直接写成文本文件存入项目目录。手机组：用备忘录写，截图存档。观察组：拿教师提供的现成 Skill 说明做对照，标记缺块。

草稿之后呢？

本周只要求草稿 + 互查。它将在第 10–11 周真正运行、复测并按模板 25 打分——现在写得越诚实，那时越省力。

1

写成口号，写不出步骤

"让 AI 更专业地整理笔记"——没有任何可执行动作。

怎么改

每个动词落到对象上：读什么、提取什么字段、生成什么格式。

2

触发条件形同虚设

"任何时候都可以用"等于没有触发条件。

怎么改

写清两类边界：适用的材料长什么样，明确不适用的场景有哪些。

3

忘记留确认点

整份流程从头跑到尾，没有一个地方停下来问人。

怎么改

至少为发送、覆盖、删除类动作设一个硬停点，写明问谁。

4

没复测就宣布成功

用原来那份材料跑通，就当方法已验证。

怎么改

换一份相近新材料复测；只有复测通过才谈得上"保存"。

我能说出 Skill 和长提示词的区别：适用条件、边界与验收。

我起草的 Skill 草稿包含触发条件、输入范围和步骤顺序。

草稿里至少有一条禁止事项和一个人工确认点。

我知道输出必须带出处，缺失信息写"待确认"。

我明白不复测就不能宣布方法"已保存"。

我能举出一个不该做成 Skill 的任务并说明理由。

第 3 节小结

保存方法，是保存它的边界、确认点和验收标准。

一次对话成功可能靠运气；一套方法能在新材料上稳定复现，才配得上被保存。

下周预告：概念就位，下周进入"灯火计划"第一个实训任务——项目与行动安排。

第 1 节 · 大模型在做什么

第 2 节 · 回答与行动的区别

第 3 节 · Skill 与方法沉淀

监管框架 · 标识义务

《生成式人工智能服务管理暂行办法》要求生成内容真实准确可靠，并按《互联网信息服务深度合成管理规定》进行显式/隐式标识。短视频平台上的"AI 生成"角标，就是这条规定的落地——本周实训产出的内容也应注明 AI 参与。

北大警钟 · "会操作不会思考"

北京大学尚俊杰教授观察到：很多学生"会用豆包、会调 Kimi，却说不清生成式 AI 的工作原理、怎么判断答案是否可信——典型的会操作但不会思考"。本周建立的概念语言，正是防止自己变成"高级操作工"的底座。

预测与幻觉

预测下一个词的机制，为什么天然带有"编造倾向"？这与"幻觉"（hallucination）是什么关系？

同一个模型，不同表现

为什么同一个模型在不同 App 里表现不同？系统提示词和产品设置改变了什么？

"说不知道"的价值

如果要求模型"不确定时说不知道"，它会变得更好还是更保守？"知道模型不知道"难在哪里？

迁移练习 · 选一个任务，写两个版本

从整理课程笔记 / 规划社团例会 / 检查作业格式中选一个任务：分别写出聊天机器人版本和智能体版本；圈出智能体需要调用的资料或工具；标出至少一个人工确认点。

自查：工具调用画了圈吗？人工确认点标了吗？两个版本的差别，应该正好落在"它会不会动你电脑里的东西"上。