第2课：大模型如何思考
进度 0/24
🧠
大模型如何思考
知己知彼——搞懂大模型是怎么「思考」的
📖知识引入
🔤Token：AI的文字积木
大模型不认识「字」，它读的是Token（词元）。一个汉字约1-2个Token，英文单词约1个。AI每次「思考」都是在预测：下一个最可能出现的Token是什么，像玩文字接龙高手。
🔦注意力机制
AI读一句话时，会给每个词打「关注分」。「小猴子吃了香蕉」里，「吃了」会特别关注「小猴子」和「香蕉」。理解了注意力，你就明白为什么提示词里的重要信息要放对位置。
📏上下文窗口
AI的「工作台面」有大小限制（比如128K Token）。台面上只能放这么多东西，放满了旧的东西就会被挤掉。这就是为什么AI会「忘事」——不是它笨，是台面不够大。
🎭AI其实是个「演员」
大模型没有固定性格，它是超级演员：你给它什么「剧本」（系统提示词），它就演什么角色。给它数学家剧本，它就严谨推理；给它诗人剧本，它就浪漫表达。这是驾驭的第一原理。
💡
大模型=文字接龙高手+超级演员：它预测下一个Token，并且按你给的剧本演戏！
🔍Token是怎么数的
# Token估算小口诀
中文一个字 ≈ 1~2 个token
英文一个词 ≈ 1 个token
1000个汉字 ≈ 1500个token左右
# 上下文窗口常见大小
8K ≈ 5000字中文
32K ≈ 20000字中文
128K ≈ 80000字中文
# "K" = 1024个token亲手感受Token的拆分：
中文：「我爱学AI」 → Token可能是：[我][爱][学][A][I] 约5个Token
英文："I love AI" → Token可能是：[I][ love][ AI] 约3个Token
💡 发现了吗？ - 中文常按字/词拆 - 英文常按单词拆 - 数字、符号拆法更复杂
⚠️ 重要推论： 上下文窗口装的是Token数， 不是字数！ 写提示词要精炼， 每个Token都很宝贵。
🎯小测验
第1题：大模型「思考」的本质是什么？
第2题：AI聊久了会「忘事」，主要原因是？
第3题：为什么说AI是「演员」？
📝本课知识点
- ✓AI读的是Token，不是字
- ✓本质：预测下一个Token
- ✓注意力机制决定AI关注什么
- ✓上下文窗口=AI的工作台面，有限大
- ✓AI是演员，剧本（提示词）由你写
第2课完成！继续探索下一课吧 🚀