📚 互动儿童绘本

嘟嘟和点点的
神奇理解机

跟着小火车 嘟嘟 和小猫 点点，一起走进 Transformer 大人版：一种很会“理解句子、再生成句子”的聪明模型结构。 的故事世界吧！

由 AI 创作

按左右方向键、点击箭头，或手机上左右滑动翻页

今天的魔法：
一句长长的话，要先拆成一小块一小块，聪明机器才更容易看懂。

小

猫

爱

吃

鱼

看见了吗？长句子变成了好多可爱的“词积木”

第 1 站

把句子拆成小积木

点点拿来一句话：“小猫爱吃鱼！”
嘟嘟说，先把它拆成一块一块的 Token 大人版：Token 就是模型处理文字时使用的最小小块，可能是字、词，甚至词的一部分。 ，就像把长长的积木塔拆开。
这样，神奇理解机才知道要先看哪几小块呀！

小猫

爱

吃

鱼

第 2 站

每一块，都准备好了

有时候，一块是一个字，有时候，一块也可以是一个词。
最重要的是，原来的长句子，已经变成整整齐齐的小块队伍了。
嘟嘟眨眨眼说：“好啦，现在终于能开始认真理解啦！”

小猫

1

爱

2

吃

3

鱼

4

第 3 站

给每块积木贴上号码贴纸

可是，如果小积木被风吹乱了怎么办？
点点灵机一动，给每块都贴上 位置编码 大人版：位置编码把“第几个”这个信息加进词表示里，让模型知道顺序。 的号码贴纸。
这样，就算它们站错了地方，也知道原来谁在前，谁在后！

“它”

点击小动物，看看“它”会更注意谁

第 4 站

每个词，都会悄悄回头看

在森林教室里，每个小动物都会偷偷看看别的小动物。
因为有时候，一个词想知道自己到底在说谁，就得看看旁边和远处的伙伴。
这种“看一看谁最重要”的本领，就叫 注意力机制 大人版：Self-Attention 会让每个词与其他所有词比较，找出最相关的信息。 。

小男孩

把球

抛给它

聚光灯比喻：
每个词像站在舞台上的演员，聚光灯会照向和它最有关的人。

第 5 站

像舞台上的聚光灯

嘟嘟说，注意力也像一盏会移动的聚光灯。
当词语“它”出现时，聚光灯会去找“它”最可能指的是谁。
被照得最亮的那个伙伴，常常就是最重要的线索！

句子谜案

今天的魔法：
不只一个小侦探，而是好多位一起看，同一句话就能被看得更仔细。

看角色

看顺序

看动作

第 6 站

好多小侦探一起调查

这次，来了三位小侦探。
一个盯着“谁是谁”，一个盯着“先后顺序”，还有一个盯着“发生了什么动作”。
这就是 多头注意力 大人版：多个注意力头会并行地从不同角度提取信息，然后再合在一起。 ，同一句话能从好多角度一起看！

原材料

更有用的信息

想象这是一个魔法烘焙坊，材料进去，香喷喷的蛋糕出来

第 7 站

信息进入魔法加工厂

看完伙伴们以后，信息还要去一趟 前馈网络 大人版：前馈网络会对每个位置上的表示再做一层非线性加工，让特征更丰富。 的魔法加工厂。
在那里，普通材料会被搅一搅、揉一揉、烤一烤。
出来以后，它们就变成更香、更清楚、更有用的信息蛋糕啦！

中文

英文

心里的意思

第 8 站

先听懂，再说出来

嘟嘟像一位会认真听话的翻译官。
它先把听到的话，整理成“心里的意思”，这一步像 编码器 大人版：编码器负责读入输入内容，产生包含上下文信息的表示。 在理解。
等意思清楚了，才能继续往下说呀。

听懂

记住意思

说出来

两位翻译官：
第一位负责“听懂”，第二位负责“一个一个词地说出来”。

第 9 站

把心里的意思变成新句子

接着，点点来当第二位翻译官。
它把“心里的意思”慢慢讲出来，这一步像 解码器 大人版：解码器会根据已生成内容和编码器给的信息，继续生成下一个词。 在开口说话。
所以，Transformer 就是先理解，再表达！

I

love

fish

!

像魔术师一样，一次变出一个词，最后就变成一句完整的话

第 10 站

一个一个词，排成新句子

最后，神奇理解机像魔术师一样，咻，先变出一个词。
再咻，又变出下一个词。
这样一个接一个，最后就组成了完整的 输出 大人版：模型通常逐步预测下一个 token，直到形成完整回答。 句子！

Transformer 流水线：
拆小块 → 贴顺序 → 看伙伴 → 多角度观察 → 魔法加工 → 听懂 → 一个个说出来

温馨总结

嘟嘟和点点学会了什么？

原来，Transformer 不是真的在“猜”，而是在认真地一步一步理解。
它先把话拆开，再记住顺序，接着看看谁和谁最有关。
然后把信息加工好，先听懂，再慢慢说出新的句子。
点点笑着说：“哇，原来聪明，也可以这么温柔呀！”

📖 谢谢你读到最后

每一句话，
都藏着小小宇宙

下次当你看到聊天机器人会回答问题时， 也许会想起嘟嘟和点点。

它们会先认真听，再认真想，最后把答案一块一块地送到你面前。

愿每个好奇的小朋友，都能继续追问“为什么？”