Token 是什么?AI 为什么这样切分文字?
从具体例子出发,一步一步看懂背后的过程。
镜头 01 · 认出一只猫从日常例子出发
小屏可左右滑动图解查看完整流程;下方有同步字幕和完整讲稿。
点击“开始讲解”,从一个具体例子开始。
逐句画面同步00:00 / --:--
已就绪。点击播放;空格暂停 / 继续,左右方向键切换场景。
仅保存在此浏览器
还没有观看记录
我的观看记录
记录与隐私
默认只在此浏览器保存观看位置与点赞。你可以选择将它们同步到本站,以便汇总内容反馈。同步不需要姓名或邮箱,使用此浏览器的随机标识,不支持跨设备找回。
未活动的本站记录按 180 天保留策略清理。清除浏览器数据可能让记录无法找回。你可以随时关闭同步,并删除本站保存的这份记录与点赞。
当前:仅本机保存,不上传。
看完这一期,你应该能说清楚
- Token是词元,不固定等于一个字或一个词。
- 分词器把片段映射为编号,具体切法因模型而异。
- 上下文与输出额度常按Token计量。
下一步
下一期,我们继续追踪这些编号,看看它们怎样变成向量,并随着上下文改变表示。