芝士AI吃鱼 · 人人都能看懂的 AI 图解SERIES 14 / 20

显存里装着什么?为什么长对话也会占空间?

从具体例子出发,一步一步看懂背后的过程。

镜头 01 · 认出一只猫从日常例子出发

小屏可左右滑动图解查看完整流程;下方有同步字幕和完整讲稿。

算得动,也可能先装不下计算单元显存权重KV 缓存占用增长内存不足,与计算速度慢,是不同的问题芝士AI吃鱼

点击“开始讲解”,从一个具体例子开始。

逐句画面同步
00:00 / --:--

已就绪。点击播放;空格暂停 / 继续,左右方向键切换场景。

还没有观看记录
我的观看记录
    记录与隐私

    默认只在此浏览器保存观看位置与点赞。你可以选择将它们同步到本站,以便汇总内容反馈。同步不需要姓名或邮箱,使用此浏览器的随机标识,不支持跨设备找回。

    未活动的本站记录按 180 天保留策略清理。清除浏览器数据可能让记录无法找回。你可以随时关闭同步,并删除本站保存的这份记录与点赞。

    当前:仅本机保存,不上传。

    看完这一期,你应该能说清楚

    • 显存需要容纳权重、缓存与运行中的数据。
    • 长上下文与并发请求会增加部分占用。
    • 量化和卸载节省空间,但伴随取舍。

    下一步

    下一期:AI 的“多想一会儿”,究竟多做了什么?

    回到全部 20 期

    展开完整讲稿 · 不听音频也能读懂
    20 期系列目录