淘沙TV
法学硕士和生成人工智能

一步步看懂 Transformer 中的注意力(深度学习 第6章)

原名:Attention in transformers, step-by-step | Deep Learning Chapter 6 [Neural networ
vector090_·YouTube 484.8 万次观看·B站 39 播放··26:10
在 B 站打开 原 YouTube 版本

关于这个视频

3Blue1Brown 对 Transformer 内部注意力机制的视觉演练,涵盖自注意力、多头注意力和交叉注意力。这是他的深度学习系列的第六章。

HN 为什么推荐它:HN 将其视为注意力的首选视觉解释,推荐给那些发现基于文本的转换器解释器难以理解的人。

“让我最终理解 Transformer 架构 [0] 和注意力 [1] 的是 3Blue1Brown 的视频。”— HN 评论 · 2024 · 原文

查看英文原文

3Blue1Brown's visual walkthrough of the attention mechanism inside transformers, covering self-attention, multiple heads and cross-attention. It is chapter 6 of his deep learning series.

Why HN likes it: HN treats it as the go-to visual explanation of attention, recommended to people who find text-based transformer explainers hard to follow.

“what bade me finally understand the transformer architecture [0] and attention [1], are 3Blue1Brown's videos.”

HN 提及 8 次推荐者 5 人首次 2024最近 2026质量分 5.0

原视频频道:3Blue1Brown · YouTube 484.8 万次观看

科普入门常青注意力Transformer 模型llm深度学习可视化3Blue1Brown