为什么我还是无法理解transformer？
- 发表时间：2025-06-25 08:40:21
- 来源：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-21 22:05:20如何电脑下载Adobe audition?
- 2025-06-21 21:20:16匿名关了，大家实名说说你最近的烦恼？
- 2025-06-21 21:40:16如果我国收复了藏南地区，那该怎么处理藏南地区的百万印度人呢？
- 2025-06-21 20:30:15有一个***约你出去，你会去吗？
- 2025-06-21 21:50:15伊朗称袭击以色列「网络首都」，该地聚集英特尔、微软等多家高科技企业，伊朗为何选择这里？会造成哪些影响？
- 2025-06-21 20:45:16作为一个服务器，node.js 是性能最高的吗？
- 2025-06-21 22:05:20人常说女人味，到底是个什么味？
- 2025-06-21 20:55:16如何评价“寡姐”斯嘉丽·约翰逊的身材？
- 2025-06-21 20:55:16uni***真的很垃圾吗？
- 2025-06-21 21:20:16作为一个服务器，node.js 是性能最高的吗？
推荐产品
-
轰20的亮相为什么被反复推迟？
现在回头看，6爷挂上YJ-XX，成飞拿出三发奇观的时候，H2 -
中国与敌国发生战争，哪些国家会帮中国？
一个都不会有的，这个世界上没有一个国家的价值观和中国一样。 -
求大神解答，为什么大家都不喜欢用docker？
理由很简单，因为这就是一个中间产品。 如果有10个8个doc -
Golang和J***a到底怎么选?
就不想用rust吗？局面打开，j***a写一堆class太臃
新闻动态
最新资讯