为什么我还是无法理解transformer？
更新时间：2025-06-24 21:40:10
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
案例推荐
case recommendation-
伊朗称向以发射使用射程达 2000 公里的「泥石」地对地弹道导弹，其威力有多大？
查看案例
-
如何寻找到相对完整的真正的游戏的源码用来学习？
查看案例
-
为什么买了Switch后，却发现它并没有那么好玩？
查看案例
-
PHP现在真的已经过时了吗？
查看案例
-
为什么中国主机带宽比美国贵5倍（原来错误的10000倍），比如阿里云？
查看案例
-
江西通报救护车 800 公里收费 2.8 万「不合理，暂停医院转运服务」，该医院要承担怎样的法律责任？
查看案例
-
网传厦门某国企研发部门要求每日考察后端 400 行，前端 1000 行代码量，如属实，这个考核合理吗？
查看案例
-
如何看待伊朗国家电视台发文：“今晚,将会发生一件大事,让世界铭记几个世纪。”？
查看案例