
@董章鱼
作者董章鱼,致力于帮助小伙伴快速入门AI算法,公众号《董章鱼是个攻城狮》主理人。
基于Transformer的大模型已经成为AI的顶流,该架构可以处理文本、语音和图像,基于此技术的AI应用也层出不穷。
本专栏将围绕Transformer系统从零讲解背景与算法技术,帮你打通理解该架构的最后一公里,祝你通过 Transformer 架构。
本专栏已完成更新,内容非常多,也有不少好玩的大模型应用的体验方法。
祝你学有所成,收获满满。
扫描下方二维码后查看置顶文章,有更详细的介绍哦。
扫码订阅专栏
使用微信扫一扫
系统学习Transformer架构与大模型算法原理
适合:想系统理解Transformer和大模型原理的AI初学者与开发者
适合想从零系统理解Transformer和大模型原理的AI初学者,64篇内容成体系,先看免费篇再决定。
专栏从Decoder-Only等基础结构讲起,适合刚入门AI算法的学习者,但需要一点编程和深度学习基础会更顺。
专栏有64篇系统内容,覆盖模型结构、后处理和工程实现,比碎片化文章更成体系。可以先看免费篇判断。
已完成更新,共64篇,内容稳定。
终身订阅69元,有1篇免费文章可以先读。
Transformer已经是大模型的主流架构,但很多人对它的理解停留在调用API和调参层面。这个专栏面向想从零搞懂Transformer的AI初学者,用64篇文章、131455字把架构和算法技术拆开讲清楚,作者是公众号《董章鱼是个攻城狮》主理人董章鱼。
专栏从《什么是 Decoder-Only 结构》切入,先讲清楚编码器和解码器的分工,再对比《GPT 和 BERT 的模型结构》,最后落到《Qwen2 的模型结构和细节》。这条线把主流大模型的骨架讲明白,而不是只给一个概念定义。
很多人调过大模型的温度参数和采样参数,但说不清背后的计算。《后处理:预测得分的温度参数和 Softmax 计算》《后处理:预测得分的 Top_p 采样》《后处理:预测得分的 Top_k 采样》和《后处理:为什么要对预测得分进行惩罚?》几篇,把生成效果的控制逻辑一步步拆开。另外还有《如何实现 KVCache?》这类偏工程实现的内容。
专栏共64篇,已完成更新,订阅人数189人,终身价格69元,有1篇免费文章。适合刚入门AI算法、想系统理解Transformer架构的学习者,也适合调过大模型API但想补底层原理的开发者。建议先看免费篇,再决定是否继续。
专栏里还有不少大模型应用的体验方法,学完架构之后可以顺手试试。

@董章鱼
作者董章鱼,致力于帮助小伙伴快速入门AI算法,公众号《董章鱼是个攻城狮》主理人。
基于Transformer的大模型已经成为AI的顶流,该架构可以处理文本、语音和图像,基于此技术的AI应用也层出不穷。
本专栏将围绕Transformer系统从零讲解背景与算法技术,帮你打通理解该架构的最后一公里,祝你通过 Transformer 架构。
本专栏已完成更新,内容非常多,也有不少好玩的大模型应用的体验方法。
祝你学有所成,收获满满。
扫描下方二维码后查看置顶文章,有更详细的介绍哦。
扫码订阅专栏
使用微信扫一扫