personal-website

I'm OWenT

所属分类:技术博客与个人站

持续记录大模型、算法与服务端开发架构的技术博客。

I'm OWenT 是一个持续更新的技术博客,提供 Home、Archives、About 和 RSS 订阅等入口,按日期整理较长篇幅的开发文章。站点近期内容涵盖大语言模型、Transformer、线性注意力,也记录 libatbus、libatapp 等服务端通信框架的设计。《大语言模型的基石:Transformer 入坑笔记(四)》从注意力机制的计算成本出发,讨论线性注意力的基础思路,适合希望跟随系列文章学习相关概念的读者。

I'm OWenT:从 Transformer 到服务端架构的技术笔记

发布于 2026年10月21日更新于 2026年10月27日

以系列文章梳理技术主题

博客的文章列表按时间呈现,归档提供回看较早内容的入口,RSS 可用于追踪更新。Transformer 系列从模型基本原理和词嵌入开始,继续介绍注意力机制,再进入线性注意力等优化主题。这样的安排有助于读者先理解基础结构,再讨论长上下文带来的计算问题。文章篇幅较长,正文中也会连接前序内容和外部资料,便于沿着技术背景逐步阅读。

除大模型与算法主题外,站点还记录服务端组件的接口和架构变化,例如 libatbus 与 libatapp 的通信、连接管理和拓扑设计。文章展示作者长期参与开发和系统设计的实践轨迹,既有基础概念整理,也有工程实现观察。读者可以根据当前兴趣从最近文章开始,或通过日期归档和主题标签查找专题。

I'm OWenT 首页显示 Transformer 系列与服务端开发文章

注意力机制与计算成本

《大语言模型的基石:Transformer 入坑笔记(四)- 线性注意力的基础》接续前面的 Transformer 与注意力机制内容。文章回顾经典注意力计算,并从参数规模和上下文长度增长后的资源成本提出问题。标准注意力需要处理序列中位置之间的关系,序列长度增加时,计算和内存需求会快速上升。文章据此引入线性注意力作为一类优化思路,讨论不同设计如何改变计算结构。

该文把问题放在模型发展背景中说明:如何在提升参数量和上下文长度的同时控制计算开销。正文回顾注意力公式,再比较不同方案的复杂度和基本动机。作者还提示,优化路线涉及多篇研究工作,本文聚焦于帮助读者建立大致方案、思路与原理的整体认识,进一步的具体设计留待后续内容展开。这一范围说明有助于读者理解文章定位:它是系列学习笔记中的基础介绍,而不是对所有线性注意力变体的穷尽比较。

适合沿着前序内容阅读

Transformer 系列的阅读顺序对理解线性注意力主题很有帮助。读者可以先了解词嵌入和基本原理,再回顾注意力机制,最后进入线性注意力。理解标准注意力为何产生较高的序列计算成本后,阅读优化方案会更有背景。系列文章通过“入坑笔记”的方式整理相关内容,为没有逐篇阅读原始论文的读者提供概念入口。

文章中涉及不同论文和方法,作者说明其阅读和整理过程跨越一段时间,部分表达可能沿用当时所读论文的术语。读者可把正文当作学习路线和基础解释,再通过引用论文或后续文章深入核对数学推导、适用条件和实现差异。线性注意力是一个广泛方向,不同方法的假设、精度表现与计算权衡并不相同,因此了解具体论文背景很重要。

从算法笔记到工程架构

I'm OWenT 的内容也覆盖服务端通信框架。近期文章介绍 libatapp 的连接管理层,以及 libatbus 从树形路由到拓扑驱动的设计变化。这些文章关注组件之间如何建立通信、如何管理连接以及架构调整的原因。它们与 Transformer 系列主题不同,但共同体现博客的技术写作特征:从问题背景出发,解释设计选择,再讨论实现或后续变化。

对于从事服务端或分布式系统开发的读者,这类文章可帮助理解项目架构演进的上下文;对机器学习与大模型感兴趣的人,则可以跟随 Transformer 系列建立理论阅读线索。网站将不同专业主题放在同一归档中,通过文章和日期保持索引,读者可按领域选择,不必跨主题顺序阅读。

适合哪些读者

如果你正在学习 Transformer 或注意力机制,可以从系列早期文章开始,再进入线性注意力内容;已经熟悉基础概念的读者,可直接查看第四篇并按正文链接继续探索。如果关注服务端框架设计,可以从 libatbus 和 libatapp 相关文章了解连接与路由架构。博客适合愿意阅读长篇技术笔记、跟随作者分析问题背景与设计过程的人。

总结来说,I'm OWenT 以时间归档保存大模型、算法和服务端工程等多领域技术写作。Transformer 系列通过基础机制到线性注意力的递进方式解释计算成本问题,服务端文章则记录通信框架的工程设计。首页、归档与 RSS 订阅为读者提供持续阅读路径,深入研究时可结合文章引用的原始资料核对细节。

线性注意力文章呈现注意力复杂度与优化主题

比较具体方案时,还应同时关注数值近似、吞吐与内存占用,并区分理论复杂度和实际硬件表现。不同方法的优化目标并不完全相同。