学习大模型前你需要了解的组件
汇总大模型大部分组件、概念
本站关注
- 学习指南
- 项目总结
- 深度学习
- 模型训练
最近更新于 2026年6月11日
文章 6
专题 5
标签 14
年份 2026 - 2026
专题导览
把常写的方向提前摆出来，读者一进站就知道这里主要在研究什么。
最近更新
首页保持内容优先，用一篇主文和一组摘要列表来承接读者视线。
11日 6月
Tokenizer(一)，最简单的BPE算法构建的Tokenizer
汇总大模型大部分组件、概念
21日 5月
芯宝是怎么诞生的
一个桌面级对话机器人，具有情感陪伴和随身知识库功能
18日 5月
Transformer 架构中的数学美学与注意力机制推导
系统推导 Transformer 中 Scaled Dot-Product Attention 缩放因子的数学原理，说明为什么要除以根号 d_k。
20日 4月
LLM 训练踩坑笔记：从数据清洗到损失稳定
整理一次中文语料训练中的关键坑位，包括分词污染、重复样本和 loss 波动处理。
18日 4月
RAG 检索设计实践：召回、重排与延迟平衡
以一个问答系统为例，拆解向量召回和重排在效果与成本之间的权衡。
写作说明
这里优先发布可复用的学习笔记、工程复盘和技术拆解，尽量让每篇文章都能成为后续工作的索引节点。