大模型原理与使用
LovisMind · 阅读与思考大模型原理与使用
三章从原理走到使用：先讲注意力机制与 KV Cache 如何支撑逐词生成，再梳理预训练、后训练与强化学习的完整流程，最后落到把大模型从聊天框用成工具箱的日常方法。
目录
- 01注意力与 KV Cache：从逐词生成到上下文管理用 Token、自回归生成、Query-Key-Value 注意力与 KV Cache 解释四件事：模型为什么无状态、窗口变长为什么效果变差、首字为什么慢、改动开头为什么让缓存失效。最后落到四条可执行的 Agent 使用习惯。
- 02大语言模型全流程：预训练、后训练与强化学习中 / EN沿 Karpathy 的讲解走完整条流水线：互联网文本如何变成 Token、神经网络如何学会预测、基础模型为什么不是助手、后训练如何用对话数据塑造人格、幻觉与工具使用从何而来，以及强化学习如何让模型「学会思考」。
- 03如何使用大模型：从聊天框到工具箱中 / EN以 Karpathy 的日常使用为线索，拆解上下文窗口、模型档位、推理模型、联网搜索、深度研究、文件与代码工具、语音图像视频，以及记忆、自定义指令与 Custom GPT。重点不是功能清单，而是每种能力适合什么任务、在哪里会翻车。