植物医生Plant Doctor
植物识别、养护建议和问题判断工具。
正在上线正在上线
用 AI 创造更好的生活
我是 HotPig，一名独立的 AI 应用开发者。这里放我的 APP、功能网站、Vlog 和持续更新的技术博客。
Good tools. A kinder world.
从 0 理解大模型：输入如何一步步变成输出
大模型入门第一篇：文字如何变成 token 和向量，Transformer 如何处理上下文，最后又如何通过概率分布一词一词生成回答。
植物医生
植物识别、养护建议和问题判断工具。
查看全部 APP
Vlog。
后续会把产品开发、AI 学习和个人创业过程做成视频记录。
博客。
写作是这个个人网站的核心。文章按大模型、开发、开发 SOP 三个专栏归档，适合按顺序阅读。
从 0 理解大模型：输入如何一步步变成输出
大模型入门第一篇：文字如何变成 token 和向量，Transformer 如何处理上下文，最后又如何通过概率分布一词一词生成回答。
开始阅读
从 0 理解大模型：输入如何一步步变成输出
大模型入门第一篇：文字如何变成 token 和向量，Transformer 如何处理上下文，最后又如何通过概率分布一词一词生成回答。
大模型为什么会这样回答：条件概率、模式激活与幻觉
解释大模型为什么输入一段话就会输出另一段话：它不是查数据库，而是在前文条件下预测下一个 token。
大模型是怎么训练出来的：参数、损失、反向传播和对齐
从一次训练循环讲清楚参数怎么变好：前向传播、交叉熵损失、反向传播、梯度下降，以及预训练、SFT、RLHF 的分工。
各家大模型差在哪里：架构、数据、对齐和选型
同样都是 Transformer 和预测下一个词，不同模型的差异主要来自架构、训练数据、上下文能力、后训练对齐、开放程度和成本。
训练为什么会收敛：优化、泛化和大模型的边界
收敛不等于越来越接近真相。训练收敛是优化过程，泛化才决定模型面对新问题时是否可靠。
从 0 开始学 AI 开发：先应用，后原理
一条面向独立开发者的 AI 学习路线：先看懂软件和模型的整体结构，再用项目把 API、RAG、Agent、评估和生产化串起来。
关于。
这里统一放个人定位、联系方式、语言版本和备案信息。
个人创业开发者，专注 AI 领域开发。
我会把自己的学习记录、产品思考和项目进展持续整理出来。博客是思考的沉淀，产品是实践的结果。
相信自己，未来可期。
文先生微信
添加微信请备注来意。
打赏
如果读了这篇文章觉得有帮助，可以扫码打赏支持。
