先说结论:学 AI 开发,不要从数学开始
从 0 开始学 AI,最容易走错的一条路,是一上来就钻进线性代数、反向传播、论文和模型训练。那些东西重要,但不是第一步。对一个想做 App、做网页、做个人产品的独立开发者来说,第一目标不是成为模型研究员,而是把模型能力接到真实产品流程里,让用户能完成一件事。
AI 应用开发的核心,可以压成一句话:用工程手段,把一个概率模型变成可控、可靠、可评估的产品。模型负责生成可能的答案,产品负责给它上下文、工具、数据、约束、评估和恢复机制。真正的价值大多发生在模型外面。
所以学习顺序应该是:先理解软件怎么组成,再理解 AI 功能怎么接入软件,再做 API、结构化输出、RAG、Agent、评估和上线。原理层可以学,但应该放在你已经做出东西之后。
一、先看懂软件世界的基本结构
任何 App 或网站,本质上都由几层组成。用户能看到的是前端或客户端,比如按钮、列表、输入框、图片、动画。用户看不到的是后端,比如登录、支付、搜索、转写、推荐、AI 调用。数据要放进数据库,服务要跑在服务器上,前端和后端之间通过 API 传递请求和结果。
可以用一个简单结构理解:
举个例子,用户在一个 AI 阅读 App 里问“这章讲了什么”。前端收集问题,后端拿到书籍内容,必要时从数据库或向量库检索相关段落,然后把问题和上下文发给模型。模型返回结果后,后端做格式校验和安全处理,最后前端把答案展示给用户。
这就是 AI 产品的基本形状:不是“问模型一句话”,而是前端、后端、数据库、模型、评估和部署一起组成一个系统。
二、AI 开发的五层地图
把 AI 开发拆开看,可以分成五层。这个地图比零散学概念更重要,因为每一个新名词都能放回对应位置。
第 5 层:产品层
这是用户真正感知到的部分,包括 App、网页、工作流、交互、商业模式和使用场景。用户不会关心你用了哪个模型,用户只关心结果有没有用、速度快不快、失败后能不能恢复。
你的植物医生、听章、Good Reader、性格测试测评、言己,都在这一层接受用户检验。
第 4 层:智能体层
这一层解决“模型怎么连续做事”。Agent、工具调用、多步推理、工作流编排、记忆、任务状态,都属于这一层。一个真正的 Agent 不是更长的聊天,而是一个循环:模型判断下一步,调用工具,拿到结果,再继续判断,直到任务完成。
第 3 层:能力层
这一层是 AI 应用开发者最应该深耕的地方,包括上下文工程、RAG、评估、护栏、记忆、成本控制。模型不知道你的私有数据,所以需要 RAG;模型会不稳定,所以需要评估;模型会输出错误格式,所以需要结构化输出和校验。
第 2 层:API 层
这一层是把模型能力接进产品,包括聊天生成、结构化输出、函数调用、流式输出、多模态输入、文件处理。很多人以为会调 API 就会 AI 开发,其实这只是入口。
第 1 层:模型层
这一层是 Transformer、训练、微调、对齐、LoRA、推理优化。它很重要,但不是从 0 做产品的第一步。你需要先知道它是什么,等产品问题逼着你深入时再系统学。
三、三个必须建立的心智模型
1. 模型是概率引擎,不是数据库
传统代码更像确定性机器,输入 X 通常得到 Y。大模型不一样,它根据上下文预测最可能的输出。它可能说得很像真的,但并不等于事实正确。
这个认知会直接推导出后面的工程要求:业务知识要通过 RAG 或工具给它;关键输出要结构化和校验;重要功能要做评估;不能把模型回答直接当数据库事实。
2. 你的价值在模型外面
同一个模型,有人做成玩具,有人做成产品。差别不是模型本身,而是上下文、工具、数据、流程、评估、成本和交互。独立开发者真正要练的是把这些外部系统组织好。
3. AI 功能是一个持续迭代的管线
一个成熟 AI 功能一般是这样的:用户输入进入系统,后端做上下文工程,必要时检索数据或调用工具,再请求模型。模型输出后,系统解析结构、校验格式、过滤风险、记录日志、进入评估。发现质量不稳定,再回到提示词、检索、工具或模型选型上迭代。
这不是一次性写完的功能,而是持续调优的管线。
四、从 0 开始的六阶段路线
阶段 0:建立地图,用一周把概念串起来
这一阶段不追求写很多代码,目标是把地图画清楚。你要知道 Token、上下文窗口、Prompt、Function Calling、Embedding、向量数据库、RAG、Agent、Eval、Guardrail、微调分别属于哪一层。
推荐学习:先看 Andrej Karpathy 的 LLM 入门视频,建立训练、推理、幻觉、微调的直觉;再看 3Blue1Brown 的神经网络系列,理解神经网络不是神秘东西,而是一套函数逼近和参数学习机制;最后通读 OpenAI 和 Anthropic 开发者文档首页,知道平台能力边界。
阶段产出:写一页自己的 AI 开发地图。不是复制别人的图,而是用自己的话解释每个概念在哪里、解决什么问题、不解决什么问题。
阶段 1:把 AI API 用到极致
这是所有 AI 产品的地基。你需要从“能调用模型”升级到“知道每一行请求参数为什么这样写”。重点包括 Token 和计费、上下文窗口、Temperature、系统提示、结构化输出、函数调用、流式输出、错误处理、重试、超时和 Prompt 版本管理。
结构化输出是这一阶段最重要的能力之一。原因很简单:产品需要稳定数据,不能靠模型自由发挥。比如你要让模型输出书籍推荐、植物养护建议、性格测评结果、会议纪要,都应该有清晰 schema。TypeScript 项目里可以用 Zod 定义结构,再把结构转成模型的 JSON Schema,最后对返回结果做强校验。
工具调用是另一条主线。模型本身不会查数据库、不会发邮件、不会读你服务器文件,它只会提出“我要调用哪个工具、参数是什么”。真正执行的是你的代码。这个机制一旦跑通,模型就从“回答问题”进入“执行任务”。
阶段项目可以做两个:一是把已有简单 AI demo 重写成生产级,补上结构化输出、工具调用、流式输出、错误处理和评估用例;二是给阅读类产品做 AI 图书助手,让模型可以查书库、查章节、查人物,再生成带引用的回答。
阶段 2:RAG,让模型用上你的数据
RAG 解决的是“模型不知道你的私有数据”这个问题。它的基本流程是:文档入库,切分成 chunk,转成 embedding,存进向量数据库;用户提问时,先检索相关内容,再把检索结果放进上下文,让模型基于这些资料回答。
RAG 的难点不在“装一个向量库”,而在每一环都影响质量。文档怎么切,chunk 多大,要不要重叠,关键词检索和向量检索怎么结合,检索后要不要 rerank,回答里要不要引用来源,这些都会决定最终效果。
对你来说,最适合的练习是做个人知识库问答系统。把自己的学习笔记、产品文档、项目总结放进去,用 NestJS 做上传、切分、向量化和问答接口。准备 20 个测试问题,比较不同 chunk 策略下答案准确率。这一步做完,你就能把 RAG 能力接进 Good Reader、言己、博客资料库和产品支持页面。
阶段 3:Agent,从对话到完成任务
Agent 的本质是“大模型 + 工具 + 记忆 + 循环控制”。最小循环可以这样理解:模型看到任务和工具清单,决定下一步;如果需要工具,就输出工具名和参数;代码执行工具,把结果放回上下文;模型继续判断;直到完成或达到步数上限。
不要一开始就沉迷框架。先手写一个最小 Agent 循环,哪怕只有两个工具:搜索资料和写文件。你真正要理解的是消息缓冲区、工具注册表、停止条件、步数上限、错误恢复和结果格式化。
等你理解循环后,再看 LangGraph、OpenAI Agents SDK、Claude Agent SDK、CrewAI 这类框架。框架的价值是节省工程量,不是替代理解。
阶段项目可以做“每日 AI 应用创意挖掘 Agent”:每天定时搜索新产品,抓取资料,打分筛选,生成报告,再推送到邮件或微信。这个项目包含搜索、决策、生成、分发,是一个完整 agentic 工作流。
阶段 4:生产化,把 demo 变成产品
AI demo 很容易,AI 产品很难。生产化要解决稳定性、成本、延迟、安全和可观测性。
评估是核心。没有评估,你不知道一次 Prompt 修改到底变好了还是变坏了。应该为每个 AI 功能准备测试集,覆盖正常输入、边界输入、异常输入和真实用户场景。每次修改提示词、模型、检索策略或工具逻辑,都跑一遍评估。
可观测性也要早接入。你需要知道每次请求用了多少 token、花了多少钱、延迟多少、失败在哪里、用户是否接受结果。Langfuse、Helicone、LangSmith 这类工具的价值就在这里。
成本控制对独立开发者尤其重要。不是所有任务都要用最贵模型。简单分类、摘要、格式整理可以用便宜模型;复杂推理、关键生成再用强模型。还可以通过缓存、批处理、降级策略、上下文压缩来控制成本。
阶段 5:补原理,从黑盒到灰盒
当你已经做过 API、RAG、Agent 和评估之后,再学模型原理会有效很多。你会带着真实问题去看 Transformer、Attention、训练、SFT、RLHF、DPO、LoRA,而不是抽象地背概念。
这一阶段可以按顺序学:神经网络基础、反向传播、Transformer、训练流程、微调。目标不是自己训练大模型,而是能判断“这个问题应该 Prompt 解决、RAG 解决、工具解决,还是微调解决”。
实践可以从 nanoGPT 或 Hugging Face 官方课程开始。训练一个玩具模型,或者用 LoRA 微调一个小模型。重点不是结果多强,而是亲自走一遍数据、训练、验证和推理的完整流程。
阶段 6:长期进化,把学习变成产品资产
AI 更新很快,但不要追每一个热点。真正长期有效的是把能力沉淀成自己的工具箱:Prompt 模板、RAG 管线、Agent 骨架、评估集、成本监控、上线 SOP。
每学一个新能力,都要落地到自己的产品里。比如阅读 App 做 RAG 问答,植物医生做视觉识别和结构化养护建议,言己做语音转写和内容卡片,博客做学习记录和知识沉淀。输出文章不是额外工作,而是把学习变成可复用资产。
五、结合个人产品的落地地图
你的优势是已经有真实产品,不缺练习场景。AI 学习不要停留在课程里,要直接回到产品里验证。
每个产品都可以对应一条 AI 能力路线。不要为了学技术而学技术,要让技术进入产品,进入用户流程,进入收入模型。
六、具体学习计划
第一周,画地图。看 LLM 入门视频,整理五层地图,写一篇自己的理解:模型是什么、API 是什么、RAG 是什么、Agent 是什么、评估为什么重要。
第 2 到第 4 周,把 API 用扎实。重点做结构化输出、工具调用和流式输出。把一个已有 AI 功能重写成生产级。
第 5 到第 8 周,做 RAG。用自己的文档和项目资料做知识库问答,准备测试问题,比较不同检索策略。
第 9 到第 12 周,做 Agent。先手写最小循环,再上框架。做一个能每天自动调研、筛选、写报告的任务型 Agent。
第 13 到第 15 周,做生产化。给一个线上 AI 功能加评估集、日志、成本统计、错误兜底和监控。
第 16 周以后,补原理。学神经网络、Transformer、训练和微调,目标是能做技术判断,不是变成研究员。
七、最容易踩的坑
第一,不要从数学开始。数学能帮助你深入,但不能直接帮你做出第一个 AI 产品。
第二,不要只收藏教程。看完一个概念,当天就写一个小实验。能跑起来,才算真的理解。
第三,不要沉迷框架。LangChain、LangGraph、CrewAI 都有用,但先手写一次最小循环,你才知道框架到底替你做了什么。
第四,不要忽略评估。没有评估的 AI 功能,只是“看起来能用”。真正上线后,质量、成本、延迟都会暴露问题。
第五,不要把微调当万能药。大多数业务问题应该按 Prompt、RAG、工具调用、评估优化的顺序解决。微调通常是最后手段。
八、参考学习链接
最后
从 0 学 AI,不是从 0 学所有东西。正确路线是先建立地图,再用项目推进。先把模型当成一个可以调用、可以约束、可以评估的能力;等你做出产品,再回头补原理。这样学不会散,也不会空。
评论
可以留下你的想法。评论提交后会进入审核,通过后公开展示。