AI大模型概念速通:小白程序员必备收藏指南

本文从LLM、Token、Context等基础概念入手,详细解析了AI系统中各组件的功能与关系。文章以生产线为喻,生动阐述了LLM作为推理引擎、Token作为计量单位、Context作为工作台等核心角色的作用。同时,深入探讨了Prompt指令语言、RAG知识库补充、MCP工具连接、Skill流程沉淀以及Agent执行系统等关键要素,并辅以实例代码与架构图,帮助读者全面理解大模型运作机制。最后总结了各概念的分工与边界,强调AI应用的关键在于系统协同而非单一模型。

1. 概述


2024 到 2026 年,AI 领域的术语几乎是爆发式增长。LLM、Token、Context、Prompt、RAG、MCP、Skill、Agent 这些词大家都听过,但真正难的不是分别记住它们,而是搞清楚它们在一个 AI 系统里到底是什么关系、分别扮演什么角色。

如果把一个 AI 应用看成一条完整的生产线,那么可以把它理解成这样一条链路:

  • LLM 是核心推理引擎,负责“理解”和“生成”
  • Token 是模型处理信息的基本计量单位
  • Context 是模型每次工作时能看到的临时工作台
  • Prompt 是你向模型下达任务的指令语言
  • RAG 负责给模型补充外部知识
  • MCP 负责把模型和工具、数据源标准化连接起来
  • Skill 负责沉淀稳定流程和可复用经验
  • Agent 则把前面这些零件真正组织成一个能完成任务的执行系统

先看整体全景图。你不需要在第一眼就记住所有细节,只要先建立“谁在前、谁在后、谁依赖谁”的整体印象即可。

图片

接下来,我们会按照“从底层原理到工程实践”的顺序,一步步把这些概念串起来。

2. LLM:AI 系统的“大脑”


2.1 LLM 的本质是什么?

大语言模型(Large Language Model,LLM)的本质,是一个基于海量训练数据学会语言模式的概率预测引擎。给定前面的文本,它会预测下一个最可能出现的 token,再不断重复这个过程,最终生成整段回答。

听上去它只是“猜下一个词”,但当模型参数规模足够大、训练数据足够丰富时,这种“预测下一个 token”的能力会涌现出很多高层能力,比如总结、翻译、问答、编程、推理和创作。

输入文本 → Tokenizer 分词 → Token IDs → Transformer 计算 → 概率分布 → 采样 → 输出 Token

2.2 LLM 在整个 AI 系统里扮演什么角色?

LLM 更像是 AI 系统的推理中枢。它本身不直接访问外部世界,也不天然拥有“执行动作”的能力,但它非常擅长根据当前输入做理解、规划、归纳和生成。

所以在工程上,LLM 往往负责三类核心工作:

  • 把用户模糊的自然语言需求转成清晰的任务理解
  • 基于上下文进行推理、决策和内容生成
  • 决定是否需要借助外部知识、外部工具或进一步多轮执行

换句话说,LLM 决定“该怎么想”,但不一定决定“怎么拿到真实信息”或“怎么把事情做完”。

2.3 LLM 的能力边界与局限

理解 LLM,不能只看它“会什么”,还要看它“不会什么”。

  • 它不等于数据库。训练过的知识并不代表永远准确,也不代表实时更新。
  • 它不等于搜索引擎。没有接入外部检索时,它只能基于训练记忆作答。
  • 它不等于执行器。没有工具接口时,它不能真的去查库、发消息、改代码、下工单。
  • 它不等于绝对理性系统。即使推理能力很强,也可能产生幻觉、误判或漏掉约束。

这也是为什么后面会引出 Context、RAG、MCP 和 Agent:单有“大脑”还不够,AI 系统还需要“记忆”“外脑”“双手”和“行动框架”。

2.4 主流 LLM 一览

下面这张表展示了常见且比较知名的大模型,已经模型自身的特点所长。

模型家族典型特点
Claude长上下文、推理与代码能力强
GPT多模态能力完整、生态广泛
Gemini大上下文窗口、与 Google 生态结合紧密
DeepSeek成本优势明显,开源/开放生态活跃

2.5 调用 LLM 的最小示例

下面这段代码只保留最核心的调用路径:传入角色设定、用户问题和几个关键参数,拿回模型输出。

import os
import requests

response = requests.post(
    "https://api.openai.com/v1/chat/completions",
    headers={"Authorization": f"Bearer {os.environ['OPENAI_API_KEY']}"},
    json={
        "model": "gpt-4o",
        "messages": [
            {"role": "system", "content": "你是一位后端工程师。"},
            {"role": "user", "content": "用一句话解释什么是递归。"},
        ],
        "temperature": 0.7,
        "max_tokens": 100,
    },
    timeout=30,
)

reply = response.json()["choices"][0]["message"]["content"]
print(reply)

关键参数可以先这样理解:

  • messages:告诉模型“现在在聊什么”
  • temperature:控制输出偏保守还是偏发散
  • max_tokens:控制回答长度和成本

3. Token:模型理解世界的基本单位


3.1 Token 是什么?

Token 是模型处理文本时的最小计算单位。模型并不是直接理解原始字符串,而是先把文本切成 token,再把 token 映射成数字 ID,最后转成向量参与计算。

原始文本: "Hello, World! 你好世界"
    ↓ Tokenizer 分词
Tokens: ["Hello", ",", " World", "!", "你好", "世界"]
    ↓ 映射到词表
Token IDs: [9906, 11, 1917, 0, 19526, 25461]

3.2 Token 在 AI 系统里为什么重要?

很多人第一次接触 Token,会觉得它只是一个分词细节。但在工程里,Token 其实同时决定了三件大事:

  • 成本:大多数模型按输入输出 token 计费
  • 速度:token 越多,处理延迟通常越高
  • 容量:上下文窗口本质上就是“最多能塞多少 token”

所以 Token 不是纯理论概念,它直接影响你的系统吞吐、响应时延和预算控制。Prompt 写得太冗长、检索文档塞得太多、历史消息不裁剪,最后都会体现为 token 成本和性能问题。

3.3 分词流程图怎么看?

下面这张图可以帮助你把“文本 → token → 向量”的流程建立成一个清晰的中间层认知。它的重点不在于记住具体编号,而在于理解:模型看到的不是文字本身,而是一串离散 token 及其向量表示。

图片

这也是为什么不同语言、不同写法、甚至不同空格位置,都可能带来不同的 token 消耗。

3.4 Token 的粗略估算

单位约等于
1 Token~0.75 个英文单词
1 Token~1.5-2 个汉字
1 Token~4 个英文字符
1000 Tokens~750 个英文单词 / 1500-2000 个汉字

这只是经验值,不同模型的 tokenizer 规则并不完全一致。如果你要精确评估成本或上下文占用,最好用对应模型的 tokenizer 或在线 token 计算器来测算。

下面这张图就是一个典型的 token 计算器界面,它的作用是帮助你在“写 Prompt / 塞文档 / 拼上下文”之前先对成本和长度心里有数。

图片

4. Context:模型的“工作台”


4.1 Context 的本质

Context 是模型在某次调用中能够“看到”的全部信息。它不是模型的永久记忆,而是在每次请求发起时,由系统动态组装出来的临时工作区。

从模型视角看,它并不知道“哪些是历史消息、哪些是检索结果、哪些是工具返回值”。它只知道:这一刻自己拿到了一串 token,然后基于这些 token 做推理和生成。

4.2 Context 在系统中的角色与局限

Context 是决定回答质量上限的关键变量之一。因为模型推理再强,也只能基于“当前看得到的信息”来工作。

它主要承担三类职责:

  • 承载用户当前任务目标
  • 提供完成任务所需的背景、约束和历史
  • 注入外部检索结果、工具返回值、系统规则等辅助信息

但 Context 也有明显局限:

  • 容量有限:窗口再大也不是无限大
  • 噪声敏感:无关信息太多会稀释关键指令
  • 顺序敏感:高优先级信息放在哪里,会影响模型关注重点

所以真正的工程问题不是“把所有信息都塞进去”,而是“把最重要的信息,以最适合模型理解的方式放进去”。

4.3 动态构建 Context 的核心逻辑

理解完 Context 的角色后,再看代码就不容易迷失在细节里了。下面这段代码只保留最关键的 4 步:

  1. 放入系统规则

  2. 注入检索结果和工具结果

  3. 在 token 预算内裁剪历史消息

  4. 追加当前用户问题

import tiktoken

def build_context(task, system_prompt, history, rag_docs, tool_results, max_tokens=8000):
    enc = tiktoken.encoding_for_model("gpt-4")
    messages = [{"role": "system", "content": system_prompt}]

    if rag_docs:
        refs = "/n/n".join(rag_docs[:3])
        messages.append({"role": "system", "content": f"<references>/n{refs}/n</references>"})

    for result in tool_results:
        messages.append({"role": "tool", "content": result})

    history_budget = max_tokens * 0.4
    used = sum(len(enc.encode(m["content"])) for m in messages)

    for msg in reversed(history):
        size = len(enc.encode(msg["content"]))
        if used + size > history_budget:
            break
        messages.insert(1, msg)
        used += size

    messages.append({"role": "user", "content": task})
    return messages

这段代码要表达的核心思想只有一句话:Context 不是固定模板,而是围绕任务目标临时拼装、动态取舍的。

4.4 Context 的三层记忆模型

把 Context 放进更大的系统视角里看,可以把“记忆”粗略分成三层:

记忆类型存储位置生命周期示例
工作记忆Context Window当前推理当前任务状态、刚获取的工具结果
短期记忆会话历史本次对话前面几轮问答
长期记忆外部存储跨会话向量库知识、用户偏好、业务数据

理解完 Context 之后,下一步自然就会遇到一个问题:既然模型要靠上下文工作,那我们到底应该怎样把任务说清楚?这就进入 Prompt。

5. Prompt:与模型对话的语言


5.1 Prompt 是什么?

如果说 LLM 是大脑,Context 是工作台,那么 Prompt 就是你往工作台上摆放任务的方式。它不仅仅是一句“提问”,更像是一份对模型的任务说明书:你希望它扮演什么角色、完成什么目标、遵守什么约束、按什么格式输出。

Prompt 的质量,往往决定了模型输出是“看起来差不多”,还是“真的可用”。

5.2 这张 Prompt 图主要看什么?

下面这张图的重点,是帮助你从“随便问一句”升级到“结构化下指令”。很多 Prompt 效果不好,并不是模型不行,而是输入里缺少角色、上下文、约束或输出格式。

图片

5.3 一条完整 Prompt 的常见结构

┌─────────────────────────────────────────┐
│  1. 角色设定(Persona)                  │
│  2. 任务描述(Task)                     │
│  3. 上下文信息(Context)                │
│  4. 输出格式(Format)                   │
│  5. 约束条件(Constraints)              │
│  6. 示例(Examples,可选)               │
└─────────────────────────────────────────┘

这些要素并不是每次都要写得很长,但越是复杂任务,越需要把这几个部分交代清楚。

5.4 Prompt 的作用与局限

Prompt 能解决的核心问题,是把模糊意图转成模型可执行的输入。它能明显提升输出质量、一致性和可控性,但它不是万能的。

  • Prompt 可以提高命中率,但不能凭空补知识
  • Prompt 可以约束格式,但不能完全替代校验
  • Prompt 可以引导推理,但不能保证每次都推理正确

所以 Prompt 是基础控制手段,但当任务开始依赖外部知识或外部动作时,单靠 Prompt 就不够了,这正是 RAG 和 MCP 出场的原因。

5.5 三类常见 Prompt 技巧

技巧做法适用场景示例
Zero-shot直接提问,不给示例简单任务“翻译成英文:你好”
Few-shot给 2-5 个输入输出示例格式要求高的任务“输入:苹果→输出:apple”
Chain of Thought引导模型分步骤思考推理、数学、逻辑“先列出条件,再逐步分析”

6. RAG:给 LLM 外挂知识库


6.1 为什么要 RAG?

LLM 有两个天然短板:

  1. 知识有截止时间:训练数据不可能永远实时更新

  2. 会产生幻觉:模型可能一本正经地编出并不存在的内容

RAG(Retrieval-Augmented Generation,检索增强生成)的核心思路是:先检索,再回答。它不要求模型“自己记得一切”,而是先去外部知识库找相关资料,再把资料放进 Context 中,让模型基于这些资料生成答案。

6.2 RAG 架构图应该怎么看?

下面这张图的重点不是“多了一个向量数据库”这么简单,而是 AI 的回答流程被拆成了两段:

  • 第一段是检索:从外部知识中找到最相关的片段
  • 第二段是生成:基于这些片段组织回答

这也是 RAG 与“裸调用 LLM”最大的区别。

图片

6.3 RAG 在系统中的作用

RAG 的价值主要体现在三点:

  • 让模型拿到最新或私有的信息
  • 让回答尽量“有依据”,而不是完全靠记忆
  • 让系统知识更新从“重新训练模型”变成“更新外部文档”

从工程角度看,RAG 更像是在给模型增加一个“可查阅的外脑”。

6.4 RAG 的局限

RAG 很重要,但它也绝不是万能药。

  • 检索错了,回答就会被错误上下文带偏
  • 文档质量差,模型也只能基于低质量资料组织答案
  • 切片不合理,会导致关键信息丢失或上下文断裂
  • 召回太多,又会重新挤占 Context 预算

所以 RAG 解决的不是“让模型更聪明”,而是“让模型在回答时拿到更合适的信息”。

7. MCP:AI 工具的“USB 标准”


7.1 MCP 解决了什么问题?

当模型需要调用 GitHub、数据库、浏览器、文件系统等外部能力时,就会遇到一个很现实的问题:每个 AI 客户端都要为每个工具单独适配,集成成本会急剧膨胀。

这就是典型的 M×N 问题。

没有 MCP:M 个 AI 应用 × N 个工具 = M×N 次集成
有了 MCP:M 个 AI 应用 + N 个工具 = M+N 次集成

7.2 为什么说它像“USB 标准”?

MCP(Model Context Protocol)本质上是一套让模型与外部能力对接的统一协议。它并不会直接提高模型推理能力,但它会极大降低“接工具”的工程复杂度。

你可以把它理解为 AI 时代的接口标准层:

  • 对上,服务 AI 客户端或 Agent
  • 对下,连接各种工具、资源和模板

所以 MCP 解决的是“怎么标准化接入能力”,而不是“模型怎么变聪明”。

7.3 MCP 架构图怎么理解?

下面这张图最值得看的,是中间那一层“统一协议”。它把原本彼此割裂的工具能力抽象成
| Prompts | 模板 | 预定义 Prompt 模板 | 代码审查模板、文档生成模板 |

7.4 一个最小 MCP Server 示例

这一段代码不展开完整工程细节,只保留“注册 Tool、注册 Resource、启动服务”这三件最关键的事。

import asyncio
from mcp.server import Server
from mcp.server.stdio import stdio_server

server = Server("demo-mcp-server")

@server.tool()
asyncdef get_weather(city: str) -> str:
    returnf"{city}:晴,28°C"

@server.resource("config://app")
asyncdef get_config() -> str:
    return'{"app_name": "demo", "version": "0.1.0"}'

asyncdef main():
    asyncwith stdio_server() as (read_stream, write_stream):
        await server.run(
            read_stream,
            write_stream,
            server.create_initialization_options(),
        )

asyncio.run(main())

7.5 MCP 的局限

MCP 很适合解决标准化接入问题,但它也有边界:

  • 协议统一不代表工具设计天然合理
  • Tool 描述写得差,模型照样会调用失败
  • 高风险操作仍然需要权限控制和审批
  • 某些非常简单的场景,直接 function calling 反而更轻量

所以 MCP 是“基础设施层”的进步,不是万能抽象。

8. Skill:可复用的领域能力模块


8.1 Skill 解决了什么问题?

如果每次都只靠 Prompt 来要求 AI 遵守规范、执行流程,会很快遇到几个问题:

  • 同一套要求每次都要重新写
  • 细节容易遗漏,输出不稳定
  • 团队很难统一版本和共享最佳实践
  • 不同任务之间难以像积木一样组合能力

Skill 的价值就在这里。它把一类稳定、可复用的知识和流程,沉淀成一个长期存在的能力模块。

8.2 Skill 的本质是什么?

Skill 本质上可以理解为:“标准操作流程(SOP)+ 模板 + 脚本 + 参考资料” 的打包。

它适合存放那些相对稳定、不需要频繁实时更新的规则,比如代码审查规范、发布流程、安全检查清单、文档生成规范等。

换句话说,Prompt 更像“这次怎么做”,而 Skill 更像“以后都按这个方法做”。

8.3 Skill vs Prompt

维度普通 PromptSkill
生命周期当前对话持久化,可复用
内容形态纯文本指令指令 + 脚本 + 模板 + 参考资料
版本管理Git 版本控制
团队共享靠复制粘贴统一分发,自动更新
适合内容临时任务稳定的领域规范和流程

8.4 Skill 的结构图在表达什么?

下面这个目录结构可以帮助你理解 Skill 为什么不只是“一段更长的 Prompt”。它往往会把行为规范、模板、脚本和参考资料放在同一个能力包里。

my-skill/
├── SKILL.md
├── prompts/
├── scripts/
└── references/

8.5 一个 Skill 定义示例

---
name: python-code-review
description: Python 代码审查技能,按团队规范检查代码质量
---

# Python Code Review Skill

## 角色
你是一位资深 Python 代码审查者。

## 检查清单
1. **公共函数必须有类型注解**

2. **不允许裸 `except`**

3. **禁止直接拼接危险命令**

4. **关注性能与可测试性**

8.6 Skill 的作用与局限

Skill 非常适合沉淀“稳定流程”,但不适合承载频繁变化的信息。

一个简单判断原则:三个月都不太变的东西,更适合放 Skill;每周都可能变化的东西,更适合放 RAG。

适合放 Skill适合放 RAG
代码规范、命名约定API 文档、接口定义
安全检查清单数据库 Schema
测试要求、覆盖率标准架构决策记录(ADR)
CI/CD 流程步骤产品需求文档
团队协作规范故障复盘报告

Skill 的局限也很明显:如果内容变化太快、维护不到位,Skill 很快就会过时;如果写得过重,又会增加使用门槛。因此 Skill 的关键不是“越大越好”,而是“稳定、准确、可执行”。

9. Agent:从“对话”到“交付”


9.1 Agent 的定义

前面讲的 LLM、RAG、MCP、Skill 都可以看作零件,而 Agent 是把这些零件组织成一个执行闭环的系统。

Agent = LLM + Planning(规划)+ Memory(记忆)+ Tools(工具)

普通的 LLM 调用更像顾问:你问,它答。Agent 更像执行者:你给目标,它会拆步骤、调工具、观察结果、修正策略,直到完成任务或明确失败。

9.2 Agent 在系统里扮演什么角色?

Agent 的核心价值不是“会聊天”,而是“会围绕目标持续推进”。它通常负责:

  • 理解目标并拆解任务
  • 决定下一步是思考、检索还是调用工具
  • 根据工具结果更新状态
  • 在必要时继续迭代,直到完成或终止

也正因为如此,Agent 是最接近“把 AI 变成生产力系统”的一层抽象。

9.3 ReAct 图的重点是什么?

ReAct(Reasoning + Acting)是当前非常经典的一种 Agent 思路。下面这张图想表达的核心不是流程复杂,而是一个最小闭环:

  • 先思考下一步要做什么
  • 再执行动作
  • 再观察结果
  • 再根据结果决定下一步

图片

9.4 一个最小 ReAct Agent

下面这段代码只保留 ReAct 的核心骨架:决策 → 调工具 → 记录观察 → 继续或结束。这样读者更容易抓住 Agent 的本质,而不是陷入大量辅助细节。

class SimpleAgent:
    def __init__(self, llm, tools, max_steps=5):
        self.llm = llm
        self.tools = tools
        self.max_steps = max_steps
        self.history = []

    def run(self, task: str):
        for _ in range(self.max_steps):
            action = self.llm(task=task, history=self.history)

            if action["type"] == "finish":
                return action["answer"]

            result = self.tools[action["tool"]](action["input"])
            self.history.append(
                {
                    "thought": action["thought"],
                    "action": action["tool"],
                    "observation": result,
                }
            )

        return"达到最大步数,任务未完成"

def search(query: str) -> str:
    returnf"搜索结果:{query}"

如果用一句话概括这段代码,它表达的是:Agent 不是一次性生成答案,而是靠多轮“思考-行动-观察”逐步逼近目标。

9.5 Agent 的工程挑战

Agent 看起来最像“自动化员工”,但它也是最容易出问题的一层。

挑战说明常见缓解策略
可靠性可能走偏、循环、误判max_steps 、超时、人工审核点
成本控制多轮调用会快速消耗 token小模型规划、大模型执行、结果缓存
工具设计工具描述不清会导致误用清晰 schema、结构化错误返回
安全边界可能执行危险操作权限隔离、审批机制、只读模式

所以 Agent 的真正难点,不是“让它能跑起来”,而是“让它在真实环境里稳定、可控、可追踪地跑”。

10. 协同:一张图看懂所有概念如何一起工作


前面每个概念单独看都不算太难,真正有价值的是把它们放进同一个场景里理解。

假设你对一个 AI 编程 Agent 说:“请根据 GitHub Issue 实现一个新功能。”

这个过程中通常会发生以下事情:

  1. Prompt 把你的目标表达给系统

  2. 系统把任务说明、历史、规则、检索结果等组装成 Context

  3. LLM 基于当前 Context 做理解和规划

  4. 如果缺少业务资料,就通过 RAG 检索相关文档

  5. 如果需要访问 GitHub、文件系统或数据库,就通过 MCP 调用工具

  6. 如果团队有稳定流程,比如代码评审规范、提交规范、发布流程,就通过 Skill 复用

  7. 整个多步执行闭环由 Agent 负责推进,直到任务完成

下面这张总览图,就是把这几个环节重新放回同一个真实任务流中。

图片

11. 总结


如果要把全文压缩成一句话,可以这样记:

LLM 负责思考,Token 负责计量,Context 负责承载,
Prompt 负责下达指令,RAG 负责补知识,
MCP 负责接工具,Skill 负责沉淀经验,
Agent 负责把这一切组织成真正能完成任务的系统。

最后再强调几个常见误区:

误区真相
“上下文窗口越大越好”窗口越大不代表效果必然越好,噪声、延迟和成本也会同步上升
“RAG 可以解决一切知识问题”RAG 的效果高度依赖检索质量、切片策略和文档质量
“Prompt 写得好就够了”Prompt 很重要,但它不能替代外部知识、工具接入和结果校验
“MCP 会让模型更聪明”MCP 解决的是标准化接工具的问题,不是提升模型本身智力
“每个任务都需要 Agent”简单问答不需要 Agent,Agent 更适合多步推理、工具调用和目标执行

当你真正理解了这些概念的分工与边界,就会发现:AI 应用的本质并不是“押中一个最强模型”,而是把模型、上下文、知识、工具和流程组织成一个协同系统。这也是从“会用 AI”走向“能搭 AI 系统”的关键一步。

最后

如果说程序员已经是高薪职业,那么干AI的程序员,就是高薪中的高薪。

图片

现在的市场,已经用数据给程序员指明了方向:学AI大模型,就是冲刺高薪的最优解!

图片

看着身边越来越多的同行转型大模型、拿到高薪offer,很多人心里都动了心,但真正的难题来了:零基础小白不知道从哪入门?有基础的程序员找不到系统学习路径?实战项目练手无门?面试不知道考什么?

别慌!今天就给大家整理了一份【2026年最新版】AI大模型免费学习资源包,覆盖从入门到实战、从理论到面试、从基础到进阶的全流程,所有资料均已整理归档,无冗余、无套路,免费分享给每一位想抓住AI风口的程序员和小白!

👇👇扫码免费领取全部内容👇👇

在这里插入图片描述

1、大模型系统化学习路线

在这里插入图片描述

2、大模型学习书籍&文档

在这里插入图片描述

3、AI大模型最新行业报告

在这里插入图片描述

4、大模型项目实战&配套源码

img

5、大模型大厂面试真题

img

四阶段精细化学习规划(附时间节点,可直接照做)

结合上述资源,给大家整理了一份可直接落地的四阶段学习规划,总时长约2个月,小白可循序渐进,程序员可根据自身基础调整节奏,高效掌握大模型核心能力,快速实现从“入门”到“能落地、能面试”的跨越。

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案

👇👇扫码免费领取全部内容👇👇

在这里插入图片描述

6、这些资料真的有用吗?

这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理,现任上海殷泊信息科技CEO,其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证,服务航天科工、国家电网等1000+企业,以第一作者在IEEE Transactions发表论文50+篇,获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。
在这里插入图片描述
在这里插入图片描述

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

https://mp.weixin.qq.com/s/mrlUwWk158urYwE4mlETywhttps://mp.weixin.qq.com/s/mrlUwWk158urYwE4mlETyw

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值