基础理论
01
机器学习
让计算机从数据中学习模式，并在新输入上做预测或分类。
监督学习无监督学习强化学习回归与分类
Theory
核心理论应该帮人建立地图，而不是制造术语压力。
这里把 AI 基础概念整理成 11 个可扫读条目：每个概念说明它解决什么问题，并列出继续学习时会反复遇到的关键词。
基础理论
02
神经网络与深度学习
用多层非线性结构处理复杂模式，是当前大模型和视觉模型的重要基础。
反向传播CNNRNNTransformer
基础理论
03
自然语言处理
研究计算机如何理解、解释和生成人类语言。
词嵌入情感分析机器翻译大语言模型
基础理论
04
计算机视觉
让计算机从图像和视频中获得结构化理解。
目标检测图像分割特征提取人脸识别
训练方法
05
强化学习
智能体通过行动和反馈学习策略，适合决策与控制问题。
马尔可夫决策过程Q-Learning策略梯度奖励函数
基础理论
06
知识表示与推理
将知识形式化，并通过逻辑关系进行推理。
本体论语义网专家系统逻辑推理
模型架构
07
注意力机制
让模型在处理输入时动态关注最相关的部分，是 Transformer 的核心组件。
自注意力多头注意力位置编码交叉注意力
训练方法
08
迁移学习与预训练
在大规模数据上预训练通用模型，再微调到下游任务，是当前大模型的主流范式。
预训练-微调领域适配少样本学习零样本学习
模型架构
09
生成模型
学习数据分布并生成新样本，包括 GAN、VAE、扩散模型等。
GANVAE扩散模型自回归模型
训练方法
10
RLHF 与对齐
通过人类反馈的强化学习让 AI 输出更符合人类期望和安全标准。
RLHFDPO宪法 AI安全对齐
模型架构
11
多模态学习
让模型同时理解和处理文本、图像、音频等多种模态的数据。
视觉-语言模型跨模态检索图文生成多模态推理
Practice
理论的作用，是让每一次产品体验更可解释。
当看到模型回答、推荐结果或视觉识别结果时，可以回到这些概念判断：它依赖什么数据、可能在哪里失败、需要怎样验证。