Wiki 目录
本页面由 LLM 在每次操作后自动维护。知识库采用领域优先结构:顶层按学习领域组织,每个领域自带
概念/资料摘要/综合分析/领域页。
🤖 AI
领域页
概念
- RLHF(人类反馈强化学习) — 人类偏好对齐的核心技术
- DPO(直接偏好优化) — 无需强化学习的对齐方法
- Constitutional AI — Anthropic 的伦理宪章对齐方案
- MoE(混合专家) — 稀疏激活的模型架构模式
- GQA(分组查询注意力) — KV 缓存优化的注意力机制
- MLA(多头潜在注意力) — DeepSeek 的低秩 KV 压缩
- RoPE(旋转位置编码) — 旋转矩阵编码相对位置,LLM 事实标准
- RMSNorm — 均方根归一化,LayerNorm 的高效替代
- PPO(近端策略优化) — RLHF 第三步的核心强化学习算法
- GRPO(组相对策略优化) — 去 Critic 的 PPO 变体,组内相对优势(DeepSeek / RP-TTS)
- 多模态 LLM — 跨模态理解和生成
- LALM(大型音频语言模型) — 离散 token + 自回归统一音频理解与生成(多模态 LLM 的音频分支)
- 对齐税 — 对齐训练导致的能力退化
- SFT(监督微调) — RLHF 第一步,用高质量标注数据教模型遵循指令
- S³ Tokenizer(监督语义语音分词器) — 基于 ASR 监督的离散语音表示
- FSQ(有限标量量化) — 100% 码本利用率的标量量化
- 神经音频编解码(RVQ) — 残差矢量量化多层离散 token,音频 LM 的离散化前端
- 条件流匹配(CFM) — 最优传输连续归一化流生成
- CFG(无分类器引导) — 扩散/流匹配的条件引导,少步化催生 CFG-free
- 分布匹配蒸馏(DMD) — 少步扩散/流匹配蒸馏,AudioX-Turbo 4-step 核心
- CLAP(对比语言-音频预训练) — 音频版 CLIP,生成空间/训练损失/评测指标三重身份
- DiffRO(可微奖励优化) — token 级可微后训练方法
- 生成式奖励模型(Generative Reward Model) — 生成推理再评分的奖励模型,可解释、可作 RLHF verifier
- DiT(Diffusion Transformer) — Transformer 替代 U-Net 的扩散骨干架构
- MMDiT(多模态扩散 Transformer) — DiT 的多模态双流变体:文本/图像各持权重、联合注意力(SD3/FLUX 骨干)
- 对抗后训练(Adversarial Post-Training) — 真实数据上对抗微调,少步扩散加速(ARC / Stable Audio 3)
- 音频生成 — 通用音频生成技术全景(扩散/语言模型/连续表示/CALM)
- CALM(连续自回归语言建模) — 自回归+流匹配融合范式,连续潜变量替代离散 softmax(AudioCALM)
- DDPM 前向与反向扩散公式推导 — 扩散加噪去噪公式的数学推导(前向重参数化 + 反向贝叶斯+神经网络近似)
- 得分匹配(Score Matching) — 学得分函数 ∇log p_t 训练扩散模型,去噪得分匹配 = DDPM 噪声预测;与流匹配对偶
- 离散扩散模型(CTMC) — 用连续时间马尔可夫链把扩散搬到离散空间,训练退化为逐位置分类,MDLM 语言模型
- VAE(变分自编码器) — 概率编解码 + KL 正则的潜空间压缩,latent diffusion 的基础
- Diffusion Autoregressive 架构 — 自回归 + 扩散的混合生成框架
- Tokenizer-Free TTS — 无离散 Tokenizer 的语音合成范式
- On-Policy Distillation(在策略蒸馏) — 学生自采样 + 教师逐 token 打分,结合 on-policy 相关性与 dense reward
- Knowledge Distillation(知识蒸馏) — 蒸馏大类:用强教师训练弱学生,Forward/Reverse KL 对比
- Policy Gradient(策略梯度) — RL 核心数学基础:根据 advantage 直接调整 token 概率
- verl — 字节跳动开源 LLM RL 后训练框架,支持 PPO/GRPO/OPD 等算法
- GPU 节点互联与分层带宽 — 从 HBM、NVLink/NVSwitch、PCIe 到节点间网络的 AI Infra 性能分析框架
资料摘要
大模型(按时间线,覆盖关键论文):
- 资料摘要:InstructGPT — RLHF 对齐开创性工作 (2022.03)
- 资料摘要:On-Policy Distillation — Thinking Machines Lab:on-policy 采样+教师逐 token 打分,9–30× 成本降低 (2025.10)
- 资料摘要:LLaMA — 开源大模型里程碑,13B 超越 GPT-3 175B (2023.02)
- 资料摘要:GPT-4 Technical Report — 多模态 + 人类水平专业考试 (2023.03)
- 资料摘要:DPO — 简化 RLHF 为单一分类损失 (2023.05)
- 资料摘要:Llama 2 — 开源 RLHF 对齐完整方法论 (2023.07)
- 资料摘要:Gemini — 原生多模态,MMLU 首超人类 (2023.12)
- 资料摘要:Mixtral — SMoE 架构,13B 激活超越 70B 密集模型 (2024.01)
- 资料摘要:Claude 3 — Constitutional AI,三级模型家族 (2024.03)
- 资料摘要:DeepSeek-V2 — MLA + MoE,KV 缓存减少 93.3% (2024.05)
- 资料摘要:Qwen2 — 全尺寸开源,72B 多项超越 Llama-3-70B (2024.07)
- 资料摘要:Llama 3 — 405B 对标 GPT-4,史诗级训练透明 (2024.07)
- 资料摘要:GPT-4o System Card — 全模态统一模型,320ms 语音响应 (2024.10)
- 资料摘要:LLM架构演进三年回顾 — B站视频:Transformer五大组件演进拆解,67模型回顾 (2026.05)
AI Infra / GPU 系统:
- 资料摘要:A100 SXM GPU 节点认识、配置与带宽测试 — B站实操:8×A100 SXM4 节点的 PCIe/SXM/HGX/DGX、拓扑与分层带宽验机 (2026.07)
扩散 / 视觉生成:
- 资料摘要:An Introduction to Flow Matching and Diffusion Models(MIT 6.S184) — MIT 6.S184 官方讲义:以微分方程统一流匹配/扩散/离散扩散的权威教科书 (2026)
- 资料摘要:DiT — Diffusion Transformer 原始论文,ICCV 2023
- 资料摘要:SD3(MMDiT) — Stable Diffusion 3:MMDiT 双流架构 + Rectified Flow 噪声采样,规模化至 8B,ICML 2024
- 资料摘要:GIVT — 视觉领域首个连续输出头(GMM),ECCV 2024
- 资料摘要:MAR — 扩散过程建模连续 token 分布(Diffusion Loss),NeurIPS 2024 Spotlight
语音合成 / TTS:
- 资料摘要:CosyVoice — 首个监督语义 token 零样本 TTS (2024.07)
- 资料摘要:CosyVoice 2 — 统一流式/非流式,FSQ+Qwen2.5骨干 (2024.12)
- 资料摘要:CosyVoice 3 — 百万小时规模化,9语言+18方言 (2025.05)
- 资料摘要:VoxCPM — Tokenizer-Free 端到端 TTS,ICLR 2026
- 资料摘要:DiTAR — LM 隐状态 + 扩散 Transformer 头做语音生成(CALM 先驱),ICML 2025
- 资料摘要:MCLP(角色扮演 TTS) — LALM 风格一致性指标 MCLP + GRPO 奖励,ICML 2026
- 资料摘要:GSRM(生成式语音奖励模型) — 生成式语音奖励模型:可解释声学特征 + CoT 推理评自然度,作 Speech RLHF verifier,Meta (2026.02)
- 资料摘要:MOSS-TTS — 复旦 OpenMOSS 语音生成基础模型,离散 token+AR+大规模预训练,双架构 (2026.03)
- 资料摘要:MOSS-Audio-Tokenizer — 纯 Transformer 端到端音频 tokenizer(CAT),1.6B/3M 小时,SOTA 重建 (2026.02)
音频生成(2025-2026):
- 资料摘要:Bagpiper — CMU+LY+NVIDIA:8B 音频基础模型,丰富字幕作认知概念代理 + caption-then-process,首批通用「理解-生成一体化」(2026.02)
- 资料摘要:Stable Audio 3 — Stability AI 旗舰潜空间扩散,4096× SAME + 对抗后训练 + 8 步 Ping-Pong,开源 SOTA (2026.05)
- 资料摘要:Dasheng AudioGen — 小米+交大:首个非自回归统一「混合音频场景」生成(语音+音乐+音效同段),多视图字幕 (2026.05)
- 资料摘要:DashengTokenizer — 小米 MiLM Plus:冻结语义 + 声学注入的连续统一 tokenizer,理解+生成共用一套表示 (2026.03)
- 资料摘要:AudioX — 统一多任务音频生成,ICLR 2026
- 资料摘要:AudioCALM — 阿里通义+港科大 CALM 范式:连续 AR+流匹配统一语音/音效/音乐,单一权重三类均达 SOTA (2026.06)
- 资料摘要:AudioX-Turbo — AudioX 高效版:4-step CFG-free,IF-caps-Pro 9.2M,DMD+判别器 (2026.06)
- 资料摘要:Fugatto — NVIDIA 首个音频基础模型,ICLR 2025
- 资料摘要:Siren — LM 首次超越 Diffusion 的 T2A,EMNLP 2025
- 资料摘要:Plan-Critic — 前缀规划 + GAE 引导解码,EACL 2026
- 资料摘要:Khala — 64 层 RVQ 高保真音乐生成 (2026.05)
- 资料摘要:DreamAudio — 定制化 T2A,TASLP 2026
- 资料摘要:LongCat-AudioDiT — 波形潜空间 DiT,零样本语音克隆 SOTA (2026.03)
- 资料摘要:MOSS-SoundEffect v2 — 复旦 OpenMOSS 开源音效模型,DiT+Flow Matching 重构离散 AR (2026.05)
- 资料摘要:连续值 Token 音频语言模型 — 连续 token 替代离散 RVQ,ICML 2025
- 资料摘要:Score-Based 音频生成综述 — 扩散模型全面综述 + AudioDiffuser 代码库 (2025.06)
- 资料摘要:通用听觉智能综述 — LLM+音频融合全景路线图 (2025.11)
- 资料摘要:UniSonate — 天大+快手:首个统一 TTS/TTM/TTA 三模态 Flow-Matching 框架 (2026.04)
- 资料摘要:UniMoE-Audio — 哈工大+微信AI:Dynamic-Capacity MoE + Top-P 路由统一语音音乐生成 (2025.10)
音频生成 — 奠基性工作(2023–2024):
- 资料摘要:MusicGen — Meta 单阶段 Transformer LM 音乐生成,codebook 交错(Delay Pattern)去级联 + 文本/旋律双条件,NeurIPS 2023
- 资料摘要:AudioLDM — CLAP 潜空间扩散 TTA,首次零样本音频操作,ICML 2023
- 资料摘要:Tango — Flan-T5 + LDM,以 1/63 数据量超越 AudioLDM,ACL 2024
- 资料摘要:Tango 2 — Tango + diffusion-DPO 偏好对齐(Audio-alpaca),架构不变,ACM MM 2024
- 资料摘要:TangoFlux — Tango 三代:Rectified Flow + MMDiT/DiT + 在线偏好优化 CRPO,515M 3.7s 生成 30s,2024.12
- 资料摘要:DiffRhythm — 潜空间扩散全曲生成(人声+伴奏),10 秒 4m45s (2025.03)
- 资料摘要:GenAU — FIT+1D-VAE 环境音频生成,47M 数据管道+AutoCap 标注 (2024.06)
- 资料摘要:ControlAudio — 渐进扩散建模统一时间控制+可懂语音 TTA,ACL 2026 Main
音频理解 / LALM(大型音频语言模型):
- 资料摘要:Qwen2.5-Omni — 阿里全模态端到端模型,Thinker-Talker 双脑 + TMRoPE,流式文本/语音双输出 (2025.03)
- 资料摘要:Audio Flamingo 3 — NVIDIA+UMD 完全开源 SOTA LALM,AF-Whisper 统一三模态 + 按需思考 + 长音频≤10min (2025.07)
连续值自回归三篇(视觉→音频「连续预测头替代离散 softmax」技术路线):资料摘要:GIVT / 资料摘要:MAR / 资料摘要:DiTAR
综合分析
- CosyVoice 系列对比 — 三代演进:tokenizer → 流式 → 规模化+DiffRO
- DiT 论文全景 — DiT 论文图谱:从原始 DiT 到效率优化和架构进化
- LLM架构演进:Transformer已死? — 三年67模型五大组件演进全景回顾
💰 金融投资
领域页
- 股票基础知识教程 — 全 70 讲股票基础知识系列(进行中)
概念
- K线(蜡烛图) — 蜡烛图技术分析最基础单元,四要素构成与多空博弈解读
- 个股分时图 — 日内实时价格、成交均价与分钟成交量的读图框架
- 大盘分时图 — 加权/不加权指数与市场相对广度的观察框架
- 成交量 — 成交数量、放量/缩量与量价配合的基础
- 大阳线 / 大阴线 — 长实体 K 线的条件化解读
- 十字星 / T形与倒T形K线 / 长下影K线 — 小实体与影线形态的读图基础
- 出水芙蓉 / 乌云盖顶 / 早晨之星 / 黄昏之星 — 课程已摄取的突破与转折候选形态
资料摘要
- 资料摘要:股票基础知识教程-001-K线的构成及市场意义 — 第 1 讲:K 线构成与市场意义 (2026.07)
- 资料摘要:股票基础知识教程-002-个股分时图的看盘技巧 — 第 2 讲:个股分时图三要素与均价线 (2026.07)
- 资料摘要:股票基础知识教程-003-大盘分时图的看盘技巧 — 第 3 讲:加权/不加权指数与黄白线 (2026.07)
- 资料摘要:股票基础知识教程-004-成交量、放量与缩量 — 第 4 讲:成交量和量价基础 (2026.07)
- 资料摘要:股票基础知识教程-005-大阳线的实操价值 — 第 5 讲:大阳线的定义与位置条件 (2026.07)
- 资料摘要:股票基础知识教程-006-经典K线形态“出水芙蓉” — 第 6 讲:缩量整理后的放量突破 (2026.07)
- 资料摘要:股票基础知识教程-007-大阴线出现后的应对策略 — 第 7 讲:大阴线的高位/深跌情境 (2026.07)
- 资料摘要:股票基础知识教程-008-经典K线形态“乌云盖顶” — 第 8 讲:两 K 线看跌转折候选 (2026.07)
- 资料摘要:股票基础知识教程-009-“十字星”K线的实操价值 — 第 9 讲:均衡、分歧与后续确认 (2026.07)
- 资料摘要:股票基础知识教程-010-经典K线组合形态“早晨之星” — 第 10 讲:三 K 线由空转多候选 (2026.07)
- 资料摘要:股票基础知识教程-011-经典K线形态“黄昏之星” — 第 11 讲:三 K 线由多转空候选 (2026.07)
- 资料摘要:股票基础知识教程-012-“T形”与“倒T形”K线的实操技巧 — 第 12 讲:特殊影线结构 (2026.07)
- 资料摘要:股票基础知识教程-013-长下影K线的实操技巧 — 第 13 讲:下影线与位置条件 (2026.07)
📙 人文社科
宗教 · 概念
- 亚伯拉罕诸教 — 犹太教/基督教/伊斯兰教三大一神教的”三本书”框架
- 古兰经 — 伊斯兰教圣书,114章,神逐字启示的终极经典
- 穆罕默德 — 伊斯兰教的封印先知,七世纪阿拉伯社会改革家
- 伊斯兰五功 — 正信/礼拜/斋戒/天课/朝觐,以信仰替代血缘的社会机制
- 希吉拉 — 622年迁徙麦地那,伊斯兰历元年,从精神运动到政权实体
- 乌玛 — 超越民族的穆斯林共同体,伊斯兰”综合体”的终极蓝图
宗教 · 资料摘要
- 资料摘要:伊斯兰简史(1)-伊斯兰的起源 — 青蛙刀圣1993 YouTube 视频,伊斯兰起源两视角全梳理 (2026.06)
规划中领域
以下领域已建占位索引,等待首次 ingest 填充:
基础设施
最近更新
- 2026-07-14: ingest — 资料摘要:股票基础知识教程-002-个股分时图的看盘技巧 至 资料摘要:股票基础知识教程-013-长下影K线的实操技巧(B站 P2–P13 本地 Whisper 带时间戳转录);新建 个股分时图、大盘分时图、成交量、大阳线、出水芙蓉、大阴线、乌云盖顶、十字星、早晨之星、黄昏之星、T形与倒T形K线、长下影K线,并更新 股票基础知识教程 为 13/68 已摄取。课程形态以位置、量能、确认与风险控制为共同边界,不作为单一交易指令。
- 2026-07-13: ingest — 资料摘要:A100 SXM GPU 节点认识、配置与带宽测试(B站本地 Whisper 转录 + 已授权 GitHub 课件/代码)+ 新建 GPU 节点互联与分层带宽 概念页 + 节点互联与验机图;归档并解读 pinned-memory PCIe 与 HBM copy/stream-add 微基准,覆盖 SXM/PCIe/HGX/DGX、NVLink/NVSwitch 拓扑、GPU Burn 与 PCIe/NVLink/HBM 分层基准。
- 2026-07-13: ingest — 资料摘要:An Introduction to Flow Matching and Diffusion Models(MIT 6.S184)(MIT 官方讲义,84 页)+ 新建 得分匹配(Score Matching)、离散扩散模型(CTMC)、VAE(变分自编码器) 三个概念页 + 统一框架图;更新 条件流匹配(CFM)、DDPM 前向与反向扩散公式推导、CFG(无分类器引导) 交叉引用(补齐理论根页)
- 2026-07-10: ingest — 资料摘要:GSRM(生成式语音奖励模型) + 新建 生成式奖励模型(Generative Reward Model) 概念页 + 两阶段架构图;Meta 生成式语音奖励模型(可解释声学特征 + CoT 推理,作 Speech RLHF verifier)
- 2026-07-09: refactor — 知识库层级重构为领域优先:
raw/与wiki/顶层统一为 emoji 学习领域(🤖 AI / 💰 金融投资 / 📙 人文社科 / 🔢 数学 / 💻 CS / 🎃 外语 / 🎹 音乐 / 🎨 画画 / 🛎️ 技能),机能文件夹(概念/资料摘要/综合分析/领域页/assets)内嵌到各领域;补齐 sortspec、重写 AGENTS.md schema、预建 6 个占位领域 - 2026-07-07: ingest — 资料摘要:Qwen2.5-Omni(阿里全模态 Thinker-Talker + TMRoPE)+ 资料摘要:Audio Flamingo 3(NVIDIA 完全开源 LALM,AF-Whisper + 按需思考);新建「音频理解」主题分组(
raw/🤖 AI/音频理解/+wiki/🤖 AI/资料摘要/音频理解/);更新 LALM(大型音频语言模型)(sources + 理解分支两条路线) - 2026-07-07: ingest — 资料摘要:DashengTokenizer(小米 MiLM Plus 连续统一 tokenizer,冻结语义+声学注入)+ Excalidraw 架构图;按主题归组 Dasheng 家族(raw/wiki 均入
Dasheng/子文件夹);更新 神经音频编解码(RVQ)(连续统一 tokenizer 对照路线)、音频生成、条件流匹配(CFM)、音频生成、资料摘要:Dasheng AudioGen(互链潜空间基座) - 2026-07-07: ingest — 资料摘要:Bagpiper + Excalidraw 架构图(双向映射 + Caption-then-Process);更新 LALM(大型音频语言模型)(理解-生成一体化/语义层统一)、音频生成(统一基础模型一节)
- 2026-07-03: ingest — 资料摘要:股票基础知识教程-001-K线的构成及市场意义 + 新建 K线(蜡烛图) 概念页 + Mermaid 结构图;新增「金融/投资」领域
- 2026-07-01: query/ingest — 从 Codex 会话整理 RL/蒸馏知识:新建 Knowledge Distillation(知识蒸馏)、Policy Gradient(策略梯度)、verl 三个概念页;更新 On-Policy Distillation(在策略蒸馏) 交叉引用
- 2026-07-01: ingest — 资料摘要:On-Policy Distillation + 新建 On-Policy Distillation(在策略蒸馏) 概念页 + Excalidraw 对比图;更新 SFT(监督微调)、分布匹配蒸馏(DMD)、DiffRO(可微奖励优化)、GRPO(组相对策略优化) 交叉引用
- 2026-07-01: query — 基于 MAR 论文讨论,新建 DDPM 前向与反向扩散公式推导 概念页(前向重参数化 + 反向贝叶斯推导 + 与流匹配对比);更新 资料摘要:MAR(新增相关链接)
- 2026-06-30: ingest — 资料摘要:ControlAudio + 架构图,首个统一时间控制+可懂语音 TTA,ACL 2026 Main;更新 DiT(Diffusion Transformer)、音频生成、音频生成
- 2026-06-29: ingest — 资料摘要:GIVT + 资料摘要:MAR + 资料摘要:DiTAR,连续值自回归三条技术路线(GMM/扩散/流匹配)从视觉到音频;更新 CALM(连续自回归语言建模)(history+sources+交叉引用)、Diffusion Autoregressive 架构(修复 DiTAR 混同,补 CALM 列对比)
- 2026-06-29: ingest — 资料摘要:UniMoE-Audio + 架构图(Dynamic-Capacity MoE)+ 更新 MoE(混合专家) + 更新 音频生成(统一框架趋势)
- 2026-06-29: ingest — 资料摘要:AudioCALM + 新建 CALM(连续自回归语言建模) 概念页 + 架构图 + 更新音频生成领域页/概念页
- 2026-06-16: query — 判断 MusicGen / AudioGen 架构归类
- 2026-06-15: 摄取 AudioX-Turbo + 新建 分布匹配蒸馏(DMD) 概念页 + 架构图;按主题归组 AudioX 资料
- 2026-06-05: 摄取 MOSS-Audio-Tokenizer + MOSS-TTS + 新建 LALM(大型音频语言模型) 概念页 + 2 张架构图
- 2026-06-05: 摄取 Dasheng AudioGen + MCLP + 新建 GRPO(组相对策略优化) 概念页 + 2 张架构图
- 2026-06-05: 摄取 Stable Audio 3 + 新建 对抗后训练(Adversarial Post-Training) 概念页 + 架构图
- 2026-06-04: 摄取 MOSS-SoundEffect v2 + 架构图
- 2026-05-26: 摄取 GenAU + 架构图;全库巡检修复 3 处死链 + 统一 TTS→语音合成标签
- 2026-05-25: 批量摄取奠基性音频生成论文(MusicGen/AudioLDM/Tango/DiffRhythm)
- 2026-05-21: 从 Maxwell-Mou-wiki 迁移 VoxCPM 全套资料
- 2026-05-17: 摄取 B 站视频《上帝视角拆解三年 LLM 架构演进》+ 新建 RoPE/RMSNorm 概念页 + 综合分析页
- 2026-05-09: 新增 DiT 论文全景 + 原始 DiT 论文摄取;巡检修复 + 新建 DiT/PPO/SFT 概念页
- 2026-05-08: 通用音频生成 10 篇论文批量摄取(AudioX/Fugatto/Siren 等)
- 2026-05-04: CosyVoice 1/2/3 三篇论文批量摄取;批量导入 11 篇大模型关键论文(LLaMA → GPT-4o)
- 2026-05-03: ingest InstructGPT 论文