WALL-E's Blog

AI

标签 - AI
2026
大模型数学速成(09):多头注意力——多个专家各看各的
2026-07-07
大模型数学速成(09):多头注意力——多个专家各看各的
大模型数学速成(08):ViT 层 vs LLM 层——概念对照总表
2026-07-06
大模型数学速成(08):ViT 层 vs LLM 层——概念对照总表
大模型数学速成(07):RoPE——用旋转编码位置
2026-07-05
大模型数学速成(07):RoPE——用旋转编码位置
大模型数学速成(06):前馈网络 FFN——GELU 与 SwiGLU
2026-07-04
大模型数学速成(06):前馈网络 FFN——GELU 与 SwiGLU
大模型数学速成(05):注意力机制与 Softmax
2026-07-03
大模型数学速成(05):注意力机制与 Softmax
大模型数学速成(04):LayerNorm、RMS Norm 与残差连接
2026-07-02
大模型数学速成(04):LayerNorm、RMS Norm 与残差连接
大模型数学速成(03):Q/K/V 投影——同一输入,三种角色
2026-07-01
大模型数学速成(03):Q/K/V 投影——同一输入,三种角色
大模型数学速成(02):矩阵乘法——神经网络的基本变换
2026-06-30
大模型数学速成(02):矩阵乘法——神经网络的基本变换
大模型数学速成(01):张量、维度与「列 = token」
2026-06-29
大模型数学速成(01):张量、维度与「列 = token」
大模型数学速成(00):读 Transformer 前需要哪些数学?
2026-06-28
大模型数学速成(00):读 Transformer 前需要哪些数学?
1234
avatar
WALL-E-2000
文章
105
标签
62
分类
11
Follow Me
公告
This is my Blog
最新文章
大模型数学速成(19):DPO 与 RLHF 目标函数速览
大模型数学速成(19):DPO 与 RLHF 目标函数速览2026-07-10
大模型数学速成(18):MoE——稀疏 FFN 与路由
大模型数学速成(18):MoE——稀疏 FFN 与路由2026-07-10
大模型数学速成(17):Flash Attention——不物化注意力矩阵
大模型数学速成(17):Flash Attention——不物化注意力矩阵2026-07-10
大模型数学速成(16):LoRA——低秩适配在算什么
大模型数学速成(16):LoRA——低秩适配在算什么2026-07-10
大模型数学速成(15):量化——从 FP16 到 INT4 的尺度
大模型数学速成(15):量化——从 FP16 到 INT4 的尺度2026-07-10
分类
  • AI20
  • Assembly7
  • Blog3
  • CppInPractice28
  • Docker1
  • LLMMathPrimer20
  • Life6
  • Linux1
标签
2017 2016 Programming iOS Transformer 移动语义 Gmail Concepts zsh 智能指针 2025 GIT vim iPhoto 数据库 linux 算法 C++17 filesystem C++23 SQLite 推理 现代C++ Emoji Lambda git Mac 并发 GoogleTest AI 大模型 编程 协程 HTTP hexo LLDB github C++11 CMake FetchContent
归档
  • 七月 2026 34
  • 六月 2026 41
  • 一月 2026 1
  • 五月 2025 7
  • 六月 2023 1
  • 十一月 2022 2
  • 四月 2020 1
  • 十一月 2019 2
网站信息
文章数目 :
105
本站访客数 :
本站总浏览量 :
最后更新时间 :
© 2025 - 2026 By WALL-E-2000框架 Hexo 8.1.2|主题 Butterfly 5.5.3