人工精选深入理解 GPU 计算: CUDA 编程指南
这门课的名字里虽然有「CUDA 编程指南」，但它并不是一本写给驱动开发者或高性能计算研究员的手册。更准确地说，它面向的是这样一类人：日常写 Python 或 Java，已经开始接触模型部署、向量检索、推理加速，但一碰到「为什么这段代码在 GPU 上反而更慢」「显存为什么又爆了」就说不清楚。如果你正处
会员可免费下载本篇月会员可免费领取。
开通会员 ›会员 · 按档位
游客按标价购买，不享受上表折扣。
支付成功后自动发放网盘链接，链接失效可找客服免费补
这门课的名字里虽然有「CUDA 编程指南」，但它并不是一本写给驱动开发者或高性能计算研究员的手册。更准确地说，它面向的是这样一类人：日常写 Python 或 Java，已经开始接触模型部署、向量检索、推理加速，但一碰到「为什么这段代码在 GPU 上反而更慢」「显存为什么又爆了」就说不清楚。如果你正处在这个阶段，这门课值得花时间；如果你还没写过一行调用 GPU 的代码，建议先把 PyTorch 的基础用法跑熟再来。
它解决的是哪类工作场景
课程真正处理的问题集中在三块：一是搞清楚 GPU 和 CPU 在计算模型上的差别，知道什么任务适合搬到显卡上；二是能读懂并改写常见的 CUDA 核函数，而不是只会调用封装好的库；三是把 GPU 计算和向量检索这条线打通，理解 Embedding 检索在显存里是怎么组织和加速的。这三块对应到实际工作，就是模型推理变慢时你能定位是访存瓶颈还是计算瓶颈，是能动手改而不是只能等别人给方案。
学完之后能独立做什么
比较现实的预期是：你能独立写出一段可运行的 CUDA 程序，完成向量相似度计算或简单的矩阵运算，并能解释自己为什么这样划分线程块、为什么这样安排内存。再往上，你可以把 Embedding 检索的完整流程自己搭一遍——从数据准备、向量写入显存，到查询时做批量比对，最后拿到结果。这套东西写进个人项目里，比泛泛地说「了解大模型」要有说服力得多。需要提醒的是，课程不会把你变成 CUDA 优化专家，深度优化仍然要靠长期实践。
资料适合什么基础
- 需要会至少一门编程语言，C/C++ 基础会让核函数部分读起来顺畅很多；
- 要能看懂 Python，因为部分示例和检索环节会用 Python 串起来；
- 对深度学习有一点概念即可，不需要自己训练过模型；
- 如果完全没接触过并行计算，前几节需要放慢速度，把线程、block、grid 这几个概念吃透。
不符合上面任何一条的话，学起来会卡在环境配置和概念理解上，性价比不高。
资料怎么用比较划算
配套的章节笔记是这门课比较实用的部分，它把每节的关键结论和易错点做了压缩，适合课后复盘，也适合面试前快速过一遍。建议的用法是：每学完两到三节，合上视频，自己用笔记里的要点复述一遍——尤其是内存层级和线程组织这两块，能讲清楚才算真懂。综合实战章节不要跳，它是把前面零散知识串成一条线的地方，跟着做一遍，再自己换一组数据重做一遍，两次下来基本就稳了。
最后说一句判断标准：如果你现在的工作里已经出现了 GPU 相关的性能问题，或者你在准备向量检索、RAG 方向的岗位，这门课的投入产出比是合适的；如果只是觉得「GPU 听起来很厉害」想囤着，那大概率会停在环境配置那一节。
QQ_1762159623444.webp 下载附件 保存到相册 2025-11-3 16:47 上传
课程推荐
《深入理解 GPU 计算: CUDA 编程指南》QQ_1762159623444.webp 下载附件 保存到相册 2025-11-3 16:47 上传【技能收获】学完可掌握：Embedding 向量检索。课程以实战为导向，覆盖从基础概念到完整项目落地的关键步骤，配套章节笔记便于课后复盘与面试前快速回顾。【学习建议】建议按目录顺序学习，先打基础再进入综合实战章节；每完成 2～3 节可结合笔记整理一份学习小结，最终尝试独立复现一套完整 Demo 写入个人作品集。【就业发展】可面向岗位：AI 应用工程师、RAG 系统开发、Java 后端 + 大模型落地、企业知识库架构师。大模型应用岗需求持续走高，具备「后端 + RAG 落地」复合能力的人才在招聘市场更稀缺，简历中可突出完整项目链路而非仅会使用 API。 若你已有一定编程或运维基础，本课程可帮助你在现有技能栈上快速叠加热门方向能力，提升求职时的项目说服力与薪资谈判空间。
视频目录（99 节）
课程目录
* 1 课程介绍.mp4
* 2 什么是 GPU 计算.mp4
* 3 GPU 硬件架构综述.mp4
* 4 处理器空间.mp4
* 5 内存空间.mp4
* 6 GPU 计算能力.mp4
* 7 如何编写 CUDA 程序.mp4
* 8 如何编译 CUDA 程序.mp4
* 9 函数修饰符.mp4
* 10 内存修饰符.mp4
* 11 内建-内置向量.mp4
* 12 内建变量.mp4
* 13 CUDA 编程模型.mp4
* 14 CUDA 程序执行与硬件映射.mp4
* 15 程序解析- 向量加法.mp4
* 16 主机函数- __host__.mp4
* 17 设备函数- __device__.mp4
* 18 核函数- __global__.mp4
* 19 网格.mp4
* 20 线程块.mp4
* 21 网格维度- gridDim.mp4
* 22 线程块维度- blockDim.mp4
* 23 线程块 ID- blockIdx.mp4
* 24 线程 ID- threadIdx.mp4
* 25 线程调度.mp4
* 26 线程块与线程映射.mp4
* 27 例子- 向量加法.mp4
* 28 如何启动核函数.mp4
* 29 线程执行顺序.mp4
* 30 GPU 内存介绍.mp4
* 31 CPU 内存介绍.mp4
* 32 页锁定内存.mp4
* 33 GPU 内存如何管理.mp4
* 34 CPU 内存管理.mp4
* 35 页锁定内存管理.mp4
* 36 全局内存管理.mp4
* 37 例子- 全局内存.mp4
* 38 什么是共享内存.mp4
* 39 共享内存冲突.mp4
* 40 共享内存 Bank.mp4
* 41 共享内存 bank 冲突- 计算能力 1.x.mp4
* 42 共享内存 bank 冲突- 计算能力 2.0 及以上.mp4
* 43 共享内存应用- 加**约.mp4
* 44 内存拷贝- cudaMemcpy.mp4
* 45 例子- 内存管理.mp4
* 46 内存空间类型查询 (Address Space).mp4
* 47 向量操作.mp4
* 48 稀疏矩阵存储格式.mp4
* 49 稀疏矩阵向量乘法 (SpMV).mp4
* 50 什么是同步.mp4
* 51 核函数同步.mp4
* 52 线程块同步.mp4
* 53 Warp 同步.mp4
* 54 Warp 同步概述.mp4
* 55 什么是规约算法- 如何并行.mp4
* 56 并行规约算法-1- 二叉树算法.mp4
* 57 并行规约算法-2- 改进 warp divergence.mp4
* 58 并行规约算法-3- 改进共享内存访问 消除冲突.mp4
* 59 并行规约算法-4- 改进全局内存访问.mp4
* 60 并行规约算法-5- warp 内循环展开.mp4
* 61 并行规约算法-6- 完全循环展开.mp4
* 62 并行规约算法：成功优化的关键.mp4
* 63 完整并行规约算法： 三阶段算法与完整代码.mp4
* 64 并行规约算法应用- 内积.mp4
* 65 线程调度概述.mp4
* 66 Warp 投票函数.mp4
* 67 Warp 匹配函数.mp4
* 68 Warp 规约操作.mp4
* 69 Warp 内通信- 交换数据.mp4
* 70 例子- __activemask.mp4
* 71 例子- __ballot_sync.mp4
* 72 例子- __shfl_down_sync.mp4
* 73 例子- warp 内广播.mp4
* 74 例子- warp 内 scan 操作 (扫描).mp4
* 75 例子- warp 内规约操作.mp4
* 76 Cooperative Groups (合作组).mp4
* 77 隐式组类型 (内建组类型- 内置组类型).mp4
* 78 例子- 向量加法-1645693606.mp4
* 79 显式棋盘组划分 (Tiled Partition).mp4
* 80 合并组 (Coalesced Groups).mp4
* 81 例子- 合并组.mp4
* 82 例子- warp 内广播-1645693728.mp4
* 83 例子- warp 内广播 2.mp4
* 84 组划分 (tiled_partition).mp4
* 85 组划分- labeled_partition.mp4
* 86 例子- 合并组标记划分.mp4
* 87 组划分- binary_partition.mp4
* 88 例子- 合并组二分划分.mp4
* 89 组同步.mp4
* 90 网格组同步.mp4
* 91 规约操作 (Reduce).mp4
* 92 例子- 规约算法 1.mp4
* 93 例子- 规约算法 2.mp4
* 94 例子- 规约算法 3.mp4
* 95 例子- 规约算法 4.mp4
* 96 CUDA 程序概述.mp4
* 97 CUDA 程序优化- 探索并行化.mp4
* 98 CUDA 程序优化- GPU 内存优化策略.mp4
* 99 CUDA 程序优化- 指令优化.mp4
同类课程
和你正在看的这门一个方向
AI慕课网 - AI Agent全栈开发工程师（完整版）
永久有效 · 网盘发货
AI咕泡第五期-AI大模型零基础到商业实战全栈课
永久有效 · 网盘发货
AI黑马26年最新 ai V7.5 线上全套
永久有效 · 网盘发货
AIIT周瑜-AI原生超级全栈开发工程师训练营【第二期】
永久有效 · 网盘发货
AI大漂亮《自媒体影响力变现集训营》
永久有效 · 网盘发货
AIHermes Agent从入门到AI数字员工实战|已完结
永久有效 · 网盘发货