值不值得学:先看你的工作场景是否卡在算力调度上

这套资料的主题是用 Kubernetes(K8s)来统一调度 GPU 算力,并在此之上私有化部署 Deepseek 等大模型。它解决的核心痛点是:当团队手里有几张显卡,既要跑模型推理,又要做算法测试,如果全靠手动分配,极易出现显存挤占、环境冲突和资源闲置。把大模型塞进 K8s 集群,本质上是为了让显卡像服务器 CPU 一样被按需调度。如果你目前的工作只是用本地单机跑跑开源模型,或者纯粹想体验一下对话效果,这门课偏重运维和架构,对你来说可能有些超纲。但如果你是需要给开发团队提供算力支撑的运维工程师、平台工程师,或者是正打算把大模型真正接入公司内部业务的后端开发,那么搞懂 K8s 与 GPU 的绑定逻辑,就是绕不开的必经之路。

适合什么基础,建议先看哪几块

这门资料不适合零基础。它默认你已经懂基本的 Linux 命令操作,对 Docker 容器化有概念,最好能写过简单的 K8s YAML 部署文件。如果你连 Pod、Service 这些概念都不清楚,建议先补完基础再来。对于符合基础门槛的读者,建议直接跳过前面的常规介绍,从云原生人工智能和为什么要用 K8s 管理这两部分看起,先建立算力池化的全局视角。接着重点看 Ollama 的特性与对比模块,理解这个轻量级推理框架在 K8s 体系里扮演的角色。至于 GPU 机器申请和安装环节,不要光听,必须跟着视频在自己的测试环境里把流程走通,搞懂显卡驱动、容器运行时与 K8s 插件之间的依赖关系。

学完能独立做什么,资料怎么配合练习

把这套视频啃完并跟着实操后,你应该能独立完成一套企业级私有化大模型部署方案。具体来说,你能在一台或多台带显卡的物理机上,搭起 K8s 集群,正确安装 GPU 调度插件,然后编写资源清单把 Deepseek 等模型通过 Ollama 部署进去,并实现算力的隔离与分配。资料包里的视频偏向操作演示和原理解释,但在实际练习时,不能只停留在看和抄。建议你在看完每一节操作演示后,自己 blank 一份 YAML 文件出来手写。遇到 GPU 节点处于 NotReady 状态或者显存无法正常识别时,把排查日志和视频里的环境配置对照着看。只有自己把驱动版本对齐、运行时接口配置这些坑都踩过一遍,这套云原生管理大模型的能力才算真正长在你身上,而不是停留在教程的播放记录里。


使用K8s管理GPU、Deepseek,使用K8s和Ollama私有化部署大模型

课程目录

*   01 课程介绍/

  *   01 课程主要内容介绍.mp4 (9.59 MB), 02:51

  *   02 课程大纲.mp4 (7.16 MB), 02:27

*   02 Kubernetes驱动的GPU与大模型管理/

  *   01 为什么要使用K8s管理GPU和大模型.mp4 (24.78 MB), 09:03

  *   02 云原生人工智能(CNAI).mp4 (11.19 MB), 08:39

*   03 大模型与Ollama初体验/

  *   01 Ollama介绍和特性.mp4 (14.08 MB), 04:35

  *   02 Ollama和其它工具的对比.mp4 (14.01 MB), 04:54

  *   03 GPU机器申请.mp4 (38.61 MB), 07:32

  *   04 Ollama安装.mp4 (29.52 MB), 06:08

  *   05 Ollama初体验:私有化部署Deepseek R1.mp4 (10.08 MB), 03:56

  *   06 Ollama WebUI部署.mp4 (19.72 MB), 04:46

  *   07 Ollama客户端使用详解.mp4 (25.07 MB), 05:32

  *   08 Ollama服务端常用配置详解.mp4 (22.30 MB), 08:16

  *   09 Ollama限制可用的GPU.mp4 (8.73 MB), 03:13

  *   10 Ollama知识库RAG使用.mp4 (5.17 MB), 03:12

*   04 Kubernetes管理GPU和大模型技术体系/

  *   01 K8s管理GPU资源技术架构.mp4 (6.28 MB), 05:05

  *   02 K8s管理大模型服务的方案.mp4 (5.05 MB), 04:09

  *   03 K8s GPU Operator介绍.mp4 (14.60 MB), 03:07

  *   04 K8s Ollama Operator和Model资源介绍.mp4 (8.66 MB), 03:37

  *   05 K8s Kollama使用介绍.mp4 (6.68 MB), 02:37

*   05 Kubernetes GPU资源调度落地/

  *   01 K8s集群部署.mp4 (47.58 MB), 09:37

  *   02 K8s GPU插件部署.mp4 (18.82 MB), 03:39

  *   03 K8s GPU调度测试.mp4 (5.88 MB), 01:58

  *   04 K8s动态存储安装.mp4 (8.54 MB), 01:45

  *   05 K8s动态存储测试.mp4 (7.59 MB), 03:13

  *   06 K8s Ollama和Kollama部署.mp4 (6.03 MB), 01:49

*   06 Kubernetes管理大模型实战/

  *   01 K8s使用Model资源一键部署大模型.mp4 (24.23 MB), 07:01

  *   02 K8s使用Kollama一键部署大模型.mp4 (12.28 MB), 02:16

  *   03 K8s一键部署Deepseek R1模型.mp4 (4.26 MB), 01:29

  *   04 K8s部署Open WebUI.mp4 (11.57 MB), 04:23

  *   05 K8s部署任意大模型到K8s中.mp4 (23.77 MB), 05:09

  *   06 K8s指定GPU部署大模型及模型扩容.mp4 (11.39 MB), 04:27