边缘侧AI部署是智能终端落地的最后一道关口。随着物联网、移动设备和嵌入式系统对实时响应能力的要求提高，单纯依赖云端算力已无法满足低延迟、高隐私和高能耗限制的场景需求。这门课程聚焦于如何在资源受限的硬件上运行高性能神经网络，解决模型体积大、推理速度慢、能耗高导致无法在手机、车载芯片或微型控制板上实时运行的核心痛点。它不是泛泛的AI理论教学，而是直面工程落地的技术拆解，适合具备Python基础、了解线性代数概念，并对嵌入式系统或移动端开发感兴趣的工程师及转行者。即使没有深厚的硬件背景，只要愿意深入理解算力与精度的权衡逻辑，也能从中建立清晰的工程视角。

建议首先从设备端部署的技术挑战切入，重点研读内存优化与处理器适配机制。这部分内容揭示了为何高精度模型在嵌入式设备上寸步难行，以及通过模型压缩、量化和剪枝等手段如何在不显著损失精度的前提下缩小模型体积。紧接着应关注神经网络架构与AI芯片的协同设计，理解不同硬件加速器（如NPU、DSP）对算子执行效率的影响。最后，务必深入高性能推理引擎的底层原理，掌握如何将训练好的模型转化为可在真实场景中实时运行的部署代码。这些模块构成了从算法到硬件落地的完整闭环，避免碎片化学习导致的实践脱节。

学完这门课程后，你将能够独立评估特定AI模型在目标硬件上的可行性，并制定相应的优化策略。具体而言，你可以针对移动端应用完成模型的轻量化改造，实现毫秒级推理响应；或者在嵌入式开发中，根据功耗限制设计适配的推理流程，确保系统稳定运行。资料中的代码示例与硬件参数对照表是宝贵的练习素材，建议不要只看视频，而是亲手复现文中的优化案例。你可以使用开源工具链对经典网络模型进行量化实验，观察不同位宽下的精度与速度变化；同时尝试在不同等级的开发板上部署应用，记录实测数据并与理论指标对比。通过这种“理论推导-代码实现-硬件验证”的闭环练习，你能将抽象的性能指标转化为可感知的工程能力，真正掌握在资源受限环境下发挥AI潜力的方法论。

课程介绍

AI技术的一个趋势是在设备端上部署高性能的神经网络模型，并在真实场景中实时运行。如移动端/嵌入式设备，这些设备的特点是内存资源少，处理器性能不高，功耗受限，这使得目前精度最高的模型根本无法在这些设备进行部署和达到实时运行

课程目录

AI芯片.png   2022-8-31 15:58 上传 课程介绍： AI技术的一个趋势是在设备端上部署高性能的神经网络模型，并在真实场景中实时运行。如移动端/嵌入式设备，这些设备的特点是内存资源少，处理器性能不高，功耗受限，这使得目前精度最高的模型根本无法在这些设备进行部署和达到实时运行 课程目录：
第01周 1.轻量化网络结构设计 Lecture1 轻量化网络结构设计-1_ev .mp4 86.23M Lecture1 轻量化网络结构设计-2_ev .mp4 69.34M Lecture1 轻量化网络结构设计-3_ev .mp4 80.33M Lecture1 轻量化网络结构设计-4_ev .mp4 66.53M Lecture1 轻量化网络结构设计-5_ev .mp4 51.35M Lecture1 轻量化网络结构设计-6_ev .mp4 52.20M 2.实例分割相关的轻量网络并评估性能 Review1 实例分割相关的轻量网络并评估性能-1_ev .mp4 48.93M Review1 实例分割相关的轻量网络并评估性能-2_ev .mp4 65.90M
第02周 使用知识蒸馏完成检测网络的压缩 使用知识蒸馏完成检测网络的压缩-1_ev .mp4 79.45M 使用知识蒸馏完成检测网络的压缩-2_ev .mp4 54.64M 知识蒸馏优化、低秩分解优化 知识蒸馏优化、低秩分解优化-1_ev .mp4 78.32M 知识蒸馏优化、低秩分解优化-2_ev .mp4 92.44M 知识蒸馏优化、低秩分解优化-3_ev .mp4 84.83M 知识蒸馏优化、低秩分解优化-4_ev .mp4 50.42M 知识蒸馏优化、低秩分解优化-5_ev .mp4 58.20M
第03周 使用结构化剪枝完成一个网络结构的剪枝 使用结构化剪枝完成一个网络结构的剪枝-1_ev .mp4 68.86M 使用结构化剪枝完成一个网络结构的剪枝-2_ev .mp4 79.07M 网络剪枝 网络剪枝-1_ev .mp4 80.12M 网络剪枝-2_ev .mp4 51.62M 网络剪枝-3_ev .mp4 77.43M 网络剪枝-4_ev .mp4 95.07M 网络剪枝-5_ev .mp4 74.38M
第04周 uint8量化一个网络-1_ev .mp4 62.38M uint8量化一个网络-2_ev .mp4 81.67M 网络量化-1_ev .mp4 70.13M 网络量化-2_ev .mp4 108.74M 网络量化-3_ev .mp4 120.17M 网络量化-4_ev .mp4 71.51M 网络量化-5_ev .mp4 101.34M
第05周 就业分析+岗位推荐 就业分析+岗位推荐-1_ev .mp4 59.58M 就业分析+岗位推荐-2_ev .mp4 95.97M 了解openppll架构 了解openppll架构-1_ev .mp4 80.92M 了解openppll架构-2_ev .mp4 72.09M 神经网络编译器简介 神经网络编译器简介-1_ev .mp4 92.18M 神经网络编译器简介-2_ev .mp4 98.26M 神经网络编译器简介-3_ev .mp4 123.78M 神经网络编译器简介-4_ev .mp4 147.70M 神经网络编译器简介-5_ev .mp4 70.10M
第07周 ncnn-1_ev .mp4 108.34M ncnn-2_ev .mp4 148.43M ncnn-3_ev .mp4 131.69M ncnn-4_ev .mp4 74.96M ncnn-5_ev .mp4 91.43M 主题：使用ncnn进行离线量化并在eaidk310板子部署的demo-1_ev .mp4 108.55M 主题：使用ncnn进行离线量化并在eaidk310板子部署的demo-2_ev .mp4 158.39M