第一阶段 ChatGLM-6B的基座、部署、微调、实现第二阶段 基于MOSS、baichuan7B/13B、ChatGLM2-6B的结构与微调第三阶段 阿里通义

*   第一阶段 ChatGLM-6B的基座、部署、微调、实现/

  *   第1课 GLM的结构及特点

  *   第2课 ChatGLM-6B的训练框架

  *   第3课 ChatGLM-6B的部署及微调

  *   第4课 ChatGLM-6B编码器/GLEU/旋转位置编码的实现

  *   第5课 ChatGLM-6B自注意力机制的实现(上)

  *   第6课 ChatGLM-6B自注意力机制的实现(下)

  *   第7课 SelfAttention类及GLMBlock类的相关方法

  *   第8课 ChatGLM-6B模型的推理/部署/微调

  *   第9课 ChatGLM-6B的数据处理及文件准备

  *   第10课 ChatGLM-6B的部署及微调过程

  *   第11课 微调方法—Freeze方法

  *   第12课 微调方法—prefix-tuning与prompt tuning方法

  *   第13课 微调方法—P-tuning V1方法

  *   第14课 微调方法—P-tuning V2方法

  *   第15课 微调方法—Lora方法

  *   第16课 微调方法—QLora方法

  *   第17课 LLM微调经验分享

*   第二阶段 基于MOSS、baichuan7B/13B、ChatGLM2-6B的结构与微调/

  *   第1课 中文大模型—复旦MOSS模型

  *   第2课 Baichuan-7B模型的特点及微调

  *   第3课 Baichuan-13B模型的特点及微调

  *   第4课 ChatGLM2-6B模型的改进及FlashAttention技术

  *   第5课 多查询注意力(MQA)技术

  *   第6课 ChatGLM2-6B模型的部署及微调

  *   第7课 LLM中英文评测基准及Baichuan-7B的推理

  *   第8课 使用QLora方法微调Baichuan-7B的流程

  *   第9课 Baichuan-7B微调代码解读及推理效果

  *   第10课 Baichuan-13B的特点及效果

  *   第11课 Baichuan-13B的推理

  *   第12课 基于LoRA微调Baichuan-13B-Chat过程(单轮)

  *   第13课 使用微调后的模型进行推理相关问题

  *   第14课 基于QLoRA微调Baichuan-13B-Base过程(多轮)

  *   第15课 评估基准C-EVAL及ChatGLM2-6B的改进

  *   第16课 ChatGLM2-6B的部署推理过程

  *   第17课 基于P-Tuning V2微调ChatGLM2-6B

*   第三阶段 阿里通义千问Qwen-7B的原理及ReAct用法/

  *   第1课 通义千问—Qwen-7B模型的特点

  *   第2课 Qwen-7B-Chat模型的微调数据构成

  *   第3课 Qwen-7B-Chat模型的ReAct Prompting

  *   第4课 ReAct代码示例