登录
注册
登录
注册
首页
在线实训
师资培训
证书培训
人社证书
技术证书
1+X证书
双创工作室
竞赛指导
科普知识
全部分类
业务
课程
班级
公开课
登录
注册
首页
在线实训
师资培训
证书培训
人社证书
技术证书
1+X证书
双创工作室
竞赛指导
科普知识
全部分类
业务
课程
班级
公开课
本地部署大语言模型
第8任务: 3.4 FastAPI部署Qwen3大模型API
查看课程
任务列表
第1任务: 课程配套资料
第2任务: 1.1 本地部署大模型的显存估算
第3任务: 1.2 大模型部署技术概述
第4任务: 2 开源大模型资料获取
第5任务: 3.1 环境准备
第6任务: 3.2 Qwen3模型推理
第7任务: 3.3 FastAPI部署思路
第8任务: 3.4 FastAPI部署Qwen3大模型API
第9任务: 3.5 FastAPI的API请求
第10任务: 3.6 Xinference安装与配置
第11任务: 3.7 部署方式1:luanch命令
第12任务: 3.8 部署方式2:界面化
第13任务: 3.9 Xinference 本地部署的API请求
第14任务: 3.10 vLLM框架介绍
第15任务: 3.11 vLLM部署与请求
第16任务: 3.12 私有API到公网API
第17任务: 4.1 模型量化理解
第18任务: 4.2 模型量化技术介绍
第19任务: 4.3 模型量化实现
第20任务: 4.4 GGUF量化文件格式
第21任务: 4.5 GGUF格式文件下载
第22任务: 4.5 Ollama官网模型部署
第23任务: 4.6 Ollama本地模型部署
第24任务: 4.7 Ollama API请求
第25任务: 5 模型量化小结
智能助手
GPT助手
您好,请问有什么可以帮您!
学
习
中
心
TOP
张老师
群1:897428979
群2:642795722
工作时间:9:00 - 18:00
张老师:18927565259
邮箱:
3120701392@qq.com