LLMops实战:大模型微调、部署、评估自动化

LLMops实战:大模型微调、部署、评估自动化
基本环境Jenkins自动化工作流、Git下载代码)、Anaconda虚拟化环境创建、Python编程语言支持关键组件CUDA发挥GPU算力优势可大幅缩短微调时间LLaMa-Factory模型微调工具llama.cpp (模型格式转换)MLFlow(模型生命周期管理 注册、评估、镜像生成)部署Docker 容器化部署测试Streamlit快速搭建web测试界面一、安装Anacodna写文章-CSDN创作中心二、安装CUDA