5. 租赁 GPU 服务器并微调 Llama-Factory 模型
教学视频链接6.租赁 GPU 服务器并微调 Llama-Factory 模型_哔哩哔哩_bilibili
https://www.bilibili.com/video/BV1NKNSeDEgt/
租赁服务器
从 AutoDL 站点 租用服务器：AutoDL算力云 | 弹性、好用、省钱。租GPU就上AutoDL
3090 专区选择按量计费
基础镜像选择 pytorch 2.1.2
购买成功后通过 jupyterLab进入控制台
安装 LLaMA-Factory
从 这个链接 下载LLaMA-Factory的压缩包LLaMA-Factory.tar.gz
tar -xvf LLaMA-Factory.tar.gz
# 创建虚拟环境（如果已创建，请忽略此步骤）
conda create -n llama_factory -y python=3.11 pip
# 激活虚拟环境
conda activate llama_factory
# 使用 pip 安装依赖
cd ~/LLaMA-Factory
pip install -e ".[torch,metrics]"
pip install modelscope -U验证安装是否成功
# 查看 LLaMA-Factory 版本
llamafactory-cli version
# 如果出现下面信息，代表安装成功
----------------------------------------------------------
| Welcome to LLaMA Factory, version 0.9.1.dev0 |
| |
| Project page: https://github.com/hiyouga/LLaMA-Factory |
--------------------------------------------------------使用 LLaMA-Factory 运行基座模型
启动 web 界面
export USE_MODELSCOPE_HUB=1 # 使用 modelscope 下载模型
export NCCL_P2P_DISABLE="1"
export NCCL_IB_DISABLE="1"
export MODELSCOPE_CACHE='/root/autodl-tmp/modelscope/'
export MODELSCOPE_MODULES_CACHE='/root/autodl-tmp/modelscope/modelscope_modules'
llamafactory-cli webui设置隧道
ssh -CNgv -L 7860:127.0.0.1:7860 root@connect.yza1.seetacloud.com -p 49959设置隧道后，应该可以通过本机地址：http://127.0.0.1:7860 打开 llamafactory 的 ui 界 面，通过在 Lang 选项卡中，选择 zh 即可将界面调整为中文。
语言 zh，模型 glm-4-9B-Chat
点击 chat 选项卡的加载模型（等一段时间，可以在终端看进度条加载完成），就可以基于 LlamaFactory 模型进行聊天了
我们看到，对于你是谁 这个问题，目前的回答是清华大学的某某某
使用 LLaMA-Factory 微调模型
自定义数据集使用天翼云盘 珍藏美好生活 家庭云|网盘|文件备份|资源分享 下的 my_demo.json 文件 ，打开~/LLaMA-Factory/data/dataset_info.json 文件，将 my_demo 数据块，加入到文件的开头处，保存即可。
刷新一下页面，然后选择 my_demo 数据集：
注意，学习率改为 5e-4，点击预览数据集可以看到 my_demo.json 文件内容
点击“开始”按钮进行微调，等 1 到 2 分钟，可以看到曲线呈向下趋势。
微调完成后，测试微调效果：
选择刚刚的检查点，加载模型
加载好后，重新提问 你是谁 这个问题，可以看到，回答已经变成了 信息中心了。
将微调模型仿 OpenAI 兼容接口
启动接口
llamafactory-cli api --model_name_or_path /root/autodl-tmp/modelscope/hub/ZhipuAI/glm-4-9b-chat --template glm4 --adapter_name_or_path saves/GLM-4-9B-Chat/lora/train_2024-10-02-15-23-47 --finetuning_type lora设置隧道
ssh -CNgv -L 8000:127.0.0.1:8000 root@connect.yza1.seetacloud.com -p 49959命令行测试
curl http://127.0.0.1:8000/v1/chat/completions
-H "Content-Type: application/json"
-H "Authorization: Bearer x"
-d '{
"model": "glm4-9b-chat",
"messages": [
{
"role": "user",
"content": "你是谁？"
}
],
"max_tokens": 4096
}'
可以看到，模型使用我们微调后的 信息中心 相关回答了。
文章相关 pdf 文档 及 教学视频、微调 json 文件、LlaMa-Factory 压缩包下载地址：https://cloud.189.cn/t/eiauqe3aYjYz（访问码：wz0d）
