我在服务器中下载 huggingface 模型时发生 Connection Error 报错, 现将解决方案记录如下.

Tips: 利用 HuggingFace 镜像站 hf-mirror.com 进行下载

Step 1

首先, 我们将镜像站的网址配置到环境变量中:

vim ~/.bashrc
# 添加一行环境变量
# export HF_ENDPOINT=https://hf-mirror.com
# 后 :wq 保存退出
source ~/.bashrc

Step 2

下载 huggingface 的命令行工具 huggingface-cli 并登录

pip install huggingface-cli
huggingface-cli login
# paste your huggingface access token

Step 3

准备好你的模型存放路径已经需要下载的模型 ID (见模型 Model Card), 执行下方命令行指令进行下载:

huggingface-cli download --resume-download (模型名称) --local-dir (模型存放位置) --local-dir-use-symlinks False --resume-download