wget方式下载
查询
https://huggingface.co/
下载国外
wget -c "https://huggingface.co/mradermacher/Qwen3.5-24B-A3B-Claude-Opus-Gemini-3.1-Pro-Reasoning-Distilled-heretic-i1-GGUF/blob/main/Qwen3.5-24B-A3B-Claude-Opus-Gemini-3.1-Pro-Reasoning-Distilled-heretic.i1-Q4_K_M.gguf?download=true"
下载镜像
wget -c "https://hf-mirror.com/mradermacher/Qwen3.5-24B-A3B-Claude-Opus-Gemini-3.1-Pro-Reasoning-Distilled-heretic-i1-GGUF/resolve/main/Qwen3.5-24B-A3B-Claude-Opus-Gemini-3.1-Pro-Reasoning-Distilled-heretic.i1-Q4_K_M.gguf?download=true"
# 一劳永逸直接自动替换为国内镜像
vi ~/.bashrc
# 自动替换 HuggingFace 为国内镜像
# hf-mirror.com 10MB/s
# hf-cdn.sufy.com 10MB/s 时有连不上
# mirror.sjtu.edu.cn\/huggingface 无效
# modelscope.cn
wget() {
local args=()
for arg in "$@"; do
# 直接尝试替换，如果没有 huggingface.co，就原样追加到数组
args+=("${arg//huggingface.co/hf-mirror.com}")
done
/usr/bin/wget "${args[@]}"
}
git clone下载
HuggingFace 模型仓库本质就是 git 仓库
# 安装工具
sudo dnf install git-lfs -y # sudo apt-get install git-lfs -y
git lfs install
# 拉取仓库 - 会自动拉取大文件
git clone --depth 1 https://huggingface.co/BAAI/bge-small-zh-v1.5
---------------------
(base) x99@x99:~/gguf$ sudo apt-get install git-lfs -y
正在读取软件包列表... 完成
正在分析软件包的依赖关系树... 完成
正在读取状态信息... 完成
下列【新】软件包将被安装：
git-lfs
升级了 0 个软件包，新安装了 1 个软件包，要卸载 0 个软件包，有 6 个软件包未被升级。
需要下载 3,944 kB 的归档。
解压缩后会消耗 11.7 MB 的额外空间。
获取:1 http://security.ubuntu.com/ubuntu noble-security/universe amd64 git-lfs amd64 3.4.1-1ubuntu0.3 [3,944 kB]
已下载 3,944 kB，耗时 3秒 (1,517 kB/s)
正在选中未选择的软件包 git-lfs。
(正在读取数据库 ... 系统当前共安装有 169435 个文件和目录。)
准备解压 .../git-lfs_3.4.1-1ubuntu0.3_amd64.deb ...
正在解压 git-lfs (3.4.1-1ubuntu0.3) ...
正在设置 git-lfs (3.4.1-1ubuntu0.3) ...
正在处理用于 man-db (2.12.0-4build2) 的触发器 ...
(base) x99@x99:~/gguf$ git lfs install
Updated Git hooks.
Git LFS initialized.
(base) x99@x99:~/gguf$ git clone --depth 1 https://huggingface.co/BAAI/bge-small-zh-v1.5
正克隆到 'bge-small-zh-v1.5'...
remote: Enumerating objects: 16, done.
remote: Counting objects: 100% (16/16), done.
remote: Compressing objects: 100% (14/14), done.
remote: Total 16 (delta 1), reused 15 (delta 1), pack-reused 0 (from 0)
接收对象中: 100% (16/16), 166.60 KiB | 861.00 KiB/s, 完成.
处理 delta 中: 100% (1/1), 完成.
过滤内容: 100% (2/2), 182.79 MiB | 6.33 MiB/s, 完成.
(base) x99@x99:~/gguf$ cd bge-small-zh-v1.5
(base) x99@x99:~/gguf/bge-small-zh-v1.5$ ll -h
总计 184M
drwxrwxr-x 4 x99 x99 4.0K 7月 1 12:13 ./
drwxrwxr-x 4 x99 x99 4.0K 7月 1 12:13 ../
drwxrwxr-x 2 x99 x99 4.0K 7月 1 12:13 1_Pooling/
-rw-rw-r-- 1 x99 x99 776 7月 1 12:13 config.json
-rw-rw-r-- 1 x99 x99 124 7月 1 12:13 config_sentence_transformers.json
drwxrwxr-x 9 x99 x99 4.0K 7月 1 12:13 .git/
-rw-rw-r-- 1 x99 x99 1.5K 7月 1 12:13 .gitattributes
-rw-rw-r-- 1 x99 x99 92M 7月 1 12:13 model.safetensors
-rw-rw-r-- 1 x99 x99 349 7月 1 12:13 modules.json
-rw-rw-r-- 1 x99 x99 92M 7月 1 12:13 pytorch_model.bin
-rw-rw-r-- 1 x99 x99 28K 7月 1 12:13 README.md
-rw-rw-r-- 1 x99 x99 52 7月 1 12:13 sentence_bert_config.json
-rw-rw-r-- 1 x99 x99 125 7月 1 12:13 special_tokens_map.json
-rw-rw-r-- 1 x99 x99 367 7月 1 12:13 tokenizer_config.json
-rw-rw-r-- 1 x99 x99 429K 7月 1 12:13 tokenizer.json
-rw-rw-r-- 1 x99 x99 107K 7月 1 12:13 vocab.txt
hf cli下载
安装 pip3 install -U huggingface_hub
hf download mradermacher/Huihui-Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated-i1-GGUF --include "Huihui-Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated.i1-Q4_K_M.gguf" --local-dir .