Descripción general
La guía de Inferencia LLM local descarga el modelo directamente desde Hugging Face: la ruta más rápida cuando tu NAS tiene una buena conexión. Esta página cubre la ruta sin conexión: descarga el modelo en un PC y muévelo al NAS por USB o por tu red local.
Los pasos siguientes usan el mismo modelo que la guía principal — Qwen3.6-35B-A3B-UD-IQ3_XXS.gguf, unos 12,3 GB — y la misma carpeta de destino. El patrón de descarga y transferencia funciona con cualquier modelo GGUF.
Antes de empezar
- Un PC con acceso a internet
- Unos 13 GB de espacio libre en el PC, y lo mismo en el NAS
- Una memoria USB, o el NAS accesible desde tu red local
Paso 1: Descarga el modelo en tu PC
La CLI de Hugging Face es la forma más sencilla: reanuda descargas interrumpidas:
pip install -U huggingface_hub |
También puedes descargarlo desde la página del modelo en un navegador.
Paso 2: Mueve el modelo al NAS
Por USB: copia la carpeta models/llm a la memoria, conéctala al NAS y, en ZimaOS Files, mueve la carpeta al directorio models/llm del NAS (crédlo si no existe).
Por LAN: envía el archivo desde el PC con scp. Crea primero la carpeta de destino en el NAS:
ssh <usuario>@<ip-de-tu-nas> mkdir -p models/llm |
Paso 3: Verifica el archivo
Las descargas grandes pueden corromperse en silencio. En el NAS, comprueba el tamaño y la suma de comprobación:
ls -lh models/llm |
Compara ambos con la ficha del archivo en la página del modelo: el archivo debería pesar unos 12,3 GB.
Paso 4: Continúa la configuración
El modelo ya está en models/llm, exactamente donde lo espera la guía de Inferencia LLM local. Salta el paso de descarga de esa guía y continúa con el arranque del servidor.
Enlaces de referencia
- Hugging Face – documentación de la CLI huggingface_hub
- unsloth – ficha del modelo Qwen3.6-35B-A3B-GGUF