nasirus

docker run -d --name deepseek-r1-server -p 8000:8000 --network llama_network -e LLAMA_ARG_HF_REPO=bartowski/DeepSeek-R1-Distill-Qwen-32B-GGUF  -e LLAMA_ARG_HF_FILE=DeepSeek-R1-Distill-Qwen-32B-IQ2_M.gguf  -e LLAMA_ARG_HOST=0.0.0.0  -e LLAMA_ARG_PORT=8000  -e LLAMA_ARG_N_PREDICT=4000 -e LLAMA_ARG_N_PARALLEL=2 ghcr.io/ggerganov/llama.cpp:server