Hướng dẫn chạy DeepSeek R1 Distill (Qwen/Llama) trên máy tính miễn phí, bảo mật dữ liệu

B1: Search LM Studio hoặc Ollama, tải về máy, chọn bản Mac hoặc Win hoặc Linux.

B2: Cài đặt như bình thường.

B3: Vào phần Developer là ô màu xanh lá ở bên tay trái như trong video nhé, search DeepSeeK R1 rồi chọn bản phù hợp với cấu hình máy. Hiện tại trên LM Studio có 2 bản DeepSeek R1 Distill (Qwen 7B) và (LLama 8B) thì bạn chọn bản nào cũng đc, mình chọn Qwen thì khả năng hiểu tiếng Việt của Qwen có vẻ tốt hơn. Nếu máy bạn ko đủ để chạy bản 7B này thì có thể chọn bản 1.5B như trong video về chạy thử.

B4: Tải về xong thì load model vào để test nhé, như mình test thử bản 1.5B trước thì thấy bị ảo giác kha khá, cần test thêm. Test bản 7B thì OK đấy. Cứ thế dùng thôi.

B5: là thêm bạn nào làm code thì bật status lên thành xanh để chuyển nó thành serve, copy vào Cline trong VS code để dùng hoàn toàn miễn phí. Nhưng vấn đề là context length của bản này chỉ có 4k token thôi nhé, nên để đọc file dài thì ko đc, dùng các model khác nhé.