Hướng dẫn cài đặt và cấu hình DeepSeek trên Dedicated server

DeepSeek là một mô hình AI mạnh mẽ có thể tự lưu trữ cục bộ để có hiệu suất tốt hơn, cải thiện quyền riêng tư và tùy chỉnh cấu hình linh hoạt. Trong phạm vi bài viết này, Long Vân sẽ hướng dẫn bạn cách cấu hình và triển khai Deepseek trên một máy chủ hệ điều hành Ubuntu 22.04.

I. Phần 1: Chuẩn bị

Để bắt đầu, Long Vân sử dụng một dịch vụ XD3 (https://longvan.net/dedicated-server) được cài đặt hệ điều hành Ubuntu 22.04. Tài nguyên cụ thể như sau:

• CPU: 16 core
• RAM:  16GB
• Disk NVME 300 GB

Mô hình chưng cất mà chúng tôi sử dụng là deepseek-r1:7b ( https://ollama.com/library/deepseek-r1 )

II. Phần 2: Cài đặt

1. Bước 1: Thực hiện Update server với lệnh  apt upgradet upgrade
   
   
    
2. Bước 2: Cài đặt Ollama
   • Chạy lệnh cài đặt sau: curl -fsSL https://ollama.com/install.sh | sh
   • Trường hợp server không sử dụng GPU nên lúc cài đặt sẽ có cảnh báo, Quý khách có thể bỏ qua cảnh báo này.
     
     
   • Kiểm tra version bằng lệnh bên dưới
     ollama --version
     
     
      
   • Kiểm tra trạng thái service với lệnh
     systemctl is-active ollama.service
     
     
      
   • Nếu service không chạy thì start service:
     systemctl start ollama.service
      
3. Bước 3: Cài đặt model DeepSeek-R1 bằng lệnh
    
   • Cài đặt bằng lệnh sau:
     ollama run deepseek-r1:7b
      
   • Tùy theo kích thước của mỗi model, càng lớn thì thời gian run càng lâu.
     
     
      
4. Bước 4: Cài đặt Python 3.11
    
   • Thực hiện các lệnh cài đặt sau:
     add-apt-repository ppa:deadsnakes/ppa -y
     apt update
     apt install python3.11
      
   • Kiểm tra lại, đảm bảo đã có python 3.11:
     python3.11 --version
      
   • Cài đặt gói pip và full trong python để đảm bảo môi trường hoạt động
     apt install python3.11-full
     apt install python3-pip
     
     
      
5. Bước 5: Cài đặt Web-UI
    
   • Thực hiện các lệnh  cài đặt sau:
     apt update
     apt install snapd
     snap install open-webui -beta
     
     
      
   • Sau khi hoàn thành cài đặt, tiến hành kiểm tra lại bằng lệnh:
     open-webui serve
     
     
      
   • Kiểm tra firewall và mở các port 8080, 11434 để có thể truy cập từ bên ngoài.
      
6. Bước 6: Truy cập Web-UI
    
   • Truy cập Web-UI bằng cách http://ip-address:8080 thay ip-address bằng địa chỉ IP của server.
      
   • Tạo tài khoản sau đó login
      
   • Chọn model ở đây để sử dụng
     
      
   • Bắt đầu trò chuyện với AI deepseek
     
      
   • Để accept account của user mới tạo, vào mục Admin Panel
     
      
   • Chọn Pending để active user mới tạo
     
      

III. Phần 3: Các lệnh quản lý khác

1. List các model đang chạy
   ollama list
   
   
    
2. Để xóa một model
   ollama rm tên model
   
    
    
3. Để xem thông tin API đang sử dụng trên WEB-UI
   snap get open-webui
   
   
    
4. Gỡ cài đặt Ollama
   systemctl stop ollama
   systemctl disable ollama
   rm /etc/systemd/system/ollama.service
   rm $(which ollama)
   rm -r /usr/share/ollama
   userdel ollama
   groupdel ollama
    
5. Trong trường hợp Quý khách muốn cấu hình truy cập Deepseek bằng port 80 và 443 thì có thể tham khảo cấu hình Nginx-Reverse-Proxy (Hướng dẫn thiết lập NGINX làm Reverse Proxy – Long Vân), thực hiện cấu hình proxy pass đến local ở địa chỉ http://127.0.0.1:8080
    

Như vậy, Long Vân đã hoàn thành hướng dẫn Quý khách cách cài đặt DeepSeek trên một server Smart Dedicated của Long Vân. Chúc Quý khách thành công.