Hướng dẫn cài đặt và cấu hình DeepSeek trên Dedicated server

2 tháng ago
Khắc Tâm
4 minutes

DeepSeek là một mô hình AI mạnh mẽ có thể tự lưu trữ cục bộ để có hiệu suất tốt hơn, cải thiện quyền riêng tư và tùy chỉnh cấu hình linh hoạt. Trong phạm vi bài viết này, Long Vân sẽ hướng dẫn bạn cách cấu hình và triển khai Deepseek trên một máy chủ hệ điều hành Ubuntu 22.04.

I. Phần 1: Chuẩn bị

Để bắt đầu, Long Vân sử dụng một dịch vụ XD3 (https://longvan.net/dedicated-server) được cài đặt hệ điều hành Ubuntu 22.04. Tài nguyên cụ thể như sau:

  • CPU: 16 core
  • RAM:  16GB
  • Disk NVME 300 GB

Mô hình chưng cất mà chúng tôi sử dụng là deepseek-r1:7b ( https://ollama.com/library/deepseek-r1 )

II. Phần 2: Cài đặt

    1. Bước 1: Thực hiện Update server với lệnhapt upgrade
    2. Bước 2: Cài đặt Ollama
      • Chạy lệnh cài đặt sau:
        curl -fsSL https://ollama.com/install.sh | sh
      • Trường hợp server không sử dụng GPU nên lúc cài đặt sẽ có cảnh báo, Quý khách có thể bỏ qua cảnh báo này.
      • Kiểm tra version bằng lệnh bên dưới
        ollama --version
      • Kiểm tra trạng thái service với lệnh
        systemctl is-active ollama.service
      • Nếu service không chạy thì start service:
        systemctl start ollama.service
    3. Bước 3: Cài đặt model DeepSeek-R1 bằng lệnh
      Cài đặt bằng lệnh sau:
      ollama run deepseek-r1:7b
      Tùy theo kích thước của mỗi model, càng lớn thì thời gian run càng lâu.
    4. Bước 4: Cài đặt Python 3.11
      • Thực hiện các lệnh cài đặt sau:
        add-apt-repository ppa:deadsnakes/ppa -y
        apt update
        apt install python3.11
      • Kiểm tra lại, đảm bảo đã có python 3.11:
        python3.11 --version
      • Cài đặt gói pip và full trong python để đảm bảo môi trường hoạt động
        apt install python3.11-full
        apt install python3-pip
    5. Bước 5: Cài đặt Web-UI
      • Thực hiện các lệnh  cài đặt sau:
        apt update
        apt install snapd
        snap install open-webui --beta
      • Sau khi hoàn thành cài đặt, tiến hành kiểm tra lại bằng lệnh:
        open-webui serve
      • Kiểm tra firewall và mở các port 8080, 11434 để có thể truy cập từ bên ngoài.
    6. Bước 6: Truy cập Web-UI
      Truy cập Web-UI bằng cách http://ip-address:8080 thay ip-address bằng địa chỉ IP của server.
      Tạo tài khoản sau đó loginChọn model ở đây để sử dụngBắt đầu trò chuyện với AI

      Để accept account của user mới tạo, vào mục Admin Panel

      Chọn Pending để active user mới tạo

III. Phần 3: Các lệnh quản lý khác

    1. List các model đang chạy
      ollama list
    2. Để xóa một model
      ollama rm tên model
    3. Để xem thông tin API đang sử dụng trên WEB-UI
      snap get open-webui
    4. Gỡ cài đặt Ollama
      systemctl stop ollama
      systemctl disable ollama
      rm /etc/systemd/system/ollama.service
      rm $(which ollama)
      rm -r /usr/share/ollama
      userdel ollama
      groupdel ollama
    5. Trong trường hợp Quý khách muốn cấu hình truy cập Deepseek bằng port 80 và 443 thì có thể tham khảo cấu hình Nginx-Reverse-Proxy (Hướng dẫn thiết lập NGINX làm Reverse Proxy – Long Vân), thực hiện cấu hình proxy pass đến local ở địa chỉ http://127.0.0.1:8080

Như vậy, Long Vân đã hoàn thành hướng dẫn Quý khách cách cài đặt DeepSeek trên một server Smart Dedicated của Long Vân. Chúc Quý khách thành công.

Post Views: 743