Triển khai Pixel Script Temple trên Docker Swarm với Qwen2.5-14B-Instruct

1. Tổng quan dự án

Pixel Script Temple là công cụ sáng tác kịch bản sử dụng mô hình Qwen2.5-14B-Instruct. Nền tảng kết hợp khả năng AI với giao diện pixel retro-futurism, hỗ trợ biên kịch và nhà sáng tạo nội dung.

  • Nền tảng: Qwen2.5-14B-Instruct
  • Tối ưu hóa cho sáng tác kịch bản qua bộ điều chỉnh ScriptGen LoRA
  • Hỗ trợ suy luận song song trên hai GPU
  • Giao diện pixel retro-futurism

2. Chuẩn bị môi trường

2.1 Yêu cầu phần cứng

  • Tối thiểu 2 GPU NVIDIA (RTX 3090 trở lên)
  • RAM hệ thống 64GB+
  • Dung lượng lưu trữ 100GB

2.2 Yêu cầu phần mềm

  • Docker phiên bản 20.10.0+
  • Cụm Docker Swarm đã khởi tạo
  • Đã cài đặt NVIDIA Container Toolkit

2.3 Yêu cầu mạng

  • Kết nối mạng ổn định giữa các node
  • Mở cổng 8000-9000

3. Hướng dẫn triển khai

3.1 Tải image

docker pull registry.csdn.net/pixel-script-temple/qwen2.5-14b-instruct:8bit-pro

3.2 Tạo Docker Stack

Tạo file pixel_stack.yml:

version: '3.8'

services:
  main-service:
    image: registry.csdn.net/pixel-script-temple/qwen2.5-14b-instruct:8bit-pro
    deploy:
      replicas: 1
      placement:
        constraints: [node.role == manager]
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 2
              capabilities: [gpu]
    ports:
      - "8888:8888"
    volumes:
      - app_vol:/app_data
    environment:
      - NVIDIA_VISIBLE_DEVICES=all
      - NVIDIA_DRIVER_CAPABILITIES=compute,utility

volumes:
  app_vol:

3.3 Triển khai dịch vụ

docker stack deploy -c pixel_stack.yml pixel_app

3.4 Kiểm tra trạng thái

docker service ls

Chờ trạng thái chuyển sang running (5-10 phút)

4. Hướng dẫn sử dụng

4.1 Truy cập giao diện

http://<địa-chỉ-ip>:8888

4.2 Quy trình thao tác

  1. Chọn phong cách sáng tạo (khoa học viễn tưởng, trinh thám...)
  2. Điều chỉnh tham số sáng tạo
  3. Nhập prompt kịch bản
  4. Nhận kết quả định dạng chuyên nghiệp

5. Cấu hình nâng cao

5.1 Triển khai đa node

deploy:
  mode: replicated
  replicas: 3
  placement:
    constraints: [node.labels.gpu == enabled]

5.2 Lưu trữ liên tục

volumes:
  app_vol:
    driver: cloudstor:aws
    driver_opts:
      size: "100GB"

5.3 Tối ưu GPU

resources:
  limits:
    devices:
      - driver: nvidia
        count: 1
        capabilities: [gpu]

6. Xử lý sự cố

  • Lỗi GPU: Kiểm tra driver NVIDIA và container toolkit
  • Xung đột cổng: Thay đổi cổng ánh xạ
  • Thiếu bộ nhớ: Tăng swap space hoặc RAM vật lý

Xem nhật ký: docker service logs pixel_app_main-service

Thẻ: qwen2.5 Docker Swarm NLP AI Deployment GPU Acceleration

Đăng vào ngày 25 tháng 7 lúc 21:27