1. Tổng quan dự án
Pixel Script Temple là công cụ sáng tác kịch bản sử dụng mô hình Qwen2.5-14B-Instruct. Nền tảng kết hợp khả năng AI với giao diện pixel retro-futurism, hỗ trợ biên kịch và nhà sáng tạo nội dung.
- Nền tảng: Qwen2.5-14B-Instruct
- Tối ưu hóa cho sáng tác kịch bản qua bộ điều chỉnh ScriptGen LoRA
- Hỗ trợ suy luận song song trên hai GPU
- Giao diện pixel retro-futurism
2. Chuẩn bị môi trường
2.1 Yêu cầu phần cứng
- Tối thiểu 2 GPU NVIDIA (RTX 3090 trở lên)
- RAM hệ thống 64GB+
- Dung lượng lưu trữ 100GB
2.2 Yêu cầu phần mềm
- Docker phiên bản 20.10.0+
- Cụm Docker Swarm đã khởi tạo
- Đã cài đặt NVIDIA Container Toolkit
2.3 Yêu cầu mạng
- Kết nối mạng ổn định giữa các node
- Mở cổng 8000-9000
3. Hướng dẫn triển khai
3.1 Tải image
docker pull registry.csdn.net/pixel-script-temple/qwen2.5-14b-instruct:8bit-pro
3.2 Tạo Docker Stack
Tạo file pixel_stack.yml:
version: '3.8'
services:
main-service:
image: registry.csdn.net/pixel-script-temple/qwen2.5-14b-instruct:8bit-pro
deploy:
replicas: 1
placement:
constraints: [node.role == manager]
resources:
reservations:
devices:
- driver: nvidia
count: 2
capabilities: [gpu]
ports:
- "8888:8888"
volumes:
- app_vol:/app_data
environment:
- NVIDIA_VISIBLE_DEVICES=all
- NVIDIA_DRIVER_CAPABILITIES=compute,utility
volumes:
app_vol:
3.3 Triển khai dịch vụ
docker stack deploy -c pixel_stack.yml pixel_app
3.4 Kiểm tra trạng thái
docker service ls
Chờ trạng thái chuyển sang running (5-10 phút)
4. Hướng dẫn sử dụng
4.1 Truy cập giao diện
http://<địa-chỉ-ip>:8888
4.2 Quy trình thao tác
- Chọn phong cách sáng tạo (khoa học viễn tưởng, trinh thám...)
- Điều chỉnh tham số sáng tạo
- Nhập prompt kịch bản
- Nhận kết quả định dạng chuyên nghiệp
5. Cấu hình nâng cao
5.1 Triển khai đa node
deploy:
mode: replicated
replicas: 3
placement:
constraints: [node.labels.gpu == enabled]
5.2 Lưu trữ liên tục
volumes:
app_vol:
driver: cloudstor:aws
driver_opts:
size: "100GB"
5.3 Tối ưu GPU
resources:
limits:
devices:
- driver: nvidia
count: 1
capabilities: [gpu]
6. Xử lý sự cố
- Lỗi GPU: Kiểm tra driver NVIDIA và container toolkit
- Xung đột cổng: Thay đổi cổng ánh xạ
- Thiếu bộ nhớ: Tăng swap space hoặc RAM vật lý
Xem nhật ký: docker service logs pixel_app_main-service