Giới thiệu về LightOnOCR-2-1B

Việc chuyển đổi dữ liệu từ hình ảnh hoặc tài liệu giấy sang định dạng văn bản (OCR) thường gặp nhiều khó khăn như sai lệch ngôn ngữ, cấu trúc phức tạp hoặc yêu cầu phần cứng lớn. LightOnOCR-2-1B được phát triển để giải quyết các rào cản này. Với kích thước mô hình chỉ 1 tỷ tham số (1B), công cụ này hỗ trợ nhận diện chính xác 11 ngôn ngữ phổ biến bao gồm: Trung Quốc, Anh, Nhật Bản, Pháp, Đức, Tây Ban Nha, Ý, Hà Lan, Bồ Đào Nha, Thụy Điển và Đan Mạch.

Mô hình này không chỉ xử lý văn bản thuần túy mà còn có khả năng phân tích các cấu trúc phức tạp như bảng biểu, công thức toán học và tài liệu hỗn hợp đa ngôn ngữ mà không yêu cầu người dùng phải có kiến thức chuyên sâu về lập trình.

Khởi động và Truy cập Hệ thống

Sau khi triển khai môi trường, bạn có thể tương tác với LightOnOCR thông qua hai phương thức chính:

• Giao diện Web (Gradio/Streamlit): Truy cập qua địa chỉ http://[IP_Server]:7860 để thao tác trực quan.
• Cổng API: Kết nối qua http://[IP_Server]:8000/v1/chat/completions để tích hợp vào các ứng dụng khác.

Sử dụng Giao diện Trực quan

Đối với người dùng phổ thông, giao diện web là cách nhanh nhất để bắt đầu:

1. Truy cập vào URL của máy chủ qua trình duyệt.
2. Tải lên tập tin hình ảnh (định dạng .jpg hoặc .png).
3. Nhấn nút "Extract Text" để hệ thống bắt đầu phân tích.
4. Kết quả văn bản sẽ xuất hiện ở khung bên dưới, cho phép bạn sao chép hoặc lưu trữ trực tiếp.

Tích hợp Hệ thống qua API

Đối với các kỹ sư phần mềm muốn tự động hóa quy trình, việc sử dụng API là lựa chọn tối ưu. Dưới đây là cách triển khai bằng Python và cURL.

Sử dụng cURL

curl -X POST http://127.0.0.1:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "lightonai/LightOnOCR-2-1B",
    "messages": [{
      "role": "user",
      "content": [{"type": "image_url", "image_url": {"url": "data:image/jpeg;base64,<MÃ_BASE64_CỦA_ẢNH>"}}]
    }],
    "max_tokens": 2048
  }'

Triển khai bằng Python

Mã nguồn dưới đây minh họa cách đọc ảnh, mã hóa và gửi yêu cầu đến server OCR:

import base64
import requests

def ocr_processing(img_path, host_url):
    # Chuyển đổi hình ảnh sang Base64
    with open(img_path, "rb") as file:
        encoded_string = base64.b64encode(file.read()).decode('utf-8')
    
    # Cấu hình tham số yêu cầu
    headers = {"Content-Type": "application/json"}
    payload = {
        "model": "/root/ai-models/lightonai/LightOnOCR-2-1B",
        "messages": [
            {
                "role": "user",
                "content": [
                    {
                        "type": "image_url",
                        "image_url": {"url": f"data:image/png;base64,{encoded_string}"}
                    }
                ]
            }
        ],
        "max_tokens": 4096
    }
    
    # Gửi request đến server
    response = requests.post(f"{host_url}/v1/chat/completions", headers=headers, json=payload)
    
    if response.status_code == 200:
        return response.json()['choices'][0]['message']['content']
    else:
        return f"Lỗi: {response.status_code}"

# Thực thi thử nghiệm
if __name__ == "__main__":
    result = ocr_processing("sample_document.png", "http://127.0.0.1:8000")
    print("Văn bản trích xuất được:", result)

Kỹ thuật Tối ưu hóa Chất lượng Nhận diện

Để đạt được độ chính xác cao nhất khi sử dụng LightOnOCR-2-1B, bạn nên lưu ý các yếu tố kỹ thuật sau:

• Kích thước hình ảnh: Mô hình hoạt động tốt nhất khi cạnh dài của ảnh ở mức khoảng 1540 pixel. Ảnh quá nhỏ sẽ mất chi tiết, ảnh quá lớn sẽ làm tăng độ trễ xử lý.
• Định dạng tệp: Ưu tiên sử dụng định dạng PNG để tránh hiện tượng nhiễu do nén (compression artifacts) như trên JPEG.
• Góc chụp: Đảm bảo văn bản được chụp thẳng, hạn chế độ nghiêng hoặc biến dạng hình học.
• Xử lý công thức: Mô hình hỗ trợ xuất kết quả dưới dạng LaTeX, rất hữu ích cho tài liệu học thuật.

Quản lý và Bảo trì Dịch vụ

Trong quá trình vận hành, bạn có thể kiểm tra trạng thái các cổng kết nối bằng lệnh:

netstat -tulpn | grep -E "7860|8000"

Nếu dịch vụ gặp sự cố hoặc cần khởi động lại, hãy thực hiện các bước sau để giải phóng bộ nhớ GPU và chạy lại kịch bản:

# Dừng các tiến trình đang chạy
pkill -f "vllm"
pkill -f "python app.py"

# Khởi động lại dịch vụ
cd /path/to/LightOnOCR-2-1B
sh start.sh

Khả năng Mở rộng

Mô hình này tiêu tốn khoảng 16GB VRAM, phù hợp cho các dòng GPU phổ thông như RTX 3090 hoặc các dòng chuyên dụng như A10. Nhờ kiến trúc 1B gọn nhẹ, tốc độ phản hồi của API rất nhanh, phù hợp cho cả việc xử lý thời gian thực lẫn xử lý theo lô (batch processing).