Xử lý tự động ghi chú cuộc họp từ dữ liệu thoại thô

Việc xử lý các bản ghi chép tự động từ giọng nói (speech-to-text) thường gặp phải vấn đề lớn về độ nhiễu. Các bản ghi này thường chứa đầy từ đệm, câu lặp lại và cấu trúc ngữ pháp rời rạc, khiến việc tổng hợp thành tài liệu chính thức trở nên tốn kém thời gian. Giải pháp tự động hóa dựa trên mô hình ngôn ngữ lớn (LLM) chạy cục bộ có thể giải quyết triệt để vấn đề này.

1. Minh chứng hiệu quả xử lý văn bản

Để đánh giá khả năng của công cụ, hãy xem xét một kịch bản thực tế từ buổi họp rà soát tiến độ dự án (Sprint Review). Dữ liệu đầu vào là bản ghi thô chứa nhiều yếu tố gây nhiễu.

Dữ liệu đầu vào (Ghi âm thô):

Alo, nghe rõ không mọi người? Ok, bắt đầu thôi. Về cái dự án mới ấy, kế hoạch triển khai thế nào rồi? Anh Hùng bên kỹ thuật báo cáo chút đi. Test xong chưa? Còn chị Lan, thiết kế giao diện đã chốt chưa? Marketing thì sao, plan chạy quảng cáo đâu? À quên, ngân sách cần xem lại. Thôi hết giờ, hẹn tuần sau nhé.

Đoạn văn bản trên thiếu cấu trúc, chứa nhiều từ thừa và thông tin nằm rời rạc. Nếu xử lý thủ công, người dùng phải thực hiện các bước: loại bỏ từ đệm, gộp ý, phân loại nhiệm vụ và định dạng lại. Khi sử dụng công cụ hỗ trợ AI, kết quả đầu ra sẽ được chuẩn hóa ngay lập tức.

Kết quả đầu ra (Markdown chuẩn):

## Biên bản họp: Kế hoạch triển khai sản phẩm mới

**Chủ đề:** Thảo luận tiến độ sản phẩm
**Thành phần:** Đội ngũ dự án

### Các hạng mục chính

- **Kỹ thuật (Anh Hùng):** 
  - [ ] Báo cáo tiến độ phát triển
  - [ ] Xác nhận thời gian hoàn thành testing

- **Thiết kế (Chị Lan):** 
  - [ ] Xác nhận bản cuối cùng của UI/UX

- **Marketing:** 
  - [ ] Trình bày đề xuất方案 quảng cáo sơ bộ

- **Hành chính:** 
  - [ ] Xác nhận lịch họp tiếp theo (Tuần sau)
  - [ ] Rà soát ngân sách

Phân tích sự cải thiện:

Hệ thống không chỉ lọc bỏ từ thừa mà còn thực hiện trích xuất thực thể (tên người, nhiệm vụ) và áp dụng cú pháp Markdown (tiêu đề, danh sách kiểm tra) để tạo ra tài liệu có thể sử dụng ngay.

2. Kiến trúc kỹ thuật và mô hình AI

Hiệu suất của công cụ dựa trên việc tích hợp mô hình ngôn ngữ lớn chạy hoàn toàn trên môi trường cục bộ, đảm bảo tính riêng tư và tốc độ phản hồi.

2.1. Hạ tầng mô hình: Ollama và Llama 3

Hệ thống sử dụng khung làm việc Ollama để quản lý và chạy mô hình Llama 3 8B. Việc triển khai cục bộ mang lại các lợi ích:

• Bảo mật dữ liệu: Không có dữ liệu cuộc họp nào được gửi đến máy chủ bên thứ ba.
• Hoạt động offline: Có thể vận hành trong môi trường mạng nội bộ hoặc không có internet.
• Hiệu năng: Mô hình 8B tham số đủ nhẹ để chạy trên phần cứng phổ thông nhưng vẫn đảm bảo khả năng hiểu ngữ cảnh và tuân thủ指令.

2.2. Kỹ thuật Prompt Engineering

Để đảm bảo đầu ra ổn định, mô hình được kích hoạt với một bộ指令 hệ thống (system instruction) cụ thể, định nghĩa vai trò là trợ lý định dạng văn bản. Các quy tắc chính bao gồm:

• Không tự ý sinh thêm thông tin ngoài dữ liệu đầu vào.
• Phân tích ngữ nghĩa để xác định logic trình tự (thời gian, nguyên nhân - kết quả).
• Áp dụng cú pháp Markdown phù hợp cho từng loại nội dung (code block, list, bold).
• Tự động loại bỏ các từ vô nghĩa (filler words) và sửa lỗi chính tả cơ bản.

2.3. Trải nghiệm người dùng

Giao diện được thiết kế tối giản với hai khung nhập liệu và kết quả. Tính năng nổi bật là nút sao chép nội dung đã định dạng vào bộ nhớ đệm chỉ với một cú click, hỗ trợ tích hợp nhanh vào các nền tảng ghi chú như Notion, Obsidian hoặc Confluence.

3. Các trường hợp sử dụng mở rộng

Ngoài việc tạo biên bản cuộc họp, công cụ này có thể áp dụng cho nhiều kịch bản xử lý văn bản khác:

• Tổng hợp ghi chú cá nhân: Biến các ý tưởng ghi nhanh thành cấu trúc thư mục rõ ràng.
• Làm sạch dữ liệu kỹ thuật: Tách biệt phần mô tả và mã nguồn trong các đoạn thảo luận lập trình.
• Chuẩn hóa nội dung web: Loại bỏ các thành phần quảng cáo, định dạng lạ khi sao chép từ trình duyệt.

4. Hướng dẫn triển khai qua Docker

Để sử dụng hệ thống, người dùng có thể triển khai thông qua container Docker, giúp đơn giản hóa quá trình cài đặt phụ thuộc.

Quy trình thực hiện:

1. Kéo và chạy image: Sử dụng lệnh Docker để khởi tạo container từ image đã được đóng gói sẵn.
2. Tải mô hình lần đầu: Khi khởi động lần đầu, hệ thống sẽ tự động tải mô hình Llama 3 (khoảng 4.7GB). Quá trình này chỉ diễn ra một lần duy nhất.
3. Truy cập giao diện: Mở trình duyệt và truy cập vào địa chỉ IP và cổng dịch vụ đã cấu hình.
4. Vận hành: Dán văn bản cần xử lý vào khung nhập, kích hoạt chức năng tối ưu hóa và sao chép kết quả từ khung đầu ra.

Người dùng có thể kiểm tra khả năng xử lý với các đoạn văn bản dài hơn hoặc phức tạp hơn để đánh giá độ ổn định của mô hình trong việc phân tách nhiều luồng hội thoại khác nhau.