Thành phố Cuồng loạn

Bài viết này sẽ hướng dẫn bạn thực hiện fine-tuning mô hình ChatGLM3-6B sử dụng phương pháp LORA - một kỹ thuật fine-tuning hiệu quả về mặt tài nguyên. Giới thiệu về LORA: LORA (Low-Rank Adaptation) là phương pháp được đề xuất trong bài báo nghiên cứu tại địa chỉ arxiv:2106.09685. Thay vì thay đổi toàn bộ các tham số của mô hình gốc, LORA hoạt ...

1. Giới Thiệu Công nghệ tổng hợp giọng nói đang cách mạng hóa cách chúng ta tương tác với máy móc, nhưng các mô hình tổng quát thường không đáp ứng được nhu cầu của từng lĩnh vực cụ thể. Hãy tưởng tượng bạn đang phát triển một ứng dụng giáo dục cần giọng nói giải thích toán học tự nhiên, hoặc xây dựng một nền tảng sách nói muốn tạo giọng độc đ ...

Khi khám phá các mô hình ngôn ngữ lớn, chi phí phần cứng thường là rào cản chính. Đặc biệt với những mô hình hàng tỷ tham số, việc triển khai thường đòi hỏi card cao cấp như A100/H100. Bài viết này trình bày giải pháp tối ưu chi phí: chạy mô hình 70B tham số trên card NVIDIA T4 16GB bằng công cụ Swift-All. Swift-All là bộ công cụ quản lý vòng ...

1. Môi trường huấn luyện được đề xuất Để tối ưu chi phí và tận dụng tài nguyên miễn phí, Google Colab và Kaggle là hai lựa chọn hàng đầu. Cả hai nền tảng này đều cung cấp GPU miễn phí hoặc với chi phí thấp. Google Colab: Với bản Pro+ (khoảng 300 VNĐ/tháng), người dùng có thể truy cập GPU A100 40GB, mặc dù có giới hạn thời gian sử ...

Sử dụng ComfyUI trong Cộng đồng Mô hình Đa dạng ComfyUI là một giao diện người dùng đồ họa (GUI) chuyên biệt cho việc tạo và chỉnh sửa hình ảnh. Nó giúp phân chia quá trình tạo hình ảnh thành nhiều bước nhỏ, giúp người dùng dễ dàng tùy chỉnh theo nhu cầu. 1. Truy cập vào cộng đồng Mô hình Đa dạng: 2. Tải và cài đặt tệp thực thi của ComfyUI: git ...

1.【Xóa văn bản lỗi và thêm nhãn】Xóa tiền tố (tên người dùng), xóa hậu tố (văn bản lỗi), thêm nhãn thống nhất, và mở Excel để điều chỉnh chi tiết. (Đầu vào: 1. Địa chỉ thư mục đơn 2. Tên nhãn cần thêm vào thư mục) *Lưu ý: Nếu muốn thêm nhiều nhãn, hãy dùng dấu phẩy tiếng Anh "," để ngăn cách. import os import openpyxl import re CAC_ ...

Việc triển khai mô hình ngôn ngữ lớn (LLM) cho lĩnh vực y tế thường gặp nhiều rào cản: dữ liệu nhạy cảm, chi phí huấn luyện cao và yêu cầu chuyên môn sâu. Tuy nhiên, với khung MiniMind — một mô hình GPT siêu nhẹ chỉ 26 triệu tham số — bạn có thể tạo ra một trợ lý AI y tế chuyên biệt chỉ trong 2 giờ và với chi phí dưới 3 nhân dân tệ. Lý do chọn ...

Các mô hình học sâu hiện đại đã tạo ra bước ngoặt lớn trong trí tuệ nhân tạo, tuy nhiên kích thước khổng lồ và yêu cầu tính toán cao thường là rào cản khi triển khai thực tế. Kỹ thuật chưng cất mô hình (Model Distillation) giải quyết vấn đề này bằng cách chuyển giao tri thức từ một mô hình lớn phức tạp (giáo viên) sang một mô hình nhỏ gọn hơn ( ...