Thành phố Cuồng loạn

Bạn đã bao giờ gặp phải tình huống mô hình hoạt động tốt nhưng khả năng phân tách từ tiếng Việt lại không như ý, các ký tự đặc biệt bị cắt vụn, văn bản dài bị kẹt ở một dấu câu cụ thể, hoặc các câu lệnh hệ thống tùy chỉnh của bạn bị tokenizer thay đổi một cách khó hiểu chưa? Đừng lo lắng, vấn đề rất có thể không nằm ở mô hình mà là do tokenizer ...

Đã bao giờ bạn muốn trải nghiệm một mô hình AI có thể hiểu hình ảnh và trò chuyện với bạn chưa? Hôm nay chúng ta sẽ cùng khám phá mô hình GLM-4v-9b - một mô hình đa phương thức mạnh mẽ có thể xử lý cả văn bản và hình ảnh. Với chỉ 9 tỷ tham số, mô hình này có thể chạy trên một card RTX 4090 duy nhất và hỗ trợ đầu vào hình ảnh chất lượng cao 1120 ...

Hướng Dẫn Triển Khai Code Llama-70b-hf: Từ Tài Nguyên Cộng Đồng Đến Ứng Dụng Doanh Nghiệp [Liên kết tải miễn phí] Địa chỉ dự án CodeLlama-70b-hf: https://ai.gitcode.com/hf_mirrors/ai-gitcode/CodeLlama-70b-hf Bạn có đang đối mặt với những thách thức này? Triển khai mô hình 700 tỷ tham số thất bại liên tục? Tài liệu chính thức không rõ ràng? Bị k ...

Khi làm việc với các mô hình ngôn ngữ lớn, đặc biệt là qua API, bạn sẽ gặp ba tham số quen thuộc: presence_penalty, frequency_penalty và repetition_penalty. Nhiều tài liệu chỉ giải thích sơ lược rằng cả ba đều dùng để giảm lặp từ, nhưng sự khác biệt cụ thể thường không được đề cập. Bài viết này sẽ phân tích chi tiết từ mã nguồn thực tế, giúp bạ ...

Tối ưu hóa mô hình tiền huấn luyện Để sử dụng thư viện Transformers, cần nắm vững kiến thức cơ bản về PyTorch. Hướng dẫn chi tiết: Chương 6 của khóa học Transformers - Kiến thức PyTorch cần thiết Chuẩn bị dữ liệu Ta sử dụng nhiệm vụ xác định tính đồng nghĩa (mỗi lần đầu vào hai câu, xác định xem chúng có phải là đồng nghĩa không). Dữ liệu sẽ ...

Khi sử dụng các mô hình ngôn ngữ lớn như GLM-4-9B hoặc Qwen-7B-Chat được tải xuống cục bộ trong LangChain, người dùng thường gặp lỗi tương thích. Dưới đây là hướng dẫn chi tiết cách khắc phục và tích hợp thành công. 1. Tích hợp GLM-4-9B-Chat với LangChain Để sử dụng mô hình GLM-4-9B-Chat trong LangChain, cần tạo một lớp LLM tùy chỉnh kế thừa t ...

1. Môi trường huấn luyện được đề xuất Để tối ưu chi phí và tận dụng tài nguyên miễn phí, Google Colab và Kaggle là hai lựa chọn hàng đầu. Cả hai nền tảng này đều cung cấp GPU miễn phí hoặc với chi phí thấp. Google Colab: Với bản Pro+ (khoảng 300 VNĐ/tháng), người dùng có thể truy cập GPU A100 40GB, mặc dù có giới hạn thời gian sử ...

Khi tiếp tục tiền huấn luyện (continual pre-training) dựa trên mô hình Qwen2.5-coder, trọng số của mô hình được lưu trữ tăng gấp đôi so với phiên bản gốc (Qwen2.5-coder 3b có kích thước 5 GB, sau khi huấn luyện và lưu trữ bằng safetensor là hơn 10 GB). Vấn đề này được phát hiện ngay sau khi hoàn thành quá trình huấn luyện, nhưng vì nó vẫn hoạt ...

Bạn đang tìm kiếm một mô hình ngôn ngữ mạnh mẽ nhưng nhẹ nhàng về tài nguyên? BTLM-3B-8k-base là giải pháp đột phá — chỉ với 3 tỷ tham số, nó đạt hiệu năng tương đương mô hình 7B, hỗ trợ độ dài ngữ cảnh lên tới 8.000 token và tiêu thụ chưa đến 3GB RAM khi lượng tử hóa 4-bit. Bài viết này hướng dẫn triển khai thực tế từ cấu hình môi trường đến t ...

Tạo lời nhạc cổ điển Hiển thị mã nguồn # Mô hình tạo lời nhạc tiếng Trung from transformers import GPT2LMHeadModel, BertTokenizer, TextGenerationPipeline bo_token = BertTokenizer.from_pretrained(r"D:\PycharmProjects\demo_16\model\models--uer--gpt2-chinese-lyric\snapshots\4a42fd76daab07d9d7ff95c816160cfb7c21684f") mang_luoi = GPT2LMHeadModel.fr ...