Xây Dựng Hệ Thống Tra Cứu Tri Thức RAG Kết Hợp InternLM Và LangChain

1. Chuẩn Bị Môi Trường và Cài Đặt Phụ Thuộc Trên nền tảng InternStudio, người dùng nên lựa chọn cấu hình GPU A100(1/4), kích hoạt terminal và bắt đầu quá trình thiết lập conda. Bước đầu tiên là sao chép bộ trọng số mô hình đã được tiền xử lý sang thư mục làm việc cá nhân: mkdir -p /root/data/model/Shanghai_AI_Laboratory cp -r /root/share/temp/m ...

Đăng vào ngày 16 tháng 8 lúc 00:22

Đánh giá mô hình AI với OpenCompass: API và cục bộ

OpenCompass hỗ trợ hai phương thức đánh giá: thông qua API và trực tiếp từ mô hình cục bộ. Phương pháp API phù hợp với các mô hình được triển khai dưới dạng dịch vụ, trong khi đánh giá cục bộ dành cho các mô hình có sẵn trọng số. Thiết lập môi trường conda create -n compass python=3.10 conda activate compass cd /root git clone -b 0.3.3 https: ...

Đăng vào ngày 3 tháng 6 lúc 03:11