Xây Dựng Hệ Thống Tra Cứu Tri Thức RAG Kết Hợp InternLM Và LangChain
1. Chuẩn Bị Môi Trường và Cài Đặt Phụ Thuộc
Trên nền tảng InternStudio, người dùng nên lựa chọn cấu hình GPU A100(1/4), kích hoạt terminal và bắt đầu quá trình thiết lập conda. Bước đầu tiên là sao chép bộ trọng số mô hình đã được tiền xử lý sang thư mục làm việc cá nhân:
mkdir -p /root/data/model/Shanghai_AI_Laboratory
cp -r /root/share/temp/m ...
Đăng vào ngày 16 tháng 8 lúc 00:22
Đánh giá mô hình AI với OpenCompass: API và cục bộ
OpenCompass hỗ trợ hai phương thức đánh giá: thông qua API và trực tiếp từ mô hình cục bộ. Phương pháp API phù hợp với các mô hình được triển khai dưới dạng dịch vụ, trong khi đánh giá cục bộ dành cho các mô hình có sẵn trọng số.
Thiết lập môi trường
conda create -n compass python=3.10
conda activate compass
cd /root
git clone -b 0.3.3 https: ...
Đăng vào ngày 3 tháng 6 lúc 03:11