Phân tích SHAP cho mô hình học sâu: Trình bày trực quan cấp từ và cấp câu

Trong ứng dụng thực tế của các mô hình học sâu, việc hiểu cách một model thực hiện các quyết định như trong các задач như phân loại văn bản hay phân tíchsentim vẫn còn là một "đen". SHAP (SHapley Additive exPlanations) cung cấp một phương pháp dựa trên lý thuyết hợp tác để giải thích rõ ràng hơn các quyết định của model bằng cách phân tích đóng góp của từng từ hoặc từng câu trong文本.

Cơ bản về giải thích SHAP cho văn bản

SHAP đo lường đóng góp của từng từ hoặc từng câu đối với kết quả dự đoán của model. Giá trị SHAP dương cho thấy từ đó thúc đẩy dự đoán về phía tích cực, còn giá trị âm thì ngược lại. Phương pháp này giúp chúng ta dễ dàng nhận diện các yếu tố quan trọng trong文本 ảnh hưởng đến quyết định của model.

Công cụ chính được sử dụng trong SHAP cho các model học sâu là shap.DeepExplainer. Để sử dụng công cụ này, cần một tập dữ liệu nền (background dataset), thường là một phần nhỏ của tập huấn luyện, để so sánh với dữ liệu đầu vào và tính toán đóng góp của từng từ.

Trình bày trực quan cấp từ

Giải thích cấp từ là phương pháp cơ bản và thường được sử dụng nhất trong SHAP. Chúng ta sẽ dùng một ví dụ về phân tíchsentim cho các review phim từ tập IMDB để minh họa.

Đầu tiên, huấn luyện một model LSTM cho задач phân tíchsentim:

from keras.datasets import imdb
from keras.layers import LSTM, Dense, Embedding
from keras.models import Sequential
from keras.preprocessing import sequence

vocab_size = 20000
max_length = 80
batch_size = 32

# Tải dữ liệu
(x_train, y_train), (x_test, y_test) = imdb.load_data(num_words=vocab_size)
x_train = sequence.pad_sequences(x_train, maxlen=max_length)
x_test = sequence.pad_sequences(x_test, maxlen=max_length)

# Tạo model
model = Sequential()
model.add(Embedding(vocab_size, 128))
model.add(LSTM(128, dropout=0.2, recurrent_dropout=0.2))
model.add(Dense(1, activation="sigmoid"))
model.compile(loss="binary_crossentropy", optimizer="adam", metrics=["accuracy"])

# Huấn luyện model
model.fit(x_train, y_train, batch_size=batch_size, epochs=15, validation_data=(x_test, y_test))

Sau đó, sử dụng SHAP để giải thích kết quả dự đoán:

import shap

# Chọn 100 sample đầu tiên trong tập huấn luyện làm dữ liệu nền
explainer = shap.DeepExplainer(model, x_train[:100])
# Giải thích cho 10 sample đầu tiên trong tập kiểm tra
shap_values = explainer.shap_values(x_test[:10])

Qua đoạn mã trên, chúng ta thu được các giá trị SHAP cho từng từ. SHAP cung cấp các công cụ trực quan hóa để hiển thị các giá trị này, thường dưới dạng heatmap. Độ đậm của màu sắc cho thấy mức độ đóng góp của từng từ, màu đỏ cho đóng góp tích cực, màu xanh cho đóng góp tiêu cực.

Trong hình trên, có thể dễ dàng nhận thấy rằng các từ như "tuyệt vời" hay "bất ngờ" đóng góp lớn vào dự đoánsentim tích cực, trong khi các từ như "kém" hay "thảm họa" lại có tác động tiêu cực. Điều này cho thấy SHAP có thể bắt được chính xác các từ có ý nghĩa quan trọng trong văn bản.

Trình bày trực quan cấp câu

SHAP không chỉ限 ở cấp từ mà còn có thể phân tích cấp câu, phù hợp cho các văn bản dài hoặc có nhiều câu. Phương pháp này giúp chúng ta hiểu được từng câu nào trong văn bản có ảnh hưởng lớn đến kết quả dự đoán.

Để thực hiện phân tích cấp câu, cần chia văn bản thành các câu và tính toán SHAP cho từng câu. Điều này thường yêu cầu các hàm tokenizer tùy chỉnh, ví dụ có thể tham khảo notebook text_examples/sentiment_analysis/Using custom functions and tokenizers.ipynb.

Trực quan hóa cấp câu thường sử dụng biểu đồ thanh. Mỗi thanh đại diện cho một câu, độ dài của thanh cho thấy mức độ đóng góp, và màu sắc cho thấy hướng đóng góp (tích cực hoặc tiêu cực). Điều này giúp chúng ta nhanh chóng xác định được các câu ảnh hưởng lớn nhất đến kết quả dự đoán.

Các ứng dụng thực tế

Phân tích SHAP có thể được áp dụng trong nhiều trường hợp:

• Optimize phân tíchsentim: Dựa vào các từ có ảnh hưởng lớn, chúng ta có thể cải thiện model, làm tăng độ chính xác và khả năng giải thích.
• Quản lý nội dung: Trong việc kiểm duyệt nội dung xã hội, SHAP giúp xác định nhanh các表述 nhạy cảm hoặc các câu có nội dung không mong muốn.
• Phân tích dư luận: Bằng cách phân tích các giá trị SHAP của từ trong một lượng lớn dữ liệu, chúng ta có thể nắm bắt được các quan điểm chính của công chúng đối với một sự kiện hoặc sản phẩm.
• Điều试 model: Khi kết quả dự đoán không như mong đợi, SHAP giúp chúng ta tìm ra các từ hoặc câu gây ra lỗi dự đoán, từ đó cải thiện model.

Kết luận và perspektive

Bài viết này đã giới thiệu cách sử dụng SHAP để trực quan hóa giải thích cho các model văn bản, bao gồm cả cấp từ và cấp câu. Đây là một công cụ mạnh mẽ để nâng cao khả năng giải thích của model, tối ưu hóa hiệu năng và hỗ trợ quyết định.

Tương lai, cùng với sự phát triển của NLP, SHAP hứa hẹn sẽ được áp dụng rộng rãi hơn, đặc biệt là với các model như Transformer và các model预訓練 khác. Chúng ta có thể mong đợi các phương pháp trực quan hóa phong phú hơn để hiểu sâu hơn về cách model xử lý văn bản.