Các Chế Độ Xử Lý Kết Nối trong Tomcat

Hiệu suất xử lý đồng thời của Tomcat phụ thuộc trực tiếp vào cấu hình, đặc biệt là thiết lập trong file server.xml. Việc điều chỉnh hợp lý giúp hệ thống xử lý lượng kết nối lớn mà không gây quá tải tài nguyên.

Chế độ Đồng bộ Chặn (Blocking I/O)

Mỗi yêu cầu kết nối tạo ra một luồng xử lý riêng. Khi có nhiều kết nối không hoạt động, hệ thống tiêu tốn tài nguyên vô ích. Chế độ này phù hợp cho ứng dụng có số lượng kết nối ổn định và ít biến động, nhưng không hiệu quả trong môi trường tải cao.

Chế độ Không Đồng bộ (Non-blocking I/O)

Tomcat 8.x sử dụng NIO2 làm mặc định (Http11Nio2Protocol). Cơ chế đa kênh cho phép một luồng xử lý nhiều kết nối đồng thời, giảm đáng kể chi phí chuyển đổi ngữ cảnh. Đây là lựa chọn tối ưu cho ứng dụng web có thời gian xử lý ngắn và lưu lượng truy cập cao.

Chế độ APR (Apache Portable Runtime)

APR tận dụng thư viện hệ thống thông qua JNI để tối ưu hóa thao tác I/O. Yêu cầu cài đặt các thành phần phụ thuộc như OpenSSL và tomcat-native, nhưng mang lại hiệu suất vượt trội đặc biệt khi xử lý file tĩnh hoặc kết nối HTTPS.

Cấu Hình Bộ Xử Lý Kết Nối

Thiết lập chính được thực hiện trong thẻ <Connector> tại ${CATALINA_HOME}/conf/server.xml.

Thiết Lập Nhóm Luồng

Sử dụng nhóm luồng chia sẻ để tối ưu tài nguyên:

<ThreadPool id="workerPool" maxActive="250" coreThreads="8" 
           idleTimeout="300000" queueCapacity="200" 
           threadPrefix="tomcat-worker-"/>

Thông số quan trọng:

• maxActive: Số luồng tối đa (khuyến nghị 200-500)
• coreThreads: Luồng lõi luôn duy trì sẵn sàng
• idleTimeout: Thời gian tối đa luồng nghỉ trước khi bị hủy (ms)
• queueCapacity: Kích thước hàng đợi yêu cầu chờ xử lý

Áp Dụng Nhóm Luồng cho Connector

<Connector threadPool="workerPool" port="8080" 
           protocol="org.apache.coyote.http11.Http11Nio2Protocol"
           connectionTimeout="30000" keepAliveTimeout="15000"
           maxConnections="10000" acceptCount="500"
           URIEncoding="UTF-8" compression="on"/>

Các tham số then chốt:

• maxConnections: Giới hạn kết nối đồng thời
• acceptCount: Số yêu cầu chờ trong hàng đợi khi đạt ngưỡng luồng
• keepAliveTimeout: Thời gian giữ kết nối sau khi xử lý yêu cầu
• compression: Nén dữ liệu truyền tải (giảm 40% băng thông)

Cấu Hình APR

Sau khi cài đặt apr, apr-util và tomcat-native vào /opt/apr, cập nhật:

<Listener className="org.apache.catalina.core.AprLifecycleListener" 
         SSLRandomSeed="builtin"/>

<Connector port="8443" protocol="org.apache.coyote.http11.Http11AprProtocol"
           maxThreads="300" SSLEnabled="true"
           SSLCertificateFile="/etc/ssl/cert.pem"/>

Xác minh cài đặt thành công qua log catalina.out:

INFO: Loaded APR library 1.7.0, OpenSSL 3.0.0

Tối Ưu AJP Connector

Khi kết hợp với Apache HTTP Server:

<Connector port="8009" protocol="AJP/1.3" 
           packetSize="65536" connectionTimeout="60000"
           secretRequired="false"/>

Loại bỏ cấu hình này nếu sử dụng Nginx làm reverse proxy. Tham số packetSize tăng kích thước gói dữ liệu để tối ưu hiệu suất truyền tải.