Spark Streaming với Kafka 1.0.1: Quản lý Offset trực tiếp vào HBase
Trong kiến trúc xử lý luồng thời gian thực, việc đảm bảo tính nhất quán và khả năng khôi phục sau sự cố phụ thuộc rất lớn vào cơ chế quản lý offset một cách đáng tin cậy. Bài viết này trình bày cách tích hợp Spark Streaming (phiên bản tương thích với Kafka 1.0.1) theo mô hình Direct Stream, đồng thời lưu trữ và truy vấn offset từ HBase — thay v ...
Đăng vào ngày 27 tháng 6 lúc 07:07
Quản lý offset trong Debezium Embedded CDC
Việc quản lý offset là yếu tố then chốt đảm bảo tính nhất quán và độ tin cậy khi sử dụng Debezium Embedded để bắt thay đổi dữ liệu. Dưới đây là phân tích chi tiết về cơ chế lưu trữ, xử lý tùy chỉnh, phục hồi lỗi và chiến lược reset, kèm theo ví dụ mã nguồn và tình huống thực tế.
Cơ chế lưu trữ offset
1. Các backend lưu trữ sẵn có
(a) Lưu vào ...
Đăng vào ngày 16 tháng 6 lúc 19:45