Quản lý siêu dữ liệu trong HDFS (FSImage, Edits, CheckPoint)

Mục lục 1 - Siêu dữ liệu của NameNode 1.1 FSImage - Bản sao lưu siêu dữ liệu 1.2 Kiểm tra tệp FSImage 1.3 Edits - Nhật ký hoạt động 1.4 Xem nội dung tệp Edits 2 - Quy trình khởi động NameNode 3 - Quá trình CheckPoint 3.1 Lý do thực hiện CheckPoint 3.2 Quy trình CheckPoint 4 - SecondaryNameNode hỗ trợ quản lý FSImage và Edits 4.1 Cấu hìn ...

Đăng vào ngày 19 tháng 7 lúc 08:57

Cấu hình StateBackend và Checkpoint trong Flink CDC PostgreSQL

Giới thiệu về cơ chế lưu trữ trạng thái Trong quy trình tích hợp Flink CDC với PostgreSQL, việc quản lý trạng thái (state) và cơ chế checkpoint đóng vai trò then chốt để đảm bảo tính chính xác và khả năng phục hồi của luồng dữ liệu. Flink cung cấp nhiều tùy chọn StateBackend khác nhau, mỗi loại phù hợp với các yêu cầu về hiệu năng và độ bền vữn ...

Đăng vào ngày 2 tháng 7 lúc 11:33

Tích hợp Flink CDC với PostgreSQL: Lưu trữ và khôi phục checkpoint tùy chỉnh

Để tích hợp Flink CDC với PostgreSQL trong môi trường Spring Boot và thay thế cơ chế lưu trữ checkpoint mặc định (RocksDB/HDFS) bằng cơ sở dữ liệu quan hệ, cần triển khai một lớp lưu trữ checkpoint tùy chỉnh dựa trên giao diện CheckpointStorage của Flink. Giải pháp dưới đây tập trung vào việc lưu trữ metadata checkpoint và trạng thái liên quan ...

Đăng vào ngày 24 tháng 6 lúc 20:30

Hướng dẫn Lập trình và Cấu hình Apache Flink

Thiết lập Maven cho dự án Flink Để bắt đầu phát triển ứng dụng với Apache Flink, bạn cần khai báo các thư viện cần thiết trong tệp pom.xml. Dưới đây là cấu hình cơ bản cho phiên bản Flink 1.17.0: <properties> <flink.version>1.17.0</flink.version> <java.version>1.8</java.version> <maven.compiler.sourc ...

Đăng vào ngày 16 tháng 6 lúc 09:52