Triển khai cụm Kafka trên Kubernetes

1. Giới thiệu về Kafka Kafka là một hệ thống nhật ký phân tán, hỗ trợ nhiều bản sao và người đăng ký, với khả năng phân vùng dựa trên Zookeeper để quản lý. Các tính năng chính của nó bao gồm: Cung cấp khả năng lưu trữ dữ liệu theo độ phức tạp thời gian O(1), cho phép truy cập hiệu quả ngay cả với lượng dữ liệu lớn hơn TB. Khả năng xử lý cao. D ...

Đăng vào ngày 9 tháng 6 lúc 17:42

Hướng dẫn cài đặt và sử dụng Kafka cơ bản

Khởi động đơn lẻ Cài đặt tar -xzf kafka_2.10-0.10.1.1.tgz cd kafka_2.10-0.10.1.1 Khởi chạy bin/zookeeper-server-start.sh config/zookeeper.properties bin/kafka-server-start.sh config/server.properties Tạo topic Mở cửa sổ terminal mới: bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test ...

Đăng vào ngày 7 tháng 6 lúc 21:55

Đồng bộ dữ liệu MySQL sang HBase theo thời gian thực

Vấn đề với MySQL khi dữ liệu lớn Trong môi trường doanh nghiệp, MySQL là hệ quản trị cơ sở dữ liệu được sử dụng rộng rãi nhất. Tuy nhiên, MySQL có một hạn chế quan trọng: khi khối lượng dữ liệu đạt đến hàng triệu bản ghi, các thao tác truy vấn và cập nhật trở nên cực kỳ chậm chạp. Nếu hệ thống yêu cầu hiển thị dữ liệu theo thời gian thực, đây t ...

Đăng vào ngày 4 tháng 6 lúc 22:56

Các giải pháp cho các câu hỏi thường gặp trong dự án go-queue

Các giải pháp cho các câu hỏi thường gặp trong dự án go-queue go-queue là một framework hàng tin nhắn phân tán được phát triển bởi công ty zeromicro. Nó hỗ trợ nhiều hệ thống hàng tin nhắn như Kafka, Beanstalkd, NATS, RabbitMQ."go-queue" được viết bằng ngôn ngữ Go, tận dụng hiệu suất và khả năng xử lý song song của Go để cung cấp một ...

Đăng vào ngày 3 tháng 6 lúc 18:04

Mẫu Singleton và Đăng ký Dịch vụ Hosted Service trong .NET

Kết nối RabbitMQ sử dụng Mẫu Singleton Để quản lý một kết nối duy nhất đến RabbitMQ, chúng ta có thể sử dụng Mẫu Singleton. Dưới đây là một triển khai: public interface IRabbitMqConnection { IConnection Connection { get; } } public class RabbitMqConnection : IRabbitMqConnection { private static readonly RabbitMqConnection instance = ne ...

Đăng vào ngày 24 tháng 5 lúc 12:42

Cài Đặt và Cấu Hình ELK (Filebeat, Kafka, Logstash, Elasticsearch, Kibana)

1. Các phiên bản cài đặt filebeat-7.4.0-linux-x86_64.tar.gz elasticsearch-7.4.0-linux-x86_64.tar.gz kibana-7.4.0-linux-x86_64.tar.gz logstash-7.4.0.tar.gz kafka_2.12-2.3.0.tgz 2. Tác dụng của các thành phần Filebeat: Công cụ chuyển tiếp nhật ký, theo dõi và đọc các tệp nhật ký được chỉ định. Elasticsearch: Cơ sở dữ liệu phân tán dựa trên JSO ...

Đăng vào ngày 22 tháng 5 lúc 18:33

Sử dụng Kafka với giao dịch và gửi tin nhắn theo lô trong .NET Core

Gửi tin nhắn theo lô với hỗ trợ giao dịch: Đảm bảo tính toàn vẹn dữ liệu Trong môi trường phân tán, việc đảm bảo rằng một nhóm tin nhắn được gửi thành công đồng thời hoặc hoàn tác nếu có lỗi là rất quan trọng. Kafka cung cấp cơ chế giao dịch (transaction) cho phép thực hiện điều này — tất cả các bản ghi đều được cam kết (commit) nếu thành công, ...

Đăng vào ngày 17 tháng 5 lúc 15:47