Hướng dẫn triển khai hệ thống lưu trữ phân tán Hadoop HDFS 3.2

Hadoop 3.2 mang lại nhiều cải tiến về hiệu suất và tính năng so với các phiên bản tiền nhiệm. Trong bài viết này, chúng ta sẽ tập trung vào việc thiết lập các thành phần cốt lõi của HDFS bao gồm NameNode, DataNode và SecondaryNameNode để xây dựng một cụm lưu trữ dữ liệu lớn (Big Data storage). 1. Chuẩn bị môi trường và giải nén gói cài đặt Trư ...

Đăng vào ngày 1 tháng 10 lúc 10:32

Giải Vấn Đề Bất Nhất Dữ Liệu Khi Truy Vấn HBase Bằng Spark

Triệu chứng: Bảng kết quả truy vấn: +----------+-------+--------+-----+-----+-----+----+----+------+---------+-------+--------+--------+------------+ |totalCount|January|February|March|April| May|June|July|August|September|October|November|December|totalMileage| +----------+-------+--------+-----+-----+-----+----+----+------+---------+-------+- ...

Đăng vào ngày 14 tháng 6 lúc 00:41

Tổng kết Hadoop: Kiến trúc và Nguyên tắc hoạt động

Hadoop về Khái niệm Big Data Không thể xử lý dữ liệu bằng một máy tính duy nhất Trọng tâm của Big Data là mẫu = tổng thể Đặc tính Big Data Lượng lớn (Volume): Trong Big Data, kích thước của một tệp tin riêng lẻ thường từ vài chục đến vài trăm GB trở lên Tốc độ (Velocity): Phản ánh tốc độ tạo ra dữ liệu và tần suất thay đổi dữ liệu Đa dạng (V ...

Đăng vào ngày 9 tháng 6 lúc 17:58

Hướng dẫn phát triển Flink DataSet cơ bản

Quy trình phát triển Lấy một môi trường thực thi (execution environment) Tải/ tạo dữ liệu ban đầu Xác định các phép biến đổi dữ liệu Chỉ định nơi lưu trữ kết quả tính toán Kích hoạt thực thi chương trình Ví dụ đếm từ (Word Count) object TextFrequencyAnalyzer { def main(args: Array[String]): Unit = { // Khởi tạo môi ...

Đăng vào ngày 31 tháng 5 lúc 23:14