Hướng dẫn triển khai hệ thống lưu trữ phân tán Hadoop HDFS 3.2
Hadoop 3.2 mang lại nhiều cải tiến về hiệu suất và tính năng so với các phiên bản tiền nhiệm. Trong bài viết này, chúng ta sẽ tập trung vào việc thiết lập các thành phần cốt lõi của HDFS bao gồm NameNode, DataNode và SecondaryNameNode để xây dựng một cụm lưu trữ dữ liệu lớn (Big Data storage).
1. Chuẩn bị môi trường và giải nén gói cài đặt
Trư ...
Đăng vào ngày 1 tháng 10 lúc 10:32
Giải Vấn Đề Bất Nhất Dữ Liệu Khi Truy Vấn HBase Bằng Spark
Triệu chứng:
Bảng kết quả truy vấn:
+----------+-------+--------+-----+-----+-----+----+----+------+---------+-------+--------+--------+------------+
|totalCount|January|February|March|April| May|June|July|August|September|October|November|December|totalMileage|
+----------+-------+--------+-----+-----+-----+----+----+------+---------+-------+- ...
Đăng vào ngày 14 tháng 6 lúc 00:41
Tổng kết Hadoop: Kiến trúc và Nguyên tắc hoạt động
Hadoop về
Khái niệm Big Data
Không thể xử lý dữ liệu bằng một máy tính duy nhất
Trọng tâm của Big Data là mẫu = tổng thể
Đặc tính Big Data
Lượng lớn (Volume): Trong Big Data, kích thước của một tệp tin riêng lẻ thường từ vài chục đến vài trăm GB trở lên
Tốc độ (Velocity): Phản ánh tốc độ tạo ra dữ liệu và tần suất thay đổi dữ liệu
Đa dạng (V ...
Đăng vào ngày 9 tháng 6 lúc 17:58
Hướng dẫn phát triển Flink DataSet cơ bản
Quy trình phát triển
Lấy một môi trường thực thi (execution environment)
Tải/ tạo dữ liệu ban đầu
Xác định các phép biến đổi dữ liệu
Chỉ định nơi lưu trữ kết quả tính toán
Kích hoạt thực thi chương trình
Ví dụ đếm từ (Word Count)
object TextFrequencyAnalyzer {
def main(args: Array[String]): Unit = {
// Khởi tạo môi ...
Đăng vào ngày 31 tháng 5 lúc 23:14