Tích hợp Hive với HBase để truy vấn dữ liệu qua HiveQL

Giới thiệu HBase phù hợp để lưu trữ khối lượng dữ liệu rất lớn và cung cấp truy cập ngẫu nhiên theo rowkey với độ trễ thấp. Tuy nhiên, khả năng truy vấn của HBase khá hạn chế khi cần phân tích đa chiều, lọc theo nhiều điều kiện hay thực hiện các phép tính tổng hợp. Hive mang đến giao diện HiveQL gần với SQL, cho phép chạy các tác vụ phân tích b ...

Đăng vào ngày 1 tháng 8 lúc 08:46

Hadoop Pseudo-Distributed Environment Setup Guide (Linux)

1. Preparation 1.1 Configure Hostname and Hosts File # 127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4 # ::1 localhost localhost.localdomain localhost6 localhost6.localdomain6 192.168.241.128 nodeQLy 1.2 SSH Key Configuration [root ...

Đăng vào ngày 10 tháng 7 lúc 14:42

Hướng dẫn cài đặt và kiểm thử dịch vụ Hive LLAP

Hướng dẫn cài đặt và kiểm thử dịch vụ Hive LLAP 1.Tổng quan Từ phiên bản Hive 2.0, Apache đã giới thiệu LLAP (Live Long And Process), và phiên bản 2.1 đã có những cải tiến đáng kể. Có thể nói rằng Hive đã bước vào kỷ nguyên tính toán trong bộ nhớ, Theo kết quả thử nghiệm của Hortonworks, hiệu suất của llap kết hợp với tez nhanh hơn 25 lần so ...

Đăng vào ngày 7 tháng 7 lúc 06:52

Các Bài Tập Thực Hành SQL với Hàm Cửa Sổ

Hàm cửa sổ trong Hive Bài toán đầu tiên: Có bảng dữ liệu điểm số t1 như sau uidclass_namescore AChinese90 AEnglish89 AMath88 B...... Yêu cầu: Tính tổng điểm và xếp hạng uidchinese_scoreEnglish_scoreMath_scoretotal_scorerank A9089882671 B... Chuyển hàng thành cột + hàm rank() CREATE TABLE StudentScores ( user_id varchar(255), ...

Đăng vào ngày 1 tháng 7 lúc 01:08

Hệ Thống Tối Ưu Truy Vấn SQL Với Apache Calcite Trong Hive

Trong quá trình xử lý SQL, sau khi Hive phân tích cú pháp và xây dựng ASTNode, hệ thống sẽ kích hoạt phương thức BaseSemanticAnalyzer.analyze. Đây là bước cốt lõi để chuyển hóa ASTNode thành hệ thống tác vụ (task), qua nhiều giai đoạn tối ưu hóa. Dưới đây là ví dụ về truy vấn SQL được tối ưu ở các bước khác nhau: SELECT * FROM ( SELECT Sname ...

Đăng vào ngày 7 tháng 6 lúc 20:01

Sử Dụng Hàm Cửa Sổ Trong Hive: FIRST_VALUE, SUM, LEAD, LAG và Phân Biệt ROWS vs RANGE

Hàm cửa sổ (window function) trong Hive cho phép thực hiện tính toán trên tập hợp các hàng liên quan đến hàng hiện tại mà không làm mất cấu trúc bảng gốc. Dưới đây là phân tích chi tiết về một số hàm phổ biến cùng sự khác biệt then chốt giữa hai kiểu khung tính toán: ROWS và RANGE. Hàm FIRST_VALUE Hàm này trả về giá trị đầu tiên trong khung cử ...

Đăng vào ngày 17 tháng 5 lúc 22:00