Xây dựng công cụ crawl truyện bằng Python và Asyncio
Việc thu thập dữ liệu từ các trang web đọc truyện yêu cầu sự kết hợp giữa kỹ thuật xử lý HTTP request, phân tích mã nguồn HTML và tối ưu hóa tốc độ tải xuống. Trong hướng dẫn này, chúng ta sẽ xây dựng một công cụ bằng Python sử dụng thư viện aiohttp để tải truyện bất đồng bộ, giúp tăng hiệu suất đáng kể so với phương pháp tuần tự thông thường.
...
Đăng vào ngày 9 tháng 11 lúc 09:45
Hướng dẫn kỹ thuật trích xuất và tải xuống giáo trình PDF từ nền tảng giáo dục thông minh
Thách thức trong việc truy cập tài nguyên giáo dục số
Việc tiếp cận các giáo trình điện tử trên các nền tảng giáo dục trực tuyến thường gặp phải rào cản kỹ thuật. Cụ thể, tại các cổng thông tin như nền tảng giáo dục thông minh quốc gia, liên kết tải xuống trực tiếp file PDF thường không được hiển thị công khai trên giao diện người dùng. Thay v ...
Đăng vào ngày 24 tháng 10 lúc 09:40
Cài đặt Selenium WebDriver và kỹ thuật định vị phần tử trên trình duyệt
Tổng quan về Selenium WebDriver
Trong lĩnh vực thu thập dữ liệu web (web scraping), thư viện requests thường gặp hạn chế vì nó chỉ tải về mã nguồn HTML tĩnh mà không thể thực thi các đoạn mã JavaScript hay xử lý các hiệu ứng CSS phức tạp. Đây là lúc Selenium phát huy vai trò của mình.
Selenium ban đầu được phát triển như một công cụ tự động hóa ...
Đăng vào ngày 19 tháng 10 lúc 13:11
Quy Trình Kỹ Thuật Trích Xuất Sách Giáo Khoa PDF Từ Nền Tảng Giáo Dục Thông Minh Quốc Gia
Hạn chế trong truy cập dữ liệu và giải pháp mở khóa
Nền tảng giáo dục thông minh quốc gia cung cấp kho tài nguyên số phong phú cho bậc tiểu học và trung học cơ sở. Tuy nhiên, giao diện trực tuyến thường chỉ hỗ trợ xem trước hoặc lưu trữ dưới dạng hình ảnh nội bộ mà không cung cấp hàm tải về tệp tin gốc định dạng PDF. Điều này gây trở ngại lớn c ...
Đăng vào ngày 24 tháng 9 lúc 15:16
Xây dựng công cụ giám sát giá vàng tự động bằng Python và Selenium
Trong việc quản lý đầu tư, việc theo dõi biến động giá tài sản theo thời gian thực là vô cùng quan trọng. Bài viết này hướng dẫn xây dựng một công cụ tự động hóa bằng Python để theo dõi giá vàng "Easy Store Gold" từ ngân hàng CCB. Công cụ sử dụng Selenium để quét dữ liệu (web scraping) và tích hợp Webhook để gửi thông báo tức thời qua Feishu (L ...
Đăng vào ngày 21 tháng 9 lúc 23:52
Kỹ Thuật Tìm Kiếm và Duyệt DOM Nâng Cao trong BeautifulSoup 4
Thư viện BeautifulSoup (bs4) cung cấp một bộ API linh hoạt để điều hướng và truy vấn cấu trúc DOM của tài liệu HTML hoặc XML. Hai phương thức nền tảng nhất dùng để trích xuất dữ liệu là find() (trả về phần tử khớp đầu tiên) và find_all() (trả về danh sách tất cả các phần tử khớp).
Các tham số cốt lõi
Cả hai phương thức trên đều chia sẻ chung m ...
Đăng vào ngày 5 tháng 9 lúc 00:50
Thực thi JavaScript và các kỹ thuật ẩn danh WebDriver trong Selenium
Thực thi mã JavaScript trong Selenium
Selenium cho phép tương tác trực tiếp với môi trường trình duyệt bằng cách thực thi các đoạn mã JavaScript. Điều này đặc biệt hữu ích khi cần thao tác với DOM, gọi các hàm nội bộ của trang web hoặc mô phỏng các hành vi phức tạp của người dùng.
# Cú pháp cơ bản để thực thi JS trong ngữ cảnh trình duyệt
drive ...
Đăng vào ngày 3 tháng 9 lúc 03:52
Kỹ Thuật Xây Dựng Robot Thu Thập Dữ Liệu Web Với Python
Khái Niệm Cơ Bản Về Web Scraping
Web scraping là kỹ thuật tự động hóa việc gửi yêu cầu đến máy chủ web để nhận phản hồi, sau đó phân tích và trích xuất các thông tin cụ thể từ dữ liệu trả về. Mặc dù nguyên lý hoạt động trông có vẻ đơn giản là gửi request và nhận response, nhưng quá trình triển khai thực tế đòi hỏi người phát triển phải xử lý nh ...
Đăng vào ngày 11 tháng 8 lúc 19:09
Selenium trong tự động hóa trình duyệt và thu thập dữ liệu
Selenium là gì?
Selenium là một công cụ mạnh mẽ dùng để kiểm thử ứng dụng Web, có khả năng mô phỏng hành vi người dùng thật thông qua thao tác trực tiếp trên trình duyệt. Nó hỗ trợ nhiều trình duyệt phổ biến như Google Chrome, Mozilla Firefox, Safari, Opera và Internet Explorer trên các hệ điều hành khác nhau. Các tính năng chính bao gồm:
...
Đăng vào ngày 27 tháng 7 lúc 22:08
Xây dựng công cụ cào dữ liệu truyện chữ bằng Python
Việc tự động hóa quá trình thu thập nội dung từ các trang web truyện chữ là một bài tập thực hành phổ biến để làm quen với kỹ thuật Web Scraping. Bằng cách sử dụng ngôn ngữ Python cùng các thư viện như requests và BeautifulSoup, chúng ta có thể dễ dàng trích xuất hàng ngàn chương truyện một cách nhanh chóng.
1. Thu thập danh sách liên kết các ...
Đăng vào ngày 14 tháng 7 lúc 01:41