Thành phố Cuồng loạn

Trong các kiến trúc học sâu hiện đại, bên cạnh việc sử dụng các phép biến đổi tuyến tính hay hàm kích hoạt cố định, một hướng tiếp cận mạnh mẽ là định nghĩa một lớp (layer) như là nghiệm của một bài toán tối ưu hóa. Cần phân biệt rõ ràng: "tối ưu hóa" ở đây không ám chỉ quá trình huấn luyện mạng (như cập nhật trọng số qua gradient descent), mà ...