VI PHÂN TỰ ĐỘNG DỰA TRÊN MÔ-ĐUN Truyền ngược Đào tạo Vi phân tự động – Chế độ đảo ngược (hay còn gọi là truyền ngược) Tính toán chuyển tiếp Tính toán ngược (Phiên bản A) Trả về đạo hàm riêng dy/dui cho tất cả các biến Truyền ngược Đào tạo Vi phân tự động […]
PHÂN LOẠI PHÂN BIỆT VÀ TẠO SINH Tạo sinh so với Phân biệt – Ví dụ: Naïve Bayes – Định nghĩa mô hình đồng thời của các quan sát x và nhãn y: p(x, y) – Học tập tối đa hóa khả năng (đồng thời) – Sử dụng quy tắc Bayes để phân loại dựa […]
Overview : initial weights, the biases, and training inputs/outputs Forward-Computation : total net input, activation function Calculating the Total Error : squared error function For example, the target output for O1 is 0.01 but the neural network output 0.75136507, therefore its error is: Backpropagation : Output Layer Our goal with backpropagation is to update each […]
Categories
Mạng nơ-ron
CÔNG THỨC CHO ML Công thức cho Học máy Kiến thức nền 1. Dữ liệu đào tạo cho sẵn: 2. Chọn các thành phần sau: – Hàm quyết định – Hàm mất mát Ví dụ: Hồi quy tuyến tính, Hồi quy logistic, Mạng nơ-ron Ví dụ: Lỗi bình phương trung bình, Entropy chéo Công thức […]
Dữ liệu lớn & dữ liệu có chiều cao Phân loại tài liệu Các tính năng trên mỗi tài liệu = hàng nghìn từ/unigram hàng triệu bigram, thông tin theo ngữ cảnh Khảo sát – Netflix 480189 người dùng x 17770 phim Dữ liệu lớn và có chiều cao MEG Brain Imaging 120 vị trí […]
Đọc: Các nguồn bổ sung: Hậu cần Phân cụm, Mục tiêu không chính thức Mục tiêu: Tự động phân vùng dữ liệu chưa được gắn nhãn thành các nhóm của các điểm dữ liệu tương tự. Câu hỏi: Khi nào và tại sao chúng ta muốn làm điều này? Hữu ích cho: Các ứng dụng […]
Categories
Active Learning
Bài đọc tham khảo Active Learning from Theory to Practice (Steve Hanneke-Robert Nowak) Hậu cần Hãy chắc chắn nói chuyện với người cố vấn TA của bạn! Mô hình học tập được giám sát hoàn toàn cổ điển Không đủ Ngày nay Các ứng dụng hiện đại: lượng dữ liệu thô khổng lồ. Chỉ một […]
Categories
Học bán giám sát
Bài đọc tham khảo Machine Learning 10-701 (Semi-supervised learning in SVMs-Principal Component Analysis) Machine Learning 10-701 (EM for Bayes Nets-Co-Training for semi-supervised learning) Thuật Toán Self-Training Và Co-Training Ứng Dụng Trong Phân Lớp Văn Bản (Trần Thị Oanh) Bài đọc: Học tập được giám sát đầy đủ Thuật toán học tập Chuyên gia / Oracle […]
Categories
Máy Vectơ hỗ trợ (SVM)
Máy Vectơ hỗ trợ (SVM). Một trong những thuật toán phân loại có động lực tốt nhất về mặt lý thuyết và thực tế hiệu quả nhất trong học máy. Được thúc đẩy trực tiếp bởi Margins và Kernels! Lề hình học Bộ tách tuyến tính đồng nhất WLOG [w0 = 0]. Định nghĩa: Lề […]
Tóm tắt nhanh về Perceptron và Margins Mô hình Học tập Trực tuyến Sau đó quan sát kết quả. Với i=1, 2, …, : Mô hình ràng buộc sai lầm Thuật toán Perceptron trong mô hình trực tuyến Bộ tách tuyến tính đồng nhất WLOG [w0 = 0]. Lưu ý 1: wt là tổng trọng […]