Categories
AI & Machine Learning

Học sâu – AutoDiff, Transformers

VI PHÂN TỰ ĐỘNG DỰA TRÊN MÔ-ĐUN Truyền ngược Đào tạo Vi phân tự động – Chế độ đảo ngược (hay còn gọi là truyền ngược) Tính toán chuyển tiếp Tính toán ngược (Phiên bản A) Trả về đạo hàm riêng dy/dui cho tất cả các biến Truyền ngược Đào tạo Vi phân tự động […]

Categories
AI & Machine Learning

Nền tảng học sâu – RNNs, CNNs

PHÂN LOẠI PHÂN BIỆT VÀ TẠO SINH Tạo sinh so với Phân biệt – Ví dụ: Naïve Bayes – Định nghĩa mô hình đồng thời của các quan sát x và nhãn y: p(x, y) – Học tập tối đa hóa khả năng (đồng thời) – Sử dụng quy tắc Bayes để phân loại dựa […]

Categories
AI & Machine Learning

Mạng nơ-ron – Ví dụ lan truyền ngược

Overview : initial weights, the biases, and training inputs/outputs Forward-Computation : total net input, activation function Calculating the Total Error : squared error function For example, the target output for O1 is 0.01 but the neural network output 0.75136507, therefore its error is: Backpropagation : Output Layer Our goal with backpropagation is to update each […]

Categories
AI & Machine Learning

Mạng nơ-ron

CÔNG THỨC CHO ML Công thức cho Học máy Kiến thức nền 1. Dữ liệu đào tạo cho sẵn: 2. Chọn các thành phần sau: – Hàm quyết định – Hàm mất mát Ví dụ: Hồi quy tuyến tính, Hồi quy logistic, Mạng nơ-ron Ví dụ: Lỗi bình phương trung bình, Entropy chéo Công thức […]

Categories
AI & Machine Learning

PCA, Kernel PCA, ICA – Học biểu diễn – Giảm số chiều

Dữ liệu lớn & dữ liệu có chiều cao Phân loại tài liệu Các tính năng trên mỗi tài liệu = hàng nghìn từ/unigram hàng triệu bigram, thông tin theo ngữ cảnh Khảo sát – Netflix 480189 người dùng x 17770 phim Dữ liệu lớn và có chiều cao MEG Brain Imaging 120 vị trí […]

Categories
AI & Machine Learning

Phân cụm – Học tập không giám sát

Đọc: Các nguồn bổ sung: Hậu cần Phân cụm, Mục tiêu không chính thức Mục tiêu: Tự động phân vùng dữ liệu chưa được gắn nhãn thành các nhóm của các điểm dữ liệu tương tự. Câu hỏi: Khi nào và tại sao chúng ta muốn làm điều này? Hữu ích cho: Các ứng dụng […]

Categories
AI & Machine Learning

Active Learning

Bài đọc tham khảo Active Learning from Theory to Practice (Steve Hanneke-Robert Nowak) Hậu cần Hãy chắc chắn nói chuyện với người cố vấn TA của bạn! Mô hình học tập được giám sát hoàn toàn cổ điển Không đủ Ngày nay Các ứng dụng hiện đại: lượng dữ liệu thô khổng lồ. Chỉ một […]

Categories
AI & Machine Learning

Học bán giám sát

Bài đọc tham khảo Machine Learning 10-701 (Semi-supervised learning in SVMs-Principal Component Analysis) Machine Learning 10-701 (EM for Bayes Nets-Co-Training for semi-supervised learning) Thuật Toán Self-Training Và Co-Training Ứng Dụng Trong Phân Lớp Văn Bản (Trần Thị Oanh) Bài đọc: Học tập được giám sát đầy đủ Thuật toán học tập Chuyên gia / Oracle […]

Categories
AI & Machine Learning

Máy Vectơ hỗ trợ (SVM)

Máy Vectơ hỗ trợ (SVM). Một trong những thuật toán phân loại có động lực tốt nhất về mặt lý thuyết và thực tế hiệu quả nhất trong học máy. Được thúc đẩy trực tiếp bởi Margins và Kernels! Lề hình học Bộ tách tuyến tính đồng nhất WLOG [w0 = 0]. Định nghĩa: Lề […]

Categories
AI & Machine Learning

Phương pháp hàm nhân trong học máy

Tóm tắt nhanh về Perceptron và Margins Mô hình Học tập Trực tuyến Sau đó quan sát kết quả. Với i=1, 2, …, : Mô hình ràng buộc sai lầm Thuật toán Perceptron trong mô hình trực tuyến Bộ tách tuyến tính đồng nhất WLOG [w0 = 0]. Lưu ý 1: wt là tổng trọng […]