Categories
AI & Machine Learning

Phương pháp Boosting trong ML – Perceptron, Margins, Kernels

Tóm tắt từ lần trước: Boosting Adaboost (Boosting thích ứng) Đầu vào: S={(x1, 𝑦1), …,(xm, 𝑦m)}; xi ∈ 𝑋, 𝑦𝑖 ∈ 𝑌 = {−1,1} thuật toán học yếu A (ví dụ: Naïve Bayes, các gốc quyết định) Đầu ra Hfinal(𝑥) = sign(∑𝑡=1 𝛼𝑡ℎ𝑡(𝑥)) Dt+1 đặt một nửa trọng số cho các mẫu xi khi ht sai & […]

Categories
AI & Machine Learning

Phương pháp Boosting trong máy học

Bài đọc tham khảo Machine Learning 10-701 (Boosting) Boosting Bài đọc: Kế hoạch cho hôm nay: Ví dụ: Phát hiện thư rác Quan sát/động lực chính: Ví dụ: Phát hiện thư rác Boosting: Các khía cạnh quan trọng Làm thế nào để chọn mẫu trên mỗi vòng? Làm cách nào để kết hợp các quy […]

Categories
AI & Machine Learning

Cực đại hóa kỳ vọng và phân cụm

Hôm nay: Bài đọc: Học Bayes Nets Thuật toán EM – không chính thức EM là một quy trình chung để học từ dữ liệu được quan sát một phần Cho các biến quan sát X, không quan sát Z (X={F,A,H,N}, Z={S}) Bắt đầu với sự lựa chọn tùy ý cho các tham số θ Lặp […]

Categories
AI & Machine Learning

Mô hình đồ họa III

Bài đọc tham khảo Machine Learning 10-701 (Expectation-Maximization) Hôm nay: Readings: Giữa học kỳ Mạng Bayesian Định nghĩa Mạng Bayes biểu thị phân phối xác suất đồng thời trên một tập hợp các biến ngẫu nhiên Mạng Bayes là một đồ thị không tuần hoàn có hướng và một tập hợp các phân phối xác suất có điều kiện […]

Categories
AI & Machine Learning

Mô hình đồ họa II

Bài đọc tham khảo Causality: Models, Reasoning, and Inference (Chapter 11.1.2) Hôm nay: Bài đọc: Bayes Nets xác định Phân phối xác suất đồng thời theo biểu đồ này, cộng với các tham số Lợi ích của Bayes Nets: Mạng Bayesian Định nghĩa Mạng Bayes biểu thị phân phối xác suất đồng thời trên một tập hợp các biến […]

Categories
AI & Machine Learning

Mô hình đồ họa

Hôm nay: Bài đọc: Mô hình đồ họa Mô hình đồ họa – Tại sao phải quan tâm? Tính độc lập có điều kiện Định nghĩa: X độc lập có điều kiện với Y cho trước Z, nếu phân phối xác suất chi phối X không phụ thuộc vào giá trị của Y, cho trước giá trị của Z […]

Categories
AI & Machine Learning

Lý thuyết học máy III

Bài đọc tham khảo CS 5966/6966: Theory of Machine Learning (Lecture 6: Rademacher Complexity) Understanding Machine Learning: From Theory to Algorithms (Chapter 26 + 8) Hôm nay: Độ phức tạp mẫu cho xấp xỉ hàm. Lựa chọn mô hình. Hai khía cạnh cốt lõi của học máy Tính toán Thiết kế thuật toán. Làm thế nào để tối […]

Categories
AI & Machine Learning

Lý thuyết học máy II

Bài đọc tham khảo Foundations of Machine Learning (Chapter 3) Foundations of Data Science (Chapter 5) Hai khía cạnh cốt lõi của học máy Tính toán Thiết kế thuật toán. Làm thế nào để tối ưu hóa? Tự động tạo các quy tắc hoạt động tốt trên dữ liệu được quan sát. Dữ liệu (được gắn nhãn) […]

Categories
AI & Machine Learning

Lý thuyết học máy

Bài đọc tham khảo Foundations of Data Science (Chapter 5) Mục tiêu của lý thuyết học máy Phát triển và phân tích các mô hình để hiểu: Các công cụ thú vị & kết nối với các lĩnh vực khác: Lĩnh vực rất sôi động: Hôm nay: Trọng tâm hôm nay: Độ phức tạp của mẫu để […]

Categories
AI & Machine Learning

Hồi quy tuyến tính

Hôm nay: Bài đọc: Hồi quy logistic MLE so với MAP Ước tính MAP và Chính quy hóa được gọi là thuật ngữ “chính quy hóa” Phân loại tạo sinh so với phân loại phân biệt Bộ phân loại đào tạo liên quan đến việc ước tính f: X → Y, hoặc P(Y|X) Generative classifiers (ví […]