Unsupervised Learning - Học không giám sát

Unsupervised Learning - Học không giám sát

Hãy tưởng tượng bạn bước vào một căn phòng lưu trữ tài liệu cổ ở một quốc gia xa lạ. Hàng nghìn cuốn sách và cuộn giấy nằm ngổn ngang trên sàn, được viết bằng một thứ ngôn ngữ cổ mà bạn không biết một chữ bẻ đôi (hoàn toàn không có nhãn, không có lời dịch - Không có Label $y$).

Dù không đọc hiểu nội dung, bạn vẫn có thể bắt tay vào dọn dẹp bằng cách quan sát các đặc trưng vật lý:

• Nhóm 1: Những cuốn sách khổ lớn, bìa bọc da dày cộp, gáy mạ vàng.
• Nhóm 2: Những cuộn giấy cói mỏng dính, cuộn tròn, có thắt dây đỏ.
• Nhóm 3: Những tập tài liệu nhỏ có đính kèm bản vẽ hình học và ký tự số.

Bạn vừa hoàn thành xuất sắc một nhiệm vụ mà không cần bất kỳ ai hướng dẫn hay chấm điểm. Bạn đã tự mình tìm ra cấu trúc tiềm ẩn (Hidden Structure) và gom dữ liệu thành các nhóm tự nhiên (Clusters) dựa trên độ tương đồng.

Đó chính là bản chất của Unsupervised Learning (Học không giám sát).

Trong Unsupervised Learning, tập dữ liệu chỉ chứa các vector đầu vào $X = \{x^{(1)}, x^{(2)}, \dots, x^{(n)}\}$ mà hoàn toàn không có nhãn đáp án $y$. Mục tiêu là tự động khám phá các mẫu hình (patterns), cụm (clusters), hoặc biểu diễn nén của dữ liệu.

1. Phân biệt: Phân loại (Classification) vs Phân cụm (Clustering)

Rất nhiều sinh viên hay nhầm lẫn giữa hai khái niệm này. Hãy nhớ một nguyên tắc phân định duy nhất: Có nhãn trước hay Không có nhãn?

2. Ứng dụng thực tế của Học không giám sát

1. Phân khúc khách hàng (Market Segmentation):
   • Các sàn thương mại điện tử (Shopee, Tiki) gom hàng triệu người dùng thành các nhóm: “Hội săn sale đêm”, “Nhóm mua đồ công nghệ cao cấp”, “Mẹ bỉm sữa chuộng tã bỉm”. Từ đó tung ra các chiến dịch khuyến mãi cá nhân hóa.
2. Hệ thống gợi ý (Recommendation Systems):
   • Spotify gom các bài hát có giai điệu, tiết tấu và nhạc cụ tương tự vào cùng một cụm để tự động tạo danh sách phát Daily Mix.
3. Phát hiện gian lận và dị thường (Anomaly Detection):
   • Ngân hàng gom các giao dịch bình thường thành các cụm lớn. Một giao dịch quẹt thẻ bất ngờ nằm trơ trọi cô độc ở khoảng cách xa tít mù tắp sẽ bị gắn cờ là giao dịch bất thường nghi bị đánh cắp thẻ.
4. Phân đoạn hình ảnh y tế (Medical Image Segmentation):
   • Gom các pixel có cường độ màu và kết cấu tương đồng trong ảnh chụp cộng hưởng từ (MRI) để tách bạch vùng mô lành và vùng khối u.

3. Thuật toán k-Means Clustering (MacQueen, 1967)

k-Means là thuật toán phân cụm phổ biến nhất hành tinh nhờ sự đơn giản, trực quan và tốc độ chạy cực nhanh.

3.1 Ý tưởng vũ điệu hai bước

k-Means muốn chia $n$ điểm dữ liệu thành $k$ cụm. Mỗi cụm được đại diện bởi một “thủ lĩnh” gọi là Tâm cụm (Centroid) $\mu_j$. Thuật toán là một vũ điệu luân phiên lặp đi lặp lại đúng 2 động tác:

3.2 Công thức toán học từng bước

Giả sử cần chia dữ liệu thành $k$ cụm: $C_1, C_2, \dots, C_k$ với các tâm cụm $\mu_1, \mu_2, \dots, \mu_k$.

Bước 1: Assignment (Gán điểm)

Với mỗi điểm dữ liệu $x^{(i)}$, tính khoảng cách tới tất cả $k$ tâm cụm và gán nó vào cụm có tâm gần nhất:

Bước 2: Update (Cập nhật tâm)

Với mỗi cụm $C_j$, tính lại tọa độ tâm cụm $\mu_j$ bằng trung bình cộng hình học của tất cả các điểm thuộc cụm đó:

Lặp lại hai bước trên cho đến khi các tâm cụm không còn dịch chuyển vị trí nữa (hoặc thay đổi nhỏ hơn một ngưỡng $\epsilon$).

3.3 Hàm mục tiêu: k-Means thực sự đang tối ưu cái gì?

k-Means tìm cách cực tiểu hóa đại lượng Tổng bình phương khoảng cách nội cụm (Within-Cluster Sum of Squares - WCSS), trong scikit-learn còn gọi là Inertia:

Bản chất toán học: WCSS đo lường mức độ “đậm đặc, gắn kết” của các cụm. Các điểm trong cùng một cụm nằm càng sát rạt tâm cụm thì $J$ càng nhỏ, nghĩa là phân cụm càng chất lượng.

4. Cạm bẫy khởi tạo ngẫu nhiên & Thuật toán k-Means++ (2007)

Một điểm yếu chí mạng của k-Means nguyên bản: Cực kỳ nhạy cảm với vị trí khởi tạo ban đầu của $k$ tâm cụm.

Nếu bạn xui xẻo chọn phải các tâm ban đầu nằm dính sát vào nhau, thuật toán sẽ bị mắc kẹt ở một Cực tiểu cục bộ rất tệ (Bad Local Minima) và không bao giờ thoát ra được.

Đột phá k-Means++ (Arthur & Vassilvitskii, 2007)

Để khắc phục, các nhà khoa học phát minh ra quy tắc khởi tạo thông minh k-Means++:

1. Tâm đầu tiên $\mu_1$ được chọn ngẫu nhiên từ tập dữ liệu.
2. Với mỗi điểm dữ liệu còn lại $x$, tính khoảng cách $D(x)$ từ nó tới tâm cụm đã có gần nó nhất.
3. Chọn tâm tiếp theo với xác suất tỷ lệ thuận với bình phương khoảng cách $D(x)^2$.
   • Nghĩa là: Điểm nào nằm càng xa các tâm đã chọn, điểm đó càng có xác suất cao được bầu làm tâm mới!
4. Lặp lại cho đến khi đủ $k$ tâm.

💡 Thực tế: Nhờ k-Means++, các tâm ban đầu được ép phải nằm rải đều và cách xa nhau nhất có thể, giúp thuật toán hội tụ nhanh hơn gấp bội và tránh được các bẫy cực tiểu cục bộ. Trong scikit-learn, tham số mặc định luôn là init="k-means++".

5. Chọn số cụm $k$ thế nào khi đời không cho biết trước?

Trong bài toán không giám sát, ta không biết tự nhiên thực sự có bao nhiêu nhóm. Vậy làm sao chọn $k$?

5.1 Phương pháp khuỷu tay (Elbow Method)

• Chạy k-Means với các giá trị $k$ từ $1, 2, 3, \dots, 10$.
• Vẽ đồ thị hàm mất mát WCSS (Inertia) theo $k$.
• Khi $k$ tăng, WCSS chắc chắn luôn giảm (nếu chọn $k = n$, WCSS sẽ bằng đúng $0$ vì mỗi điểm tự làm một tâm, nhưng kết quả này hoàn toàn vô nghĩa!).
• Ta tìm điểm mà tại đó tốc độ giảm đột ngột chững lại, tạo thành một góc gấp giống như khuỷu tay (elbow). Điểm gập đó chính là số $k$ tự nhiên và cân bằng nhất.

WCSS (Inertia)
  |
  |  * (k=1)
  |   \
  |    \
  |     * (k=2)
  |      \
  |       \
  |        * (k=3)  <--- Điểm khuỷu tay (Elbow Point)! Chọn k=3
  |         \_______
  |                 * (k=4) ______ * (k=5)
  +-------------------------------------------- (k)

5.2 Đi sâu vào bản chất: Phân tích Silhouette (Silhouette Analysis)

Đôi khi đồ thị khuỷu tay cong thoai thoải và không có điểm gập rõ ràng. Lúc này ta dùng thước đo định lượng cao cấp: Hệ số Silhouette $s(i)$.

Với mỗi điểm dữ liệu $i$:

1. Tính $a(i)$: Khoảng cách trung bình từ điểm $i$ tới tất cả các điểm khác trong cùng cụm (đo Độ gắn kết nội tại).
2. Tính $b(i)$: Khoảng cách trung bình từ điểm $i$ tới tất cả các điểm thuộc cụm láng giềng gần nó nhất (đo Độ tách biệt ngoại vi).
3. Hệ số Silhouette của điểm $i$ được tính bằng: $$s(i) = \frac{b(i) - a(i)}{\max(a(i), b(i))} \in [-1, +1]$$

• $s(i) \approx +1$: Điểm $i$ nằm rất gần các bạn cùng cụm và cách rất xa cụm khác $\to$ Phân cụm cực kỳ chuẩn xác!
• $s(i) \approx 0$: Điểm $i$ nằm mấp mé ngay ranh giới giữa hai cụm.
• $s(i) < 0$: Điểm $i$ bị gán nhầm cụm (nó nằm gần cụm hàng xóm hơn cụm của chính nó).

💡 Ta tính trung bình hệ số Silhouette của toàn bộ dataset cho từng $k$. Giá trị $k$ nào có Silhouette Score trung bình cao nhất là lựa chọn phân cụm hoàn hảo nhất.

6. Điểm mù và Giới hạn của k-Means: Những hình dạng “bất trị”

k-Means rất mạnh, nhưng nó dựa trên khoảng cách Euclidean nên ngầm chứa một giả định: Các cụm phải có hình cầu/hình tròn đối xứng, kích thước và mật độ tương đương nhau.

k-Means sẽ thất bại hoàn toàn khi gặp các kịch bản sau:

Cầu nối sang các thuật toán nâng cao:

Khi k-Means bó tay, các nhà khoa học sử dụng:

• DBSCAN (Density-Based Spatial Clustering): Gom cụm dựa trên mật độ hạt. Nó có thể tìm ra các cụm có hình dạng uốn lượn kỳ dị bất kỳ và tự động loại bỏ các điểm nhiễu (outliers).
• Hierarchical Clustering (Phân cụm phân cấp): Xây dựng cây phả hệ cụm (Dendrogram), không cần chọn trước $k$.

7. Mở rộng: Giảm số chiều dữ liệu (Dimensionality Reduction) & PCA

Ngoài phân cụm (Clustering), một nhánh khổng lồ khác của Unsupervised Learning là Giảm số chiều (Dimensionality Reduction).

Bài toán:

Dữ liệu của bạn có $100$ đặc trưng (100 chiều).

• Bạn không thể vẽ đồ thị để nhìn mắt thường (mắt người chỉ nhìn được không gian 2D hoặc 3D).
• Các thuật toán học máy chạy trên 100 chiều bị chậm và dính tai ương số chiều.

Trực giác PCA (Principal Component Analysis - Phân tích thành phần chính):

PCA tìm ra các trục tọa độ mới (gọi là các Thành phần chính - Principal Components) sao cho khi chiếu toàn bộ dữ liệu lên các trục này, độ biến thiên (phương sai / lượng thông tin) được giữ lại là lớn nhất có thể.

• Giống như việc bạn chụp ảnh bóng của một vật thể 3D lên một bức tường 2D: Bạn sẽ xoay góc chiếu sao cho bóng in trên tường phản ánh rõ nét nhất hình dáng của vật thể mà không bị che khuất.
• Nhờ PCA, ta có thể nén một bảng dữ liệu từ 100 chiều xuống còn 2 chiều để vẽ đồ thị Scatter Plot tuyệt đẹp, giúp nhìn thấu ngay các cụm tự nhiên!

8. Cạm bẫy triết học: “Clustering không tự sinh ra chân lý khách quan”

Đây là sai lầm tư duy phổ biến nhất của các bạn mới làm phân tích dữ liệu:

Nếu một thuật toán phân cụm chia sinh viên của bạn thành 3 nhóm (Cụm 0, 1, 2), không có nghĩa là ngoài đời thực tự nhiên tồn tại đúng 3 loại sinh viên khách quan!

Kết quả phân cụm phụ thuộc 100% vào:

1. Bạn đưa vào những đặc trưng nào (Features)?
2. Bạn dùng công thức khoảng cách gì (Euclidean, Manhattan hay Cosine)?
3. Bạn scale dữ liệu ra sao?
4. Bạn chọn $k$ bằng bao nhiêu?

Nếu bạn chỉ đưa vào đặc trưng điểm thi, thuật toán sẽ chia cụm theo học lực. Nếu bạn đưa vào số giờ chơi game và số bài post Facebook, thuật toán sẽ chia cụm theo phong cách giải trí. Các cụm chỉ là một công cụ hỗ trợ con người khám phá dữ liệu, không phải là chân lý tuyệt đối. Hãy luôn dùng chuyên môn nghiệp vụ để diễn giải và kiểm chứng lại kết quả!

9. Bảng so sánh tổng kết ba trường phái Machine Learning

Để khép lại toàn bộ chương Learning, hãy cùng nhìn lại bức tranh toàn cảnh:

10. Câu hỏi tự kiểm tra & Thảo luận

11. Tài liệu tham khảo

• CS50 AI Lecture 4 - Unsupervised Learning, Clustering, k-Means.
• MacQueen, J. (1967), Some Methods for Classification and Analysis of Multivariate Observations, 5th Berkeley Symposium.
• Arthur, D., & Vassilvitskii, S. (2007), k-means++: The Advantages of Careful Seeding, SODA ‘07.
• Rousseeuw, P. J. (1987), Silhouettes: A graphical aid to the interpretation and validation of cluster analysis, Journal of Computational and Applied Mathematics.
• Scikit-learn Documentation: Clustering (K-Means, DBSCAN), Decomposing Signals in Components (PCA).

Bản tiếng Anh đang soạn.