Nháp

Kiến trúc mạng học sâu: từ nền tảng đến LLM

Deep Learning Architectures: From Foundations to LLMs

Course tiếng Việt đi từ nền tảng mạng neural qua từng họ kiến trúc CNN, RNN, LSTM, GRU, Attention, Transformer, GNN và các hệ sinh dữ liệu đến LLM, RAG và AI Agent.

Chương 1 — Nền tảng để hiểu kiến trúc học sâu

  1. Từ AI đến Deep Learning: một bản đồ đủ dùng trước khi học kiến trúc
  2. MLP: mở chiếc hộp neural network đơn giản nhất
  3. Mạng neural học như thế nào: từ dự đoán sai đến cập nhật weight
  4. Từ dữ liệu có nhãn đến model: một quy trình supervised training hoàn chỉnh
  5. Đọc kết quả model: loss, accuracy, precision, recall, F1 và những bẫy phổ biến
  6. Dữ liệu đi vào mạng dưới dạng gì? Vector, tensor, token, embedding và graph

Chương 2 — CNN: học từ cấu trúc không gian

  1. CNN: học đặc trưng cục bộ từ ảnh
  2. Từ residual ConvNet đến các backbone CNN hiện đại
  3. CNN thực hành: từ dữ liệu ảnh đến một model có thể tin được

Chương 3 — Vanilla RNN: trạng thái cho dữ liệu tuần tự

  1. Vanilla RNN: trạng thái cho dữ liệu tuần tự
  2. BPTT và dòng gradient trong RNN
  3. RNN cho các dạng bài toán chuỗi: thiết kế và thực hành

Chương 4 — LSTM: bộ nhớ dài hạn có cổng

  1. LSTM: bộ nhớ, cell state và các cổng
  2. Các biến thể LSTM và cách dùng trong thực tế

Chương 5 — GRU: recurrent unit gọn hơn

  1. GRU: reset gate, update gate và trạng thái ẩn
  2. GRU trong thực tế: so sánh, triển khai và debug

Chương 6 — Attention: truy xuất thông tin theo mức liên quan

  1. Attention: truy xuất thông tin theo mức liên quan
  2. Attention thực hành: kiểm tra kích thước và gỡ lỗi

Chương 7 — Transformer: học quan hệ không cần recurrence

  1. Transformer: học quan hệ không cần lặp tuần tự
  2. Transformer: các họ kiến trúc và thực hành

Chương 8 — GNN: từ message passing đến Graph Transformer

  1. GNN: từ dữ liệu đồ thị đến message passing và GCN
  2. Các họ GNN: GCN, GraphSAGE, GAT, GIN, MPNN và cách chọn mô hình
  3. Thực hành GNN với PyTorch Geometric: từ message passing đến đánh giá và debug
  4. GNN hiện đại: Graph Transformer, long-range learning, scaling và Graph Foundation Models

Chương 9 — Autoencoder và VAE: latent representation

  1. Từ dữ liệu đến không gian ẩn: tổng quan mô hình sinh
  2. Autoencoder: học biểu diễn bằng cách tái tạo dữ liệu
  3. Variational Autoencoder: latent space có cấu trúc xác suất

Chương 10 — GAN: học sinh dữ liệu bằng đối kháng

  1. GAN: hai mạng học bằng đối kháng
  2. Huấn luyện GAN: ổn định, lỗi thường gặp và đánh giá
  3. Các họ GAN: từ DCGAN, cGAN đến StyleGAN và hệ sinh hiện đại

Chương 11 — Diffusion: học khử nhiễu để sinh dữ liệu

  1. Diffusion: từ thêm nhiễu đến học khử nhiễu
  2. Conditioning và Latent Diffusion: từ khử nhiễu đến text-to-image
  3. Diffusion thực chiến: sampler, đánh giá, tối ưu và hướng phát triển mới

Chương 12 — Pretraining, transfer learning và fine-tuning

  1. Pretraining, transfer learning và fine-tuning: học một lần, thích nghi nhiều lần
  2. Fine-tuning trong thực tế: từ baseline đến thí nghiệm đáng tin cậy

Chương 13 — LLM: từ Transformer đến mô hình ngôn ngữ lớn

  1. LLM thực chất là gì? Nền tảng của mọi AI Agent hiện đại
  2. Prompt, context window và cách đưa thông tin vào Agent

Chương 14 — RAG và GraphRAG: hệ thống truy xuất cho LLM

  1. RAG: cấp bộ nhớ ngắn hạn cho Agent từ nguồn bên ngoài
  2. GraphRAG: khi Agent cần hiểu quan hệ giữa các thực thể

Chương 15 — AI Agent: model, tool, state và vòng điều khiển

  1. Hệ thống AI Agent: khi LLM được trang bị tool, bộ nhớ và khả năng lập kế hoạch

Chương 16 — Dữ liệu khó, độ tin cậy và debug hệ thống

  1. Khi dữ liệu ít, thưa hoặc mất cân bằng
  2. Khi dữ liệu có vấn đề: noise, leakage và distribution shift
  3. Debug model có hệ thống thay vì đổi architecture liên tục
  4. Debug hệ thống Agent: khi từng thành phần tốt nhưng kết quả cuối vẫn sai