深度學習
從傳統機器學習打好基礎,再進入神經網路、CNN、Word2Vec、自編碼器、GAN 與 Transformer。
學習目標
- 理解降維、分類、分群、決策樹與迴歸
- 從零實作神經網路與反向傳播
- 使用 PyTorch 建立 CNN 與生成式模型
- 實作 Seq2Seq、GAN 與 Transformer
機器學習基礎
DL01 — 主成分分析(PCA)
使用 eigendecomposition 從零實作 PCA。
DL02 — 支援向量機(SVM)
使用 kernel function 處理非線性可分資料。
DL03 — K-Means 分群
逐步實作分群並觀察 cluster 演化。
DL04 — 決策樹
在 Iris dataset 上訓練並視覺化決策樹。
DL05 — 迴歸模型
建立房價預測線性迴歸模型。
核心深度學習
DL06 — 從零建立神經網路
只使用 NumPy 實作全連接網路與反向傳播。
DL07 — Word2Vec 詞向量
使用 Skip-gram 與 CBOW 訓練 word embeddings。
DL08 — CIFAR-10 卷積神經網路
使用 PyTorch 在 CIFAR-10 上訓練 CNN。
DL09 — 去噪自編碼器
使用 MLP 與 CNN 去除 MNIST 雜訊。
進階架構
DL10 — Seq2Seq 翻譯
建立 LSTM 英中翻譯模型。
DL11 — DCGAN 生成模型
訓練深度卷積 GAN 生成手寫數字。
DL12 — 從零建立 Transformer
從零實作字元層級語言生成 Transformer。
接著探索實體 AI或其他 AI 基礎課程。