學生將學習微調和部署開源 LLM,如 Llama 3.1、Mistral 和其他模型,用於自訂應用。
16 歲以上對 AI/ML 模型訓練和自訂感興趣的開發者。
模型微調、LoRA/QLoRA、量化、本地推論和 Hugging Face 生態系統。
Python 程式設計經驗和基本的 ML 概念理解。
梯次 1:2026 年 7 月 6 日 - 7 月 17 日
梯次 2:2026 年 8 月 3 日 - 8 月 14 日 (英語)
本課程提供英語或中文授課。
學費:NT$XX,000
訂金:NT$2,000
早鳥優惠:省 15%(3 月 1 日前報名)
領先的開源 LLM 用於微調和部署。
模型託管、資料集和訓練的中心平台。
高效的微調技術,減少運算需求。
本地和生產模型服務解決方案。
| 天數 | 主題 | 實作活動 |
|---|---|---|
| 01 | 開源生態系統 | 探索 Hugging Face 和模型庫。 |
| 02 | 本地部署 | 使用 Ollama 設定本地模型服務。 |
| 03 | 提示工程 | 最佳化開源模型的提示。 |
| 04 | 模型評估 | 基準測試和比較不同模型。 |
| 05 | API 整合 | 建構使用本地 LLM 的應用程式。 |
| 天數 | 主題 | 實作活動 |
|---|---|---|
| 06 | 資料準備 | 建立微調資料集。 |
| 07 | LoRA 微調 | 用自訂資料訓練模型適配器。 |
| 08 | 量化 | 減少模型大小以便部署。 |
| 09 | 生產服務 | 使用 vLLM 部署模型。 |
| 10 | 專案展示 | 展示您的自訂微調模型。 |