生成式 AI 系統設計與實務

本課程聚焦於生成式 AI 在企業場域中的系統化設計與實務應用，課程內容從大型語言模型基礎出發，延伸至檢索增強生成（RAG）、Agentic Workflow、智能體系統、小型語言模型（SLM）部署，以及 SDD / TDD 導向的 AI 系統架構設計。 本課程不以單純操作生成式 AI 工具為目標，而是引導學生理解如何將語言模型整合至企業資料、流程、工具與資訊系統中，設計出可測試、可評估、可維護且具備實際落地價值的 AI 應用。 修課學生完成本課程後，應能： ○ 說明企業級生成式 AI 系統的基本架構，包括前端、後端、資料庫、向量庫、模型、API、權限與紀錄追蹤。 ○ 建置可驗證的 RAG 系統，完成文件切分、Metadata 設計、Embedding、向量檢索、回答生成與來源引用。 ○ 設計可使用工具、呼叫 API、查詢資料庫與執行流程的 Agent / 智能體工作流。 ○ 比較 LLM、SLM、地端模型與雲端模型在成本、延遲、資料安全與維運上的取捨。 ○ 運用 SDD / TDD 思維撰寫 AI 系統規格、測試案例與驗收標準。 ○ 完成一個具備資料檢索、工具呼叫、流程控制、測試驗證與部署規劃的企業 AI 系統原型。

Python 基礎、Relation Database觀念、API/JSON 資料交換、基礎資料爬取與清整能力

無備註

● 理論講授與案例導入：課程前半段以簡報與示範講解，建立學生對生成式 AI 與相關框架的理論基礎，以企業導入情境說明生成式 AI 系統的設計思維，包含製造、客服、知識管理、異常診斷與排程輔助等案例。 ● 課堂實作：每堂課皆安排實作，示範 RAG、Agent、MCP、SKILL、SLM、SDD / TDD 等關鍵技術，學生於課堂中逐步完成可延伸至期末專案的模組。

本課程以「實作導向」為核心，評量方式將著重於學生對課堂所學之應用與實踐能力，並以課堂實作與作業成果為主要依據。整體評分項目與比例如下： 課堂實作與平時作業 (50%) ○ 共安排 6 次小型作業，依序完成企業情境分析、AI 系統架構圖、RAG 文件處理與檢索設計、Agent 工具流程設計、SDD / TDD 測試規格。 ○ 評分重點包含需求理解、架構合理性、實作完整度、測試設計、問題分析與改善能力。 期中作業 (25%) ○ 學生需建立一個期末可執行的企業級AI系統建置規劃書 ○ 作業評量包含需求分析完整性與系統可執行性。 期末作業 (25%) ○ 學生需依照期中作業的規劃，實作一個可執行的企業級AI系統原型(成果需包含:系統架構圖、核心功能展示、測試案例、失敗案例分析、模型選型比較與未來改善方向) ○ 作業評量包含正確性、創意性與完整度。

• 企業 AI 系統架構

  1.生成式 AI 從工具到企業系統 2.需求分析、資料來源、模型、向量庫、後端 API、權限、Log 與系統維運。

  講授：

  3

  示範：

  1

  實作：

  1

• Context 與檢索設計

  1.Prompt Engineering 到 Context Engineering 2.文件前處理、Chunk、Metadata、Embedding、Hybrid Search 與 Rerank。

  講授：

  5

  示範：

  2

  實作：

  3

• RAG 實作與評估

  Native RAG、Advanced RAG、引用來源、RAG 評估、錯誤案例分析與改善策略。

  講授：

  4

  示範：

  2

  實作：

  4

• Agent 與智能體流程

  Tool Calling、Agentic Workflow、LangGraph、狀態管理、Human-in-the-loop、MCP 與多 Agent 協作。

  講授：

  5

  示範：

  3

  實作：

  4

• 從 LLM 到 SLM

  LLM、SLM、地端部署、量化、LoRA、Fine-tuning、成本、延遲與資料安全取捨。

  講授：

  3

  示範：

  2

  實作：

  2

• SDD / TDD 與維運

  AI 系統規格、使用者故事、測試案例、驗收條件、LLMOps / AgentOps、Trace、Log、版本控管與部署規劃。

  講授：

  4

  示範：

  2

  實作：

  3

• 期末專案整合

  整合 RAG、Agent、工具、測試、架構圖與部署規劃，完成企業 AI 系統原型並發表。

  講授：

  2

  示範：

  1

  實作：

  4

教師未提供此項資料

地點

TBD

時間

TBD

聯絡方式

adam725417@gmail.com