生成式AI的回應品質,很大程度上取決於提示(prompt)的設計與運用。在簡單的應用場景中,提示的使用相對容易簡單,但在更複雜的情境下,則可能需要對提示進行細緻的拆解和調整,以便讓LLM模型的生成效果達到預期。因此,在生成式AI的應用開發中,如何將使用者的問題轉化為有效的提示,成為一個關鍵的技術挑戰。此外,開發者可能還需要整合企業內部的私有資料,或者使用外掛插件(Plugins)來增強LLM模型的能力。Semantic Kernel作為一個開源的SDK,就是為了解決這些挑戰而設計的。它以開發者的需求為出發點,提供了一個整合提示工程、記憶上下文、zero/few-shot學習、zembeddings等技術的開發模式,讓開發者能更方便、快速地打造出高效能的生成式AI應用。在這個場次我將實際示範如何運用 Semantic Kernel進行prompt改造、連結私有資料等應用。
連續 13 年獲選為微軟最有價值專家(MVP,現任 AI 領域),並連續 5 年具微軟認證講師(MCT)資格。現職於「一等一科技股份有限公司」,擅長 .NET 開發與 Azure 雲端技術,近年更專注於 Azure DevOps、Kubernetes、AI應用解決方案等領域。經常於微軟 TechDays、DevDays Asia、Mopcon、Modern Web Conference、AI Bootcamp 等多場研討會擔任講師。同時也是大專院校、政府機關與企業界AI課程講師,並於 2023 年開始策畫撰寫生成式 AI 應用的開發書籍,已合著出版有《駕馭 ChatGPT 4:探索 Azure OpenAI 與 Cognitive Service for Language 開發實踐(使用 .NET 與 Node.js)》、《極速 ChatGPT 開發者兵器指南:跨界整合 Prompt Flow、LangChain 與 Semantic Kernel 框架》、《LangChain 奇幻旅程:OpenAI x Gemini x 多模態應用開發指南》等書。