生成式AI的回應品質,很大程度上取決於提示(prompt)的設計與運用。在簡單的應用場景中,提示的使用相對容易簡單,但在更複雜的情境下,則可能需要對提示進行細緻的拆解和調整,以便讓LLM模型的生成效果達到預期。因此,在生成式AI的應用開發中,如何將使用者的問題轉化為有效的提示,成為一個關鍵的技術挑戰。此外,開發者可能還需要整合企業內部的私有資料,或者使用外掛插件(Plugins)來增強LLM模型的能力。Semantic Kernel作為一個開源的SDK,就是為了解決這些挑戰而設計的。它以開發者的需求為出發點,提供了一個整合提示工程、記憶上下文、zero/few-shot學習、zembeddings等技術的開發模式,讓開發者能更方便、快速地打造出高效能的生成式AI應用。在這個場次我將實際示範如何運用 Semantic Kernel進行prompt改造、連結私有資料等應用。

任職於一等一科技,同時也是微軟 AI 人工智慧最有價值專家(MVP)與微軟認證講師(MCT)。專注於Azure雲端解決方案、AI、軟體架構與設計,受邀担任公務機關與大學院校AI培訓課程講師、跨國企業AI課程講師,經常於iThome AI & Cloud、Microsoft、Mopcon等研討會分享實務經驗。自2023年起陸續出版多本關於生成式AI與AI Agent的開發書籍,最新一本著作為:AI Agent 奇幻旅程:MCP 通往異世界金鑰。