生成式AI的回應品質,很大程度上取決於提示(prompt)的設計與運用。在簡單的應用場景中,提示的使用相對容易簡單,但在更複雜的情境下,則可能需要對提示進行細緻的拆解和調整,以便讓LLM模型的生成效果達到預期。因此,在生成式AI的應用開發中,如何將使用者的問題轉化為有效的提示,成為一個關鍵的技術挑戰。此外,開發者可能還需要整合企業內部的私有資料,或者使用外掛插件(Plugins)來增強LLM模型的能力。Semantic Kernel作為一個開源的SDK,就是為了解決這些挑戰而設計的。它以開發者的需求為出發點,提供了一個整合提示工程、記憶上下文、zero/few-shot學習、zembeddings等技術的開發模式,讓開發者能更方便、快速地打造出高效能的生成式AI應用。在這個場次我將實際示範如何運用 Semantic Kernel進行prompt改造、連結私有資料等應用。
微軟 AI 人工智慧最有價值專家(MVP),同時也是微軟認證講師(MCT)。熟悉 .NET 開發、Azure 雲端、Azure OpenAI 與 Cognitive Services 解決方案,曾任微軟 TechDay、Devdays 等研討會講師。共同著作:駕馭 ChatGPT 4: 探索 Azure OpenAI 與 Cognitive Service for Language 開發實踐 (使用 .NET 與 Node.js)。