2023-12-09, 15:50–16:20 (Asia/Taipei), NYCU
在現今數位時代之中，大型語言模型已成為人機互動的關鍵技術之一，而對話管理平台則是實現這項技術的應用不可或缺的核心要素。在本次演講中，我將提供大家了解，如何建立一個完善的大型語言模型對話管理系統。我們將討論如何在確保數據安全的前提下，建立可靠的對話系統，探討嵌入數據庫的建立與有效管理等關鍵議題。
此次演講目標，是希望能夠啟發並引導致力於將大型語言模型產品化的資料科學家、工程師和研究人員，來實現更智能化且有助於提升商業體驗的成果，幫助更深入理解如何建立一個語言模型對話管理平台。
在2022年十月，ChatGPT 隔空問世，帶領我們進入生成式 AI 的時代。經過一年的發展和實踐，相信大家已經有機會體驗和使用許多與大型語言模型（LLM）相關的服務，並將它們納入日常生活。
然而，要在工作場合甚至公司產品中推動LLM的應用，仍然需要面對一系列挑戰和問題。因此，我希望在這次演講中分享我的觀點，以幫助大家在未來的公司策略和目標方向上找到一些具體的指引，以更好地應用大型語言模型技術。
本次演講將涵蓋以下主題：
- LLM 作為服務的應用
- 嵌入式資料庫的設計原則
- 聊天機器人介面的設計
我期望這次演講能夠幫助資料科學家、機器學習工程師和管理者將LLM技術引入公司，使其能夠在各種工作任務中高效率地應用大型語言模型，以協助一般使用者更有效地完成工作。
Slide Link: https://gamma.app/public/20231209-sciwork2023-LLM-rsdj4vd9woq2qyi
Ask questions at slido
Yes, previous knowledge expected
Language –Mandarin talk w. Chinese slides
大家好，我是 Simon 劉育維，過去曾擔任過電信業的資深工程師，目前在 InfuseAI 擔任 LLM 和 MLOps 技術客戶成功工程師，幫助各大知名企業進行機器學習、深度學習、大型語言模型等人工智慧議題進行人工智慧架構規劃的討論，目前在 Medium 上已經公開超過 40 篇技術文章，我希望能夠嘗試使用 AI 做應用，幫助客戶用 AI 解決痛點。