MOE 和 GPU 與 K8s 在服務網格上應用 - 林芳琦

Kubernetes Summit 2024 共同筆記 === - [歡迎來到 Kubernetes Summit 2024！](/@k8ssummit/rJVmTaR1kl) - [Kubernetes Summit 2024 官方網站](https://k8s.ithome.com.tw/) [target=_blank] - [HackMD 快速入門](https://hackmd.io/s/BJvtP4zGX) - [HackMD 會議功能介紹](https://hackmd.io/s/BJHWlNQMX) # 10/23 ## 09:00 - 09:10 - ABCDEF 會議室 [Opening Remark - 吳其勳](/t4mZwbOrQdKSaHsLRa_HSA) ## 09:10 - 09:50 - ABCDEF 會議室 [容器化實現證券核心轉型 - 黃榮林 (Lyndon Huang)](/G3ye5MTXQ82Tkj2EBRs55Q) ## 10:00 - 10:30 - ABCDEF 會議室 [加速 AI 創新：在 Kubernetes 上構建可擴展、安全且高效的 AI 平台 - 王志軒 (Derrick Wong)](/YRuIHYY2T0-8CdwPewVZGA) ## 10:50 - 11:20 - ABCDEF 會議室 [Red Hat 開源容器平台讓企業 IT 如虎添翼：虛擬化和容器技術攜手打造高效數位化轉型 - 陳柏青 (Benny Chen)](/8-TOB_BkQnW5pG1F9szV3w) ## 11:40 - 12:20 - ABCDEF 會議室 [2024 臺灣大型企業雲原生態勢與 GAI 衝擊 - 王宏仁](/FeAzpgICQ1S9Hy_iCAUsMA) ## 13:20 - 14:50 - 603+604 會議室 [工作坊: Get started with Etcd & Kubernetes / 手把手搭建 Etcd 與 K8s - 張哲嘉](/sVgiR4oTSYyZF44M9bY3Og) ## 13:20 - 14:00 - ABC 會議室 [Code-Driven Development and Monitoring of Machine Learning Services on Kubernetes - 陳家丞 (Michael)](/1kBT7RSyTFyxplarsRJ_GA) - DE 會議室 [多租戶 K8s 管理實務：資源優化、實用技巧與升級策略 - 劉佳宗 (Aslan Liu)](/804OM1g9Tnu-Q7hcJ8wQew) - F 會議室 [Troubleshooting and Workaround in Kubernetes - 郭旻軍 (Jack Kuo)](/Ws-SPuMbR82JwMv_weozQA) ## 13:20 - 14:50 - 605 會議室 [工作坊: 第一次寫 Operator 就上手 - 莊家雋](/vOcy7cvtSC-YbiJgTYPJxg) - 606 會議室 [工作坊: 為美好的世界獻上 Helm Chart - 郭孟坤 (Mansun Kuo)](/l18VcrHaSBm3VbLaZxHg5g) - 607 會議室 [工作坊: Google Cloud 實作工作坊：在 GKE 上微調開源大型語言模型 - Owen Wu, Perl Tsai, Denny Tsai, 何宗憲 (Shawn Ho), 王志軒 (Derrick Wong)](/ROZ09KUZRvSOt3K4sdg0-Q) - 608 會議室 [工作坊: 體驗 K8s+ 虛擬化的結合 - Red Hat OpenShift Virtualization - 林嘉彥 (Ato Lin), 鄢玉龍 (Jeff Yan)](/TyIlhy15SpWmWSgxxmjNWQ) ## 14:20 - 14:50 - ABC 會議室 [你的 Secret 安全嗎？透過機密管理降低 DevOps 和雲端安全風險 - 沈宗享 (Sean Shen)](/exI4H725SlWpPjQPJG0-9Q) - DE 會議室 [How Enterprises (BFSI and Other Industries) are Transforming with Kubernetes Data Platforms - Jaikrit Negi, 陳立穎 (Leo Chen)](/0D4gVjB-TD-dtC5iv5k_5w) - F 會議室 [低成本加強 Service 網路可視化：零停機切換到 Cilium CNI 經驗分享 - 鄭暉盛 (David Cheng)](/xRT_iXCzTcOMecbP56k4-g) ## 15:20 - 15:50 - ABC 會議室 [Running and Securing your GenAI+LLM workloads on Kubernetes - 蘇顯揚 (Derek So)](/3O0RYDmVToypANBC-iAmRQ) - DE 會議室 [Semantic Layer for Data Sharing With Cube - 徐希平 (HP)](/7fkd4ou4TyqL_AJudXBDEQ) - F 會議室 [如何不經意地搞壞 Kubernetes？ - 白翰霖 (Tony Pai)](/lxZYLApfS9qo9SiUfbApgA) ## 15:20 - 16:50 - 607 會議室 [工作坊: Google Cloud 實作工作坊：透過 OpenTelemetry 簡化可觀測性 - Owen Wu, Perl Tsai, Denny Tsai, 何宗憲 (Shawn Ho), 王志軒 (Derrick Wong)](/CXVEya4CTPO1_uA6idinrQ) ## 15:30 - 17:00 - 603+604 會議室 [工作坊: Azure Kubernetes Service with GitOps - 王偉任 (Weithenn)](/UcO-H7PDTzqw7LdiCkHedA) - 605 會議室 [工作坊: Protect Kubernetes secret and data with Thales CipherTrust Platform - 王兆武 (Orson Wang)](/HDq9Ggj-ThGWSu0yrtK1cg) - 606 會議室 [工作坊: Dive into hands-on labs (HOLs) with Portworx Enterprise - Jaikrit Negi](/bdW6fS2RSL6-v2EsX75r8w) ## 16:20 - 17:00 - ABC 會議室 [以平台工程重新思考系統設計 - 以 Batch System 為例 - 廖文樂 (jamisliao)](/PtM2-hrDTrehXqlKacWt6A) - DE 會議室 [How Generative AI Helps in Kubernetes Operations - 蔡宗城 (smalltown)](/0rW9CMqQRY2THcya-Xyixw) - F 會議室 [使用 Kubernetes Operator 自動化 Day 2 Operations - 朱浩宇](/n1YNFvrFSt-wqWAbBAEuLw) # 10/24 ## 09:00 - 09:30 - ABCDEF 會議室 [Driving Sustainability in Cloud Computing: Energy Monitoring with Kepler in Kubernetes - Marcelo Amaral](/absCO6x1SMWXERZboeJRPg) ## 09:50 - 10:30 - ABCDEF 會議室 [雲端節費 20% 策略：利用 100% Spot Kubernetes 打造低成本、高可靠應用架構 - 謝明宏 (alexhsieh)](/wvaY3EEKQl6_gMd1qjVTVg) ## 10:50 - 11:30 - ABCDEF 會議室 [104 在 GitOps 大規模實踐中的甜蜜與苦澀 - 蘇曜祥](/g23U3GFhRm2qGmnNJ4_C2A) ## 11:00 - 12:00 - 607 會議室 [BMC 及 GCP Gemini 攜手領航未來 IT AIOps 布局 - 李建志 (JJ Lee)](/yjjapfKHQ2GNeTjaDsg4-A) ## 11:50 - 12:20 - ABCDEF 會議室 [Cloud Native Chronicles: A decade of innovation - Katie Gamanji & Kohei Ota](/mLGv0DPdQkaFEkDJAbnqgw) ## 13:20 - 14:00 - 603+604 會議室 [用 Kustomization 搭配 yq 部署 K8s 容器 - 范明城 (鳴人)](/FvJ42ZIXTvGkC_Fgk6XjmQ) - ABC 會議室 [旅遊不便險應用 - EKS 架構設計與聯盟鏈應用實踐 - 葉昱宏 (Chris)](/Tv0obEyfRhGLMVzm7WSmUA) - DE 會議室 [Optimize Kubernetes with Generative AI - 何宗憲 (Shawn Ho)](/wYp4KropTTSAmc_GUliguQ) - F 會議室 [銀行業導入與管理 Hashicorp Vault 之經驗分享 - 王韻淇](/avjv9qztSCiPPS2yXGmBGA) ## 13:20 - 14:50 - 605 會議室 [工作坊: Get started with Etcd & Kubernetes / 手把手搭建 Etcd 與 K8s - 張哲嘉](/5ORyfijzTs2OIJzPBjqO5Q) - 606 會議室 [工作坊: AI 應用速成班：打造本地 LLM 應用的極速體驗 - 廖港龍 (Aki Liu), 樊博文 (Anthony Fan)](/awKF-HDlSoqQ78ZemVpRlA) - 607 會議室 [工作坊: Google Cloud 實作工作坊：透過 GKE Autopilot 部署專屬於您的私人 AI 機器人服務 - Owen Wu, Perl Tsai, Denny Tsai, 何宗憲 (Shawn Ho), 王志軒 (Derrick Wong)](/tNEunNCWSm2CaHfsZ9mwZg) - 608 會議室 [工作坊: 體驗 K8s+ 虛擬化的結合 - Red Hat OpenShift Virtualization - 林嘉彥 (Ato Lin), 鄢玉龍 (Jeff Yan)](/-vSmvHO2SnG1OiMjXTJX8Q) ## 14:20 - 14:50 - 603+604 會議室 [自建 K8s 環境中的高可用性規劃和災難復原方式 - 邱泯淇 (Minchi)](/ZSQ2tY0fTje5v7zLCmstow) - ABC 會議室 [Kubernetes for Data Engineers: Building Scalable, Reliable Data Pipelines - 林樹熙 (Shuhsi)](/aUd91YT5Tb-OAoj8Sb964w) - DE 會議室 [在地端 K8s 的排障故事分享 - 李啓維 (Kiwi)](/5TGDKP3rTVWsNxrLyT86ow) - F 會議室 [MOE 和 GPU 與 K8s 在服務網格上應用 - 林芳琦](/8W7DrUwPTnOzRuKcW2BXnw) ## 15:20 - 15:50 - ABC 會議室 [Self-Host Cloudflare Workers on Kubernetes - 陳嘉輝 (Tommy Chen)](/Fr8O4P2SS6OPvA-ZA6qA8Q) - DE 會議室 [K8s 架構遷移（單叢集變雙叢集）及升級維運實戰 - 姜士涵 (Sam)](/t6N6ruJ_RzWXIAdpfXHgQw) - F 會議室 [雲原生批次作業 Cloud Native Batch Job - 吳尚偉 (Steven)](/NpEpenCNR5yDQPkpBicpwQ) ## 15:20 - 16:50 - 607 會議室 [工作坊: Google Cloud 實作工作坊：開發生成式 AI 應用程式並部署於 Cloud Run - Owen Wu, Perl Tsai, Denny Tsai, 何宗憲 (Shawn Ho), 王志軒 (Derrick Wong)](/LvvQCD_ESWGcQmKkgssGsw) ## 15:30 - 17:00 - 605 會議室 [工作坊: 為美好的世界獻上 Helm Chart - 郭孟坤 (Mansun Kuo)](/24CBmBhCRjWFq8iOOww35w) ## 16:20 - 17:00 - ABC 會議室 [Upgrade A VM Based Cluster (On Cloud) - 張哲嘉](/n3Z1MP2JQrmBvBzAL08-EA) - DE 會議室 [Kubernetes 與 SWAP 的愛恨情仇 - 邱宏瑋 (Hwchiu)](/DYh-sA0HSlG_J08YffBn-g) - F 會議室 [Nvidia GPU 共享，打造 K8S MLOPS 訓練與推論平台 - 李泰穎 (Tommy Lee)](/dAAd_84_RD2dMJZzvSKxYg)