<sup style="color:gray">V5, 更新時間: 2024/07/12 13:00</b></sup> 取得所需資訊 :::spoiler AFS ModelSpace 公有模式（Public Mode） API URL：請從 AFS ModelSpace 的 公用模式 - API 金鑰管理 頁面中的右上角複製。 image image MODEL_NAME：請參考 模型名稱對照表。 API_KEY： 請從 公用模式 - API 金鑰管理 頁面的列表中取得。

<sup style="color:gray">V2, 更新時間: 2024/11/07 11:00</b></sup> <sup style="color:red"><b>*</b></sup> <sup style="color:grey">若文件與產品有不一致之處，請以實際產品體驗為準。</sup> 簡介 AFS MyCoder 是整合 Coding LLM 的 AI 輔助開發工具，可為開發人員提供即時的程式設計協助，包括編輯或產生程式碼、解釋程式碼、產生註解、除錯及單元測試等，並支援主流的程式語言如 Python、C、Java、PHP、TypeScript（JavaScript）、C# 和 Bash。 核心價值 Accuracy （準確性） 透過整合企業／團隊的私有程式庫或開源程式庫，在輔助開發上取得更精準且更具參考性的 AI 結果。 Accessibility （可使用性）

Meta 在 4 月 19 日推出新一代大語言模型 Llama 3，有 80 億和 700 億參數兩種版本，在經過 ASUS AI 核心團隊調整過後，可以與函式一起使用，由大語言模型判斷是否呼叫函式。如果請求中包含一個或多個函式，則模型會根據提示的上下文決定是否需要呼叫函式。當模型確定應該使用某個函式時，會以該函式參數的格式化資料（JSON）來進行輸出。 模型是基於所提供的函式，再解析意圖後，輸出對應的 API 與結構化資料。特別注意的是，模型只挑選出適用的函式，但並不會進行函式的操作，函式呼叫是由「應用端」所實作的業務邏輯來控制。 函式的使用可以分為三個步驟： 提供函式並輸入使用者問題來呼叫 FFM Conversation API，取得函式呼叫的資訊。 使用模型輸出的函式資訊來呼叫對應的 API 或函式，並取得執行結果。 再次呼叫 FFM Conversation API，將第 2 步驟所取得的執行結果一併傳入模型推論服務中，以便獲得總結。

<sup style="color:gray">Draft Version</b></sup> GitCoder - CLI-Coder <sup style="color:red"><b>*</b></sup> <sup style="color:grey">若文件或圖片與產品有不一致之處，請以實際產品體驗為準。</sup> 簡介 使用 JavaScript 語言開發的命令行界面（CLI），可使用 LLama AI（Code LLama, Llama 2）自動撰寫 Git 提交訊息或生成簡潔的程式碼審查摘要，亦可輕鬆設定 Git Hooks 以準備提交。 image

Function Calling Introduction 在 API 呼叫中，您可以描述多個函式讓模型選擇，並輸出包含選中的函數名稱及參數的 JSON Object，讓應用或代理人程式調用模型選擇的函式。Chat Completions API 不會調用該函式而是生成 JSON 讓您可用於在代碼中調用函式。 使用方式 開發者提供函式列表並對大語言模型輸入問題。 開發者解析大語言模型輸出的結構化資料，取得函式與對應的參數後，讓應用或代理人程式呼叫 API 並獲得回傳的結果。 將 API 回傳的結果放到對話內容並傳給大語言模型做總結。 使用範例

OneAI 文件 案例教學 - （NVIDIA FLARE with MLflow） 說明 AI Maker（搶鮮版） 整合的 MLflow 服務結合 OneAI 的權限管理、專案管理及資源控管等功能，使用 AI Maker（搶鮮版）、筆記本服務、容器服務 所建立與機器學習相關的作業，都可透過 MLflow 追蹤 記錄及比較模型訓練過程的參數、指標和結果，並透過 MLflow 模型 管理模型版本及模型生命週期。 MLflow 追蹤 可記錄每一次執行聯合學習時的參數、程式碼版本、指標和產出文件，並將結果視覺化，追蹤聯合學習實驗並監視執行計量，可以強化AI模型建立。 本教學將指導你如何記錄從各個 FL client 訓練參數與各項指標，AI 研究員將可以在oneai 提供的線上 MLflow 服務上視覺化的進行聯合訓練結果分析。