利用 NVIDIA 和 Azure AI Foundry 加速 AI 創新 (由微軟提供) [S74611]

Mike Hulme,微軟數位與應用創新總經理

透過生成式 AI，邁入運算新時代，透過 NVIDIA 與 Microsoft 之間強大的合作，創新的邊界不斷擴大，並將創意變成現實。探索如何使用 Azure AI Foundry 存取 NVIDIA 的最新 AI 模型來客製化和支援適合市場的 AI 應用程式。無論您是建立高級 AI 應用程式的開發人員、訓練和調整模型的資料科學家、管理 AI 工作負載以實現成本、效能和規模的 IT 管理員，還是尋求透過 AI 獲得策略優勢的技術決策者，本次會議都將為您提供寶貴的見解和實用指導，以加速 AI 創新。

* 生成式人工智慧與創新：摘要強調透過生成式人工智慧不斷拓展創新邊界，凸顯了 NVIDIA 與微軟之間的強大合作關係
* 存取 NVIDIA 的 AI 模型：討論如何透過 Azure AI Foundry 存取 NVIDIA 的最新 AI 模型，從而實現定制和支援市場就緒的 AI 應用程序
* 為各種角色提供寶貴見解：本次會議將為開發人員、資料科學家、IT 管理員和技術決策者提供寶貴見解和實用指導，以加速 AI 創新

主題：生成式人工智慧 - 文字生成
產業細分：雲端服務
技術等級：技術 - 中級
目標對象：開發人員/工程師
所有目標受眾類型：資料科學家、開發人員/IT 營運人員
3 月 20 日，星期四
上午 5:00 - 上午 5:40 中部標準時間

謝謝大家，感謝你們的歡迎。

講者2：

很棒的開場介紹。你知道嗎，我大半輩子都生活在灣區（Bay Area）。我出生在舊金山（San Francisco），在附近的聖克拉拉大學（Santa Clara University）上大學，我的整個職業生涯也都在這裡度過。不過一年前我搬到了西雅圖（Seattle），坦白說，我只回來過一次，實在隔得太久了。這次回來對我來說就像是回家一樣，甚至在這個活動中走動時，我看到了許多熟悉的面孔。這讓我想起我有多麼熱愛這個山谷（Valley），這裡的創新能量真的很棒。我也很喜歡在這裡開車時不用GPS導航的那種感覺。希望隨著時間推移，我也能在西雅圖慢慢適應，變得更自在一些。

另外，我覺得很有趣的是，去年的GTC活動（GTC event）很精彩，但今年的規模和氛圍更加驚艷——人潮、活力、主題領域，甚至一切在短短一年內的變化都令人驚嘆。這真的很了不起，也反映了這個行業正在發生的巨大改變。正如昨天Jensen說的，GTC就像是宇宙的中心。很高興能見到你們所有人，感謝你們的參與。

今天我們將聊聊我們一起在做的事情。我們與NVIDIA的合作創新夥伴關係（co-innovation partnership）已經持續了大約二十年，而今年我們大幅擴展了這項合作。在開始之前，我想先播放一段短片，展示我們在微軟（Microsoft）的一些想法，特別是關於AI的思考，以及我個人的一些觀點。

講者1：

這裡的情況也是一樣的。

講者2：

從另一個角度來看，這是一個能讓夢想、思想和創意蓬勃發展的系統。

講者3：

從根本上來說，它是在放大每個人所能做到的事情。

講者2：

你做不到的事情，它會接手並大展身手。這就像魔法一樣。微軟雲（Microsoft Cloud）正在放大人類的創造力。

講者1：

或者說，它消除了界限，創造了更多機會，讓人們能夠發揮潛能。你可以即時掌握正在發生的事情，就像快速購物一樣，這真的很令人印象深刻。我們正以前所未有的規模和速度進行創新。

講者4：

我們正在提供轉型性的體驗（transformational experiences）。

講者5：

無需更改基礎架構（infrastructure），無需增加人員，無需專業技術知識。

講者6：

它讓病人和醫生能夠像過去一樣，單純地做病人和醫生。

講者4：

保護企業和數據（safeguarding business and data）。

講者7：

對我們來說非常重要的一點是責任（responsible）。

講者1：

人工智慧（AI）和機器學習（machine learning）可能會讓我們的數據產生偏差（bias）。

講者4：

我們可以一起確保人工智慧（AI）的益處能夠觸及每個國家、每個行業和每個個人。當我們賦予地球上的每個人和每個組織更多實現目標的能力時，我們就是在賦能整個世界。

講者2：

你知道嗎，我坐在一個令人羨慕的位置上，介於1.5億名使用GitHub的開發者（developers）以及我們所有令人驚嘆的人工智慧（AI）技術和應用平台（application platforms）之間。我有機會看到各種正在為我們所有客戶開發和交付的應用程式。對我來說，最令人驚奇的是，智慧（intelligence）如今已成為應用程式的新基準速度之快。我認為現在人們幾乎理所當然地認為人工智慧已經內建於應用程式、企業策略（business strategies）和幾乎每個組織的運作中，而原因其實很明顯，因為我們確實看到了顯著的影響。我們看到了明確的投資回報（ROI）。我們看到組織正轉向一種更具策略性的AI方法，將應用程式和數據架構（data architectures）與AI基礎、模型和能力相結合，並以一種能夠帶來非常具體價值的形式將其實現。

你知道，我們已經看到了AI能為企業帶來什麼，不僅僅是商業上的成就。就像你在影片中看到的，這項技術超越了商業範疇，觸及每個社區，甚至進入我們的個人生活。但我們也看到，這種價值以多種不同的形式呈現，例如節省時間和提高效率（time savings and efficiency），這是我認為AI能為我們帶來的最自然結果；還有減少錯誤、提升我們工作的準確性，無論是系統流程（system processes）、共同開發（co-development），還是整體應用程式的構建（application building）。

在我們的工作中，我們觀察到，與我們合作的客戶在使用我們的AI技術時，價值的展現其實遵循了一些非常清晰的模式。你們在這裡就可以看到這些模式。我們發現AI有能力豐富員工的體驗（employee experiences）。我認為AI具備帶來數十年來工作方式最大轉變的潛力，同時也能重新定義客戶參與（customer engagement），讓企業與客戶的互動變得極度個人化（hyper-personalized），使他們的數位體驗（digital experience）成為真正為他們量身打造的東西，或者整體上重塑業務流程（business processes），將自動化（automation）和AI的協調運作（orchestration）整合到核心業務流程中。

但我認為AI最大的前景或許在於它能夠推動並加速創新的能力，這一點我們現在正在見證。我們稍後會在議程中進一步探討這個話題。AI有能力更清楚地理解市場，幫助我們更快地打造產品和服務，並且能夠即時分析和調整這些服務，了解它們在特定市場中的實際運作情況，進而幫助我們以比以往更快的速度打造、客製化和調整這些產品與服務，以應對市場需求、預測市場需要什麼，然後更成功地實現創新。

我認為市場上正在發生一件很有趣的事情，那就是價值的演進，而我們在客戶身上確實看到了這樣的發展。如今，我們有超過60,000名Azure AI的客戶，他們遍布各行各業，全球部署，涵蓋了各種規模的企業。與如此大量的客戶合作，讓我們獲得了一些非常清晰的洞察，了解市場上開始浮現的模式，以及價值在哪些具體應用案例（use cases）中真正顯現出來。

例如，有一家名叫Dentsu的公司，它服務於法律專業人士，能夠將法律助理的任務完成時間從4小時縮減到5分鐘；還有像Vodafone這樣的公司，僅通過將AI應用於核心服務和客戶服務能力（customer service capabilities），每年就節省了500小時的勞動力和1000萬英鎊的成本；甚至在這裡的灣區（Bay Area），PG&E（太平洋瓦斯電力公司）通過員工協作助手（employee co-pilots）管理高達40%的內部IT服務台電話（IT help desk calls）。這些例子不勝枚舉，跨越了各種規模的公司，他們都在探索AI如何為他們帶來突破性的改變。

但你知道嗎，我們剛剛提到的這些出色案例，真的只是個開始。

我們現在看到的真的只是觸及了AI可能性的表面，這只是我們預期從AI中獲得價值的一小部分，因為最大的轉變即將在生成式能力（generative capabilities）領域中發生。我覺得Jensen在概述這種轉變時做得非常出色。智能代理（agents）的崛起正在非常迅速地發生。我一開始提到AI進入主流的速度有多快，而智能代理能力的崛起速度甚至更快。就在幾個月前，這幾乎還不在任何客戶的關注範圍內。但現在，我們預計在未來幾年內，超過一半的組織將在他們的系統中內建智能代理能力。這真的顯示了我們看到的智能代理潛在影響力，以及隨著我們越來越適應這種技術，採用速度的持續加快。

就像預測性AI（predictive AI）為生成式AI（generative AI）奠定了基礎一樣，生成式AI正在為智能代理（agentic）這一新應用浪潮鋪路，這些應用正在進入市場。所以，你知道，或許我們應該稍微停下來一刻，退一步思考，什麼是真正的智能代理應用（agentic application），尤其是在一個如此新興的市場中，可能存在許多互相矛盾的定義。從我們的觀點來看，我們認為它的定義在於使用AI來服務於長期運行的流程，解決複雜問題並執行複雜任務。

但我們從自身角度明確指出的一點是，智能代理能力是與我們一起運作，並代表我們行動的。你知道，我們認為智能代理的概念是與人類互動並服務於任務。例如，在我們的軟體開發生命週期（software development life cycle）中，智能代理與開發者合作，真正將這些應用程式帶入現實；同時，它也代表個人和人類完成任務，與其他代理及複雜系統合作。這是一種多代理能力（multi-agent capabilities），我認為這將為我們對這些服務的思考帶來一個全新的範式。

我們已經看到智能代理被應用於非常廣泛的場景中。這裡有一個從簡單到複雜的應用案例光譜（spectrum）。你可以將代理視為在簡單的聊天機器人（chat bots）中發揮作用，這些機器人可能與人類互動，執行客戶服務（customer service），但以非常精細的方式進行；或者你可能會看到更自動化的代理與系統互動。

這些智能代理正在幫助我們。你會開始看到智能代理被內建到物流系統（logistics systems）、旅遊系統（travel systems）、零售體驗（retail experiences）等組織場景中。這裡真的涵蓋了一系列的應用場景。我很喜歡這種想法：既有簡化的智能代理能力，也有更精密或進階的功能。我認為這很大程度上取決於我們能在幕後為你們所有人提供的基礎架構（infrastructure）和能力，以及我們如何讓這些能力變得更易於你們使用。

所以，對我們來說，智能代理服務（agentic services）真的非常引人入勝，但它也代表了一種範式轉移（paradigm shift）。這是全新一代的應用程式，就像過去所有重大的應用轉型一樣——無論是從網頁（web）、雲端（cloud）、行動裝置（mobile），到現在的智能化（intelligent）或智能代理（agentic）。這帶來了一套全新的需求，影響到你的應用程式、基礎架構、開發團隊（developer teams）和運營人員（operators）。

隨著它們的不斷演進，我們看到單一模型（single models）正在轉向協調系統（orchestrated systems），低價值的概念如效率（efficiency）正讓位給高價值的概念，如創收（revenue generation）或創新（innovation）。我們正在從解決簡單問題轉向處理複雜問題，從簡單的互動轉向高度複雜、高度適應性和高度動態的場景。這確實帶來了一個挑戰，因為在當今我們所知的AI世界中，我們已經看到了一些很棒的應用案例和成功企業，它們在AI領域中開拓創新，這令人振奮。

但你知道，對絕大多數組織來說，成功可能還是相當難以捉摸的。目前進入生產環境（production）的應用程式百分比實在太低，即使成功上線的那些應用，也花費了太長的時間。這還是針對一些相當簡單的應用案例來說的。當我們進入更複雜的領域時，這些挑戰只會更加加劇。因此，我們對開發者、應用架構師（application architects）和運營人員寄予了巨大的期望，要求他們完成一些非常了不起且複雜的事情，而他們目前僅能依靠現有的技能和工具工作。

我們必須幫助我們的客戶進一步發展這一切。我們必須讓他們更容易獲取構建應用所需的模型，讓複雜的工作流程（workflows）變得更簡單，讓他們能夠以適當的安全性（security）、安全性（safety）和治理（governance）要求來打造這些應用，同時適應不斷增長的工具和創新——這股創新潮流似乎短期內不會停下來。所以我們問自己：我們如何做到這一切？我們如何提供優質的工具和技術？我們如何幫助你們打造出色的應用程式？而且，如何以安全可靠的方式實現這一點？

因此，如果你思考智能代理帶來的巨大機會，同時也考慮到與之相關的巨大挑戰——這些挑戰在市場中還在不斷增加。這正是我們推出全新產品「Azure AI Foundry」的催化劑。

這是在去年11月的Microsoft Ignite大會上推出的。這是我們的統一AI平台（unified AI platform）。它匯集了我們世界級的AI產品組合，從這個極其龐大且創新的模型目錄（model catalog），到我們編排智能代理（orchestrating agents）的所有能力，再到您為這些應用程式提供動力所需的豐富數據集（rich data sets）。但它並不僅止於將這些整合成一個統一平台。它還通過GitHub、Visual Studio和Copilot Studio將所有這些服務提供給開發者（developers）。這些目前是全球使用最廣泛的工具之一。同時，它也讓這些服務對運營人員（operators）、管理者以及需要將這些應用程式投入生產環境（production）的IT組織開放，確保它們符合您期望的性能、可靠性、安全性（security）和成本標準。

這是我們在11月引入的一個全新範式（paradigm）。我們持續為其新增更多功能，但我們也將其打造成一個開放平台（open platform），支援開放標準（open standards），並與第三方服務（third-party services）整合。我稍微提到了Azure AI Foundry中涵蓋的大量模型。但您還可以看看我們在整個AI工具鏈（AI tool chain）上提供的一系列工具和產品。您會發現我們如何與不同的框架整合，包括來自第三方的框架、開源工具（open-source tools）和服務，並將其暴露給您可能已經在內部使用的管理環境和工具（management environments and tools）。

這裡的關鍵在於，我們希望您使用最適合您的工具。我們希望您能將這些工具與Azure的能力整合起來，並讓您的開發者能夠獲得成功所需的工具和服務。您知道，這個世界變化得太快了。或許最重要的是，我們必須持續適應並保持開放。這是一個很好的例子，展示我們如何打造這個核心平台，同時允許您使用來自第三方、涵蓋廣泛類別的工具和服務。

這就引出了我們接下來要播放的影片。我們最重要的合作夥伴之一，也是我提到過的，我們有著20年的共同創新歷史。我認為在這段合作中，我們一起完成了一些很棒的事情，無論是將我們認為業界領先的超級電腦性能（supercomputer performance）帶入雲端，還是通過我們的Microsoft Azure Open AI服務支援像ChatGPT這樣的尖端模型（frontier models）和解決方案，甚至還有Microsoft Copilot。

這週，我們大幅擴展了我們的合作關係，強化了全棧合作（full stack collaboration），真正塑造了我們看到的、能夠一起滿足需求的智能代理應用浪潮（agentic wave of applications）。內容實在太多了。我接下來的25分鐘將試著以適當的細節捕捉所有內容。我知道我只能粗略帶過表面，但我會盡量給您一些建議，告訴您在更深入的會議中可以找到哪些額外資訊。在開始之前，我準備了一段短片，快速概述我們這週宣布的所有內容。

微軟（Microsoft）與NVIDIA的合作跨越了整個技術堆疊（stack），涵蓋硬體與軟體。通過將GPU基礎架構（GPU infrastructure）、機密計算（confidential computing）、基礎模型（foundation models）、DGX Cloud以及企業級服務（enterprise-grade services）整合到Azure市場（Azure Marketplace），一個全新的生態系統正在崛起。在這個生態系統中，生成式人工智慧（generative AI）成為推動創新、效率和前所未有成長的引擎。

我們的生成式AI合作從在Azure Open AI服務上推出ChatGPT開始，已經有了顯著的進展。微軟與NVIDIA之間最近的合作包括：在Azure AI Foundry的模型目錄（model catalog）中整合NVIDIA NIM；在Azure容器應用程式（Azure Container Apps）中，使用無伺服器GPU（serverless GPUs）與NVIDIA MEN進行整合；以及在整個Azure AI Foundry中進行廣泛整合。NVIDIA現已將NIM作為NVIDIA AI Enterprise的一部分提供，並通過Azure AI Foundry為實現當今的生成式AI策略（strategies）提供了最快的途徑。

這些微服務（microservices）在一個可靠且安全的基礎上，提供了專業工具、優化的推理引擎（optimized inference engines）和客製化支援模型（custom support models），能夠快速部署AI模型，確保它們保持穩定和一致。立即造訪 ai.azure.com，了解更多關於微軟與NVIDIA合作夥伴關係的資訊，並探索Azure AI Foundry。

好吧，很顯然，NVIDIA是我們實現智能代理未來（future of agents）的關鍵合作夥伴。但當你看到這樣的架構圖時，真的很驚人，因為它展示了我們共同創新的範圍，以及NVIDIA和微軟（Microsoft）如何在技術堆疊（stack）的每一層密切合作。無論是將NVIDIA的Blackwell平台與Azure服務（Azure services）和基礎架構（infrastructure）整合，還是將新的微服務（microservices）融入Azure AI Foundry，我們都在結合雙方組織的最佳優勢，提供更快的上市時間（faster time to market）、減少編碼與專業開發資源（expert developer resources）、降低總擁有成本（lower TCO），以及更高的開箱即用功能（out-of-the-box functionality）。

這裡的關鍵在於，當你回想我們之前提到的那些挑戰——我們認為這些挑戰真正阻礙了AI的成功或將AI推向生產環境（production）時——我們關注的是技術堆疊的每一層，看看NVIDIA和微軟如何攜手消除這些障礙，並真正提供一個整合了兩家公司最佳能力的解決方案。這種合作之所以如此重要的原因之一，是因為智能代理的新世界正在不斷演進，並重新定義傳統的應用程式生命週期（application life cycle）。應用程式變得更加複雜，要求也更加精細，開發者（developers）和運營人員（operators）面臨著不同的壓力。

我們現在期望開發者了解更多關於模型選擇（model selection）、微調（fine-tuning）、獲取正確數據，以及與各種數據源（data sources）整合的知識。智能代理的生命週期（agentic life cycle）帶來了獨特的挑戰：無論是在設計階段（design phase）將其映射到商業用例（business use cases），還是嘗試連接到相關數據；無論是針對不斷增加的數據量客製化並運行我們的模型，還是管理和調節成本與性能（cost and performance）等問題，這些新智能代理應用程式的複雜性確實對開發者提出了挑戰。

因此，在探討微軟與NVIDIA的合作時，我將聚焦於市場的三個階段：設計（design）、客製化（customize）和管理（manage）。這些階段能清楚概述我們的合作如何為您簡化流程，並幫助您進行整體智能代理應用開發（agentic application development）。

如果我們從設計階段開始談起，Azure AI Foundry的模型目錄（Foundry Model Catalog）可以被視為您探索基礎模型（foundation models）和開放模型（open models）的中心。我們對市場的承諾是，將持續提供市場上最廣泛且最具創新性的模型集合。我們致力於確保這些模型在第三方推出時立即可在我們的模型目錄中使用。即使模型創新不斷增長，我們也看到了針對不同任務形式、不同服務和不同成果的專業模型（specialized models），這些模型的成本基礎（cost basis）各不相同。確保您能使用這些模型對我們來說至關重要。

今天，您可以在智能代理應用程式（agentic applications）中找到最受歡迎的模型。所以，請密切關注，因為我們很快就會將這些模型正式引入模型目錄（model catalog）。此外，我們還宣布了在Azure AI Foundry中整合NVIDIA NIM。這套新的微服務（microservices）支援超過24個非常受歡迎的基礎模型（foundation models）。這裡的關鍵在於，它們正幫助開發者構建並部署生成式AI（generative AI）。

例如，在醫療行業中有一個重要的參與者，他們是數位醫療記錄（digital healthcare records）的領導者。他們希望利用智能代理技術（agent technology）來塑造其產品未來的發展方向，讓醫師（physicians）更容易存取醫療記錄（healthcare records）。而這一切最終也轉化為對人們來說非常強大的服務。他們對於與我們以及NVIDIA合作感到興奮，這種合作架構結合了NVIDIA和Azure AI Foundry。

與此同時，Epic在特定行業服務中做得非常出色，是一個很好的例子。而另一個出色的客戶Now則看中了我們的NVIDIA與Azure AI Foundry產品，計劃將其應用於多個行業和服務中。Now正在探索智能代理能力（agent capabilities），以提升其所有客戶的生產力（productivity）和效率（efficiency）。這是一個很好的例子，展示了他們如何與Azure AI Foundry結合使用這些模型來增強其服務的智能代理功能。

好了，我們與NVIDIA的合作還帶來了一些顯著的性能改進（performance improvements）。其中一項工作是，我們利用NVIDIA TensorRT-LLM優化（optimization），在其他公告之外進行了一些努力，顯著提升了一系列模型的表現。我們首先從LLaMA模型開始，作為初步嘗試，探索如何讓這些模型更高效。但我們取得的成果是，模型吞吐量（throughput）提高了65%，並且通過我們的一些修改，實現了更快的標記生成（token generation），同時降低了延遲（latency）。

所有這些改進都在提升模型的回應性（responsiveness），特別是對於即時應用（real-time applications），我們也讓性能變得更高效。因此，我們能夠降低每個標記的推理成本（inference cost per token），同時提供更好的價格性能比（price-performance ratios）來部署AI，並通過無伺服器API（serverless APIs）和不同的定價模型（如按需付費，pay-as-you-go）讓部署變得更簡單。這也使得採用這些技術更加容易。我們一直在尋找方法，讓模型更快進入開發者手中，幫助他們更快進入生產環境（production），同時在整個生命週期中控制成本。

好了，現在讓我們稍微轉換一下話題，多談談我們如何在Azure AI Foundry中幫助客製化智能代理（agents）。您會發現這裡有一個完整的編排層（orchestration layer）專為代理客製化設計。Azure AI Foundry的代理服務（agent service）為開發者提供了一套強大的工具，可以自動化業務流程（business processes），並讓您客製化、部署和擴展AI應用程式。但我們所做的，是將這項AI代理服務進一步提升。我們現在正與NVIDIA的AgentIQ合作，而AgentIQ是一個開源工具包（open-source toolkit），旨在連接和優化代理組合與團隊（combinations and teams of agents）。

當我們將這些整合在一起時，您會發現延遲（latency）顯著減少，我們還將利用即時遙測數據（real-time telemetry）來微調代理的配置（agent placement）。通過收集和分析元數據（metadata），例如每次調用預測的輸出標記數（predicted output tokens per call），您會看到代理性能（agent performance）變得更強大。我們還通過將AgentIQ與Azure AI Foundry中的編排層——語義核心（semantic kernel）相連，來提升代理的語義推理能力（semantic reasoning）。所有這些都與我們之前提到的新微服務（microservices）密切配合。

現在，您可以將任何NIM微服務模型（NIM microservice model）引入代理服務，並無縫設置智能代理工作流程（agentic workflows）。我們正在將這一系列服務整合起來，並思考如何將它們交織在一起，幫助您構建所需的服務。

接下來，我們談談管理（management）。現在我們已經構建了代理，運行我們的模型，並通過代理服務進行了編排，我們與NVIDIA合作的最後一個重點領域是如何幫助您更有效地管理應用程式。我們認為管理是一項團隊運動（team sport）。它涉及到開發者、IT管理員（IT admins）和運營人員（operators），所有這些人都需要了解模型、代理或應用程式的運作方式，並保持其最佳化（optimized）。

我們的新Azure AI Foundry管理中心（management center）統一了我們管理這些的方式，同時關注容量（capacity）、速度（speed）、性能（performance），甚至生產環境中應用程式的安全性和隱私（security and privacy）。在Microsoft Ignite大會上，我們宣布了一項功能：在Azure容器應用程式（Azure Container Apps）中引入基於NVIDIA GPU的無伺服器GPU（serverless GPUs）。無伺服器GPU對於尋求簡單且成本效益高方式來運行AI模型推理（model inference）的開發者來說非常棒，特別是對於客製模型（custom models）或事件驅動的工作負載（event-driven workloads）。

今天，我們宣布Azure容器應用程式的無伺服器GPU正式推出（GA, General Availability），並支援NVIDIA NIM。

這讓在Azure容器應用程式（Azure Container Apps）上部署它們變得非常簡單。對於即時服務推理（real-time service inference），您可以更快地構建應用程式。您可以利用NVIDIA的模型（models），也可以使用針對您的用例量身定制的模板（templates）。您可以直接從NIM儲存庫（NIM repository）中提取模型，然後以非常具成本效益的方式部署和擴展它們。我之前提到過，有很多深入探討這些內容的會議。實際上，明天上午9點，如果您想了解更多關於我們基礎架構（infrastructure）和應用平台（application platform）這一關鍵部分的資訊，會有一場9點開始的深入會議。那裡將有一些很棒的展示（demos），您可以更詳細地了解如何在Azure容器應用程式上部署NVIDIA NIM。

這涵蓋了我們宣布的廣泛內容，內容非常豐富。您可以看到我們正在進行的眾多創新。微軟（Microsoft）與NVIDIA一起，真正關注軟體堆疊（software stack）的每一層，思考如何將這些整合起來並進行創新，將兩個組織的專業知識結合在一起。但我最想強調的，或許是所有這些創新都需要產生真正的成果（real results）。

因此，我在會議開始時談到，將AI工作負載（AI workloads）推向生產環境（production）存在挑戰，我們需要加快速度並從這些服務中提供正確的影響，才能真正兌現AI的承諾。而Azure AI Foundry服務與NVIDIA NIM的結合，已經讓我們看到了一些很棒的成果。例如，Sanofi就是一個很好的例子。Sanofi實現了工作負載時間軸（workload timelines）60倍的加速。對他們來說，這種上市時間（time-to-market）的提升真的很驚人，但這也直接轉化為對我們所有人的影響。

Sanofi專注於縮短研究時間（research times），他們正在努力圍繞藥物發現動態（drug discovery dynamics）密切合作。他們利用這些服務越快行動，就能越快創新，我們所有人就能越快享受到他們帶來的令人驚嘆的服務和突破。他們剛剛完成了一個初步的概念驗證（PoC），現在正擴展到其他一系列服務。這是我們與NVIDIA早期合作轉化為實際成果的一個很好的例子。

好了，我所涵蓋的其實只是我們與NVIDIA、微軟一起所做事情的一小部分。我們將繼續合作，推動一些很棒的項目：如何連接我們的平台，如何協同加速開發過程（development process），如何持續推動矽（silicon）和軟體性能的極限，同時如何在安全（security）、安全性（safety）、信任（trust）和治理（governance）方面保持關注。

所有這些對我們來說都至關重要，因為我們在思考如何一起合作時，這是我們的首要考量。我想在結束時留給你們一些想法。我一開始提到市場上正在湧現的這波有趣的應用程式浪潮（wave of applications）。今天我們所看到的，實際上只是捕捉了生成式AI（generative AI）在過去18到24個月內的創新。隨著我們進入智能代理（agentic）時代，我認為很明顯，我們才剛剛看到開端。真正令人興奮的事情還在後頭。

每一代的應用程式——無論是雲端（cloud）、行動裝置（mobile），還是現在的AI應用程式和智能代理（agentic）——都幫助我們重新思考新產業和新業務的可能性，這些在過去顯然是不可能實現的。例如，網頁（web）促成了電子商務（e-commerce）的興起，雲端技術讓社交媒體（social）和串流服務（streaming）成為我們生活的一部分。而我們現在看到的智能代理AI，真的只是我們即將見證的開端。更令人興奮的是，你們所有人將用這些技術創造出什麼。

我們希望今天分享的微軟（Microsoft）與NVIDIA合作內容，能讓你們了解如何利用這些創新，如何更快行動，以及如何成功實現你們心中的一些宏大目標。我想給你們一些資源，並留下一些想法，告訴你們在哪裡可以找到更多資訊。我很希望你們去深入了解Azure AI Foundry及其所有出色功能。你們可以直接在Azure AI Foundry的SDK中操作，獲取我在演講開始時展示的所有服務，這個統一平台（unified platform）的所有功能都通過該SDK呈現。

此外，你們還可以探索不同領域，提升自己的技能，並學習如何應用這些技術——無論是跨越我們的GitHub產品組合（portfolio）、開發者服務（developer services），還是Azure AI Foundry，以及NVIDIA即將推出的出色產品。

最後，非常感謝你們。我希望你們享受接下來的活動。感謝今天你們所有人的參與。我就先謝謝大家了。