Try   HackMD

2023-11-28 課程簡記

資料中心背後的高速網路

最新季度的 NVIDIA 資料中心營收表 By Thomas Woodside

Image Not Showing Possible Reasons
  • The image was uploaded to a note which you don't have access to
  • The note which the image was originally uploaded to has been deleted
Learn More →

提問：第 12週課程中提到的 High Performance Data Center Networking與 SmartNIC等技術. 我想問這幾個問題.
SmartNIC能對系統效能帶來改善, 傳統 NIC還有存在空間嗎? Or二者主打的市場是不同的?
是否因為 SmartNIC-support的 S/W architecture與傳統 NIC, OS之間的合作模式有所不同, 所以才有 Mellanox OS, SONiC等新的 OS出現呢?
老師可以再說多一點有關 SmartNIC的出現, 可能會對傳統 S/W architecture造成哪些改變嗎? 在產業界又會造成哪些消長呢? (Or目前已經正在改變了呢?)

XDP (eXpress Data Path) 自 Linux 核心 4.8 版本起作為以 eBPF 為基礎的高效資料處理路徑，一旦網路中斷觸發後，XDP 允許將特定的操作提前在 TCP/IP 堆疊之前就處理，不僅反應更快而且省下寶貴的記憶體分配的成本。

回顧網際網路發展

網際網路簡史: 上 / 下

  • 1:45, 8:21: Vannebar Bush 於1945年發表 "As We May Think" 一文，提出將電子計算機技術應用於處理個人文獻資訊的構想，也為其後資訊科學與技術之發展開創新境。該文提出 MEMEX 系統，後者是種早期構想的個人資訊處理系統，被視為是個人電腦和互聯網概念的先驅。文中提到的幾個關鍵概念包括：
    • 桌面概念：一種工作間設備，包括一張帶有傾斜的半透明螢幕、鍵盤、按鈕和把手的桌子。
    • 大量高密度儲存空間：即使每天添加大量內容，也需要幾百年才能填滿其倉儲。
    • 複製/貼上的概念：能直接購買並置入各式書籍、圖片、期刊、報紙等，並提供設備以直接輸入其他內容。
    • 超連結的概念：可以藉由按一下按鈕來找出相關條目，形成一條查看鏈。
    • 查詢的概念：能有效查詢和存取儲存的資訊。
    • 未來的展望：可能與神經科學相連結，指的是與大腦介接的潛力。
      Bush 的這些構想在當時是前衛的，許多概念在當今技術中才開始實現，例如雲端儲存、數位桌面、超連結等。這些概念對資訊科學的發展有著深遠的影響，尤其是在圖書館學和資訊科學的結合方面。Bush 認為，雖然技術很重要，但主軸應該是內涵和思維，這些才是真正引領未來方向的要素。
  • 6:18: 科學研究與發展辦公室（OSRD）是一個在第二次世界大戰期間成立的關鍵美國聯邦政府機構，負責協調和監督軍事目的的科學研究。
    • 成立背景：OSRD 於 1941 年 6 月 28 日依據行政命令 8807 正式成立，這一命令由時任美國總統羅斯福簽署。該機構的成立是為了對抗二戰期間的科技挑戰。
    • 主要目的是協調戰爭期間的科學和技術研究，以提高軍事效率和創新。
    • 組織結構：OSRD 取代 原有的國防研究委員會 NDRC，並由 Vannevar Bush 主導，直接報告給羅斯福總統。
    • 資源和資金：OSRD 獲得幾乎無上限的資金和資源，以支持其廣泛的研究活動。
    • 研究領域：OSRD 的研究範圍極其廣泛，從改進炸彈精度、發展雷達和預警系統，到開發更輕便精確的武器。其中也包括醫藥研究，比如大規模生產青黴素
    • S-1 部分和曼哈頓計劃：OSRD 中最著名的計畫是 S-1 部分，最終發展成為曼哈頓計劃，即開發第一個核武器的秘密計畫。
      OSRD在戰爭期間的作用至關重要，它不僅大幅提高盟軍的軍事技術水準，也對戰後的科學和工程領域產生了深遠的影響。尤其是其對核技術和生物醫藥研究的推動，形成了後來冷戰時期科技競賽的基礎。
  • 13:34: Augmenting Human Intellect: A Conceptual Framework
  • 15:53: Xerox Palo Alto Research Center, Inc. (簡稱 PARC) 是具有深遠影響的美國科技研發機構，對現代電腦技術的貢獻不可估量。
    • PARC 成立於 1970 年，位於美國加州 Palo Alto。最初作為全錄公司 (Xerox) 的一部分，它曾是全錄乃至全球最重要的研究機構。
    • 2002 年 1 月 4 日，PARC 成為一家獨立子公司。到 2023 年 4 月，它捐贈給 SRI International (國際斯坦福研究所)。
    • 其創新成果包括：
      • 個人電腦 Xerox Alto：這是一款早期的個人電腦，為未來的個人電腦設計提供了藍圖。
      • 雷射印表機：改變了印刷和辦公方式。
      • 滑鼠：這一指標性設備改變了人機互動方式。
      • 乙太網路：對建立現代網絡通信標準至關重要。
      • 圖形化使用者介面 (GUI)：改善電腦的易用性，對後來的作業系統產生深遠影響。
      • Smalltalk 程式語言：影響深遠的物件導向程式語言。
      • 頁面描述語言 Interpress（PostScript 的先驅）：革新印刷和出版業。
      • 圖示、下拉式選單、所見即所得文字編輯器：提高電腦使用者的體驗。
      • 語音壓縮技術：在數位語音傳輸和儲存方面具有重要意義。
  • 16:15: 1960 年代，主流的研究是什麼？電腦程式語言簡史
  • 16:50: HAL vs. IBM, WNT vs. VMS twit
  • 上都計畫與 Roam Research 思維工具

技術和商業

video: Steve Jobs Insult Response - Highest Quality

1997 年 Apple 開發者大會上一個著名的場景，當時 Steve Jobs 被一位觀眾質問，指出 Jobs 似乎不懂技術，Jobs 的回應反映他對技術和商業的深刻見解，他不直接回答那位觀眾的技術問題，而是強調技術本身不是最困難的部分，而是如何將技術融入到一個連貫的更大願景中。他認為，只有當技術融入這樣的願景時，產品才能取得商業成功。Jobs 回歸 Apple 後，提倡的是從使用者體驗出發的產品開發模式，認為應該首先考慮想要實現的使用者體驗，然後反向去尋找所需的技術。Steve Jobs 認為他的任務是創造一個願景，能夠激發人們的信念，指導研發，組織員工，吸引投資，並促使消費者購買，從而讓所有事情都服務於這一願景。

當初 Steve Jobs 被問到的題目，其實不是 Java，而是自家推出的 OpenDoc 規格，後者用以取代 Microsoft 公司的 Object Linking and Embedding (OLE) 技術，也就是你可順暢地嵌入 Excel 試算表到 Word 文件這樣的技術，屬於 component object model (可翻譯為「元件物件模型」，在 1990 年代相當盛行) 的範疇，OpenDoc 採取公開規格的方式發布，原本想藉助 AIM (Apple + IBM + Motorola) 聯盟的力量和 Microsoft 在桌面應用一較高下，但在 1997 年 Steve Jobs 回歸 Apple 時，顧及 MacOS 應用程式數量已大幅落後，他當時希望能藉由跨平台 Java 彌補頹勢，從而淡化 OpenDoc 規格。不過 Java 在桌上應用的局面不如人們設想得好，當年 IBM 為了發展 Eclipse 整合開發工具，將原本 Java 的 AWT/Swing 整個捨棄，重新開發跨平台的 SWT，Borland 公司開發 JBuilder 也遇到類似的窘境，工程人員投入很大的成本來繞過 Sun Java (JDK) 的限制，甚至 Borland 乾脆宣布，後續的 JBuilder 採用 Eclipse 作為基底來建構。一個是 Apple 主導、在技術層面不輸給對手的 OpenDoc，另一個是新興技術、但在桌面應用許多部分付之闕如的 Java，Apple 當初選擇後者，但很快就轉往打造自身能掌握的技術，如奠定 Web 運算的 WebKit 就是 Apple 主導的專案，如今是我們每日存取網際網路的門戶。

回顧 OpenAI 的情況，首席科學家 Ilya Sutskever 在董事會上對於執行長 Sam Altman 的地位發揮重要影響。Ilya Sutskever 不僅是 AI 領域先驅 Geoffrey Hinton 的學生，還是推動摺積神經網路重大突破的關鍵人物之一。他在 OpenAI 早期擔任唯一的技術開發負責人，Sutskever 以他對名利和權力的淡泊態度，致力於使 AI 服務於人類的目標。然而，他在董事會上選擇與 Sam Altman 進行直接對話。

對比之下，Sam Altman 作為公司的執行長，並非專注於技術細節，而是講述品牌故事和確立商業策略。究竟是技術核心的 Ilya Sutskever 更關鍵，還是以市場和商業戰略見長的 Sam Altman 更為不可或缺？實際上，Sam Altman 在引領 OpenAI 的方向。他的主要任務是籌集資金。雖然 ChatGPT 帶來了一定收入，但相比於公司的算力和人力成本，這些收入還遠遠不夠。因此，Altman 必須不斷說服投資者繼續支持 OpenAI。儘管年輕，Altman 在這方面表現出了卓越的能力。

Altman 需要掌控公司的發展方向，決定如何將各項功能按計劃推向市場，並深入理解自己每一步決策的直接和間接影響。他還親自參與面試每一位新員工，大部分時間都在外界演講和接受採訪。然而，這些並非他工作的核心。Altman 的核心任務是在市場上推出前所未有的新產品。包括所有科學家在內，沒有人能夠完全明確 AGI究竟是什麼。因此，Altman 所做的工作，與當年 Steve Jobs 推廣 Apple 產品的策略相似。

OpenAI 新的董事會主席: Bret Taylor

source

從 OpenAI 事件聊聊八叛徒事件

矽谷的風險投資起源可以追溯到1950年代，當時的 Fairchild Semiconductor 由 8 位工程師創立。他們在遇到兩位紐約的投資銀行家 Arthur Rock 和 Bud Coyle 後，得到極大的幫助，這包括戰略制定、融資需求分析、商業計劃書撰寫以及聯繫銷售渠道。

Fairchild 不僅迅速成為全球頂尖的半導體公司之一，還孵化了包括 Intel 、國家半導體、AMD 等眾多高科技企業。這些企業合稱為「Fairchild的孩子」，共同撐起矽谷的天空。這一過程展現企業創新不是孤立事件，而是一個綜合商業網絡孕育的結果。風險投資機構不僅提供資金，還連接金融機構、大企業、研究機構、企業家和法律機構，促進各種要素的流動和相互作用，形成一個充滿活力的創新生態。

風險投資在創新生態中扮演兩個重要角色：一是評估風險和發出信號，二是將創業者融入其龐大的商業人脈網絡。例如，Google 在創立初期就從 KPCB 和 Sequoia Capital 這兩家著名的矽谷風投公司獲得投資，這對 Google的發展起到了關鍵的推動作用。而阿里巴巴在早期也從高盛等知名投資銀行獲得風險投資，這不僅僅是金錢上的支持，更重要的是商業資源、海外資源以及未來融資的通道。

source

Last changed by 
 
sysprog
System Software Programming
297
Published on HackMD