# 2024-12-31 / 2025-01-07 課堂問答簡記

## 產業趨勢
[Design and development of the Intel 80386 microprocessor](https://youtu.be/LQcLhBZY12g)
Pat Gelsinger 在 27 歲就擔任 80386 的設計經理

[評價 Pat Gelsinger 無法走到最後的英特爾復興計畫成果](https://vocus.cc/article/676b8472fd89780001a8f606)

[Xerox全錄以15億美元收購印表機製造商 Lexmark](https://www.businessyee.com/article/5209-Xerox)
> Lexmark 其實起源於 IBM 的印表機部門，於 1991 年從 IBM 獨立分拆出來，專注於開發和生產印表機及相關解決方案。1990 年代及更早時期，印表機是一項極為賺錢的業務，包括 HP、Apple（與 HP 技術合作）、Canon（同樣與 HP 合作）、Epson、Tektronix 等多家知名大廠，都擁有營業額可觀的印表機部門。這些公司不僅在市場競爭中名列前茅，還推動了列印技術的持續進步。例如，噴墨列印、雷射列印及熱轉印技術的演進，讓列印速度與品質逐年提升，也開啟了多功能事務機的市場。
>
> 1990 年代，列印需求集中於文書處理與商業應用，這使得硬體銷售和耗材成為公司主要的利潤來源。然而，進入 2000 年代後，隨著電子文件技術（如 PDF）和電子郵件的普及，傳統印表機市場逐步萎縮，許多廠商開始轉向服務導向，例如管理型列印服務（MPS, Managed Print Services）。
> HP 與 Canon 的技術合作促成商業雷射印表機的成功，包括開發出以 Canon 引擎為基礎的 HP LaserJet 系列。
> Tektronix 的熱轉印技術： Tektronix 開發的熱轉印列印技術，後來成為許多高端彩色印表機的技術基礎。

Xerox 於 2016 年以 36 億美元將 Lexmark 出售給一家由中國企業主導的財團，然而時隔數年後，又以 15 億美元的價格將 Lexmark 收購回來。2016 年 Lexmark 的收購方是由中國聯想控股（Legend Holdings）及 Apex Technology 領導的一個財團。這次交易旨在幫助 Lexmark 擴展亞洲市場，特別是中國市場。這也符合當時中國企業大規模海外收購科技資產的趨勢，以加速技術進口與產業升級。

系統廠也開 IC
* [金寶第一顆印表機 IC 將量產](https://www.bnext.com.tw/article/52142/qualcomm-kinpo-electronics-printer-soc-3d-printing-)
* [惠普下修獲利 恐拖累金寶](https://money.udn.com/money/story/5710/8199758)
* [英業達進軍 IC 設計上游 開花結果](https://www.aita.org.tw/News/news_more?id=cddd71237bf844fcb6a2275807317b91)
* [神助英業達做 AI 晶片](https://money.udn.com/money/story/11162/7894094)
* [高中生隊伍包辦教育部大專校院人工智慧競賽 AI CUP 的冠亞軍](https://www.facebook.com/rth.tsai/posts/pfbid02ro1DWYSFTZyPojupB1nGaDkZn5b5a5FUtWj2fKsbAtxdHgoSVDVP5PuLsGyJHbhel): 若在人工智慧領域的投入僅止於門檻較低的應用場景，大學生及研究生可能輕易被高中生超越，畢竟後者取得人工智慧工具的成本幾乎和前者相同。

## 「造自行車」理論
2024 年 AWS Re:Invent 論壇中，Werner Vogels 博士分享 [Amazon 過去二十年的架構設計經驗](https://semianalysis.com/2024/12/03/amazons-ai-self-sufficiency-trainium2-architecture-networking/)。可用 Nitro 為例來與大家探討，這樣能更清楚地理解 NVIDIA 與大型客戶之間的合作與博弈，搭配 Vogels 博士提到的「造自行車」理論也值得一提。

### Nitro 平台：現代計算架構的核心
Nitro 作為 AWS 的虛擬化基礎設施平台，已經成為現代計算架構中的核心抽象層，並與 NVIDIA 的 GB200 GPU、Blackwell 架構、NVLink/NVL72、HBM4 和 NUMA Aware CUDA 技術深度整合，推動 AI 模型訓練與推理架構的全面升級。Nitro 的價值並不僅限於基礎設施管理與虛擬化，還支撐異質多核計算、改善儲存效率、網路互聯及高精度時間同步等關鍵應用。

### 計算架構：Nitro 與 NVIDIA 的深度整合
在計算架構層面，Nitro 與 NVIDIA 的 GB200 GPU 深度整合。GB200 採用 Blackwell 架構，專為大規模 AI 訓練與推理場景設計。Nitro 提供細粒度的資源分配與管理，能將多個 GPU 單元虛擬化，並動態分配至不同的工作負載，突破跨 GPU 節點的資源調度瓶頸。此外，Nitro 支援 NUMA模式，改進 GPU 記憶體資源的效率，降低延遲。同時，Nitro 提供容錯能力，當某節點發生故障時，能迅速切換任務，確保高可用性。

### 網路架構：Nitro 與 NVLink/NVL72 的協同效應
在網路層面，Nitro 與 NVIDIA 的 NVLink/NVL72 技術深度整合，實現高頻寬、低延遲的 GPU 互聯。與傳統的單條 800Gbps CX8 連接相比，Nitro 採用多條 200Gbps Nitro 模組，具備更高彈性與穩定性。多條連接不僅降低單點故障風險，還能均衡資料流，顯著減少延遲。Nitro 還能根據工作負載的需求動態調整資料流的優先級，提升系統穩定性與效能。

### 記憶體層面：整合 HBM4 與分散式 L2 Cache
Nitro 與 HBM4 高頻寬記憶體和分散式 L2 Cache 架構協同運作，提供高效的資料存取通路。HBM4 提供更高頻寬與更低延遲，Nitro 則透過動態分配記憶體資源並優化跨節點的資料存取策略，減少搬運開銷，並透過一致性機制確保資料穩定性。

### 時鐘同步：高精度時間基準
在高精度時鐘同步方面，Nitro 保證跨節點的時間一致性。這對大規模分散式 AI 訓練尤為關鍵。Nitro 的高精度時鐘分發系統確保每個 GPU 單元能在精確的時間窗口內完成資料交換與運算，減少時序錯誤，提升訓練準確性與穩定性。

### Nitro 的高度彈性
Nitro 的架構優勢在於其動態資源抽象、細粒度資源分配 與跨節點資源協同。它以統一的平台整合 NVIDIA 的 GB200 GPU、NVLink/NVL72、HBM4 等技術，實現高效的資源管理和改進。

在未來，Nitro 將與 NVIDIA 的 NUMA Aware CUDA 架構 和 2D Mesh 網路架構 進一步整合，推動更靈活的資料存取管理與網路配置，突破傳統 GPU 架構的限制，支撐下一代 AI 技術的發展。

Nitro 的設計就如同「兩輪自行車」，在彈性、穩定性、靈活性與性能之間找到平衡點。通過將計算、儲存、網路與時間同步資源抽象整合至 AWS 的 Fabric 網路，Nitro 已成為推動 AI 模型訓練與推理技術的核心平台，並奠定 AWS 與 NVIDIA 在高效能計算領域的領先地位。

延伸閱讀:
* [KVM: Linux 虛擬化基礎建設](https://hackmd.io/@sysprog/linux-kvm)
* [NVIDIA Confidential Computing](https://www.nvidia.com/en-us/data-center/solutions/confidential-computing/)

## 面試和互動
* [面試時的反問](https://github.com/NeroCube/reverse-interview-zh-tw)
* [跳槽和下個舞台](https://hackmd.io/@sysprog/r1WX1J4TK)

## 心理建設
> gipi: [軟體工程師如何擁抱趨勢，提升職場價值](https://gipi.tw/webconf-2024-ai-and-business-thinking/)

「不要強調非本科，在 21 世紀只要沒強度，都是非本科」
「能夠開發出讓上萬上億人每天用的資訊系統，就是強度」

[真搞不懂現在年輕人](https://www.dcard.tw/f/job/p/257681896)
> 「我知道現在年輕人不會像我們那個年代，會願意吃苦耐勞，偶爾被公司凹就當學經驗技術」
> 「因為你以前吃屎有股票可以拿，分紅可以買車買房。」

## 校友工作經驗分享
> 海洋大學 $\to$ 成功大學資訊工程所 $\to$ 晨星 $\to$ 瑞昱半導體
> [Yi-Lin Yang](https://www.linkedin.com/in/yi-lin-yang-641299a4)

問答:
* Q1: 想問學姊，你認為你第一份工作(mstar)是怎麼面上的，或者是說主管看上你的甚麼能力，因為剛剛聽你的介紹，碩士班的研究領域跟做的事可能相關性比較小 ?
> 第一份主要會注重碩論，履歷上描述到的基本能力都要能夠答得出來，大家能夠做project類的小作品，講話要有條理，清楚把話講出來。包裝不能過頭
* Q2:想請問學姐，認為哪些經驗或可能可以朝向的專案對未來應徵韌體職缺有幫助。祝學姐跟老師新年快樂。

* Q3: 問一下學姊如果像是網路相關的專業，沒有進到公司一定有部分技術沒辦法了解，這時候平時多餘時間(另外也想知道下班時間與工作時間的協調，如自學的時間大概會占用下班時間大概多久呢)或者可以推薦研讀什麼樣的東西來增進目前最新技術或者知識呢?(例如 wifi 協定等相關實作)，如果現階段已經很確定想往WIFI領域發展，有沒有什麼關鍵字或者相關論文可以建議先搜尋的呢?(或者實作)

* Q4: 請問學姐當初在找工作的時候有考量過工時嗎，在一線 design house 大概年資多久後上下班可以較正常，謝謝。
>剛開始找工作的時候沒有考慮。大約工作 3~5 年後會知道出問題要找誰、問題屬於哪個領域，開始帶新人之後也能分擔一些工作量

* Q5: 學姊剛剛有提到可以做一些作品集或是小專案，那想請問學姊當初有做哪些小專案呢?那學姊認為當初有哪一個小專案對於自己求職時有最大的幫助?

* Q6: 請問學姊，在碩士班的修課紀錄，對未來找工作的影響大嗎？若目標是軟韌體工程師，會建議修哪些課，還是就把 C 語言、OS、計算機組織讀熟即可？

* Q7: 想問學姊公司現在有甚麼技術是有用到AI，如果想做AI工程師，在公司主要是在哪個部門
>目前有在嘗試導入，有像ChatGPT的平台
* Q8:　請問學姊在找第一份工作的時候，有想過強調自己的哪個賣點或強勢的地方嗎？如果有，請問是什麼？然後為此做了那些付出？謝謝學姊！
>通常賣點是找第二份工作在想的，找第一份工作不用到很超前，只要　basic 足夠、知道自己做了什麼和怎麼做的就好了。
* Q9: 請問學姊，如果成大資訊碩班剛畢業，想走韌體，但第一間公司進不去聯發科、聯詠、瑞昱等一線公司的話，有推薦先去哪間公司磨練之後再跳槽嗎？還是直接台積電賺錢? 謝謝學姊。

## 校友經驗分享
> [Luis Hsu](https://www.linkedin.com/in/luishsu01/)

成大資訊系 -> 大四新加坡實習 -> Skymizer -> UC Irvine -> Ambarella

問答:
* Q1: 在台灣如何訓練英文口說？

> Ａ：平時工作的時候就算是練習英文口說

* Q2: 學長您好，想請教一下因為我這邊也是從web開發開始，想問後面你遇到新的領域之後，是如何再轉換開發領域的(現在是開發 compiler)？ 另外好奇一開始 angularjs 是遇到什麼公司沒辦法解結果你解掉的，tricky的地方在哪邊？
> Ａ：前端->後端->瀏覽器限制->js 使用了virtual machine 轉而學習compiler (web 也使用了很多 compiler) -> 領域到後面很難切割，而是解決問題

* Q3: 學長您好，跟在台灣相比，在國外工作有那些地方是需要適應的嗎?
A :

* Q4: 學長你好，投面試前缺乏履歷，只有課堂作業或專案，該怎麼充實履歷?
A :

* Q5: 在安霸目前所做的領域是什麼？ 有什麼先備知識需要理解的？當時在美國找實習有什麼趣事嗎？

> A：compiler 使用 pytorch 或者 tensorflow 可以辨識的格式。在公司學到的東西不太可能在外面學到，但基礎的計算機組織、作業系統、Ｃ、Ｃ＋＋、資料結構等需要學好。

* Q6: 想請教學長，目前考慮兩個實習，新創有興趣的領域(通訊相關軟體)，工研院自走車(比較不熟, 但牌子大??)，該選哪一個? 謝謝
* Q7: 想請問學長實際準備申請美國碩士大概花多久？以工作兩年後的經驗來說申請算容易嗎？
* Q8: 請問學長，學長從一開始做web到做compiler，請問學長都是用下班的時間自學嗎？還是做公司的專案就能夠學到夠用的技能？
* Q9: 學長之前有去新加坡實習過，為什麼下一份工作看起來也是很難找