這裡記錄我清大資工碩一上修課筆記,內容可能有錯請見諒,有些內容我也不確定。 這筆記是用來記錄我學習的旅程。 ### 上網自學 ### 1. 李宏毅 2025 生成式AI時代下的機器學習 [【生成式AI時代下的機器學習(2025)】01 生成式人工智慧的技術突破與未來發展](https://hackmd.io/@JuitingChen/HySwq7fkWl) [【生成式AI時代下的機器學習(2025)】02 AI Agent 的原理 ](https://hackmd.io/@JuitingChen/rJvGhXGyZg) [【生成式AI時代下的機器學習(2025)】03 語言模型內部運作機制剖析 ](https://hackmd.io/@JuitingChen/B1lxpQf1bx) [【生成式AI時代下的機器學習(2025)】04 介紹 Transformer 的競爭者們](https://hackmd.io/@JuitingChen/H1pIa7zybe) [生成式AI時代下的機器學習(2025)】05 大型語言模型訓練方法](https://hackmd.io/@JuitingChen/B1haa7fJWx) [【生成式AI時代下的機器學習(2025)】助教課 利用多張GPU訓練大型語言模型](https://hackmd.io/@JuitingChen/HkG7CQzk-g) [【生成式AI時代下的機器學習(2025)】06 生成式人工智慧的 Post-Training 與遺忘問題](https://hackmd.io/@JuitingChen/SkuYAQGkZx) [【生成式AI時代下的機器學習(2025) 】07 DeepSeek-R1 這類大型語言模型是如何 Reasoning 的?](https://hackmd.io/@JuitingChen/HyfACmGybg) [【生成式AI時代下的機器學習(2025)】08~09:大型語言模型的推理過程不用太長、大型語言模型評估](https://hackmd.io/@JuitingChen/SkWr14Gybg) [【生成式AI時代下的機器學習(2025)】10~11 Model editing 和 Model Merging 技術](https://hackmd.io/@JuitingChen/S1LBl4GJWg) [【生成式AI時代下的機器學習(2025)】 12 語音語言模型發展歷程](https://hackmd.io/@JuitingChen/SJvmKIak-e) ### 2. 李宏毅 2024 生成式AI導論 [【生成式AI導論 2024】00~02 生成式AI介紹](https://hackmd.io/@JuitingChen/ByiS0S_Aex) [【生成式AI導論 2024】03~05 訓練不了人工智慧?你可以訓練你自己](https://hackmd.io/@JuitingChen/SJZdX5KAlx) [【生成式AI導論 2024】06~08 大型語言模型修練史](https://hackmd.io/@JuitingChen/H1vfEqYCee) [【生成式AI導論 2024】09~11 AI Agent、Transfoermer、可解釋性](https://hackmd.io/@JuitingChen/BybEB9KRxx) [【生成式AI導論 2024】12~14 淺談檢定大型語言模型能力和大型語言模型相關的安全性議題](https://hackmd.io/@JuitingChen/ByyxUcY0le) [【生成式AI導論 2024】15~16 生成式人工智慧的生成策略 和 Speculative Decoding](https://hackmd.io/@JuitingChen/H1sW_mfJZg) [【生成式AI導論 2024】17~18 有關影像的生成式AI 和 GPT-4o 可能的語音技術](https://hackmd.io/@JuitingChen/S1uFKmG1Zx) ### 3. 李宏毅 2023 機器學習(生成式AI) [【2023 生成式AI】01~03 ChatGPT 原理剖析](https://hackmd.io/@JuitingChen/SyUtDmaalx) [【2023 生成式AI】04~06 文字冒險和機器學習原理](https://hackmd.io/@JuitingChen/S1wwdXa6ge) [【2023 生成式AI】07~08 生成式學習策略和可使用工具的AI](https://hackmd.io/@JuitingChen/BJPQtQpagx) [【2023生成式AI】09~11 Finetuning vs. Prompting](https://hackmd.io/@JuitingChen/H15otQpael) [【2023生成式AI】12~15 大模型 + 大資料 = 神奇結果?](https://hackmd.io/@JuitingChen/rJ1Gi7a6le) [【2023生成式AI】16~17 圖像生成模型 和 Stable Diffusion、DALL-E、Imagen 背後共同的套路](https://hackmd.io/@JuitingChen/HJnB2QTagg) [【2023 生成式AI】19~22 Diffusion Model 原理剖析 ](https://hackmd.io/@JuitingChen/SyBx6mp6xe) [【2023生成式AI】23~25 低成本復刻ChatGPT、ChatGPT自我反省、AI村莊](https://hackmd.io/@JuitingChen/r10hAsrCxe) [【2023生成式AI】26~27 用語言模型來解釋語言模型](https://hackmd.io/@JuitingChen/SJ0aYiwAeg) [【2023生成式AI】28~30 FrugalGPT 用省錢的方式來使用 ChatGPT](https://hackmd.io/@JuitingChen/rypFqnPRll) ### 4. 李宏毅 2022 機器學習 [【機器學習 2022】01~04 機器學習原理介紹](https://hackmd.io/@JuitingChen/Sk_VtIJaeg) [【機器學習 2022】05 各式各樣神奇的自注意力機制](https://hackmd.io/@JuitingChen/rJeNpFIpxl) [【機器學習 2022】06 如何有效的使用自監督式模型](https://hackmd.io/@JuitingChen/BJXeLKD6xx) [【機器學習 2022】07 語音與影像上的神奇自監督式學習](https://hackmd.io/@JuitingChen/r1q-N1uagg) [【機器學習 2022】08-09 自然語言處理上的對抗式攻擊-1](https://hackmd.io/@JuitingChen/B14i61uTxx) [【機器學習 2022】10~11 自然語言處理上的對抗式攻擊-2](https://hackmd.io/@JuitingChen/HkLRoFOTgx) [【機器學習 2022】12~13 Bert 三個故事 和 各種 Meta Learning 用法] ### 5. 李宏毅 2021 機器學習 [【機器學習2021】01~02 機器學習和深度學習基本概念簡介](https://hackmd.io/@JuitingChen/SyoNXkdslx) [【機器學習2021】03~08 機器學習任務攻略和最佳化技巧](https://hackmd.io/@JuitingChen/BJ6mXy_slg) [【機器學習2021】09~11 CNN 和 Self attention](https://hackmd.io/@JuitingChen/r1ahLgUngl) [【機器學習2021】12~13 Transformer](https://hackmd.io/@JuitingChen/H1tfXy_ige) [【機器學習2021】14~17 GAN](https://hackmd.io/@JuitingChen/S1adiwvhxg) [【機器學習2021】18~21 自監督式學習](https://hackmd.io/@JuitingChen/ryQG7J_sgl) [【機器學習2021】22~23 Auto-encoder](https://hackmd.io/@JuitingChen/r1sLPr92ge) [【機器學習2021】24~25 Adversarial Attack ](https://hackmd.io/@JuitingChen/HJ6jJIq3ge) [【機器學習2021】26~28 Explainable ML 和 Domain Adaptation](https://hackmd.io/@JuitingChen/SJZzQkdslg) [【機器學習2021】29-30 強化學習-1](https://hackmd.io/@JuitingChen/HJYziZR3gx) [【機器學習2021】31~33 強化學習-2](https://hackmd.io/@JuitingChen/Sy5DoWA3xl) [【機器學習2021】34~35 機器終身學習](https://hackmd.io/@JuitingChen/BytWmyuilg) [【機器學習2021】36~37 神經網路壓縮 ](https://hackmd.io/@JuitingChen/Bk7-m1_jlx) [【機器學習2021】37~40 Meta Learning](https://hackmd.io/@JuitingChen/SkkC6rT2gl) ### 2.高等編譯器 ( Advanced compiler ) 施工中未開放 [高等編譯器 Week1 Introduction](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/H1AznYrqxx) [高等編譯器 Week2 AI compiler 兩場演講 ](https://hackmd.io/@JuitingChen/ryH-zhAcle) [高等編譯器 Week3 Loop Dependency](https://hackmd.io/@JuitingChen/rkcCUOSsxl) [高等編譯器 Week4 Loop Parallelization](https://hackmd.io/@JuitingChen/Sk4oe2Ajgx) [高等編譯器 Week5 Parallelization with Node-Splitting](https://hackmd.io/@JuitingChen/rywnHl86ex) [高等編譯器 Week6 Principles of Performance](https://hackmd.io/@JuitingChen/Sy44qlIale) [高等編譯器 Week7 Parallel Architectures](https://hackmd.io/@JuitingChen/rJiqzOfCex) [高等編譯器 Week8 AI compiler 兩場演講](https://hackmd.io/@JuitingChen/Hk2Nfiakbx) [高等編譯器 Week9 AI compiler introduction](https://hackmd.io/@JuitingChen/SJMYXipy-x) [高等編譯器 Week10 Data flow analysis](https://hackmd.io/@JuitingChen/rkA9Qsaybl) [高等編譯器 Week11 Data flow analysis example](https://hackmd.io/@JuitingChen/HJRYMXZzZl) [高等編譯器 Week12 Pointer Analysis](https://hackmd.io/@JuitingChen/HJA6GmZzbe) [高等編譯器 Week13 Probabilistic Pointer Analysis](https://hackmd.io/@JuitingChen/HkLmm7WGWe) [高等編譯器 Week14 Register Allocation](https://hackmd.io/@JuitingChen/Bkvr7m-zbe) --- ### 3.高等計算機結構 ( Advanced computer architecture ) 施工中未開放 [高等計算機結構 Week1-Introduction](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/B1f5Sl69le) [高等計算機結構 Week2-Cache Basics](https://hackmd.io/@JuitingChen/HJlgZUbogg) [高等計算機結構 Week3-Cache optimization](https://hackmd.io/@JuitingChen/HyWsCMHile) [高等計算機結構 Week4-Virtual Memory ](https://hackmd.io/@JuitingChen/BJ6qZWUpll) [高等計算機結構 Week5-DRAM](https://hackmd.io/@JuitingChen/Ski7MbIpxl) [高等計算機結構 Week6-Cache Coherence ](https://hackmd.io/@JuitingChen/B1VLG-I6lg) [高等計算機結構 Week7-Memory Consistency](https://hackmd.io/@JuitingChen/Bysv_Tupll) [高等計算機結構 Week8-Pipeline ](https://hackmd.io/@JuitingChen/BJoe9pJAgl) [高等計算機結構 Week9 instruction_level_parallelism](https://hackmd.io/@JuitingChen/rJMOf3T1Zl) [高等計算機結構 Week10 branch_prediction](https://hackmd.io/@JuitingChen/SJNH72ayWe) --- ### 4.書報討論 施工中未開放 [書報討論 Week1 - 後量子密碼和雜湊函式](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/B1EKVtrqxg) [書報討論 Weak2 - 邁向6G:透過AI/ML平台實現AI-RAN](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/r1zyoiCqle) [書報討論 Week3 - Accelerating Robotics with NVIDIA Omniverse, Isaac, Jetson, and GROOT ](https://hackmd.io/@JuitingChen/B1nzmkdiel) [書報討論 Weak4 - Toward AGI: The Transition Process of HI+AI and Our TOPIC Opportunities](https://hackmd.io/@JuitingChen/rJ0oa_bheg) 書報討論 Weak5 不只是玩笑:校園常見的性平事件與隱藏的傷害 [書報討論 Weak6 - 從聽診器到連續呼吸音監測,深度學習系統開發實務與臨床取證分享](https://hackmd.io/@JuitingChen/HJcWTeUalx) [書報討論 Weak7 Beyond Avatars: Privacy-Safe Human Synthesis for Model Training and Simulation](https://hackmd.io/@JuitingChen/H13oAwMRex) [書報討論 Weak8 能源產業的軟體轉型:POXA Energy 的新創之路 ](https://hackmd.io/9dptKSdJT4GPekZa_ouRJA) [書報討論 Weak9 TSMC NPTD Campus Activity – NPTD & OPC Introduction](https://hackmd.io/@JuitingChen/S1KcKKTyZl) [書報討論 Weak10 AMD ROCm and End to End AI Solutions](https://hackmd.io/@JuitingChen/SkxJqFaJbg) --- ### 平行程式 ( Parallel programming ) (線上自學) 下面是 Youtube 2018 和 2021 影片的內容筆記 [10710周志遠教授|平行程式](https://www.youtube.com/playlist?list=PLS0SUwlYe8cxqw70UHOE5n4Lm-mXFXbZT) [NTHU-PP-2021 ](https://www.youtube.com/playlist?list=PLQTDfc8kgjhMKtgumyK0gmEelnTtqJGsp) [平行程式1C~2B Introduction parallel programming](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/Syxh3H7Kxe) [平行程式3A~3D The Latest Developments and Applications Using Parallel Programming](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/HJh7QFVKle) [平行程式4A~4B IO Parallel IO and Program Analysis](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/HJLMsuHFgg) [平行程式5A~5B The Latest Developments and Applications Using Parallel Programming](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/SJh57hIFle) [平行程式6A~6B Communication Routines and Parallel Function Code](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/r1X9kX_Fle) [平行程式 6C~6D Communication Routines and Parallel Function Code](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/S1DPjoYFlx) [平行程式 7A~8A Pthread:Synchronization Problem & Tools](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/HJu-_0tKge) [平行程式 8B~8D Synchronization Tools & Open Multi-Processing(OpenMP)](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/H1ki4E2Fee) [平行程式 9A~9B Synchronization Construct](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/BJTYMrpKlx) [平行程式 10A~10B Synchronization Tools & Open Multi-Processing Synchronization Construct](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/B1cY6M1qee) [平行程式 10C~10D Synchronization Tools & Open Multi-Processing Synchronization Construct](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/BkgFaNg5gg) [平行程式 11A~11B Parallel Work Pool and Termination / Parallel Sorting](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/H1hfOw-5xl) [平行程式 12A~12B Parallel Sorting and Pipelined Computations](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/Symo-zQ9eg) [平行程式 12C~12D Parallel Sorting and Pipelined Computations](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/BJYNKDVceg) [平行程式 13A-13B Sychronous Parallelism](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/HJ2UJ2Bqex) [平行程式 14A~14B Heterogeneous Computing](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/BksS4yP5eg) [平行程式 14C~14D Heterogeneous Computing](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/BJrfTUd9xx) [平行程式 15A~15B Parallel Programming Model on GPU](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/ByWnl-t5gg) [平行程式 16A~16B What is Compute Unified Device Architecture(CUDA)?](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/HyYpsjcqgl) [平行程式 17A~18A 平行運算的CUDA](https://hackmd.io/@6FOC2dvARe-Vz0kVSyajew/H1dUeBT5lg) [平行程式 18B~19A 記憶體層級 / CUDA的優化](https://hackmd.io/@JuitingChen/HyF44e1jge) [平行程式 19B~19D 記憶體層級 / CUDA的優化 ](https://hackmd.io/@JuitingChen/ryPEu4lieg) [平行程式 20A~20B CUDA優化全域和區域記憶體/共享記憶體](https://hackmd.io/@JuitingChen/r1X659Zoxl) [平行程式 21A~21B Parallel Reduction / Distributed Computing Framework](https://hackmd.io/@JuitingChen/HyiOpozjxl) [平行程式 NTHU-PP-Chap10-Big Data-Part1 ](https://hackmd.io/@JuitingChen/Hyc-e3Golx) [平行程式 NTHU-PP-Chap10-Big Data-Part2 ](https://hackmd.io/@JuitingChen/ryC_QTXoxl) [平行程式 NTHU-PP-Chap11-MapReduce](https://hackmd.io/@JuitingChen/HJgBXJOsge) [平行程式 NTHU-PP-Chap12-Distributed Training-Part1](https://hackmd.io/@JuitingChen/ryh5hBtsge) [平行程式 NTHU-PP-Chap12-Distributed Training-Part2](https://hackmd.io/@JuitingChen/rJ2G7kdjxg) [平行程式 NTHU-PP-Chap12-Distributed Training-Part3](https://hackmd.io/@JuitingChen/HkA471dilx) [平行程式 NTHU-PP-Chap13-UCX-Part1](https://hackmd.io/@JuitingChen/rJbq103ieg) [平行程式 NTHU-PP-Chap13-UCX-Part2](https://hackmd.io/@JuitingChen/SJpNmk_ixl) [平行程式 NTHU-PP-Chap13-UCX-Part3](https://hackmd.io/@JuitingChen/HkIUYa13xe)
×
Sign in
Email
Password
Forgot password
or
By clicking below, you agree to our
terms of service
.
Sign in via Facebook
Sign in via Twitter
Sign in via GitHub
Sign in via Dropbox
Sign in with Wallet
Wallet (
)
Connect another wallet
New to HackMD?
Sign up