705 views
# B07: phonebook-concurrent ###### tags: `sysprog2017` :::info 主講人: [jserv](http://wiki.csie.ncku.edu.tw/User/jserv) / 課程討論區: [2017 年系統軟體課程](https://www.facebook.com/groups/system.software2017/) :mega: 返回「[作業系統設計與實作](http://wiki.csie.ncku.edu.tw/sysprog/schedule)」課程進度表 ::: ## 預期目標 * 學習第 4 週提及的 [concurrency](https://hackmd.io/s/Skh_AaVix) 程式設計 * 學習 POSIX Thread * 學習效能分析工具 * code refactoring 練習 * 探索 clz 的應用 ## Code Refactoring * refactoring(重構)的定義:「在不改變軟體的外在行為之下,改善既有軟體的內部設計」 * 侯捷:「作為一個程式員,任誰都有看不順眼手上程式碼的經驗 —— 程式碼來自你鄰桌那個菜鳥,或三個月前的自己。面臨此境,有人選擇得過且過;然而根據我對『程式員』人格特質的了解,更多人盼望插手整頓。挽起袖子劍及履及,其勇可嘉其慮未縝。過去或許不得不暴虎憑河,忍受風險。現在,有了嚴謹的重構準則和嚴密的重構手法,『穩定中求發展』終於有了保障。」 * Refactoring 的示範請見李昆憶 [共筆](https://hackmd.io/s/HJFhaiAp) * 延伸閱讀: * 《重構》(原文書名: [Refactoring - Improving the Design of Existing Code](https://www.csie.ntu.edu.tw/~r95004/Refactoring_improving_the_design_of_existing_code.pdf)) * [什麼是Refactoring?](http://teddy-chen-tw.blogspot.tw/2014/04/refactoring.html) * [對於重構的兩則常見誤解](http://www.ithome.com.tw/node/79813) ## clz 的應用: 加速記憶體管理 * 摘錄自 MIT 的論文〈[SuperMalloc: A Super Fast Multithreaded Malloc for 64-bit Machine](http://supertech.csail.mit.edu/papers/Kuszmaul15.pdf)〉 :::info Small objects are as small as 8 bytes, and increase in size by at most 25% to limit internal fragmentation. Small object sizes are regularly spaced: the sizes are 8, 10, 12, 14, 16, 20, 24, . . . , 224, and their sizes take the form k · 2^i^ for 4 ≤ k ≤ 7 and 1 ≤ i ≤ 5. In other words, a small object size, when written in binary is a 1, followed by two arbitrary digits, followed by zeros. Thus bin 0 contains 8-byte objects, bin 1 contains 10-byte objects, and so forth. To compute the bin number from a small size can be done with bit hacking in O(1) operations. ::: * 以下程式碼轉換 size 為 bin number,透過 clz() 可得到一個數值用二進位表示中開頭的 "0" 的數量: ```c int size_2_bin(size_t s) { if (s <= 8) return 0; if (s <= 320) { // Number of leading zeros in s. int z = clz(s); // Round up to the relevant // power of 2. size_t r = s + (1ul << (61 - z)) -1; int y = clz(r); // y indicates which power of two. // r shifted and masked indicates // what the low-order bits are. return 4 * (60 - y)+ ((r >> (61 - y)) & 3); } if (s <= 448) return 22; if (s <= 512) return 23; ... if (size <= 1044480) return 45; return 45 + ceil(size-1044480, 4096); } ``` * [SuperMalloc](https://github.com/sysprog21/SuperMalloc) (我們課程修改過的版本),編譯和測試方式: ```shell $ git clone https://github.com/sysprog21/SuperMalloc $ cd SuperMalloc/release $ make $ LD_PRELOAD=lib/libsupermalloc_pthread.so ./test-malloc_test ``` :::warning 執行最後一行需要等待,請抱持耐心,預期會得到類似 `8996967` 的數值輸出 ::: * 之後可在執行時期 (runtime),透過下方命令指定用 SuperMalloc (不需要重新編譯程式碼) ```shell $ LD_PRELOAD=libsupermalloc_pthread.so所在的路徑 接著想執行的程式路徑 ``` ## 透過 POSIX Thread 搭配 mmap 的初步實驗 * 由吳彥寬貢獻的[實驗](/s/BkN1JNQp) * [程式解說 video](https://www.youtube.com/watch?v=sWtWslsr4Ac) (必看!) * 透過 [mmap](http://man7.org/linux/man-pages/man2/mmap.2.html) 避免 blocking I/O * 透過 POSIX Thread 建立各自獨立的 linked list,最終再合併為單一 list - [ ] thread num = 1: ![](https://i.imgur.com/ouXKygv.png) - [ ] thread num = 2 ![](https://i.imgur.com/VOd5j2c.png) - [ ] thread num = 4 ![](https://i.imgur.com/JHQSsBI.png) - [ ] thread num = 8: ![](https://i.imgur.com/6zCQjCh.png) - [ ] thread num = 16: ![](https://i.imgur.com/OYfVPrl.png) 這邊很清楚可見,太多 thread 會導致更慢的執行時間,而執行緒數量為 1, 2, 4 時,沒有顯著差異,問題出在前述實做使用 sync 的方式,所以若有一個thread跑比較慢,那總體時間也就會比較慢。 ## 作業要求 * 在 GitHub 上 fork [phonebook-concurrent](https://github.com/sysprog21/phonebook-concurrent),然後適度修改 `phonebook_opt.c` 和相關的檔案 * 除了修改程式,也要編輯「[作業區](https://hackmd.io/s/r1lxtzpOig)」,增添開發紀錄和 GitHub 連結 * 至少涵蓋研讀 [concurrency](https://hackmd.io/s/Skh_AaVix) 教材的認知、程式正確性驗證、效能分析實驗 (必須要有圖表),以及充份說明你如何改善效能 * 延續 [B01: phonebook](https://hackmd.io/s/rJYD4UPKe) 的開發方向,本作業著重於透過 POSIX Thread 來縮減 `alloc()` 的時間成本 * 詳細閱讀吳彥寬的[實驗](/s/BkN1JNQp),指出他的實做缺失,並提出改進縮減 append() 時間的可行提案,接著開發程式來驗證 * 提示:可透過建立 thread pool 來管理 worker thread * ==需要一併實作出刪除 (remove) 特定資料的功能==,並且分析對效能的影響。要留意 race condition 和正確性議題。 * 第一週 phonebook 未完成和待改進項目也一併在 [phonebook-concurrent](https://github.com/sysprog21/phonebook-concurrent) 的基礎下進行 * 學習 [concurrent-ll](https://github.com/jserv/concurrent-ll) (concurrent linked-list 實作) 的 scalability 分析方式,透過 gnuplot 製圖比較 list 操作的效能 * 一併嘗試重構 (refactor) 給定的程式碼,使得程式更容易閱讀和維護。延續 [B05: introspect](https://hackmd.io/s/SyFpOZQqx),不只是在共筆上用文字提出良性詳盡的批評,也該反映在程式碼的變革 * 截止日期: * Mar 27, 2017 (含) 之前 * 越早在 GitHub 上有動態、越早接受 code review,評分越高 ## 挑戰題 * 分析 SuperMalloc 對於多執行緒程式的效能影響 * 引入 [Cache-friendly binary search](https://bannalia.blogspot.com/2015/06/cache-friendly-binary-search.html) * 相關討論: [Hacker News](https://news.ycombinator.com/item?id=9775086) ## 共筆選讀 - [ ] LanKuDot (李昆憶): [共筆](https://hackmd.io/s/HJFhaiAp) * 用 valgrind 檢查有無 memory leak 的問題。他發現原本 吳彥寬 同學撰寫的程式碼中,malloc 佔 28 次,卻只有 13 次 free。 如何修正 memory leak 呢?做了以下分析: * 既然 THREAD_NUM 是在 compilation 時期指定,則隨 THREAD_NUM 變動的 array 長度可以不用使用 malloc thread_args 的元素也是透過 malloc 取得,要 free 掉 * 在 findName() 中會給找到的 entry 的 lastname 和 detail 配給記憶體,但是沒有處理已經被搜尋過的 entry 不需要在配置記憶體的情況,像在主程式中搜尋 zyxel 就有三次,造成前兩次配置的記憶體遺失。 - [ ] c14006078 (吳彥寬): [共筆](https://hackmd.io/s/BykQDVTp) * 思考到一個很基本的問題:malloc 和 assert 往往要針對不同型態,撰寫不同版本的定義,能否透過類似 C++ template 來實做呢?C11 有 _Generic 關鍵字,可做出類似的效果。 * 使用可以很精巧,可見共筆的 "Template in C" 一節。 - [ ] TempoJiJi (邱靖吉): [共筆](https://hackmd.io/s/rymKa4aT) - [ ] tundergod (林文盛): [共筆](https://hackmd.io/s/rk5IVI0a) * 實作lock-free thread pool - [ ] CheHsuan (林哲亘): [共筆](https://hackmd.io/s/rJPYFYRa) * 整理 mmap 和 msync 的資訊。 有了基本概念後,我們可嘗試變更 mmap() 的參數,從 MAP_SHARED 換成 MAP_FIXED | MAP_PRIVATE | MAP_ANONYMOUS 再對照執行時間的變化。 - [ ] kevinbird61 (瞿旭民): [共筆](https://hackmd.io/s/BJwe5Upa) * 透過 setjmp / longjmp 實作 coroutine 的方式,並且實際撰寫程式來測試,他建立兩個 coroutine: A, B。 * 在他的測試中,setjmp 把資訊儲存於 bufferA 後執行 B routine後,再藉由 longjmp 回到當初於 A routine 中呼叫 B 的位置;藉此可以達到再兩個函式中切換;把 routine A, B 換成兩條thread,便是 thread 間維持 sequential consistency 的實作。 ## 參考資料 * [Atomics in C programming](https://www2.informatik.hu-berlin.de/~keil/docs/keil_-_c11_atomics_20140202.pdf) * [You Can Do Any Kind of Atomic Read-Modify-Write Operation](http://preshing.com/20150402/you-can-do-any-kind-of-atomic-read-modify-write-operation/) * [Boost atomic examples](http://www.boost.org/doc/libs/1_61_0/doc/html/atomic/usage_examples.html)