執行人: salmoniscute
專題解說錄影
EricccTaiwan
下方問題於2024 年 Linux 核心設計/實作課程期末展示(上)有同學發問、老師也有對此回應,可以作為參考!
salmoniscute
以下用核心原始碼的行為統一回答兩個問題(CFS 參考v4.4
,EEVDF 參考v6.12
)
CFS:Tie-breaking 比較邏輯:
首先看到
__enqueue_entity
函式,觀察 CFS 把任務放到樹中的行為。當待插入的任務se
其vruntime
跟目前走訪到的節點任務之vruntime
相同時,會把新任務se
插入到entry
的右邊子樹,代表後插入的任務會被排在後面。
CFS 是選擇vruntime
最小的任務來執行,所以當兩個任務的vruntime
一樣時,CFS 確實會回退到類似 RR 的行為,按照任務的插入順序(FIFO)來決定排程的順序。EEVDF:
至於 EEVDF 的紅黑樹的 key 並不是以vruntime
排序了,而是改成 virtual deadline,所以我假設你想問的是兩個任務都變為合格且他們的 virtual deadline 相同的話 CPU 排程器會怎麼選:EEVDF 跟 CFS 行為類似,當兩個任務的 virtual deadline 一樣時,按照任務的插入順序(FIFO)來決定排程的順序。相同 deadline 的任務按插入順序排列在樹中,
pick_eevdf
函式會選擇最左邊的 eligible 任務,最左邊的任務也代表較早插入的任務。
charliechiou
salmoniscute
- EEVDF 不論是演算法或是實作上,都相比於 CFS 多帶了 request length 的參數,CPU 排程器不單單像 CFS 只有
nice
,也就是weight
參數來作為 fairness 判斷的指標。而 request length (time_slice
)本身就帶有隱含的急迫性概念,任務請求的 CPU 執行時間越短,算出的虛擬截止時間自然越近,根據 EEVDF 的演算法,此任務自然也更有機會被 CPU 排程器選中來執行。
EEVDF 在 CFS fairness 的基礎上,擴充了任務 responsive 的需求,並且根據證明出來的延遲上下界以及更直接反應 fairness 的指標 ,提供比 CFS 的比例分配方式更為嚴格的 fairness。- 以下列出幾個在開發者的 patch series 中,常常作為 CPU 排程器演進依據的測試 benchmark,也可參考學長筆記:
- schbench:測量 wakeup latency。創建多個 worker thread,測量從喚醒到實際執行的延遲時間,重點關注 95% tail latency。
- hackbench:throughput 測試。建立大量 process 或 thread,測量完成所有任務的總時間。
- stress-ng:系統壓力測試。
- unixbench:在傳統 Unix 環境的效能。
- netperf:測試網路 I/O 密集型環境下的排程效能。
yy214123
在專題講解影片 3:21 提到的 latency-nice
,這項機制引入後對於後期的 CFS 有甚麼重大影響嗎?
salmoniscute
因為 CFS 原本只有nice
(對應到權重)來調整 CPU 資源的分配比例,對於 latency 的沒有直接的控制方法。latency-nice
引入後,開發者或系統可以指定任務對延遲的偏好,這不影響用nice
計算出來的 CPU 佔比,但會影響像是任務在 runqueue 中的相對排序等等機制。可以想成 CFS 試圖以nice
控制 throughput,latency-nice
控制 latency。關於latency-nice
更詳細的發展過程可以去看看這份筆記:Target latency 相關研究
horseface1110
透過 ,可以在理想系統中求出該任務應在時間 之前完成所要求的服務時間。假設任務的分配比例 在時間區間 內不變,則可得:
移項得到:
這裡的是一個數值還是一個函數?為什麼第一個式子中像是函數,但第二個又是放在分母的數值
salmoniscute
很抱歉這裡是我偷懶沒打乘法運算符號造成的誤會,已修正,謝謝。
修訂《Demystifying the Linux CPU Scheduler》並探究 CFS/EEVDF 背後的理論基礎,包含 fairness, proportional share scheduler, bandwidth control, EEVDF 的 target latency 等議題,適度貢獻回電子書。
研讀《Demystifying the Linux CPU Scheduler》、紀錄問題並提交修正修訂針對用語和敘述。列出提交並收錄的 pull request
探究 Generalized Processor-shareing (GPS) model,搭配論文和課程討論
展開上方筆記到此頁面
從著重 fairness 到 target latency,討論核心開發者的考量,搭配閱讀對應的論文,並整理課程討論
EEVDF 論文研讀
WIP: EEVDF 理論實作比較
WIP: 理解 CFS 到 EEVDF
WIP: target latency 相關研究
在保留 proportional share 排程器所有優點的同時,為客戶端接收到的服務時間提供及時性的保證。代表 EEVDF 既要像 proportional share 排程器一樣靈活的分配資源,又要像 real-time 排程器一樣確保對時間較為敏感的應用程式的需求。
In part, the algorithm builds on ideas found in previous network fair-queueing algorithms, and general-purpose proportional share allocation algorithms.
虛擬時間(virtual time)的概念,用在模擬在一個理想的流體流模型(fluid-flow based system)中的工作進度。fluid-flow model 是一種理想化的模型,假設資源可以以無限小的單位連續的分配,可以作為實際離散資源分配的參考。
A request is said to be eligible if its virtual eligible time is less than or equal to the current virtual time.
The algorithm simply allocates a new time quantum to the client that has the eligible request with the earliest virtual deadline.
We note that while the concept of virtual deadline is also employed by other proportional-share algorithms, the concept of eligible time is a unique feature of our algorithm.
因為主要探討 CPU 排程器,論文中的 「client」 我都會改成「任務」,更直接對應。但要注意到的是本篇論文所指的「資源」是通用於不論是 CPU 資源還是網路世界中的 communication bandwidth 。 EEVDF 是不限於 CPU 排程器的。
參照 jserv 的筆記
對於一組競爭同一個時間共享資源的任務,資源是以 time quanta 為單位進行分配,每個 time quanta 的最大長度為 。代表資源的分配是離散的,而不是連續的。在每個時間量開始時,會選擇一個任務來使用資源。一旦任務獲得了資源,它可以一直使用到該時間量結束,也可以在時間量結束之前主動釋放資源。( preempt 的概念)
每個任務都會有對應一個權重,這個權重決定了它應該獲得的資源的相對比例。資源的分配是透過任務的權重與所有 active 任務權重總和的比值來計算的。(跟 GPS 中的 backlogged session 很像)
假設 對應到任務 的權重, 代表在時間 所有活躍任務的集合。
以下定義了在時間 任務 的資源分配 :
相應的在時間區間 內,任務 應獲得的理想累積服務時間 即為 在該區間的積分:
上述公式對應一個理想的 fluid model,在這個系統中,資源可以用很小且任意的時間間隔進行分配。在離散時間模型中,這相當於時間量的大小 趨近於零的情況。
但是在許多實際情況下,時間量的大小不能無限小。一個主要原因是排程的演算法本身以及從一個任務切換到另一個任務(context switch)所帶來的開銷。另一個原因像是網路中一旦開始為一個 session 發送封包,就必須等到整個封包發送完畢後才能服務其他 session。代表時間量的最小粒度受到不可中斷操作的限制。
在 CPU 排程器中主要是成本的問題,不可能花費大量 CPU 資源隨時做統計,排程的週期( time quanta )
由於資源是以離散的時間量進行分配的,因此任務不可能總是很精確的獲得其應得的服務時間。這是時間量化所帶來的必然結果。
假設任務 在時間 變為活躍,並且在整個時間間隔 內都保持活躍,它在該時間間隔內實際接收到的服務時間是 。那麼任務 在時間 的應該接收到的服務時間與實際接收到的服務時間之間的差值可以用以下公式表示:
若 ,任務 服務滯後;若 ,則服務超前。Lag 是衡量 fairness 的重要指標,並與任務延遲特性密切相關。排程演算法致力於將 lag 控制在小且有界的範圍內。
論文中強調 是衡量比例資源分配演算法性能的關鍵指標,因為它直接關係到系統的 fairness 和 predictability 。
這句話我讀到目前還沒有太大的感覺,尤其是 predictability 的部分,還會繼續研讀。
結合上述提及的兩個式子,資源分配比例以及理想服務時間:
得出活躍任務 在時間間隔 內理想上應該要得到的服務時間:
每一個時刻 ,任務 拿到的 Cpu 速率是它的權重占比:
所以總服務時間 就是把這個速率對時間積分。
為了獲得 cpu 資源的使用權,任務必須發出指定所需服務時間長度的請求。當任務的請求完成後,可以發出新的請求,或者變為不活躍狀態( passive )。可以進一步定義:只要任務有待處理的請求,就視為活躍狀態( active ),否則,視為不活躍狀態。
在EEVDF 中,每個請求在被任務發起時會帶有幾個參數:
透過 ,可以在理想系統中求出該任務應在時間 之前完成所要求的服務時間。假設任務的分配比例 在時間區間 內不變,則可得:
移項得到:
但是不可能不變,不可能推算出實際時間 所以有了虛擬時間的計算方法,後續會說明
所以更精確來講,其實請求算的是 、(虛擬時間軸)
一個活躍任務所發出的請求在時間 變為 eligible 。要找到一個時間點 ,讓任務在理想 GPS 模型下應得的服務時間 剛好等於此任務目前實際已經獲得的服務 。
複習 通則:
從任務 開始變成活躍狀態的時間 到目前時間 為止,此任務在理想世界中應該得到的服務量減去實際世界中它得到的服務量。此差值定義為 ,用來衡量任務 在某一個時間點 的落後情況。
也就是把理想時間拉到 ,實際時間定在 。
在 GPS 模型中,到了時間 時,任務應該剛好得到它在現實世界中,到請求時間 為止所得到的服務量,這樣才能達到公平。
為了模擬這樣的理想情況,如果任務在現實中已經領先了,那它所發出的請求就不應該馬上 eligible,而要等到時間走到 。換句話說,當任務在理想模型中的進度趕上其實際進度時,再讓新的請求進入系統,任務得以被排程。
實際舉例說明,假設在實際時間 時 為正(落後)
可以推導出:
這時候要試圖找出滿足 的 點,讓任務的實際服務量追上理想應得的。因此要符合:
已知 會是遞增函數。所以一定會是找到 。
理解為當 為正時,任務已經落後於其在理想模型中的進度。計算出的 eligible time 會小於目前時間 ,這表示如果該請求在理想模型中發生,它在過去的時間點 就應該已經開始被處理了。因此,在實際系統中,這個請求一發出就立即變為 eligible,允許它有機會被排程以減少 。
在 成立之外會有兩種情況:
In this way a client that has received more service time than its share is "slowed down", while giving the other active clients the opportunity to "catch up"
如果任務超前進度的狀況發生,代表要找到一個 使得 ,但是不可能從實際時間 算出未來的實際時間 ,論文中給出的例子是空水庫和注水去水庫的泉水。就像只能去判斷說水庫的水滿會是在某個時刻,但不能算出實際的那一刻,因為在未來泉水的流速流量都是有可能會浮動的。
因此 EEVDF 演算法使用虛擬時間的概念,目的在離散時間系統中模擬理想流體模型的公平性,同時避免了計算未來實際時間點的困難。以下說明:
首先定義 system virtual time ,一個抽象虛擬的時間軸:
是實際時間 時的虛擬時間。 EEVDF 會維護一個全局的虛擬時間 。
可以看到虛擬時間的增長率與所有活躍任務的權重之和成反比。這代表當競爭加劇時(更多任務或更高權重),虛擬時間的流逝會變慢,而當競爭減少時,虛擬時間的流逝會加快。
虛擬時間的流逝速度會自動調整,以便在一個虛擬時間單位內可以「容納」所有活躍任務。也就是說,在相應的 ideal fluid model 中,把虛擬時間想成一個公平的單位時間刻度。在每個虛擬時間單位裡,任務 按照自己的權重,應該得到 單位的實際服務時間。
舉例來說,假設有兩個任務,權重分別是 , ,虛擬時間增長的速率是 ,代表實際時間每流逝五個單位,虛擬時間就會流逝一個單位,在每個虛擬時間單位中,兩個任務會分別獲得 和 個實際時間單位。
任務 在時間間隔 內應得的服務時間 等於其權重 乘以該時間間隔內虛擬時間的增量。
複習:
如果更進一步假設所有活躍任務的總權重為 ,那虛擬時間就與實際時間同步消逝(每單位實際時間,虛擬時間也前進 單位)。此時:
在這種情況下,任務 的分配額 就等於其權重 ,在時間間隔 內,任務 應得的服務時間就簡化為:
任務 在實際時間 發出請求。根據目前任務收到的服務量 ,推算出虛擬時間中它何時可以開始再被服務 :
首先計算理想系統中的服務時間:
帶入:
代表在 時刻,理想系統中應得的服務時間等於實際已獲得的服務時間,即
得到:
移項後得到:
Virtual Eligible Time 的計算基於公平性原則,表示在理想系統中,任務 的累積延遲剛好為零的虛擬時間點。
當任務 在時間 發起新請求時,已經累積獲得了 單位的實際服務時間。在理想流體模型中,任務 每單位的虛擬時間能獲得 單位的實際服務時間。因此在理想流體模型中,這相當於消耗了 單位的虛擬時間。於是從任務開始活躍的虛擬時間點 出發,加上這個已消耗的虛擬時間量,得到最終的虛擬 eligible 時間 。
的意義是確保公平性,新請求只有在系統虛擬時間達到 時才符合排程條件,這樣可以防止某個任務連續獲得過多服務而造成其他任務延遲過大。
確定了請求的虛擬合格時間 後,接下來需要推算虛擬截止時間 ,使得在理想流體模型中,任務 在時間區間 內恰好接收 單位的服務(請求的長度是 ),根據同樣的原則:
移項後得到:
複習:
接下來計算請求發起時間 的 ,注意到這個不是通則,通則是最一開始介紹到的理想服務時間減去實際服務時間。
從虛擬合格時間的定義:
代入:
得到:
簡化:
所以比上述 更為精確的表示方法應該是
虛擬時間是實際物理時間的遞增函數
以下的 以虛擬時間的角度重新詮釋:
代表系統全局目前的虛擬時間, 指該請求推算出的 eligible virtual time(這個請求應該從虛擬時間 開始被服務)
對應到 Lemma 1,Lemma 1 計算的是目前時間 的 ,而目前時間可能已經超過請求發起時間 。
todo
確認理解正確
重新編排這個 section,讓他看起來更有一個脈絡
根據前面的前導說明,論文給出的 EEVDF 演算法:
假設任務的每個請求都完整被執行完畢,下一個請求會根據前一個請求的完成點繼續計算。
如果任務每個請求都完整執行:
因此:
遞迴的方法讓實作上不需要追蹤整個服務的歷史,每次只需要知道前一個請求的資訊。
如果任務的第 次請求只實際使用了 的服務時間(可能中斷、提早完成等),那麼下一個請求的虛擬合格時間應該從這裡開始計算。允許任務的請求沒有完整執行,但還是要維持公平,根據實際用到的服務時間來調整後續請求的時間點。
EEVDF 排程器會根據請求的 值進行排序,優先選擇目前已 eligible 且擁有最早 virtual deadline 的任務執行。
在理想化流體系統中,動態的操作很簡單,因為在任何時刻,所有活動任務的 都是 ,也就是說每個任務都剛好拿到自己該得的資源。但在實際的系統中,服務時間是以離散的 time quanta 分配的,使得延遲不再總是為 。
這個部分想要探討以下關於維持公平性的核心問題:
針對第一個問題,論文中舉例解釋當一個任務離開競爭時,如何維持剩餘任務之間的公平資源分配,如下:
假設系統中有三個任務,在時間 時開始活躍,而在時間 時任務 3 離開競爭。在這個時間區間 內,由於活躍任務的數量和它們的分配比例沒有變化,所以虛擬時間的斜率是恆定的,等於 。每個任務在時間 的 可以表示為:
由於 EEVDF 是一個 work-conserving (不浪費 CPU)演算法,所有活躍任務在區間 內,總共有 單位的處理器時間被分給三個任務。任務 3 要離開競爭,因此剩下能分配給任務 1 和 2 的服務時間為:
用 表示任務 3 離開競爭後的時間點,忽略離開操作的開銷,。
任務 1 和 任務 2 在時間 應該接收多少服務時間?
最直觀的方法是將兩個任務接收的整個服務時間按照任務的權重比例分配:
這是不夠精確的定義,因為它沒有考慮到任務 3 可能 的影響。
如果 ,任務 3 離開後,剩餘的兩個任務應該按比例承擔可能的 loss 或 gain。因此以下重新定義 :
首先已知:
移項後:
帶入上述公式:
簡化後得到:
根據全局虛擬時間的定義,以及在時間區間 內,活躍任務的集合不變,所以:
可以進一步得到:
全局虛擬時間 是用來衡量任務在理想公平模型下應該獲得多少服務的基準。一旦某個任務離開,為了讓剩下的任務繼續跟這個公平模型對齊,必須把離開任務造成的「不公平程度」()放回虛擬時間中。從上一個公式可以知道:
去掉 ,並且化簡後:
這個公式代表當任務 3 離開競爭時,需要根據它的 來調整全局虛擬時間 。
全局虛擬時間的更新對應到的就是每個剩下任務 也會更新,直觀的方式為當任務 3 離開時,它的延遲按比例分配給剩餘的任務。
複習 的定義:
由於 非常接近 ,任何任務在 時接收的服務時間等於它在 時接收的服務時間,所以:
將以上以及虛擬時間更新的公式代入得到:
展開後:
將第一項與第三項結合成 :
這個公式代表當任務 3 離開競爭時,需要根據它的 來調整剩餘任務的 。
以下一起對任務 3 離開競爭之後的全局虛擬時間更新以及任務各自的延遲更新做說明來嘗試理解:
複習:
當任務 發出一個新請求時,會推算出 。請求只有在 時才會變成 eligible(可被排程器考慮執行)。
在看這個部分花了許多時間理解,但還是不懂
舉例來說,進度落後的任務 3 離開時,它所累積的「虛擬時間債務」(也就是正的 )不會消失。為了維持系統的公平性,這個債會被分攤給剩餘的任務。所以全局虛擬時間 被往前推,導致剩下的任務在虛擬世界中也落後更多( 變大)。
那這樣 增加是代表會比較快走到 ,更快變成eligible 嗎?所以當進度落後的任務 3 離開時,剩下的任務會比較有機會被執行到嗎?
重新瀏覽發現原本的寫法不夠清楚
所謂的比較快走到 ,是指:
在任務 3 離開時,因為原本的 是正的,造成的一個瞬間的跳躍,將虛擬時間 基準往前推。對應的公式:
當 減少時,分母變小,代表虛擬時間之後的流逝速度會變快。對應的公式:
使得原本不 eligible 的請求更快變成 eligible,剩餘任務更容易獲得執行機會。
任務 在時間 離開競爭:
任務 在時間 加入競爭:
任務 在時間 把權重從 改成 :
假設有一個 離開競爭的任務。這個任務在重新加入競爭時是否應該得到補償?
這種情況形成了一個兩難困境,不補償可能導致長期不公平,而補償又可能對新任務造成不公平,因此論文作者說這個問題沒有簡單的答案。第五章針對這個問題提出三種策略,每種都對這個問題採取了不同的處理方式,根據系統的具體需求和優先級來選擇合適的策略。
任務們可以在任何時候加入或離開競爭,無論 為何。當任務重新加入競爭時,會保留其離開時的 ,即如果任務在時間 離開競爭並在 重新加入,則。
每當發生事件(任務加入、離開或權重變更)時,虛擬時間會根據上述的全局虛擬時間更新公式進行更新。
跟策略 1 很像,但主要區別在於任務離開競爭後不保留其 ,任何(重新)加入競爭的任務 。這種策略適用於任務事件相互獨立的系統,像是 real-time 系統。
一個任務只能在 的時候才被允許離開、加入或改變權重。避免了更新虛擬時間。
在 fluid-flow 模型中,任務會在當 為 0 的那一瞬間離開。但在實際系統裡,因為是離散時間的,例如一個 time quantum 為單位,它可能會晚一點才真的離開。
假設:在任何一個 time quantum 中,只能發生一件事件
如果一個任務想離開時 ,表示它已經拿太多服務了,不能現在就離開,否則不公平。
所以系統會幫它加一個 dummy request,這個請求的排程點會被設為 的時間。這個 dummy request 不會佔用資源(長度是 0),但它的存在會拖延這個任務的離開時機,直到它的 自然回到 0。系統在 time quantum 的結尾處處理這個 dummy request,剛好讓 歸零。由於假設整個 time quantum 中不發生其他事件,這個「延遲」不會造成其他任務被影響,所以是可接受的近似。
還有一個問題:
那如果任務離開時它最後一個請求還沒處理完怎麼辦?
這個策略中會把這些沒用到的 time quantum 隨機分給其他活躍的任務
而且這些任務的 lag 不會被改變,當成免費 bonus
針對某個任務,它的請求會被延遲多久,推得一個上界(Theorem 1)
A system is said to be steady if all the events occurring in that system involve only clients with zero lag.
虛擬時間的連續性
如果 不為零的任務參與這些事件,根據更新虛擬時間的方式,會導致虛擬時間產生跳躍。
複習:
任務 在時間 離開競爭:
當系統中的事件(任務加入、離開或改變權重)僅涉及 為零的任務時,虛擬時間的變化是連續的。
這個連續的性質對於任務 的 tight bound 很重要,後續的證明會說明
An interval is said to be steady if all the events occurring in that interval involve only clients with zero lag.
一個在時間 具有正 的活躍任務 :
則任務 在時間 有一個 pending eligible request。
假設 是任務 在時間 的待處理請求的長度,並且讓 和 分別表示該請求的虛擬合格時間和虛擬截止時間。
複習:
只要任務有待處理的請求,就視為活躍狀態(active),否則,視為不活躍狀態(passive)。
使用反證法,假設請求在時間 不是 eligible:
假設 為該請求的發起時間,得到:
複習:
已知:
由於在 和 之間請求不為 eligible,所以任務在時間區間 內沒有獲得任何服務時間,因此:
進一步獲得:
從不等式 可知 ,這與 不可能為負的事實矛盾。
因此如果任務有正 ,則其請求必須是 eligible,確保了有正 的任務總是有機會獲得服務,從而使系統朝著更均衡的資源分配方向發展。
根據 Lemma 1,論文給出的第一個推論:假設 是時間 時所有活躍任務的集合,使得
則在時間 至少會有一個 eligible 的請求。
由於所有 的總和為零,其中至少有一個任務 的 。根據 lemma 1,這個具有非負延遲的任務一定會有一個合格的請求,因此系統中至少存在一個合格的請求。
在任何時間點 ,所有活躍任務的延遲總和為零,即剛剛 Corollary 1 裡面的:
證明採用歸納法
情況(i):任務加入競爭
假設任務 在時間 加入競爭,當時其延遲為 。
假設 表示時間 的瞬間前一刻, 表示瞬間後一刻。定義時間 所有活躍任務的權重總和為 ,由於 到 之間時間趨近於零,因此:
根據 ,把上式帶入後移項,並且由於服務量 沒有變,簡化可以得到:
複習,當任務 加入競爭,虛擬時間的更新:
其他任務 的 更新:
然而當任務 在時間 加入系統後,對於所有活躍任務 (包括 本身),延遲變為:
由於 且依歸納假設:
則:
因此證明,即使有新的任務加入,其帶來的 會在系統中平均攤分,讓整體 保持為 0。
情況(ii):任務離開競爭: 證明過程同情況(i)
情況(iii):任務改變權重: 視為舊權重任務離開,新權重任務加入競爭的過程,因此同情況(i)以及情況(ii)
情況(iv):在沒有上述事件發生的時間區間 內:
basic case 的假設是 ,要證明
根據已知的延遲的定義,以及理想服務時間 和實際服務時間 的加法性質,推導出以下:
由於在時間區間內 無事件發生,,故可以進一步改寫成:
即:
根據假設,第一項為 0,處理第二項就好。已知 ,所以第二項:
在時間區間 內無事件發生的情况,當活躍任務集合 不變時:
即:
代入到原等式:
最終得到:
可以理解為 是總共經過的時間, 是實際分配給所有活躍任務的總服務量,所以這兩者的差,就是 的總和。
接下來要證明 Cpu 資源在時間區間 是完全忙碌的。使用反證法,假設在 中,存在某個時刻 ,是 Cpu 首次變成空閒的時間。
根據上式,來寫出在時間 的 總 是:
但如果資源在 完全忙碌,則實際總服務時間 = 時間區間長度:
代回等式得到:
根據 Lemma 1,這表示在 時刻必定存在 eligible 請求,cpu 資源不應該是空閒的,與假設矛盾。現在知道了 Cpu 在區間 中不可能有空閒,必定是一直忙碌的。因此,整段期間所有任務獲得的總服務量為:
最終可得:
得證。
這個 Lemma 建立了 EEVDF 演算法的一個基本性質,系統中的所有延遲總和始終保持為零。代表如果某些任務獲得了多於其應得的資源(負 ),那麼必定有其他任務獲得了少於其應得的資源(正 )。是公平性的基礎。
結合 Lemma 1,Lemma 2 也證明了 EEVDF 是 work-conserving:只要有活躍任務,資源就不會閒置。
在穩定系統(definition 1)中,任何活躍任務的任何請求都會在不晚於 時刻完成,其中 是請求的截止時間, 是 time quantum 的大小。
複習 Definition 1:
A system is said to be steady if all the events occurring in that system involve only clients with zero lag.
考慮任務 的一個請求,其具有合格時間 和截止時間 。接下來將在時間 的所有活躍任務分為兩個集合 和 :
因為任務 的請求的 deadline 是 ,且其合格時間是 ,所以它屬於集合 。
假設 為不超過 的最晚時間(),使得集合 中的某個任務收到一個 time quantum (即 Cpu 被分配給了集合 的任務)
證明分為兩種情況:
要證明的是任務 的請求在時間 之前就已完成。
情況(i):存在這樣的時間
這種情況又分為兩個子情況:
:
集合 中的任務,其所有請求的截止時間都大於 ,也就是說,這些任務不是目前緊急的任務,因為它們的 deadline 還沒到。若排程器在時間 將 Cpu 分配給集合 的某個任務,代表當時所有在 內有 deadline 的請求(也就是集合 的任務請求)都已處理完成,因為否則這些有更早 deadline 的請求會被優先執行。
在時間 排程器已經執行集合 中的任務,這表示集合 中的所有請求都已經完成了。既然任務 的請求屬於集合 ,因此它的請求也已完成,且完成時間 。
:
此時考慮的時間點是 ,所以任務 的請求還尚未合格。
定義一個新集合 ,包含所有在區間 之間有合格時間 且截止時間 的活躍任務。這是時間區間 內會需要服務、且 deadline 不晚於 的任務集合。
這些截止時間 的請求,在各自合格時間到截止時間的區間 ,需要累積總服務時間:
接下來,將整個時間區間 分割成不重疊的子區間 ,使得所有子區間的聯合剛好覆蓋整個 ,且每個子區間的邊界點 和 不是任何任務的合格時間 或截止時間 。 代表子區間的數量。
這樣的設計會讓活躍任務的集合保持不變(因為任務只在其合格時間或截止時間改變狀態),並且積分中的分母 在整個子區間內保持常數。
有了這種分割,原始的複雜積分可以重寫成子區間 上的積分之和::
由於在每個子區間內, 是常數,所以積分會比較簡單:
因為 是 的真子集(至少某些 是這樣),所以權重比例小於 ,推出:
進一步整理出:
使用反證法,假設任務 的請求在 時尚未完成(即過了 deadline 也還沒完成)。
根據證明一開始對 的定義,在時間 到 期間,集合 中的某個任務正在使用 Cpu 資源,這時候任務 還沒變成 eligible。而從 到 這段時間內,只有 的任務會被服務(因為 還未完成,集合 的任務不會被排程)。所以在 這段期間,所有 單位的服務時間都給了 中的任務。
然而根據上述公式, 任務完成其所有在 有 deadline 的請求所需的服務時間少於 。因此代表在某個時間點,系統將是閒置的狀態,但這與 EEVDF 的 work-conserving 性質相矛盾。
所以得證任務 的請求在 之前就會完成。
情況(ii):不存在這樣的時間
表示系統中根本沒有需要輪到集合 任務執行的時刻,也就代表直到時間 ,排程都專注於集合 中的任務。
可以視為 ,或說 中的任務不參與資源競爭。因此,假設任務 的請求具有合格時間 、截止時間 ,則它會在區間 中獲得足夠的資源,並在時間 前完成,不會錯過截止時間。
Lemma 4 是對穩定區間(Definition 2)的延伸分析。它說明了在穩定區間內,某些子區間仍能保持與 Lemma 3 相同的性質。
比 Lemma 3 更微觀?
複習 Definition 2:
An interval is said to be steady if all the events occurring in that interval involve only clients with zero lag.
假設 為一個穩定區間,設 為在時間 時所有具有負 lag 的活躍任務的待處理請求中最大的截止時間。挑出某個時間點 ,保證在 之前,所有在 時間前產生 deadline 的任務都會被完成。
證明用與 Lemma 3 相似的方法,將所有活躍任務分為兩個集合:
假設 為時間區間 中的最晚時間,使得集合 中的某個任務收到一個 time quantum (即 Cpu 被分配給了集合 的任務)
證明分為兩種情況:
要證明的是任務 的請求會在 之前完成。
情況(i):存在這樣的時間
證明過程與 Lemma 3 的情況(i)相同。
情況(ii):不存在這樣的時間
也就是整段 ,Cpu 都只服務 的任務, 中的任務都沒被服務。
將集合 進一步分為兩個子集:
所以到了 時會發生什麼事?
集合 的 和:
假設任務 的請求在截止時間 前未完成(即代表在 之前也還沒完成),而 的 和:
將上述式子相加:
所以整體系統的 和是大於 0 ,這與 Lemma 2(所有活躍任務的 lag 總和為零)矛盾。
所以得證任務 的請求會在 之前完成。
Lemma 4 代表的是即使在允許非零 任務加入、離開或改變權重的系統中,最終會達到穩定狀態(Lemma 3),並在穩定狀態的某些子區間內保持 Lemma 3 的性質。
在穩定系統中,任何活躍任務 的延遲都被限制在以下範圍內:
假設 和 分別為持續時間為 的請求的合格時間和截止時間。
已知 為單調遞增且斜率不超過 1,任務 的延遲在接收服務時間時遞減,否則遞增。
複習 :
下界證明()
直觀來說最小延遲發生在請求一旦變為合格就立即接收到完整服務時間的情況。
若請求在時間 前完成,則在時間 的延遲為:
p.s 這個拆開重組的手法在 Lemma 2 也有出現過。
因為 是這個請求變成合格的時間,合格的意思是說此時服務延遲還沒超過應給的值,所以 lag 是非負的。,因此:
在理想情況下,系統會更公平的持續服務所有任務,因此理想服務量大部分時候會小於等於實際服務量。現在假設的是最悲觀的情況,也就是任務 立即獲得完整的服務:,但是由於 的斜率永遠不超過 (即理想系統中任務不能獲得超過 100% 的資源),所以:
因此整理出:
進一步推導:
因為 是這個請求的持續時間,而 是所有請求的最大持續時間,所以對任何時間 ,整理出:
上界證明()
直觀來說最大延遲發生在請求在它變成合格之後,被拖到最晚還能完成的時間才開始被服務的情況。於是根據 Lemma 3,請求最晚在 時完成,因此任務 最晚應在 時接收第一個 quantum。
情況(i): (請求時間長 quantum 大小)
此時 ,所以:
考慮最壞情況,任務在區間 內完全沒有接收到任何服務時間,其中 是請求發出的時間。在這種情況下 (沒有接收到服務),因此 (只有之前的服務時間)
假設 是這段等待中的某個時刻,延遲最多是:
根據合格時間 的定義:
整理出:
而因為 ,因此:
情況(i): (請求時間長 quantum 大小)
一樣考慮的是最壞的情況,任務在區間 內完全沒有接收到任何服務時間,其中 是請求發出的時間。
假設 是這段等待中的某個時刻,延遲最多是:
這個公式已經在上一個情況已經推導過
已知:
而 是理想服務,由於通常存在競爭(多個任務),斜率不會超過 :
因此:
所以在這段時間內的延遲上限是:
結合兩種情況:
Corollary 2 是從 Theorem 1 直接推導出來的結果,是針對穩定系統中請求長度不超過一個 time quantum 的特殊情況。
假設一個穩定系統和一個任務 ,使得任務 的任何請求都不大於一個 time quantum 。那麼在任何時間 ,任務 的延遲會被約束如下:
複習 theorem 1:
根據 :
給定任何具有大小為 的 time quantum 的穩定系統和任何比例共享的演算法,任何任務的延遲被限制在 和 之間。
這個 Lemma 證明了 Corollary 2 給出的界限是最優的,即沒有任何比例分享演算法能夠達到比 更好的界限。
假設 個具有一樣權重的任務在時間 同時變為活躍狀態。
證明分兩種情況:
情況 (i):理想的平均分配
即為每個任務在前 個 time quantum 中剛好都接收一個 time quantum。
分析第一個 time quantum 的任務在時間 的
根據:
在理想流體模型中,任務的分配額是 ,總可用時間 ,至於任務 實際上接收了完整的第一個 time quantum,因此計算 :
當 很大時,這個延遲逼近 。
分析最後一個 time quantum 的任務,即為在時間 (即將接收第 個 time quantum 之前),最後一個任務的 :
在理想流體模型中,任務的分配額是 ,總可用時間 ,至於任務 實際上接收了 ,因為還沒輪到他。
當 很大時,這個延遲逼近 。可以想成最後一個任務等了很久都沒有服務,累積了接近 的正延遲。
情況 (ii):不平均分配
上界:
假設存在一個比例分享演算法能夠達到上界小於 的界限,即 (其中 )。
選擇 ,因此:
從情況 (i) 的分析,在時間 ,最後接收 time quantum 的任務延遲為:
這與假設的上界 矛盾。
下界:
跟上屆的證明一樣,假設存在比 更好的下界 ,選擇足夠大的 ,第一個任務的延遲會跟這個下界矛盾。
service time lag 作為公平性的量化指標。
若系統中某個任務的 為正,那一定存在一個符合排程條件的請求,其虛擬時間最小,應被立即選擇執行。代表只要有任務落後,就一定可以從中挑選出一個有效的請求來執行,排程器永遠不會在有落後任務時讓資源閒置。
在任何時刻,系統中所有活躍任務的 值總和為 0。如果某些任務落後於其理想進度(),那必然有其他任務超前()。這代表系統中的排程公平性是以誰快就讓誰等,誰慢就先執行來動態維持的。是 EEVDF 滿足 proportional fairness 條件的關鍵理論依據。
在穩定運作的系統中,每個請求的完成時間不會超過他的理想完成時間 virtual finish time 加上一個 time quantum。這表示請求的完成延遲有一個明確的上界,即使有排程競爭與資源共享,最壞情況下的延遲也是可預期的,且只比理想時間最多多一個 。
防止某些任務被無限期的延遲。
WFQ 的延遲可能會以 線性增長
詳情請看 GPS 筆記
此 Theorem 給出 EEVDF 在一般情況下的 範圍:
任一請求的延遲被限制在區間 內。其中 是系統中最大請求長度, 是 time quantum。
上界保證:任何任務都不會被過度延遲,下界保證:任何任務都不會獲得過多優勢,且界限取決於任務自己的請求大小。
這個算是對於 fairness 的證明嗎?
當所有請求的長度都小於等於一個 time quantum,即 ,此時 Theorem 1 的延遲界限簡化為 。這表示延遲永遠不會早於理想完成時間 單位以上,也不會晚於理想完成時間 單位以上。
Lemma 5 證明在請求長度不超過一個 time quantum 的條件下,沒有任何比例共享的排程策略可以做到比 更窄的延遲界限。換言之 EEVDF 已達到理論上可能的最佳公平性。