掌握 Unity JobSystem 體驗多執行續的神奇力量 (三)－深入探討 JobSystem

這篇文章是要和大家分享 JobSystem 裡面較為深入的細節，主要是一些前兩篇文章中快速帶過的概念，不在前面的文章提出來是不想讓篇幅暴增，也是因為這樣所以這篇文章顯得比較雜亂一點，大家就把它當成 JobSystem 的小百科來看好了。

大綱

• Job 組成相關
  • Blittable types
  • NativeContainer
• Safety System
• 客製 NativeContainer
• Job 使用相關
  • Scheduler
  • Run
  • Job Dependencies
• IJobParallelFor 細節
  • Batch 在幹嘛
  • 分配流程
  • Work stealing 機制
• BurstCompile 介紹

Job 組成相關

在介紹 Job 類型時提到：

一個 job struct 內包含 blittable 類型與 NativeContainer 的成員變數

這邊來說明一下他們分別是什麼，以及為什麼只有他們。

Blittable types

在 .NET 架構中，有一些類型在 managed 與 unmanaged 程式碼之間可以直接傳遞使用，不需要進行任何轉換，這些類型就稱之為 Blittable types，中文似乎可以稱之為「可直接複製(到本機結構)的類型」。
相信大家應該都會有疑問，Blittable types 跟我們常聽到的「實質型別」會是一樣的東西嘛？
這邊我們要先理解一下 .NET 與 C# 的關係：

• .NET 是一個軟體框架，而 C# 是 .NET 框架的主要程式語言之一。
• 我們的 C# 程式碼會透過 C# 編譯器編譯為中間語言(Intermediate Language, IL)。
• 在執行程式之前，.NET 的 CLR(Common Language Runtime) 提供了 IL 的執行環境。
• 程式開始運行時，CLR 的 JIT(Just-In-Time) 編譯器會將 IL 代碼逐行轉換為特定硬體平台上的機器碼。
• 這種過程使得 C# 應用程序可以在不同的平台上運行，只要這些平台支援 .NET 和 CLR。
  

有了這個概念之後，我們先來看 C# 「實質型別」與「參考型別」：

• 實質型別(Value type)：變數的記憶體(Stack)空間裡存放的為『內容(值)』
  • byte, sbyte, short, ushort, int, uint, long, ulong, float, double, decimal, char, bool, enum, struct.
• 參考型別(Reference type)：變數的記憶體空間(Stack)裡存放的為『Heap記憶體位址』。
  • Class, String, Interface, delegate, dynamic, object.

再來看 .NET 的 Blittable types 與 Non-Blittable type，依照 官方文件 的說明，分類如下：

• Blittable types：在託管與非託管程式碼之間傳遞時不需要進行轉換
  • Byte, SByte, Int16, UInt16, Int32, UInt32, Int64, UInt64, IntPtr, UIntPtr, Single, Double.
  • Blittable 基本類型的一維陣列
• Non-Blittable type：託管的資料類型拿到非託管環境時，必須轉換成可封送處理的形式
  • Array, Boolean, Char, Class, Object, Mdarray, String, Valuetype, Szarray.

由以上比較簡潔的描述可以得知 Blittable types 和實質型別其實是不同的概念，因此大家在使用 Job 時需要特別留意。

NativeContainer

關於 NativeContainer，系列的第一篇文章有簡單介紹到：

A thread-safe C# wrapper for native memory，它是一個能讓不同的執行緒之間共享的記憶體空間。我們能夠把主執行緒的資料透過 NativeContainer 提供給 job 進行讀寫。

除此之外，NativeContainer 是唯一可以讓我們將 job 的結果拿來給主執行緒共享的媒介。

NativeContainer 的種類

Unity.Collections 裡面包含了兩 Unity 內建的 NativeContainer 物件：

• NativeArray：一個非託管的陣列，它能將一塊 native memory 暴露給託管的程式碼。
• NativeSlice：取得 NativeArray 的子集

在 Collections package 裡面還包含了額外類型的 NativeContainer，詳細種類有哪些可以參考 Collections 的 說明文件。

讀寫權限

預設情況下，job 同時擁有對 NativeContainer 讀取與寫入的權限，然而這會在某些情況下對效能造成負面影響，這是因為當有一個 job 正在寫入某個 NativeContainer 時，job system 不會允許你 schedule 另一個對 NativeContainer 有寫入權限的 job 開始執行。
看起來有點難理解，我們舉個例子，當你有一個 jobA 正在執行，jobA 正在對某個 NativeContainer 進行寫入，這時候你安排了一個 jobB 預期它能跟 jobA 同時執行，然而 jobB 也擁有對 NativeContainer 寫入的權限，儘管 jobB 只需要讀取它，這種情況下，job system 只會等 jobA 執行完畢後才開始執行 jobB，因為要避免 jobA 與 jobB 同時對 NativeContainer 進行寫入，但這根本不會發生。
因此，我們在宣告 NativeContainer 時最好為他們標上 [ReadOnly] 或 [WriteOnly] 的標籤。

[ReadOnly] public NativeArray<int> input;

記憶體 Allocators

如系列的第一篇文章所述：

NativeContainer 的記憶體空間配置與釋放有三種 Allocator 類型，在建立 NativeContainer 時，必須要將它指定為其中一種：
* Allocator.Temp：最快的配置類型，存在時間小於等於一幀。
* Allocator.TempJob：速度適中的配置類型，存在時間為四幀，需要在存續時間內主動呼叫 Dispose() 來釋放，否則會跳出警告。
* Allocator.Persistent：最慢的配置類型，可以永久存在。

實際建立 NativeArray 的範例如下：

//數值 1 表示 NativeArray 的長度
NativeArray<float> result = new NativeArray<float>(1, Allocator.TempJob);
...
result.Dispose();

NativeArray[i]++

因為 NativeContainer 沒有實作 ref return，所以不能直接改變 NativeContainer 的內容。
NativeArray[i]++; 無效，因為其等同於var temp = nativeArray[i]; temp++;，並沒有真正對 nativeArray[i] 賦予新的數值。
有效的寫法需要像下方範例，將資料複製出來進行操作，再將結果存回去：

MyStruct temp = myNativeArray[i];
temp.memberVariable = 0;
myNativeArray[i] = temp;

客製自己的 NativeContainer

我們能夠依照需求實作自己的 NativeContainer，使用 [NativeContainer] 標註我們自訂的結構，並且在結構內實現兩個主要的元素：

• Usage tracking

• Leak tracking

複製 NativeContainer (要講嗎?)