# Evasive attacks against AI-powered antivirus software - Yu Arai

{%hackmd @HITCON/HkzqEGQsR %}

> 同步口譯 (翻譯成英文)
https://www.youtube.com/live/xy2k0M-vJ3w

> 從這裡開始

針對AI驅動的防毒軟體和實作混和偵測的防毒軟體的規避攻擊

利用AI來做 Cybersecurity 來協助防護 真的可以解決 那些問題嗎

AI領域中 規避攻擊 (透過人工智慧技術進行圖像識別 在圖像中插入微小 擾動 而導致 AI將其判別為 長臂猿)

研究方法：
推斷出AI訓練時所重視的特徵
修改特徵
檢查AV偵測結果是否變化，規避攻擊是否成功

什麼是特徵量？
是為了讓電腦計算，將意圖和概念數值化 →如想讓AI幫助檢測，須先將特徵量化

https://medium.com/@ageitgey/machine-learning-is-fun-part-3-deep-learning-and-convolutional-neural-networks-f40359318721

(使用WinPE檔的結構來表達)Metadata特徵量化
https://www.openrce.org/reference_library/files/reference/PE%20Format.pdf

實施規避攻擊的思路

Schultz
Ahmadi
Islam

防毒軟體再掃描的時候 會掃描到的字串

會不因為字串的數量 大小 而影響到偵測的狀況

只是單純的增加字串也不行 因為可能會影響到 惡意程式感染的動作

我們想到用簽章這個方式來做執行

(將已知惡意程式，輕量增加簽章內字串，改造出變種惡意程式)

白盒：訓練模型透明 (易)
灰盒：可知機器學習信賴程度(信心值)
黑盒：只知道True/False布林 (難)

前期研究：
Ashkenazy - Cylance i kill you (灰盒)
Cescchin - MalwareScore (黑盒)

假設降低AI檢測的字串
大公司的名字 - 合法檔案的推測

樣本：
產品X：單純的機器學習引擎 > 測試結果會下降39%偵測率
產品A：機器學習引擎+傳統防毒資料庫

提高迴避率的方式：
惡意程式偽裝成電玩
1. 電玩檔案常常更新，版本很多
2. 誤報率太高會影響很多受眾
假設：為降低誤報率，AI會偵測開發人員(公司)的名稱，視為合法

測試結果(符合假設)：
"Steam"會使很複數產品下降一些偵測率
"SteamDiscordValve"會使產品C會下降60%的偵測率