###### tags: `Hadoop` `Linux` `Python` `網路爬蟲` # Hadoop HA + Line 綜合運用 **一般而言機房不適合管理人員長時間待著,惟監控叢集是必須的,但是如果能藉由 Line 即時通知管理人員或是相關主管目前叢集就顯得格外方便。** ![](https://i.imgur.com/wwb3O9D.png) :information_source:網路爬蟲應用非常廣泛,還能持續延伸... --- 0. 準備事項: 1. 要有LINE帳號,註冊方式[請參考官網](https://line.me/zh-hant/account) 2. [LINE加入 Line Notify 官方帳號好友](#friend) 3. [註冊 Line Notify 服務](#signUp) 4. Hadoop 為高可用性 HA(high availability),[架設步驟請參閱](https://hackmd.io/o4JIaFh_QfC2dmDEAR3I3g?view#ha) 5. bdseHadoopNotify等相關程式,[GitHub請參閱](#bdse) <h3 id="friend">加入 Line Notify 官方帳號好友</h3> 1. 搜尋好友輸入 @LineNotify 並加入官方帳號 ![](https://i.imgur.com/biO6VE5.png) 2. 建立可以接收訊息的群組並加入 Line Notify 官方帳號進入群內 ![](https://i.imgur.com/O6rc5Dw.png) <h3 id="signUp">註冊 Line Notify 服務</h3> 1. [登入官方Line notify網站](https://notify-bot.line.me/zh_TW/) ![](https://i.imgur.com/2SPM8xH.png) 2. 登入Line帳號 ![](https://i.imgur.com/2DNbDHf.png) 3. 點選右上方帳號名稱,並選擇管理登錄服務 ![](https://i.imgur.com/fBj2ghH.png) 4. 選擇登錄服務 ![](https://i.imgur.com/XzTuLn8.png) :information_desk_person: 如果都沒有使用過相關服務,上面呈現空白很正常 5. 電子信箱請使用可以收認證信為主,其餘資料依個人喜好輸入 ![](https://i.imgur.com/LHM1h0s.png) 6. 確認無誤後按下登錄 ![](https://i.imgur.com/mwRpKri.png) 7. 至信箱收認證信後,點即前往服務一覽 ![](https://i.imgur.com/v1TXHiO.png) 8. 屆時將出現Line Notify服務,並點選個人頁面 ![](https://i.imgur.com/cNmMrn8.png) 9. 點擊發行權杖 ![](https://i.imgur.com/P2Rv9xv.png) :information_desk_person: 如果都沒有使用過相關服務,上面呈現空白很正常 10. 依個人喜好設定機器人名稱,並選擇稍早建立好的接收訊息的群組 ![](https://i.imgur.com/kSEExlj.png) :warning: 請確保Line Notify 官方帳號於選擇的群組內 11. 複製權杖 ![](https://i.imgur.com/VI5yGXM.png) :warning: 請確保權杖複製起來並儲存,不然會找不到該權杖 12. 將權杖貼製bdse-conf.txt內 ![](https://i.imgur.com/NiUuAzA.png) :warning: 請確保貼上為第一行,並無任何註解、空白或是換行元素 13. 啟動bdseHadoopNotify ![](https://i.imgur.com/Pbi6eRl.png) 14. 停止NameNode或是Resourcemanager ![](https://i.imgur.com/46NsxjI.png) 15. 顯示運行狀態 ![](https://i.imgur.com/5jVoxJZ.png) 16. 與Line連動,於Line同步顯示運行狀態 ![](https://i.imgur.com/wwb3O9D.png) 17. 停止程式運行 1. Ctrl-Z 將程式丟入背景 2. 正常模式停止程序 ```bash kill -15 %1 # %後面帶程序工作號碼(數字) ``` :warning: -9參數 為強制關閉程序 3. 檢查程序是否關閉 ```bash= jobs jobs ``` ![](https://i.imgur.com/qZRGm1h.png) <h3 id="bdse">bdseHadoopNotify相關程式</h3> **[程式連結~~](https://github.com/JeffWen0105/wen/tree/master/iiiEduBdse/release/hadoop_line_notify)** 檔案計有: 1. bdseHadoopNotify #主要腳本程式 2. bdse_linenotify.py #呼叫line的python程式 3. bdse-conf.txt #放置Token(權杖) :warning: **使用前請先看README.txt** :::warning **參考資料** 1. LINE Notify API [官方文件請參閱]( https://notify-bot.line.me/doc/en/) 2. Hadoop HA [官方文件請參閱](https://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-hdfs/HDFSHighAvailabilityWithNFS.html) :::