Julia で GCN - HackMD

Julia で GCN ===  2019/11/16 機械学習名古屋第22回勉強会 antimon2（後藤俊介） Note: スポンサー枠(?)LTスライドですっ ----  ## お品書き + お前誰よ？ + 来栖川電算の紹介 + Juliaの紹介 + Julia で GCN ---  # お前誰よ？ ----  ## 自己紹介 + 名前：後藤俊介 + 所属：**[有限会社来栖川電算](https://www.kurusugawa.jp)** + コミュニティ：**[機械学習名古屋](https://machine-learning.connpass.com/)**, **[JuliaTokai](https://juliatokai.connpass.com/)**, **[NGK2020S](https://ngk2020s.netlify.com/)**:new:, [Python東海](https://connpass.com/series/292/), Ruby東海, … + 言語：**[Julia](https://julialang.org)**, Python, Scala（勉強中）, Ruby, … + ![Twitter](https://i.imgur.com/HqouMIg.png) [@antimon2](https://twitter.com/antimon2) / ![Facebook](https://i.imgur.com/01nPd37.png) [antimon2](https://www.facebook.com/antimon2) + ![Github](https://i.imgur.com/yBKtii5.png) [antimon2](https://github.com/antimon2/) / ![Qiita](https://i.imgur.com/FxHMi64.png) [@antimon2](http://qiita.com/antimon2) / [<i class="fa fa-file-text"></i> @antimon2](https://hackmd.io/@antimon2) Note: 今日も Julia の話っ ----  [![NGK2020S](https://i.imgur.com/Sjslkmb.png) https://ngk2020s.netlify.com/](https://ngk2020s.netlify.com/)  Note: NGK2020S、年明け 2020/01/18(土) ですっ ---  # 来栖川電算 Note: スポンサー枠っ ----  [![有限会社来栖川電算](https://i.imgur.com/8Kuhfel.png) https://www.kurusugawa.jp](https://www.kurusugawa.jp) Note: 見に来てねっ ----  [![来栖川電算ホーム Facebook](https://i.imgur.com/1X3A2vk.png) https://www.facebook.com/kurusugawa.jp](https://www.facebook.com/kurusugawa.jp) Note: 『いいね！』してねっ ----  <iframe src="//www.slideshare.net/slideshow/embed_code/key/HNE3ohKyGKUJNF" width="595" height="485" frameborder="0" marginwidth="0" marginheight="0" scrolling="no" style="border:1px solid #CCC; border-width:1px; margin-bottom:5px; max-width: 100%;" allowfullscreen> </iframe> <div style="margin-bottom:5px"> <strong> <a href="//www.slideshare.net/youheiyamaguchi/jaws-festa-20191102" title="JAWS FESTA 20191102" target="_blank">JAWS FESTA 20191102</a> </strong> from <strong><a href="https://www.slideshare.net/youheiyamaguchi" target="_blank">陽平山口</a></strong> </div> Note: 11/2に札幌で行われた JAWS FESTA 2019 での弊社山口の発表資料っ ----  ## 概要 + 設立 2003年（名古屋工業大学発ベンチャー） + 従業員 66人（メイドさんも含めて！） + ここ最近人が増えた Note: 従業員にはバイトも含まれています。 ----  ## SF 世界の技術を実現し、<br>社会に役立てる  + AI 技術のライセンス販売・研究開発・SI + 文字認識，物体認識，動作認識，行動認識 + アプリの企画・制作・運営 Note: マルチっ ----  ## 技術者集団 + 最先端の AI 技術 + 文字認識、物体認識、モーション認識 + 限界性能を引き出す実装技術 + 高精度化、高速化、省資源化、並列化、分散化 + 高品質なソフトウェアを実現する技術 + 言語・アーキテクチャ・プロセスに対する深い造詣 ----  ## ワンストップ開発 + データ収集・アノテーション + AI（認識技術）の研究開発 + アプリの企画・制作・運営 + 自社製実験パイプライン Note: アノテーションツールも自社製っ基本使用料無料で誰でも使えますっ！ ----  Note: ![体制](https://i.imgur.com/XuAkn8y.png) ----  ## 製品・サービス + 画像認識API（ライセンス販売） + 物体認識（研究開発→SI） + 走行画像リアルタイム認識、地図生成 + モーション認識 + [毎朝体操](http://maiasa.jp/) + 研究開発支援 + **[AnnoFab](https://annofab.com/)**（アノテーションツール） + AHAB（実験スケジューラ） Note: なお次回、[AnnoFab](https://annofab.com/) のハンズオンをこの機械学習名古屋でやりますっ ----  Note: ![事例・製品・サービス](https://i.imgur.com/XaH6sgN.jpg) ----  ## コミュニティ活動支援 + 勉強会主催 + スポンサー + 会場提供 Note: 名古屋を中心に勉強会コミュニティの各種支援を行っていますっ ----  Note: ![コミュニティ活動](https://i.imgur.com/uMdKOGh.png) 機械学習名古屋、JuliaTokai も支えてもらってますっ ----  ## OSS への貢献 + スポンサー + パッチ提供 Note: 名古屋を中心に勉強会コミュニティの各種支援を行っていますっ ----  [![OSS の vis.js に 400\$ を寄付しました](https://i.imgur.com/2Pff8A8.png) https://www.kurusugawa.jp/donated-to-vis-js/](https://www.kurusugawa.jp/donated-to-vis-js/)  Note: 困窮していたOSS開発コミュニティの復活に貢献した例っ ----  ## 求人等 + 研究（認識技術） + 開発（サーバサイド/フロントエンド） + 企画（アプリ/サービス） + デザイナ Note: 学生の皆さん、転職者の皆さん、力を貸してくださいっ ----  Note: ![募集中！](https://i.imgur.com/5CbxlN7.jpg) ---  # Julia の紹介 ----  [![Julia](https://upload.wikimedia.org/wikipedia/en/1/1f/Julia_Programming_Language_Logo.svg)](https://julialang.org) ----  ## Julia とは？(1) + [The Julia Language](https://julialang.org) + 最新 v1.2.0（2019/08/20） + LTS v1.0.5（2019/09/09） + pre v1.3.0-rc4（2019/10/15） + 科学技術計算に強い！ + 動作が速い！（LLVM JIT コンパイル） Note: ググるときはなるべく [julialang](https://www.google.co.jp/search?q=julialang) で！ ----  ## Julia とは？(2) > + Rのように中身がぐちゃぐちゃでなく、 > + Rubyのように遅くなく、 > + Lispのように原始的またはエレファントでなく、 > + Prologのように変態的なところはなく、 > + Javaのように硬すぎることはなく、 > + Haskellのように抽象的すぎない > > ほどよい言語である  引用元：http://www.slideshare.net/Nikoriks/julia-28059489/8  ----  ## Julia とは？(3) > + C のように高速だけど、 Ruby のような動的型付言語である > + Lisp のようにプログラムと同等に扱えるマクロがあって、しかも Matlab のような直感的な数式表現もできる > + Python のように総合的なプログラミングができて、 R のように統計処理も得意で、 Perl のように文字列処理もできて、 Matlab のように線形代数もできて、 shell のように複数のプログラムを組み合わせることもできる > + 超初心者にも習得は簡単で、超上級者の満足にも応えられる > + インタラクティブにも動作して、コンパイルもできる  （[Why We Created Julia](http://julialang.org/blog/2012/02/why-we-created-julia) から抜粋・私訳）  Note: いろんな言語の「いいとこどり」言語！ってことでっ ----  ## 要するに  + 動的言語なのに速い！ + 文法も覚えやすい！ + 数値計算に強い！  Note: 機械学習とかにも持って来いっ！ ----  ## 主な機能  + [多重ディスパッチ](https://docs.julialang.org/en/v1/manual/methods/) + [動的型システム](https://docs.julialang.org/en/v1/manual/types/) + [並行・並列処理](https://docs.julialang.org/en/v1/manual/parallel-computing/)、コルーチン + [組込パッケージマネージャ](https://docs.julialang.org/en/v1/stdlib/Pkg/)  Note: っ ----  ## 文法・関数 Note: 以降、ほぼ過去スライドからのコピペ。すっ飛ばして先へ進んで戴いてもOKっ ----  ### 基本的な演算 ```julia julia> 1 + 2 - 3 * 4 # 四則演算（除算以外） -9 julia> 7 / 5 # `整数 / 整数` の結果は浮動小数 1.4 julia> 7 ÷ 5 # `整数 ÷ 整数` の結果は整数 1 julia> 2 ^ 10 # 冪乗は `^` 1024 julia> 123 & 234 | 345 # 論理積 / 論理和 376 julia> 123 ⊻ 234 # 排他的論理和(==`xor(123, 234)`) 145 ```  Note: 整数同士の除算は実数になりますっ整数除算演算子 `÷` が別に存在します（Python の `//` 相当）っまた冪乗も（`**` ではなく）`^` ですっ `⊻` は `\xor`+<kbd>Tab</kbd> または `\veebar`+<kbd>Tab</kbd> で変換できますっちなみに先ほどの `÷` も `\div`+<kbd>Tab</kbd>で（基本的に ${\rm \TeX}$ の書式）っ ----  ### 配列 ```julia julia> a = [1, 2, 3, 4, 5] 5-element Array{Int64,1}: 1 2 3 4 5 julia> a[1] # Julia は 1-origin 1 julia> println(a[2:3]) # 範囲指定は両端含む [2, 3] ```  Note: 1-origin であることに注意すればあとは普通の配列っあと `a:b` は範囲（`Range`）の記法。両端を含む（Ruby の `a..b` と同じ）っ ----  ### 配列の内包表記 (1) ```julia julia> a = [n^2 for n=1:5] 5-element Array{Int64,1}: 1 4 9 16 25 julia> A = [x+10y for y=1:3, x=1:3] 3×3 Array{Int64,2}: 11 12 13 21 22 23 31 32 33 ```  Note: 内包表記の記法は Python に類似っかつ、`for` にカンマ区切りで複数のイテレータを渡すことで2次元以上の配列も作成可能っ ----  ### 配列の内包表記 (2) ```julia julia> [(a,b,c) for c=1:15,b=1:15,a=1:15 if a^2+a*b+b^2==c^2] 6-element Array{Tuple{Int64,Int64,Int64},1}: (3, 5, 7) (5, 3, 7) (6, 10, 14) (7, 8, 13) (8, 7, 13) (10, 6, 14) ``` Note: Python と同様に `if` で条件を指定することも可能っあと Python と同様、`[○ for ○=○]` を `(○ for ○=○)` と書くと配列ではなくて `Generator` が返りますっ ----  ### ベクトル ```julia julia> x = [1., 2., 3.]; y = [3., 1., 2.]; julia> x + y # `x .+ y` と書いても同じ（elementwise operation） [4., 3., 5.] julia> x .* y # これは `x * y` と書くとNG [3., 2., 6.] julia> using LinearAlgebra julia> x ⋅ y # 内積（dot積、`dot(x, y)` と書いても同じ） 11.0 julia> x × y # 外積（cross積、`cross(x, y)` と書いても同じ） [1., 7., -5.] ```  Note: Julia では実は1次元配列がベクトルの扱いっ `⋅` は `\cdot`+<kbd>Tab</kbd>、`×` は `\times`+<kbd>Tab</kbd>（これらを利用するには `using LinearAlgebra` 必要）っあとこれらや先ほどの `÷` や `⊻` などのように、ASCIIの範囲を超えたUnicode文字の演算子（そのほとんどが $\TeX$ 由来）が Julia にはたくさんあります（他には例えば比較演算子の `≤` `≥` や、集合の要素 `∈` や包含関係 `⊆` などなど） ----  ### 行列 ```julia julia> A = [1 2; 3 4] # この記法は MATLAB/Octave 由来 2×2 Array{Int64,2}: 1 2 3 4 julia> A' # `○'` は転置行列の記法（これも MATLAB/Octave 由来） 2×2 LinearAlgebra.Adjoint{Int64,Array{Int64,2}}: 1 3 2 4 julia> transpose(A) # 正確には転置行列はこっち 2×2 LinearAlgebra.Transpose{Int64,Array{Int64,2}}: 1 3 2 4 ```  Note: Julia では2次元配列が行列の扱いっあと `○.'` という書式は廃止されました（`transpose(A)` 使ってね）っ ----  ### 行列の演算 ```julia julia> A = [1 2; 3 4]; B = [3 0; 0 6]; julia> A + B # A .+ B でも同様 2×2 Array{Int64,2}: 4 2 3 10 julia> A * B # matrix multiply 2×2 Array{Int64,2}: 3 12 9 24 julia> A .* B # elementwise multiply 2×2 Array{Int64,2}: 3 0 0 24 ```  Note: 行列は `*` で通常の行列積になりますっこれ便利っ ----  ### ブロードキャスト ```julia julia> sin(0.1) 0.09983341664682815 julia> sin.([0.1, 0.2, 0.3, 0.4]) 4-element Array{Float64,1}: 0.0998334 0.198669 0.29552 0.389418 julia> [0.1, 0.2, 0.3, 0.4] .^ 2 # => [0.01, 0.04, 0.09, 0.16] ```  Note: 関数名と `(` の間に `.` を置くと、普通の関数を配列に拡張してくれる（ブロードキャスト）っ `.^` のように演算子の前に `.` を書いても同様（先ほど出た `.+` `.*` もブロードキャスト）っ ----  ### 関数定義 ```julia julia> f(x) = x^2 + 2x - 1 f (generic function with 1 method) julia> f(1) 2 julia> f.(1:5) # => [2, 7, 14, 23, 34] ``` Note: 数学のように直感的な記述で関数を定義可能っ `2x` は `2*x` の省略形、曖昧さがなければリテラルと他の識別子が続く場合などに勝手に乗算と解釈してくれるっまたユーザ定義関数も `.` をつけて自動的にブロードキャスト対応っ ----  ### 有理数・複素数 ```julia julia> 1//2 == 0.5 true julia> 1//2 - 1//3 1//6 julia> 1im ^ 2 == -1 true julia> (1.0 + 0.5im) * (2.0 - 3.0im) 3.5 - 2.0im ``` Note: 有理数・複素数を標準サポート。 `//` は有理数除算（結果は有理数） `im` は虚数単位。どちらも四則演算も普通に書けますっ ---  # Julia で GCN  ----  ## Deep Learning on Graphs + **グラフ構造** を扱う Deep Learning の一研究分野 + グラフ構造の例：鉄道路線図、ソーシャルネットワーク（人間関係）、etc Note: Node（節点）と Edge（辺）の集合。各 node ごとの関係を edge が表す。向きに意味がなければ無向グラフ、あれば有向グラフ。 ----  ![Fig.1](https://i.imgur.com/Csthadb.png) <span>出典：論文 [Deep Learning on Graphs: A Survey](https://arxiv.org/abs/1812.04202) Fig.1</span> ----  ## Graph Convolutional Network (GCN) + CNN の考え方をグラフ構造に応用したネットワーク + 論文：[Semi-Supervised Classification with Graph Convolutional Networks](https://arxiv.org/abs/1609.02907) Note: っ ----  [![機は熟した！グラフ構造に対するDeep Learning、Graph Convolutionのご紹介 - ABEJA Tech Blog](https://i.imgur.com/nEEFBdD.png) https://tech-blog.abeja.asia/entry/2017/04/27/105613](https://tech-blog.abeja.asia/entry/2017/04/27/105613)  ----  ## Julia で GCN + [GeometricFlux.jl: Geometric Deep Learning for Flux](https://github.com/yuehhua/GeometricFlux.jl) + [Flux.jl](https://github.com/FluxML/Flux.jl) で GCN（など）を扱うためのパッケージ + 2019/08/01 に [リリースアナウンス](https://discourse.julialang.org/t/ann-geometricflux-jl-geometric-deep-learning-for-flux/27063) + GPU 対応（[CuArrays.jl](https://github.com/JuliaGPU/CuArrays.jl) 利用） Note: っ ----  {%gist antimon2/828793e8dfda7be1987901159cb17157%} ----  ### 補足 + GeometricFlux.jl には GCN 以外にもいろいろ用意されている（Spatial系とかGAEとか） + まだ生まれたばかりのライブラリで成熟されていない Note: っ ---  # まとめ ----  + Julia でも GCN 始まった！ + Julia 良いよ楽しいよ！  Note: っ ----  ## 参考リンク + [GeometricFlux.jl](https://github.com/yuehhua/GeometricFlux.jl) + [\[ANN\] GeometricFlux.jl - Geometric Deep Learning for Flux](https://discourse.julialang.org/t/ann-geometricflux-jl-geometric-deep-learning-for-flux/27063) + [JuliaGraphs](https://github.com/JuliaGraphs) + Papers + [Deep Learning on Graphs: A Survey](https://arxiv.org/abs/1812.04202) 2018/12 + [A Comprehensive Survey on Graph Neural Networks](https://arxiv.org/abs/1901.00596) 2019/01 + [Semi-Supervised Classification with Graph Convolutional Networks](https://arxiv.org/abs/1609.02907) 2016/09 ---  # おまけ ----  ## JuliaTokai  Note: 姉妹勉強会の簡単な紹介っ ----  Note: 前回の勉強会の様子 ![前回の勉強会の様子](https://i.imgur.com/dMy2fxN.jpg) ----  [![JuliaTokai グループページ - connpass](https://i.imgur.com/uo2Nxpi.png)https://juliatokai.connpass.com/](https://juliatokai.connpass.com/) Note: 勉強会の告知・募集サイトっ！ ----  ### 勉強会の内容 + [Julia](https://julialang.org) の東海地方ユーザグループ + Julia に関すること、以外特にテーマは決めない！ + 基本、もくもく会 Note: 難しくないよーこわくないよー ----  ### 次回 + 2020/02/xx(土)：第5回開催予定！ + 詳細未定 Note: 次回も、基本もくもく会の予定っ！ ----  ## NGK2020S  Note: 合同新年会っ ----  [![NGK2020S](https://i.imgur.com/Sjslkmb.png) https://ngk2020s.netlify.com/](https://ngk2020s.netlify.com/)  Note: NGK2020S、年明け 2020/01/18(土) ですっ ----  ## 来栖川電算 Note: スポンサー枠っ ----  Note: ![募集中！](https://i.imgur.com/5CbxlN7.jpg) ---  ご清聴ありがとうございます。 Note: ご清聴ありがとうございますっ！