Background はじめは Pychrono を検証していたが、恐らく本命と思われる FSI Module の python demo が無かったり、一部 demo が実行できなかったりで、結局 C++ からコンパイルしてインストールする事にした。 途中まで動いた Pychrono のインストール手順はこちら Outline Install Demo Install

main page: https://api.projectchrono.org/development/index.html github: https://github.com/projectchrono/chrono/tree/develop/data/vehicle pychrono: https://api.projectchrono.org/development/pychrono_introduction.html Install

GCNは Graph Convolutional Network の略である。"畳み込み"に着想を得てできたNNアーキテクチャーである 過去回 第１回：Graph, GNN グラフの畳み込み 画像の畳み込み 畳み込みとは数学的な操作である。参考URL 直感的には、畳み込み（CNN）は フィルターを使って特徴を捉える操作です。

Plan Graph, GNN GCN Sample Training AlphaFold Graph Examples SNSや、路線図、決定木、分子構造など様々

Reference https://arxiv.org/pdf/1909.06312.pdf Outline Random Forest アンサンブル学習(Ensemble Learning)の有名なアルゴリズムにランダムフォレスト（Random Forest）がある。 アンサンブル学習は弱学習機（決定木やLogisticRegression等）を複数組み合わせてモデル化する。 Training

Reference https://qiita.com/itok_msi/items/b8b8b0e915533ece430a https://arxiv.org/pdf/1712.02743.pdf Outline この記事が分かりやすいのでそっちで説明 計算例 例えば、あるデータ$x$ の入力に対して、$\sigma(f(x))$ の結果、確率が下記図のようになったとする。

Contents Decision Tree (CART Algorithm) https://towardsdatascience.com/decision-tree-from-scratch-in-python-46e99dfea775 End-to-end Learning of Deterministic Decision Trees https://arxiv.org/pdf/1712.02743.pdf https://qiita.com/itok_msi/items/b8b8b0e915533ece430a TabNet: Attentive Interpretable Tabular Learning https://arxiv.org/pdf/1908.07442.pdf Neural Oblivious Decision Ensembles for Deep Learning on Tabular Data

Reference https://towardsdatascience.com/decision-tree-from-scratch-in-python-46e99dfea775 Decision Tree Ttianic データの決定木(Decision Tree)例。 上記のように決定木は、ある特徴量とその閾値のセットでデータを分岐する構造を持っている。 Node 大きく分けると、終端node（Leaf Nodeと呼んだりするが）とそれ以外のnodeに分かれる。

過去回 第１回：NLP Outline 第２回：Word2Vec 第３回：Doc2Vec 第４回：Seq2Seq 第５回：Seq2Seq Attention 第６回：Transformer 第７回：BERT 初めに

過去回 第１回：NLP Outline 第２回：Word2Vec 第３回：Doc2Vec 第４回：Seq2Seq 第５回：Seq2Seq Attention 第６回：Transformer 元論文 https://arxiv.org/pdf/1810.04805.pdf

過去回 第１回：NLP Outline 第２回：Word2Vec 第３回：Doc2Vec 第４回：Seq2Seq 第５回：Seq2Seq Attention 元論文 https://arxiv.org/pdf/1706.03762.pdf

==ここからが本番！！== いよいよ ==Attention== の登場 過去回 第１回：NLP Outline 第２回：Word2Vec 第３回：Doc2Vec 第４回：Seq2Seq 要点

過去回 第１回：NLP Outline 第２回：Word2Vec 第３回：Doc2Vec 元論文 https://papers.nips.cc/paper/2014/file/a14ac55a4f27472c5d894ec1c3c743d2-Paper.pdf 要点

過去回 第１回：NLP Outline 要点 単語の分散表現を学習するモデルである ニューラルネットワークを用いた教師なしモデルである 学習は「単語の意味は周囲の単語によって形成される」というアイデアに基づく CBOW と skip-gram の２種類のモデルがある

過去回 第１回：NLP Outline 第２回：Word2Vec 元論文 https://cs.stanford.edu/~quocle/paragraph_vector.pdf 要点 Document(文章)の分散表現が得られる

NLP( 自然言語処理 )とは？ ・wikipedia 抜粋 人間が日常的に使っている自然言語をコンピュータに処理させる一連の技術である 例えば、次の文章はほとんど同じような文章だが、その意味は全く異なる。 We gave the monkeys the bananas because they were hungry. 猿が腹を空かせていたので、バナナを与えた。

Plan Outline 単語や文章の分散表現の獲得にまつわる話 Word2Vec, Doc2Vec 代表的な分散表現獲得のモデルについて Seq2Seq ( Attention ) Sequence to Sequence の話。文章の入力から文章を出力するモデル。ここで初めてAttentionが登場する。

$$ f(bin_1,...,bin_N,n_1,...,n_N)=\frac{1}{\sum_{i=1}^{N}n_i}\sum_{i=1}^{N}bin_in_i $$ 誤差は、$n_{error}=\sqrt{n}$ として、$bin_{error}=a$とする 誤差の伝搬式は $$ \delta f(x_1,x_2,...,x_n)\equiv \sqrt{\left( \frac{\partial f}{\partial x_1}\right)^2(\delta x_1)^2 +\left( \frac{\partial f}{\partial x_2}\right)^2(\delta x_2)^2 + ... + \left( \frac{\partial f}{\partial x_n}\right)^2(\delta x_n)^2} $$ である。 $$

Aproach NNにCNNを組み込んで学習させる。 通常得られる４つの状態（カート位置、カート速度、棒角度、棒角速度）は使用せず、ゲーム画像のみを使用する。 CNNを使ったアプローチとして下記を検討する 状態$S^{t}$ のみの画像を状態とする 状態$S^{t}$ と 過去状態$S^{t-i}$ の画像を状態とする Aproach 1. 状態$S^{t}$ のみの画像をinputとする

Why change from TSP ? Policy Gradient で少し詰まったので正解のある問題設定で検証したかった CartPole はインターネット上の先人がやり尽くしているので、学習がうまくいくハイパーパラメータや報酬設定の正解がある What is CartPole ? CartPoleとは、棒のバランスをとるゲームです。 どれだけ長く棒を立てていられるかを競います。