# Perceiver: General Perception with Iterative Attention

###### tags : `Study Meeting`

## :cat: Paper Info

Conference : ICML

Year : 2021

Paper : [PDF](https://arxiv.org/pdf/2103.03206.pdf)

Total Citation(Recent) :

Refs :

<br>

## :palm_tree: Abstract


モーダル依存のないTransformerを目指す.従来のTansformerにCrossAtenntionレイアーを追加し、そのパラメータを学習させることで、軽量化と様々なモーダルに対応した柔軟性の両面を確保。

<br>

## :fireworks: Method

前半のCross Attentionが追加の提案部分。



<br>

## :bar_chart: Results


<br>

## :ledger: Memo

<br>