# PINN : Physics Informed Neural Network :::info :bulb: PINN不涉及實際應用的簡單整理&紀錄 ::: ### :small_blue_diamond: **Date:** 2024-04-30 ![image](https://hackmd.io/_uploads/HkHY-CTbC.png) ## <font color="9F584A">Content</font> #### ✔ [相關延伸研究](####相關延伸研究) #### ✔ [PINN原文簡介](###原文簡介) --- ### <font color="#4A899F">Paper</font> #### PINN原始文章 [Physics-informed neural networks: A deep learning framework for solving forward and inverse problems involving nonlinear partial differential equations](https://www.sciencedirect.com/science/article/pii/S0021999118307125) (2019) #### 相關延伸研究 >1. [Physics-Informed Machine Learning: A Survey on Problems, Methods and Applications](https://arxiv.org/pdf/2211.08064)(2023) >2. [A comprehensive study of non-adaptive and residual-based adaptive sampling for physics-informed neural networks](https://arxiv.org/abs/2207.10289)(USC,UPenn,GeorgiaTech,2022) >3. [Gradient-enhanced physics-informed neural networks for forward and inverse PDE problems](https://arxiv.org/abs/2111.02801)(Dallas,UPenn,Brown University,2022) >4. [CAN-PINN: A Fast Physics-Informed Neural Network Based on Coupled-Automatic-Numerical Differentiation Method](https://arxiv.org/abs/2110.15832)(A*STAR, Nanyang Technological University,2022) >5. [Self-adaptive physics-informed neural networks](https://arxiv.org/abs/2009.04544)(Texas A&M University, United States of America,2022) ## ### <font color="#4A899F">原文簡介</font> :::info Physics-informed neural networks: (2019) A deep learning framework for solving forward and inverse problems involving nonlinear partial differential equations ::: ### ◼作者 M. Raissia, P. Perdikarisb, George Em Karniadakisa a . Brown University, b . University of Pennsylvania ### ◼基本概念 藉神經網路函數逼近器的特性,再以Physical loss的形式加入描述系統的物理方程式至神經網路中,限制解的空間。因此,PINN可使模型學習訓練數據本身的分布也可以遵循物理規範。 ### ◼效益 加入描述系統的方程式,使用較少的訓練數據得到泛化能力好的模型。 ### ◼Loss function PDE可以下列方式表示,𝒩[𝑢;𝜆]為PDE非線性項。 ![image](https://hackmd.io/_uploads/HkvQNA6-R.png =50%x) MSE_u為NN的損失項(Data loss),MSE_f為物理信息的損失項(Physical loss) ![image](https://hackmd.io/_uploads/BJy_VCT-0.png =50%x) ### ◼Structure 比起一般NN,PINN只多了後面綠色PDE(physical)的部分。 | ![image](https://hackmd.io/_uploads/HJIvv0Tb0.png =70%x) | | :--------: | <p class="text-center">(這張架構圖非出自原文)</p> <p class="text-center"> https://blog.csdn.net/DENGSHUCHAO152/article/details/124644175</p> ## ### <font color="#4A899F">Problem Setup</font> | 過去如何解PDE? | 神經網路解PDE | 單純數據驅動模擬系統 | | :-------: | :-------: | :-------: | | 數值解(有限元素法FEM、差分法FDM、體積法FVM…)、解析法(積分變換、變數分離….) | <div style="width: 150pt">Universal approximation theorems指出神經網路有逼近任意非線性函數的特性</div> | 對系統方程式未知,直接使神經網路學習系統,需要有夠大量的數據,PINN加入物理信息(PDE,ODE)可使訓練數據更有效率被使用。 | ## ### <font color="#4A899F">Forward problem and inverse problem</font> 👉Forward problem: 在已知方程式係數的情形下訓練模型,比較像是一般神經網路再加上限制式(soft constraint) 👉Inverse problem: 如神經網路參數w,b,不過這裡要優化的參數是指方程式中的係數,模型訓練過程中方程式係數會持續更新找最佳解,如:熱傳導係數、剛性係數等等 | ![image](https://hackmd.io/_uploads/SJxWCApZ0.png =80%x) | | :--------: | . . . . . . . . . . . . 👉