# PFEE - GE Healthcare 2 # Probleme * La fluoroscopie ne montre pas toutes les informations * Injection cause des contrastes # Solutions Scanner preoperatoire 2-3 mois en amont ## Pendant l'operation Fusion manuelle des 2 modalites ![](https://i.imgur.com/ppzMEj1.png) ## En resume * Premiere donnee: image 2D (fluoroscopie) * Seconde donnee: volume 3D (scanner CT) # But du projet Automatisation de ce processus ## But de l'agent ![](https://i.imgur.com/WgbpGSh.png) # Generation de donnees ## Recherches de donnees publiques Fichiers .DICOM * Ensemble de coupes d'un patient donne ## Generation de donnees Pour un scanner donne: * Reconstruction volume 3D * Generation de projection Pour une projection: * Generation de *patches* Donnees 2D uniquement Notre projet: recalage 2D/2D afin de se concentrer sur la mise en place d'une architecture globales # Apprentissage par renforcement * Trouver la meilleure sequence d'actions permettant d'aligner 2 images * Un agent artificiel apprend la meilleure *strategie* ## Q-learning * But de l'agent de trouver la *policy* * La notion de *q-value* renvoie a la recompense obtenue sur le long terme ## Apprentissage par renforcement supervise q-values deja calculees avant l'apprentissage * On va faire une regressions entre q-value et output du reseau * Permet d'avoir une convergence plus stable ## Role du reseau de neurones * Determiner action optimale pour chaque etat * Estimer les q-values pour chaque paire etat/action ![](https://i.imgur.com/zmoF2MA.png) * Le reseau prend un etat en entree et retourne les q-vqlues pour chaque action ## Pre-traitement * Patch normalise entre 0 et 1 ![](https://i.imgur.com/WtRNDm5.png) ## Phase d'entrainement ![](https://i.imgur.com/Bq8dOV8.png) ## Obtention des images a chaque etape d'inference * Choisi action parmi 6 pour q-value maximale * Applique l'action # Resultats ![](https://i.imgur.com/NZ0WcGG.png) ![](https://i.imgur.com/KB5VlPV.png) ## Reduction de la dimension du probleme ![](https://i.imgur.com/2xLtkkE.png) # Conclusion Ce que le projet nous a apporte * Montee en competences * Recalage d'image * Imagerie medicale Ce que le projet a apporte a GE * Meilleure connaissance des bases de donees publiques * Premiere approche de l'apprentissage par renforcement # Questions ## Guillaume Tochon C'est quoi `epsilon policy` ? > Fonction qui permet de diriger exploration et exploitation ## Elodie Puybareau Le temps de traitement sur une image ? > Relativement instantanee # Retours GE Healthcare Retour globalement positif, resultat fonctionnel