# Processing with AI ## Partie 2: 👩‍⚖️ Ethics of AI Nom - Prénom : > Goulard-Souliez Inès > Sujet : > Détecter les maladies rares dans les résultats médicaux (analyses de sang, IRM, radiologie, etc.) grâce à l'apprentissage automatique. >[TOC] ## Cahier des charges ### Biais Si notre jeu de données n'est pas conçu avec suffisamment de rigueur, les biais suivant risquent d'apparaître : >1. a >2. b >3. c Nous allons donc nous assurer que notre modèle n'est pas biaisé en : >1. Sourçant nos données depuis des sites fiables >2. S'assurant que nos données prennent en compte… *(ce biais potentiel)* >3. ... ### Overfitting Nous allons nous assurer que notre modèle ne sera pas dans une situation de sur-apprentissage (overfit) en : Vérifiant la précision de notre modèle sur… ### Usages détournés >Nous devons nous rappeler que notre application pourrait être utilisée de façon malveillante par des utilisateurs mal intentionnés et > pour … ### Fuite de données > Dans un scénario catastrophe, au cours duquel l'entièreté de notre jeu de données d'entrainement serait disponible au grand public, le risque serait que… **ET** > Nous avons décidé de rendre public et accessible à tous notre jeu de données d'entrainement, mais avant, nous avons pris les précautions suivantes : sécuriser toutes les données, en mettant en place un accés privé par utilisateur. Cela signifie, par l'intermédiaire d'un identifiant et d'un mot de passe. Ainsi, les résultats seront visible uniquement aux patients concernés. La mise e ### Piratage > Si une personne trouvait un moyen de "tromper" notre modèle et modifier son comportement à volonté, le risque serait que les données de milliers de patients soit rendues publiques ou exploités à des fins maveillantes. > Dans ce secteur d'activité, la notion de secret médical et de protection des données des patients est fondamentale, toutes les hypothèses de piratage doivent être attentivement étudiés pour que ce type d'attaque soient rendu impossible. Une telle attaque pourrait engendrer de très lourdes conséquences comme un recours judiciaire de la part des patients concernés.