# Processing with AI ## Partie 2: 👩‍⚖️ Ethics of AI Nom - Prénom : Lemoyne - Agathe > ... > Sujet : Détecter les problèmes dermatologiques en utilisant l'intelligence artificielle > ... >[TOC] ## Cahier des charges ### Biais Si notre jeu de données n'est pas conçu avec suffisamment de rigueur, les biais suivant risquent d'apparaître : >1. Le système n'identifie pas ou ne reconnait pas le problème cutané à cause de sa taille et de son aspect >2. Le résultat de l'analyse est faussée ou le diagnostique est incorrect >3. Le système ne reconnaît pas le problème à cause de la couleur de peau de la personne concernée Nous allons donc nous assurer que notre modèle n'est pas biaisé en : >1. Sourçant nos données depuis la bonne base de données médicales et sur divers types de peau (couleur, âge) >2. S'assurant que nos données prennent en compte les différents problèmes cutanés existant et leur aspect, mais aussi les différentes couleurs de peau >3. Le système doit pouvoir visualiser des détails très profonds afin de saisir les plus petits symptômes. ### Overfitting Nous allons nous assurer que notre modèle ne sera pas dans une situation de sur-apprentissage (overfit) en : > Prenant en compte la diversité des patients en termes d'âge, de sexe et d'origine. > Effectuant de nombreuses expériences sur plusieurs modèles. ### Usages détournés > Nous devons nous rappeler que notre application pourrait être utilisée de façon malveillante par les professionnels pour faire une action illégale ou malhonnête sur leur patient en leur transmettant une information erronée sur la pathologie. ### Fuite de données > Dans un scénario catastrophe, au cours duquel l'entièreté de notre jeu de données d'entrainement serait disponible au grand public, le risque serait que les données des pathologies des patients fuitent et qu'elles tombent entre les mains d'entreprises qui les utiliseraient pour vendre leur produit de façon illégale ou malhonnête. Aussi, si les données fuitent, le risque est par exemple qu'une famille aprenne qu'un proche est atteint d'une maladie grave sans que celui-ci soit au courant de sa malade ou ait attesté de son intention de la révéler à ses proches. ### Piratage > Si une personne trouvait un moyen de "tromper" notre modèle et modifier son comportement à volonté, le risque serait qu'une industrie ou entreprise pharmaceutique pirate les données et incite les patients à acheter ses produits.