Processing with AI
## Partie 2: 👩‍⚖️ Ethics of AI

Nom - Prénom :
Schmitz
Emilien

Sujet :
Detect rare diseases in medical results (blood tests, MRI, radiology, etc.) using Machine Learning

>[TOC]

## Cahier des charges

### Biais

Si notre jeu de données n'est pas conçu avec suffisamment de rigueur, les biais suivant risquent d'apparaître :

1. **Biai de lien de causalité entre les données** et la maladie
**Exemple** : Le programme pourrait diagnostiquer du diabète en relevant le taux de fer. Cette erreur pourrait provenir du fait que la plupart des diabétiques du jeu de données ont un taux de fer élevé alors que cela n'a aucun lien de causalité avec le diabète.
2. **Biai de discrimination des maladies**
**Exemple** : Une maladie rare non représentée dans le jeu de données pourrait ne pas être détecté par le programme. Il faut donc un jeu de données soit assez important pour couvrir le nombre maximum de maladies.
3. **Biai de discrimination des populations**
**Exemple** : Un jeu de données concentré sur une population géographique, sur un genre ou sur un âge pourrait passer à côté de maladies.
**Au niveau géographique**, les maldadies sont inégalement réparties sur Terre.
**Au niveau des genres**, des maladies peuvent être plus présentes chez les hommes que chez les femmes et inversement voir absente dans un genre comme pour l'endométriose (ne touchant que les femmes).
**Au niveau de l'âge**, les maladies infantines et les maladies liées à la vieillesse pourraient être ignorées si le jeux de données et mal réparties.

Nous allons donc nous assurer que notre modèle n'est pas biaisé en :

1. Sourçant nos données depuis des sources médicales sures tels des hopitaux, des cliniques, des professionnels de santé ou des associations médicales. En bref, provenant d'une institution médicale fiable.
2. S'assurant que nos données prennent en compte les biais de discrimination en se basant sur un jeux varié et bien réparti en termes de population géographique, d'âge et de genre.
3. S'assurer d'avoir un jeu de données complet couvrant le nombre de maladies rares le plus vaste possible.

### Overfitting

Nous allons nous assurer que notre modèle ne sera pas dans une situation de sur-apprentissage (overfit) en :

Testant le modèle sur différentes maladies pour repérer si ce dernier trouve le bon lien de causalité entre les symptomes du patients et la maladie du patient.

### Usages détournés

Nous devons nous rappeler que notre application pourrait être utilisée de façon malveillante :
* **Scénario 1 (moins pessimiste)** :Si un assureur mettait la main sur ce jeu de données, il pourrait les utiliser à des fins commerciales vis à vis de ses clients ou pour prospecter des nouveaux clients.
* **Scénario 2 (plus pessimiste)** : Les données ont été rendues publiques par un coeur. Ainsi de nombreuses entreprises se sont emparées des données et pourraient s'en servir commme d'un critère d'embauche en évitant des personnes atteintes de maladies graves voire en licenciant ces personne si elles se trouvent déjà dans l'entreprise.

### Fuite de données

**🔐 Closed source:** Dans un scénario catastrophe, au cours duquel l'entièreté de notre jeu de données d'entrainement serait volé ou récupéré à partir de notre modèle, le risque serait que les informations médicales des personnes du jeu de données soit utilisées à des fins commerciales, sortant d'un milieu médical. Un véritable sujet de sécurité de données sensibles est soulevée et nous pourrions être punis pénalement pour ne pas avoir assurer la confidentialité de données sensibles.

En France, les catégories de données personnelles sensibles sont limitativement énumérées par la loi Informatique et Libertés du 6 janvier 1978 (article 8). Il s’agit des données faisant apparaître ou concernant :
* Les origines raciales ou ethniques ;
* Les opinions politiques, les convictions religieuses ou philosophiques ;
* L’appartenance syndicale ;
* La santé;
* La vie sexuelle.

**Le traitement de données sensibles est interdit par la loi Informatique et Libertés** (article 8), sous peine de sanctions pénales allant **jusqu'à 5 ans d'emprisonnement et 300 000 € d'amende**.

### Piratage

Si une personne trouvait un moyen de "tromper" notre modèle et modifier son comportement à volonté, le risque serait que des patients soient que le diagnostic médical soit faussé.

**Deux cas sont à mettre en lumière :**
1. Une personne pourrait être diagnostiquée d'une maladie grave qu'elle n'a pas en réalité. Des traitements lourds et inutiles pourraient être intentées sur un patients, pouvant entraîner des effets secondaires irréversibles et des maladies iatrogènes.
2. Une personne réellement atteinte par une maladie rare pourrait ne pas être diagnostiquée à temps, ce qui peut mettre sa vie en danger.