---
# System prepended metadata

title: Processing with AI

---

# Processing with AI
## Partie 2: 👩‍⚖️ Ethics of AI

Nom - Prénom :
> Laraki
> Ghali
>
Sujet : 
> Improve dating apps matching algorithms using NLP

>[TOC]

## Cahier des charges

### Biais

Si notre jeu de données n'est pas conçu avec suffisamment de rigueur, les biais suivant risquent d'apparaître :

>1. L'algorithme se baserait sur les origines ethniques des individus et renforcerait les préjugés raciaux existants.
>2. Le jeu de données ne permettrait pas à des personnes dont la différence d'âge est importante de se rencontrer.
>3. Le niveau de langage utilisé en message privé favoriserait la rencontre de personnes issues uniquement du même niveau socio-intellectuel.

Nous allons donc nous assurer que notre modèle n'est pas biaisé en :

>1. Ne basant pas l'algorithme de rencontres sur des critères ethniques.
>2. S'assurant que nos données permettent d'éviter d'effectuer des rencontres basées sur les habitudes des autres utilisateurs.

### Overfitting

Nous allons nous assurer que notre modèle ne sera pas dans une situation de sur-apprentissage (overfit) en :
> Evaluant les prédictions faites sur l’ensemble des données ou en moyennant les performances obtenues.


### Usages détournés

>Nous devons nous rappeler que notre application pourrait être utilisée de façon malveillante par des entreprises pour récupérer les données des utilisateurs. 

### Fuite de données
***Choisissez** la proposition qui s'applique le mieux selon vous concernant votre **jeu de données**:*


> **🔓 Open source:** Nous avons décidé de rendre public et accessible à tous notre jeu de données d'entrainement, mais avant, nous avons pris les précautions suivantes : supprimer l'historique pour éviter que les clés stockées deviennent accessibles et s'assurer qu'il n'y a pas de failles.

### Piratage

> Si une personne trouvait un moyen de "tromper" notre modèle et modifier son comportement à volonté, le risque serait que le comportement attendu du modèle soit modifié, de dégrader les performances du modèle pour le rendre inutilisable ou de lui faire révéler des données jusque là confidentielles. 
