---
# System prepended metadata

title: Processing with AI

---

# Processing with AI
## Partie 2: 👩‍⚖️ Ethics of AI

Nom - Prénom :
> Vaquier Pierre
> 
Sujet : 
> 💕 Améliorer l'algorithme des applis de rencontre en utilisant le traitement automatique du langage naturel pour analyser le texte présent dans le profil des utilisateurs et dans les conversations privées.
> 

>[TOC]

## Cahier des charges

### Biais

Si notre jeu de données n'est pas conçu avec suffisamment de rigueur, les biais suivant risquent d'apparaître :

>1. Recommendations peu qualitatives pour les personnes avec des centres d'intérêt et des sujets de discussion peu communs ;
>2. Mauvaise prise en compte des préférences des homosexuels dû une prépondérence des données liées à des comptes d'hétérosexuels ;
>3. Faible efficacité avec les personnes parlant un dialecte français ou une autre langue minoritaire en France (si le jeu de données prend en compte des conversations en français);

Nous allons donc nous assurer que notre modèle n'est pas biaisé en :

>1.Prenant en compte des profils avec une grande diversité de personnalité et de goûts personnels;
>2. Sourçant nos données depuis des profils et des conversations de tous les profils composant une société (LGBT ou autres ethnies)
>3. S'assurant que nos données prennent en compte différentes langues ou niveau de langue ;

### Overfitting

Nous allons nous assurer que notre modèle ne sera pas dans une situation de sur-apprentissage (overfit) en :
> Vérifiant la précision de notre modèle sur des jeux de données provenant de profils issus des minorités.

### Usages détournés

>Nous devons nous rappeler que notre application pourrait être utilisée de façon malveillante par un possible gouvernement autoritaire pour stigmatiser des personnes issues de minorités ou des opposants politiques.

### Fuite de données

> **🔐 Closed source:** Dans un scénario catastrophe, au cours duquel l'entièreté de notre jeu de données d'entrainement serait volé ou récupéré à partir de notre modèle, le risque serait que la vie privée de millions d'utilisateurs serait baffouée et divulguée aux yeux de tous sur internet. Cela permettrait un trafic de données personnelles sur internet, pouvant mener à du chantage, à des campagnes d'humiliations ou à un ciblage publicitaire encore plus précis et agressif. Enfin, l'entreprise en charge de l'utilisation de ces données pourrait être poursuivie en justice.

### Piratage

> Si une personne trouvait un moyen de "tromper" notre modèle et modifier son comportement à volonté, le risque serait que l'algorithme se montre inefficace et qu'un grand nombre d'utilisateurs quittent l'application.
