---
# System prepended metadata

title: Processing with AI

---

# Processing with AI
## Partie 2: 👩‍⚖️ Ethics of AI

Nom - Prénom :
> Omar ERRACHID ZINE
> 
Sujet : 
> Monitor student attention in class using Computer Vision
>[TOC]

## Cahier des charges

### Biais

Si notre jeu de données n'est pas conçu avec suffisamment de rigueur, les biais suivant risquent d'apparaître :

>1. Détection de personnes non attentives à causes d'apparences physiques différentes
>2. Changements de paramètres selon les classes (classes qui demandent beaucoup de participation contre classes qui demandent juste de l'attention)
>3. Détection de fausses données selon les positions (tête baissée pour réfléchir, tête cachée par les cheveux longs etc...)
>4. Les analyses peuvent varier selon les pays où les modes d'enseignement ne sont pas les mêmes

Nous allons donc nous assurer que notre modèle n'est pas biaisé en :

>1. Des bases de données avec des personnes de différentes ethnies réparties sous formes égales
>2. S'assurant que nos données prennent en compte toutes les caractéristiques d'une classe (demande de participation, demande de reflexion tec...)
>3. En entrant les paramètres d'analyse selon les endroits où nous voulons instaurer cette intelligence artificielle

### Overfitting

Nous allons nous assurer que notre modèle ne sera pas dans une situation de sur-apprentissage (overfit) en :
> Le risque avec l'apprentissage de cette intelligence artificielle est de prendre en compte que quelques certaines positions ou expressions du visage comme étant celles d'élèves concetrés, et que dans un certain pays. Mais les critères de concentration peuvent différer enormément selon les endroits. Il faut donc veiller à ce que l'apprentissage de l'intélligence s'adapte bien aux changements de situation et qu'elle ne prenne pas en compte qu'une seule comme étant la correcte.

### Usages détournés

>Nous devons nous rappeler que notre application pourrait être utilisée de façon malveillante par les établissements scolaires ou les établissements d'ensegnement supérieur pour inclure dans le dossier des élèves des caractéristiques telles que la concentration, ou d'un autre côté de n'accepter ou de ne privilégier que des élèves avec un fort taux de concentration. Il en va de même avec le mérite, où l'un des critères pour la obtenir une bourse seraient les données émises par cette intelligence artificielle.

### Fuite de données
*Choisissez la proposition qui s'applique le mieux selon vous:*

> Nous avons décidé de rendre public et accessible à tous notre jeu de données d'entrainement, mais avant, nous avons pris les précautions suivantes : 
    > Les données personnelles des élèves doivent être totalement anonymes, et même détruites pour éviter qu'il y ait un lien entre les données et les élèves, et ne garder que les données utiles pour des fins statistiques ou d'amélioration du système.
    > Veiller à ne poster ce jeu de données que dans des sites qui présentent un maximum de sécurité pour éviter qu'il ne soit utilisé par des personnes malveillantes.
    > De bien siter les conditions dans lesquelles nos données ont été entraînées pour éviter que d'autres utilisateurs les utilisent dans des conditions totalement différentes et d'avoir des résultats totalement faussés, ou au contraire de changer les paramètres pour les adapter à leur conditions.

### Piratage

> Si une personne trouvait un moyen de "tromper" notre modèle et modifier son comportement à volonté, le risque serait que des personnes adaptent les résultat à certains comportements et vendent ces comportements à d'autres élèves pour qu'ils puissent changer leur taux sans pour autant changer de concentration.
> Par ailleurs, les images collectées pour les analyses peuvent être volées à des fins pédopornographiques ou autres qui peuvent résulter à une mise en danger de la sécurité des élèves.