---
# System prepended metadata

title: Processing with AI

---

# Processing with AI
## Partie 2: 👩‍⚖️ Ethics of AI

Nom - Prénom :
> Caro
> Solène
Sujet : 
> Surveiller l'attention des élèves en classe à l'aide de la vision par ordinateur

>[TOC]

## Cahier des charges

### Biais

Si notre jeu de données n'est pas conçu avec suffisamment de rigueur, les biais suivant risquent d'apparaître :

>1. Exclusion de certains visages / images stéréotypées : Par exemple l'agorithme peut avoir une vision racisée où il va confondre deux étudiants noirs. Si l'un triche, il confondra les deux étudiants noirs et accusera de tricherie l'un alors que c'est l'autre.
>2. Mauvaise perception des mouvements : Par exemple si un étudiant regarde de gauche à droite, l'algorithme peut considérer cela comme de la triche car il ne regarde pas la caméra.
>3. Une disparité sexiste ou transphobe où l'algorithme reconnait principalement la catégorie Homme Blanc Hétérosexuel. Si par exemple un étudiant à une crete colorée, l'algorithme doit le reconnaitre et le marquer comme présent.

Nous allons donc nous assurer que notre modèle n'est pas biaisé en :

>1. Sourçant nos données depuis un closed source afin de garder la confidentialité et le droit à l’image des étudiants. (éviter des failles de sécurité)
>2. S’assurant que nos données prennent en compte la diversité des visages (personnes noires, asiatiques, transgenres par exemple). Le but est vraiment de diversifier la base de donnée afin qu’elle ne soit pas exclusive et qu’elle puisse reconnaître tout le monde (égalité d’équité)
>3. Detectant tout type de mouvements (regard de l'écran, de la caméra, de gauche à droite) mais également différencier l'étudiant d'une autre personne, d'un objet, d'animaux. Le but est d’aider l’ordinateur à apprendre ce qu’il doit privilégier quand il regarde certaines scènes (ici l’étudiant)

### Overfitting

Nous allons nous assurer que notre modèle ne sera pas dans une situation de sur-apprentissage (overfit) en :
> Vérifiant la précision de notre modèle sur son modèle d’apprentissage. Un modèle d’apprentissage approfondi qui est capable de détecter différentes émotions, de suivre le regard de l’étudiant, de faire la différence entre un objet, animal et un être humain, de reconnaître les visages (de différencier l’étudiant à un autre être humain) est indispensable. Ce modèle d’apprentissage approfondi aide les machines à détecter les informations importantes dans leur champs de vision tels que les expressions de visage, le détournement du regard voire l'identité de l'étudiant.

### Usages détournés

>Nous devons nous rappeler que notre application pourrait être utilisée de façon malveillante par des personnes anonymes qui peuvent créer des Deep Fake pour bizuter ou ridiculiser un étudiant. En effet, puisque la caméra est allumée, la personne peut créer une fausse vidéo d’un étudiant disant quelque chose qu’il n’a jamais dit à tendance raciste ou homophobe par exemple.

### Fuite de données
***Choisissez** la proposition qui s'applique le mieux selon vous concernant votre **jeu de données**:*

> **🔐 Closed source:** J’ai choisi “Closed source” car c’est un logiciel fermé au public, conçu pour être utilisé dans une entreprise comme une école de commerce afin de protéger les détails des étudiants et contrôler son image de marque. De plus, la gestion informatique est plus facile, il y a une véritable assistance technique et convivialité derrière en cas de problème.
Dans un scénario catastrophe, au cours duquel l’entièreté de notre jeu de données d’entrainement serait volé ou récupéré à partir de notre modèle, le risque serait que la résolution du problème peut prendre beaucoup plus de temps car seul le pôle technique et/ou informatique de l’école de commerce peut intervenir. De plus les étudiants peuvent porter plainte directement à l'école qui devait assurer la sécurité des données. Seule l'école de commerce en est responsable et peut intervenir.

### Piratage

> Si une personne trouvait un moyen de "tromper" notre modèle et modifier son comportement à volonté, le risque serait que toutes les données privées soient volées et que seule l'entreprise propriétaire puisse trouver une solution. La correction sera sans doute plus longue  car tout le monde ne peut pas pointer les erreurs. Le risque de piratage en closed source est moins récurrente mais si cela arrive, l'entreprise aura beaucoup plus de mal à gérer cette situation qu'en open source. 