# Processing with AI ## Partie 2: 👩‍⚖️ Ethics of AI Nom - Prénom : > Mazza Augustin > Sujet : > 🎥 Monitor student attention in class using Computer Vision >[TOC] ## Cahier des charges ### Biais Si notre jeu de données n'est pas conçu avec suffisamment de rigueur, les biais suivant risquent d'apparaître : >1. Biais de sélection des participants, élèves ou enseignants >2. Impact des matières présentées lors des périodes d'études et d'entraînement de l'algorithme >3. Heures d'observations car le niveau d'attention n'est pas le même à toute heure de la journée Nous allons donc nous assurer que notre modèle n'est pas biaisé en : >1. Sourçant nos données depuis des échantillons les plus diverses et aléatoires possibles >2. S'assurant que nos données prennent en compte les différents impacts des matières et des horaires ### Overfitting Nous allons nous assurer que notre modèle ne sera pas dans une situation de sur-apprentissage (overfit) en : > Vérifiant la précision de notre modèle sur l'attention en comparant les résulats avec des observations terrains internes et externes (ie ressenti des participants et d'observateurs externes) > Testant le niveau d'attention réel par rapport à celui estimé ### Usages détournés >Nous devons nous rappeler que notre application pourrait être utilisée de façon malveillante par des sociétés privées d'aggrégation de données pour établir des profils de scorring d'individus. ### Fuite de données ***Choisissez** la proposition qui s'applique le mieux selon vous concernant votre **jeu de données**:* > **🔐 Closed source:** Dans un scénario catastrophe, au cours duquel l'entièreté de notre jeu de données d'entrainement serait volé ou récupéré à partir de notre modèle, le risque serait de pouvoir identifier extrêmement facilement les participants car une anonymisation totale des participants ne semble pas possible sans compromettre l'efficacité du dataset. Des personnes mal-intentionnées pourrait utiliser les attitudes des participants pour nuire à leur carrière. **OU** > **🔓 Open source:** Nous avons décidé de rendre public et accessible à tous notre jeu de données d'entrainement, mais avant, nous avons pris les précautions suivantes : … ### Piratage > Si une personne trouvait un moyen de "tromper" notre modèle et modifier son comportement à volonté, le risque serait qu'il serait à même de se montrer plus attentif et donc d'obtenir un avantage significatif dans le scoring effectué par l'algorithme.