# Processing with AI ## Partie 2: 👩‍⚖️ Ethics of AI Nom - Prénom : > LE BIHAN > Alison Sujet : > Monitor student attention in class using Computer Vision >[TOC] ## Cahier des charges ### Biais Si notre jeu de données n'est pas conçu avec suffisamment de rigueur, les biais suivant risquent d'apparaître : >1. Un élève ou un professeur peut ne pas être reconnu par l'IA >2. Il peut y avoir une erreur de jugement de l'IA concernant la concentration des élèves >3. Il peut y avoir une erreur de jugement de l'IA concernant l'intérêt suscité par le professeur >4. Les élèves ne sont pas tous intéressés par les mêmes matières : un élève peut être inattentif au cours d'un très bon professeur >5. Un élève qui aura compris rapidement un point expliqué par le professeur aura plus facilement tendance à être déconcentré quand le professeur reprendra son explication pour les élèves qui n'ont pas encore compris Nous allons donc nous assurer que notre modèle n'est pas biaisé en : >1. Sourçant nos données depuis plusieurs classes d'élèves avec plusieurs professeurs >2. S'assurant que nos données prennent en compte les expression des élèves concentrés >3. S'assurant que nos données prennent en compte les différentes réactions face aux explications du professeur >4. En prenant en compte des données de différentes périodes de la journées pour anticiper les variations d'attention au cours de la journée ### Overfitting Nous allons nous assurer que notre modèle ne sera pas dans une situation de sur-apprentissage (overfit) en : > Vérifiant la précision de notre modèle sur plusieurs classes et professeurs de plusieurs établissements ### Usages détournés >Nous devons nous rappeler que notre application pourrait être utilisée de façon malveillante par des élèves pour faire croire qu'ils sont attentifs alors qu'ils ne le sont pas. >Cette application pourrait également servir à des personnes mal intentionnées qui pourraient vouloir faire punir un élève en faisant croire qu'il n'est pas assez attentif. >Il y a également un risque qu'une personne mal intentionnée se serve de cette application pour faire croire qu'un professeur est inintéressant dans le but de le faire renvoyer. ### Fuite de données ***Choisissez** la proposition qui s'applique le mieux selon vous concernant votre **jeu de données**:* > **🔐 Closed source:** Dans un scénario catastrophe, au cours duquel l'entièreté de notre jeu de données d'entrainement serait volé ou récupéré à partir de notre modèle, le risque serait en premier lieu que les données personnelles des professeurs et des élèves soient rendues publiques (visage, nom et établissement scolaire). De plus, certains professeurs pourraient être catalogués de "mauvais professeurs" parce que le modèle montrera que ces professeurs suscitent moins d'intérêt, ce qui pourrait nuire à leur carrière. Cela pourrait également compliquer les chances de certains élèves pour leur carrière s'il vient à fuiter qu'ils ne sont pas très attentifs en classe. ### Piratage > Si une personne trouvait un moyen de "tromper" notre modèle et modifier son comportement à volonté, le risque serait qu'elle pourrait faire passer de très bons professeurs pour mauvais et inversement, et faire de même avec les élèves. > Un professeur qui piraterait ce modèle pourrait se faire passer pour le meilleur professeur et discréditer ses collègues. > Un élève qui piraterait ce modèle pourrait se faire passer pour l'élève le plus attentif et discréditer ses camarades.