# Processing with AI ## Partie 2: 👩‍⚖️ Ethics of AI Nom - Prénom : Paul BLACHE Sujet : 🎥 Monitor student attention in class using Computer Vision >[TOC] ## Cahier des charges ### Biais Si notre jeu de données n'est pas conçu avec suffisamment de rigueur ou si certaines conditions ne sont pas remplies, les biais suivant risquent d'apparaître : >1. Les personnes issues d'une éthnie qui n'est pas assez représentée dans la conception du modèle risqueraient de voir l'analyse de leur comportement totalement faussée. >2. Si le nombre de tricheurs appartenant à une même éthnie est trop important le modèle pourrait avoir tendance à désigner de façon trop importante des individus de celle comme tricheurs à tort. >3. Si les webcams qui produisent le flux vidéo ne sont pas d'assez bonne qualité, on pourrait avoir une pertrubation importante du modèle qui ne serait pas capable de déceler parfaitement le mouvement des yeux... Nous allons donc nous assurer que notre modèle n'est pas biaisé : >1. Il faut s'assurer que que le jeu de données du modèle prenne en compte des individus de toutes les ethnies et qu'aucune ne soit surreprésentée. >2. De plus, il faut impérativement que l'on ait la même proportion de tricheurs pour chaque éthnie pour ne pas fausser les données. >3. Il est nécessaire que lors de la constitution du jeu de données les webcams utilisées pour capter le flux vidéo garantissent une qualité optimale mais également que celles utilisées lors de l'application aient ces mêmes garanties. ### Overfitting Nous allons nous assurer que notre modèle ne sera pas dans une situation de sur-apprentissage (overfit) en : > Vérifiant la précision de notre modèle sur deux échantillons distincts de personnes. Le premier sera celui qui permettra de calibrer le modèle en respectant les critères cités plus haut. Ensuite, il sera nécessaire de tester ce modèle avec un second échantillon de validation et de tirer des conclusions si les résultats s'avèrent satisfaisants. ### Usages détournés >Nous devons nous rappeler que notre application pourrait être utilisée de façon malveillante par des hackers qui prendraient le contrôle des webcam des individus à leur insu et ainsi analyser leur comportements à des fins personnels ### Fuite de données > **🔐 Closed source:** Dans un scénario catastrophe, au cours duquel l'entièreté de notre jeu de données d'entrainement serait volé ou récupéré à partir de notre modèle, le risque serait que des pirates informatiques pourraient ainsi pénétrer les ordinateurs des élèves et accéder à leur données personnelles. Aussi, on peut imaginer qu'ils pourraient capter le flux vidéo, l'enregistrer et utiliser certaines technologies comme le deepfake pour manipuler ces images. ### Piratage > Si une personne trouvait un moyen de "tromper" notre modèle et modifier son comportement à volonté, le risque serait que certaines élèves arrivent ainsi à tricher impunément puisque le logiciel ne serait plus capable de détecter leur comportement suspicieux. Ceci créérait alors une inéquité entre les participants de l'examen.