# Processing with AI ## Partie 2: 👩‍⚖️ Ethics of AI Nom - Prénom : DE SAINT-EXUPERY Baudouin > ... > Sujet : 🎥 Surveiller l'attention des élèves en classe grâce à la vision par ordinateur > Avec l'émergence des cours en ligne et des téléphones portable les élèves n'ont jamais été aussi distraits durant les cours, tant en présentiel qu'en distanciel. Ce programme utilisant l'intelligence artificielle permet de détecter quelle partie des cours intéresse le plus les élèves, quelles matières intéressent le plus, quel professeur captive le plus et comment. > >[TOC] ## Cahier des charges ### Biais Si notre jeu de données n'est pas conçu avec suffisamment de rigueur, les biais suivant risquent d'apparaître : >1. L'algorithme ne reconnaitra pas tous les élèves et la vision globale sera truqué >2. L'algorithme pourrait ne pas différencier une participation active des élèves à un chahut généralisé >3. L'algorithme prends en compte l'attention des élèves donc s'il n'est pas assez précis il ne pourra pas juger avec précision si les élèves sont ou non attentifs ( par exemple les personnes asiatiques pourraient sembler endormis) Nous allons donc nous assurer que notre modèle n'est pas biaisé en : >1. Sourçant nos données depuis plusieurs écoles et lycées afin d'avoir un pannel large >2. S'assurant que nos données prennent en compte les différents types d'attention et de participation des élèves afin d'éviter les mauvaises interprétations >3. Incluant les minorités à la base de données ### Overfitting Nous allons nous assurer que notre modèle ne sera pas dans une situation de sur-apprentissage (overfit) en : > Vérifiant la précision de notre modèle sur des données aléatoire pour voir si les élèves sont rééllement attentifs, afin que le logiciel analyse bien les différentes situations et ne les interprètent pas mal ### Usages détournés >Nous devons nous rappeler que notre application pourrait être utilisée de façon malveillante par certains élèves ou professeurs pour discréditer la popularité ou même railler certains professeurs ### Fuite de données ***Choisissez** la proposition qui s'applique le mieux selon vous concernant votre **jeu de données**:* > **🔐 Closed source:** Dans un scénario catastrophe, au cours duquel l'entièreté de notre jeu de données d'entrainement serait volé ou récupéré à partir de notre modèle, le risque serait que la confidentialité et le respect de la vie privée ne se fassent pas car les professeurs et les élèves parlent librement en cours et certains propos hors-contexte pourraient être utilisé à leurs dépens. **OU** > **🔓 Open source:** Nous avons décidé de rendre public et accessible à tous notre jeu de données d'entrainement, mais avant, nous avons pris les précautions suivantes : de s'assure que les élèves et les professeurs étaient d'accord concernant la diffusion des données et le respect de la vie privée ### Piratage > Si une personne trouvait un moyen de "tromper" notre modèle et modifier son comportement à volonté, le risque serait que les données pourraient être utilisées à mauvais escient à l'encontre d'élève ou de professeur