# Processing with AI ## Partie 2: 👩‍⚖️ Ethics of AI Nom - Prénom : > Matthieu Sellier > Sujet : > Surveiller l'attention des élèves en classe à l'aide de la vision par ordinateur >[TOC] ## Cahier des charges ### Biais Si notre jeu de données n'est pas conçu avec suffisamment de rigueur, les biais suivant risquent d'apparaître : >1. Ne pas prendre ne compte les facteurs exterieurs qui auraient un influence sur la concentration. >2. Ne pas identifier assez bien les expressions des minorités ethniques >3. Ne pas identifier assez bien les expressions selon les sexes Nous allons donc nous assurer que notre modèle n'est pas biaisé en : >1. Sourcant nos données depuis une source accessible à tous, publique et en utlisant plusieurs sources différentes >2. S'assurant que nos données prennent en compte toutes les ethnicités sexes et ages >3. En le faisant tester par des gens exterieurs >4. En utilisant une équipe de codeurs très diversifiés qui aura subit un entrainement anti-biais >En entrainemant l'IA depuis plusieurs datasets ### Overfitting Nous allons nous assurer que notre modèle ne sera pas dans une situation de sur-apprentissage (overfit) en : > Vérifiant la précision de notre modèle en utilisant la validation croisés ( test/ apprentissage). Ainsi, à la fin des itérations, toutes nos données auront servi aussi bien à l’apprentissage qu’au test. ### Usages détournés >Nous devons nous rappeler que notre application pourrait être utilisée de façon malveillante par des pedophiles qui utiliseraient cette reconnaissance des expressions comme un outil pour trouver les enfants les plus vulnérables et les moins attentifs à leur entourage. ### Fuite de données *Choisissez la proposition qui s'applique le mieux selon vous:* > Dans un scénario catastrophe, au cours duquel l'entièreté de notre jeu de données d'entrainement serait disponible au grand public, le risque serait que des poursuites légales soient conduites car on partage des images de personnes sans leur consentement. Que la bas de donnée pourrait etre utilisé par des personne malveillante est etre détourné de son usage d'origine. Que des hypothèse soient faites sur certains individus ( professeurs/ éleves) quand à leur efficacité par quelqu'un qui ne comprend pas l'entiereté des données. ### Piratage > Si une personne trouvait un moyen de "tromper" notre modèle et modifier son comportement à volonté, le risque serait qu'il puissent identifier faussement un professeur comme compétent ou non et le faire licencier. Qu'il biaisent les données de regions voir de pays et que les niveaux d'education alloués à chaques territoires soient faux et provoque ainsi un effet papillon.