# Processing with AI ## Exploration : IA & Ethique Name: > L'éthique et l'IA: deux sujets qui se croisent > Subject: > Les problèmes éthique soulevés au XXIeme siècle par le développement de l'intelligence artificielle. Exemple d'application avec la reconnaissance faciale pour relever l'assiduité et la participation en cours. >[TOC] ## Cahier des charges ### Biais Si l'on ne complète pas notre ensemble de donné avec assez de rigueur, les biais suivants pourraient apparaitre: >1. Tous les étudiants pourraient etre détecté par le programme >2. Aucun étudiant pourrait n'être reconnu par le programme >3. Un étudiant entré dans la base de données avec des cheveux longs, qui se serait coupé les cheveux, pourrait ne plus être reconnu IL faudra faire attention à ce que notre programme ne soit pas biaisé par: >1. Un provenance incertaine des données (anciennes photos, photos en noir et blanc) >2. Les changements capilaires, de lunettes et autres accessoires >3. Les changements de places dans la salle, qui modifierait l'angle du visage de l'étudiant ### Sur-ajustement >Nous nous assurerons que notre modèle ne sur-ajuste pas en testant la justesse de notre modèle sur une classe différente chaque semaine ### Mauvais usage >Il faudra garder en tête que notre application pourrait etre utilisée à mauvais escient par des personnes qui hackerait le systeme pour parraitre toujours présents et actifs en cours ### Fuite de donnée >Nous avons décidé que notre base de données de formation sera entièrement libre, mais avant nous nous sommes assurés que personnes d'autre que l'administration de l'établissement concerné ne pourrait récuperer les images ni les données. Cela pourrait en effet poser de gros problèmes éthiques si les photos des étudiants venaient à circuler hors de l'administration. ### Hacking > Si quelqu'un trouvait un moyen de "tromper" notre modèle et le faire réaliser les prédictions de son choix au lieu de vraies réalisation, le risque seait que l'absentéisme en cours soit mal relevé, si un élève réussisait à persuader le système qu'il était toujours actif en cours, alors qu'il n'était même pas présent.