👋

Jeudi 27 février 2020 - 14:00

Note: (Appuyer sur "Espace" pour passer à la diapo suivante).

Éthique du métier de développeur

Jeudi 27 février 2020 - 14:00

Note:

Pré-introduction / présentation

Nous sommes développeurs (ex-)mobile et web, passés par des agences et différentes structures d'entreprises, puis par Capitaine Train (devenu Trainline). Après CT, nous voulions faire un truc ensemble; ça nous a amenés à réfléchir à notre métier. C’est ce qu’on vient vous raconter.

Note:

Intro:

Il y deux choses dont on voudrait parler: la structure du travail, et les implications morales. Le métier de développeur est plein de clichés, entre autre sur l’environnement de travail; certains sont assez réalistes, et parfois même caricaturaux. Cela dit, les développeureuses ne sont pas uniquement attirés par des salaires et des technos cool, mais aussi par intérêt pour des projets utiles.

Dans nos parcours respectifs, c’est une prise de conscience sur plusieurs années.

Les développeurs

dans leur milieu naturel

Note:

Il y deux clichés d’entreprises informatiques :

👔 la SSII de l’angoisse 👔

Note:

La “société de service en informatique” qui emploie des développeurs à la pelle et les envoie en tant que consultants dans les banques, les grosses boites…

Note: C’est le monde des photos stock.

🌈 la starteupe cool 🌈

Note:

avec des babyfoots, du café à volonté, des bureaux dans le Sentier, et des levées de fond.

Note: C’est aussi le monde des photos stock.

Note:

En réalité, ça reste des clichés: Les deux modèles ne sont pas si éloignés; dans la vraie vie, on travaille dans un openspace un peu bondés, avec des collègues plus ou moins sympas, et jeunes cool fun.

Note:

Par ailleurs, ni les “SSII” ni les “startups” ne sont des secteurs économiques. Ça ne veut pas dire grand chose, “travailler dans l’informatique” : en fait tous les secteurs ont besoin d’informaticiens.

L’automobile ou de la finance recrutent plus d’informaticiens qu’autre chose. (Et massivement via des SSII.)

Mais les startups non plus ne sont pas un domaine d’activité, “la tech” ça ne veut rien dire. On trouve des startups dans tous les domaines: biotech, fintech, legaltech, edtech, greentech…

Note: Everything is fine. Reprenons depuis le début.

🏢

Note: LES GROSSES BOITES

Les grosses boites c’est nul

Note:

Petite histoire personelles sur les consultants, ma première (et ma seule) expérience de consultant.

Une semaine, placé par une petite boite chez Hachette Groupe; des consultants d’Accenture travaillait depuis six mois sur “rationalisation des processus de publication entre les différentes marques, du manuscrit à la PLV”.

• ils n’avaient jamais fait le moindre schéma d’interface,
• n’avaient pas la moindre idée des décisions que devraient prendre leurs utilisateurs.

Leçons retenues:

🚪 Virez tous Les consultants

Note:

Les consultants externes ont comme objectif d’être payés, pas d’améliorer réellement la situation, le projet. Leur allégeance va à leur employeur (ici Accenture), pas à leur client.

Je force un peu le trait, mais ce n’est pas complètement une caricature: ils rendent des comptes à leur employeur, pas vraiment au client. Du moins, c’est la conclusion que j’en tirais sur le coup.

🔥 Brulez vos chefs

Note:

Les rapports de hiérarchie empêchent l’honnêteté intellectuelle.

La hiérarchie, c’est “qui donne les ordres”. Le client ou le supérieur ont ce même pouvoir. Les consultants d’Accenture et les salariés d’Hachette qui géraient le projet ne voulaient pas admettre à leur directeur que le projet n’allait nulle part; parce que ça les arrangeait financièrement, mais aussi parce que ce n’était pas leur rôle.

Chacun reste à sa place.

✊ Le KPI est ton ami

(non)

Note:

Ce projet n’était pas stupide en lui-même, ça avait probablement un sens de vouloir utiliser des outils communs pour tout le groupe. Mais la mesure du succès du projet se mesurant en “ETP économisé”. On parlait d’économiser le travail d’un ou deux salariés.

À l’époque, ma réflexion s’arrêtait sur la stupidité économique du projet : le coût de la mise en place faisait que le projet ne serait pas rentable avant bien longtemps; que la situation globale l’aurait rendu caduque entretemps.

L’objectif réel était plus concret, mais plus flou : on améliorerait le travail de dizaines de personnes, mais de façon difficile à quantifier.

‽

Note: (c’est une blague)

En réalité, tout ça me mettait mal à l’aise vis à vis de mon métier, sans que je sache réellement quoi en faire.

J’en retirais un point à peu près concret: dans les grosses organisations, sociétés privées comme administrations publiques, il est très difficile de se remettre en question et trouver un réel objectif à son travail.

Note: petite pause, on va maintenant parler du petit monde merveilleurs des startups.

💻☕️🏓✨

Note:

Le petit monde merveilleux des startups

Tout n’est pas forcément plus rose.

🤪

Note:

Il n’y a pas de protection sociale dans les petites boites.

Les grosses boites ont des “délégué du personnel”, des “syndicats”, et autres trucs un peu désuets. Mais en réalité, on ne les a pas inventés par hasard.

Les licenciements arbitraires dans les startups, c’est courant.

Les semaines de 50, 60 heures, ça existe. Le monde du jeu vidéo, par exemple, c’est ça. Les charettes dans les agences, c’est tous les soirs.

Les patrons qui incitent à se défoncer pour le projet : derrière le côté cool, de nombreux développeurs oublient que ce n’est pas leur projet.

💸

Note:

Une bonne partie des startups n’a pas d’objectif réel de rentabilité, seulement de rachat. Et une bonne partie des startups tech qui gagnent vraiment de l’argent sont ceux qui vendent aux autres startup:

• Les vendeurs de pelles sont les seuls gagnants des ruées vers l’or.
• C’est le concept même de bulle. Accepter un investisseur, c’est accepter que le destin de la boite est d’être revendue, pas de construire et de commercialiser un produit. Les rachats se passent souvent assez mal pour l’équipe, dont une bonne partie s’en va à ce moment.

🤦‍♀️

Note:

Vacuité des projets Ça amène aussi à de nombreux projets fondamentalement débiles, comme un énième “réseau social géolocalisé pour les entreprises”; 90% des chatbots; 99% des trucs autour de la blockchain.

Ici aussi, si le seul indicateur de succès, le KPI, c’est l’exit strategy, alors le but n’est pas vraiment de construire un produit utile, mais de rendre la structure achetable par un plus gros groupe.

Note: pause, ce que veulent les développeurs

Note: Ce que veulent les développeurs

Deux traits distincts, avantages de l’autonomie: 1/ épanouissement personnel Travailler moins, plutôt que se défoncer 50+ h par semaine pour le projet de quelqu’un d’autre. (on ne vit pas de sa passion)

2/ utilité sociale Ne pas participer à la société de surveillance.

(Liens: -> https://iosdevsurvey.com/2019/02-your-career/#q23 -> https://lwn.net/Articles/808489/ )

💃

Fig. 1 - développeuse indépendante

Note:

Une solution pour l’épanouissement personnel, c’est l’indépendance, la liberté. Cela dit, c’est pas évident.

• Isolement
• Paperasse
• Risque en cas de coup dur
• Trouver des clients reste relativement facile dans notre métier, mais ça reste une angoisse.
• On peut se retrouver dans une position de hiérarchie vis-à-vis du client.

👯‍♀️

Fig. 2 - coopérative

Note:

Une coopérative c’est une entreprise qui appartient à ses salariés.

• 1844 tisserands de Rochdale, d’abord une association d’ouvriers pour améliorer leurs conditions
• qui voulaient ne pas dépendre des commerçants,
• mais aussi garantir des prix de vente
• 1895 https://fr.wikipedia.org/wiki/Déclaration_sur_l'identité_coopérative C’est une façon de voir l’activité économique, un type de gouvernance.

Certaines coop que vous connaissez : enercoop, biocoop, ou même super u. Les coop agricoles, évidemment.

Principes coopératifs

Adhésion volontaire et ouverte à tous.

Pouvoir démocratique exercé par les membres.

Participation économique des membres.

Autonomie et indépendance.

Éducation, formation et information.

Coopération entre les coopératives.

Note:

Pour moi, les principaux points sont la démocratie et la participation économique. Le reste en découle.

SCOP

SCIC

CAE

CGSCOP

Groupement national de la coopération

Alliance coopérative internationale

Note:

En France, il y a trois formes principales du point de vue administrative, même si dans l’absolu n’importe quel société peut se déclarer coopérative. Les SCOP sont des coop de production, les SCIC des partenariats public/producteur/consommateur, les CAE du portage salarial.

Ce sont plutôt les SCOP et les CAE qui vous intéressent.

La déclaration de 1895 a donné naissance a des institutions structurant au niveau national et international. L’ACI par exemple représente le mouvement coop à l’ONU et gère le tld .coop.

Note:

La démocratie est le principe de base, la façon précise de gérer une coopérative est libre.

On peut choisir un système selon ses propres objectifs. Par exemple pour Codeurs en Liberté, le but était d’avoir à la le confort des indépendants et la sécurité financière du salariat. Ça se traduit dans des règles spécifiques sur la façon dont nous nous rémunérons et la façon dont nous comptons nos heures.

Chaque coopérative peut choisir sa gouvernance, son mode de récrutement, son mode de rémunération, d’autres font différemment.

‽

Note:

Mettons un bémol.

C’est très bien, on a un environnement de travail super, on est heureux mais Tout cela est “facile” parce que les développeurs sont, aujourd’hui en tout cas, privilégiés. Il n’y a virtuellement pas de chomage, et les salaires sont élevées: on peut prendre ce genre de risque, on peut se mettre à temps partiel…

On peut aussi dire que c’est un avantage qu’on se doit de saisir, ne serait-ce que pour montrer l’exemple.

Note:

Transition

On a parlé jusque là d’autonomie, de démocratie au travail, d’épanouissement. Un autre point qu’on a mentionné était que les développeurs cherchent souvent à donner un sens à leur travail, une utilité sociale.

Au fur et à mesure de nos carrières, on a pris conscience des implications de notre métier sur la société; on a aussi réalisé que le concept d’éthique était, ignoré par beaucoup, mais que d’autres avaient déjà réfléchi à ces sujets.

Éthique et informatique

Note:

Écrire du code, c’est bien, mais à un moment, il est executé. Il va avoir des conséquences, sur des personnes.

Le code a un but.

Note:

L’informatique n'est pas en elle-même bonne ou mauvaise: l’informatique est un outil.

Par contre, les programmes, eux-mêmes, ont un but. Quand on écrit du code, c’est pour un but, pour résoudre un problème.

Ce problème est le plus souvent celui de quelqu’un d’autre. On écrit un programme dont on ne va pas être l’utilisateur, ou le bénéficiaire.

Le but d’un programme n’est pas nécessairement bienveillant.Il peut être en lui-même malveillant, ou il peut être utilisé par des personnes malveillantes.

L´éthique c'est quoi?

Note:

En philosophie, c’est la discipline qui étudie les valeurs et les finalités.

Note:

C’est un truc sur lequel se sont penchés ces gars depuis des millénaires. Contrairement à ce que laisse imaginer la photo, la barbe n’est pas nécessaire.

L’éthique c'est quoi?

Un code de valeurs morales

Note:

C’est un code de valeurs morales Alors, c’est compliqué: chacun a sa définition du bien et du mal, mais pour faire simple, on peut démarrer par la déclaration des droits de l’humain.

Empathie

Note:

Revenons au code.

Puisqu’il faut résoudre les problèmes d’autres personnes, il faut leur parler. Contrairement au cliché, le métier de développeur demande de parler aux gens. Le developpement logiciel demande autant d’empathie que de connaissances techniques.

C’est aussi proche des sciences sociales que des mathématiques.

« Informatique »

Note:

Autre point historique: Le terme “informatique” a été créé, choisi, en 1962, par Philippe Dreyfus, futur directeur de Capgemini. pas apparu comme un jargon. Le terme a été choisi par de Gaulle, qui l’a préféré à “ordinatique”.

Autrement dit, on a préféré “technique de l’information”, plutôt que “science des ordinateurs”.

Si l’on se concentre sur l’étymologie, l’informatique est plus proche de l’anthropologie que des mathématiques.

Ce n’est pas un point de vue partagé par tout le monde…

Computer science is known as "informatics" in French, German, and several other languages, but American researchers have been reluctant to embrace that term because it seems to place undue emphasis on the stuff that computers manipulate rather than on the processes of manipulation themselves. – Donald Knuth

Note: Pour Knuth, les ordinateurs manipulent des données abstraites. C’est cohérent avec le titre de “The Art of Computer Programming”

C’est l’opposition entre Computer Science et Information Technology.

📚

Note:

D’ailleurs, les questionnements sur les conséquences de l’informatique sur la société ne sont pas récents. En 1978, à la demande de VGE était publié le “Rapport Nora”…

Note:

La même année, loi informatique et libertés. Les points soulevés en 1978 sont encore pertinents. 40 ans plus tard, on peut refaire un bilan des conséquences de “l’informatisation de la société”.

https://www.ina.fr/video/CAA7800628501/informatique-rapport-nora-video.html

Note: transition

Comme on le disait au début, l’informatique touche tous les domaines, et donc toute une variété de problèmes éthiques. Déroulons.

Ubérisation 🚕🚴🍟

Note:

Née “Sharing economy”, devenue ubérisation entretemps. Uber continue de perdre 1 milliard par trimestre, La principale innovation consiste à lever énormément d’argent pour pouvoir contourner des réglementations sur le droit du travail ou sur les transports.

(Liens: -> https://oversharing.substack.com)

Nos choix tuent des gens

Note:

• Uber qui désactive les sécurité dans les voiture autonomes, et déclenche des accidents;
• Le dieselgate: Les VW étaient programmées pour tourner à moindre puissnce pendant les tests de pollution, ce qui va entrainer plus de pollution, donc plus de maladies.
• Ou plus subtil: une modification sur le site de pole-emploi qui rendrait l’inscription plus complexe, plus de gens perdent leurs droits, plus de suicides.

Discrimination

Note:

• Algo IA racistes, parce qu’entrainés uniquement avec des photos de blancs.
• L’algo de recrutement d’amazon, qui reproduit les biais des recruteurs humains, et qui désavantage les femmes.

Les développeurs sont des mecs blancs, donc les startups tech resolvent des problèmes de mecs blancs.

On a besoin de diversité dans les équipes.

Surveillance de masse

Note:

Cas de conscience concrets en informatique:

• ICE / github
• IBM pendant WW2: collaboration de la filliale allemande avec le régime nazi, camps d’internement des japonais aux US.
• Décret cette semaine pour un énième fichier de la police, permetttant de recenser à peu près tout sur n’importe qui. Certains policiers ne comprennent pas l’opposition, parce qu’ils notent déjà ces informations chacun de leur côté. C’est pourtant l’idée à la base de la CNIL, la loi I&L est due à la mise en place d’un fichier du même style le fichier SAFARI en 1974.

Vie privée

Note:

Sur tous les sites, même chez les petits acteurs, le tracking total est devenu un réflèxe, on met google analytics systématiquement.

C’est le capitalisme de surveillance: google, netflix, amazon, facebook etc ont des profils extrêmement détaillés sur leurs utilisateurs, et monétisent ces profils.

Manipuler les opinions de façon efficace est un service qui s’achète.

Sur la réglementation: les développeurs sont les mieux placés à la fois pour comprendre les implications et faire appliquer le RGPD.

Illectronisme

Note:

C’est un sujet plus général, plus lié à l’informatisation de la société elle-même. Les difficultés d’accès liées à la dématérialisation ne concernent pas uniquement le service public: c’est une forme de discrimination.

Ça ne concerne pas non plus uniquement les vieux: par exemple, un service “nouveau” qui n’existe que sur app mobile moderne.

Opacité

Note:

Du code qui prend des décisions pour des gens doit être public. Parcoursup, par exemple; ou encore l’algo qui déclenche les contrôles et les radiations de Pôle Emploi.

Dark patterns

Note:

Tout cela n’est pas abstrait, on vous demandera à un moment d’implémenter des algorithmes ou des interfaces manipulant les utilisateurs: l’exemple le plus commun est la case à cocher “inscrivez-moi aux mailing lists de vos partenaires” juste en dessous de la case “accepter les CGU”.

Note: transition: et donc,

Re-responsabilisation ✋

Note:

J’avais tendance jusq’à récemment de dire que les développeurs étaient “déresponsabilisés” mais ces derniers mois me donnent l’impression d’une prise de conscience. Ne serait-ce que parce qu’on est invités à 42 pour en parler.

C’est un sujet qui devient fréquent dans les conférences.

(Liens: -> https://speakerdeck.com/ruanbrandao/software-ethics)

Charte d’éthique et code de déontologie

https://ethics.acm.org

IEEE - IEEE Code of Ethics

IA

Note:

On ne part pas de nulle part: il existe déjà des chartes, similaires à ce qui existe dans d’autres domaines: médecine, ingéniérie civile.

• Association for Computing machinery ACM (révisé en 2018),
• IEEE
• Tout un pan de recherche sur la “roboéthique” et l’IA.

La question d’une charte est toujours celle de l’appliquabilité; une charte ne s’applique qu’à ceux qui la signent.

Le concept de corporation est largement absent chez les informaticiens. Par ailleurs, la déontologie est souvent plus associée “professionalisme” en lui-même.

On voit une charte apparaitre tous les 3 mois, on a même fait la nôtre chez Codeurs en Liberté.

Le web moderne est centralisé

Note:

Tout le monde aime le libre, tout le monde fait de l’opensource, mais: on crée des sites sur lesquels les utilisateurs s’enregistrent, y compris dans les modèles de startups.

Peut-on même faire un site web réellement libre en 2020?

Ce ne sont pas des outils qui peuvent être réellement contrôlés par leurs utilisateur. Il n’y a pas de liberté des utilisateurs sans accès aux données.

Et le logiciel libre là-dedans?

Le mouvement du logiciel libre ne s’est jamais positionné clairement contre la surveillance. – @lunar

Note:

Le libre, au moins, force la transparence. C’est necessaire, mais pas suffisant, pour empêcher, par exemple, la fraude. C’est l’argument contre le vote electronique.

(Liens: -> https://informatique-ou-libertes.fr)

Liberté 0 de la GPL

La liberté d’exécuter le logiciel, pour n’importe quel usage.

Note:

En fait, l’accès réel aux données est la même liberté que celle à à hacker son logiciel. Encore faut-il connaître les algorithmes exploitant les données

Du point de vue de l’objectif de liberté, rgpd et gpl, même combat.

Liberté 0 de la GPL

Note:

Ici, une limite est que l'importance accordée à la liberté d'exécuter le logiciel écrase la question de l'usage qui en est fait.

Licences éthiques

ethicalsource.dev

996.icu

www.open-austin.org/atmosphere-license

Note:

Empêcher des usages est contraire à la liberté 0 de la GPL. Certaines licences apparaissent qui choisissent cette voie:

• Empêcher des réutilisations contraires aux droits humains : hippocratic licence
• Respecter la santé des travailleurs. 996 signifie 9h - 21h, 6 jours par semaine
• Lutter contre la crise de l’environnement:

(Liens: https://twitter.com/CoralineAda/status/1228391919295836160 https://firstdonoharm.dev/faq.html)

Note: Transition

Libre ou non, il se passe des choses positives par endroits, entre prise de conscience et rébellion.

Code of conducts

Note:

En quelques années, c’est devenu la norme dans toutes les conférences informatique, voire anormal de ne pas en avoir. Idem sur les projets opensource: il y en a dans les templates de projets de github.

Plus largement, c’est le signe d’une prise de conscience. Le but premier des CoC est la lutte contre la discrimination, mais à partir du moment où on remet en question nos pratiques en tant que communauté, on réfléchit aussi au sens de notre action.

(Liens https://opensource.guide/code-of-conduct/)

Projets engagés

“Civic tech”

“Code for good”

Note:

Betagouv et autres trucs étatiques: c’est ambigu. C’est dépendant de l’administration, et souvent prompt à être récupéré par l’action politique

Code for good, c’est un peu du “ethical washing”, des hackathons “éthiques” financés par des grosses boites.

Je vois quand même ça comme une reconnaissance d’un mouvement de fond.

Décentralisation

Mastodon

Mobilizon

Nextcloud

Framasoft

Note:

framatrucs / dégooglisons / déframatisons

Engagement

(politique)

Note:

On a aussi des devs qui s’engagent politiquement, des syndicats qui se créent

• STJV
• greve.cool et onestla.tech
• collectiveactions.tech

Note: (pause)

🌅

Note:

La question du début aurait pu être “Les développeurs sont-ils des mercenaires?” Les dev sont ils de la chair à coder?

C’est ironique de dire ça ici, j’ai pu avoir des propos assez durs sur une école du même style à l’autre bout de paris. 42 est perçue un peu prticulièrement, comme un “fournisseur de codeurs” pour l’économie française.

Mais en fait, les principaux concernés, les dev ont déjà tendance à remettre en question leur travail. Ce qu’il manque encore un peu, c’est cette capacité à se rassembler en collectifs, plutôt qu’indépendents isolés.

(Et donc : faites des coopératives.)

(Gens:

• Coralina Ada Ehmke
• Ruan Brandao
• Informatique ou libertés – Lunar)