Try   HackMD

Weeknote #1: ChatGPT, retraites, etc

Suivant une idée de @tk (https://mastodon.social/@tk@social.apreslanu.it/109709706375310588), je tente un format de revue de web hebdo. Ça permet de garder une trace et de se remémorer ce qu'on a lu en une semaine. Je vais voir si je tiens le rythme.

ChatGPT

Pour annoter les contenus explicites, OpenAI a fait appel à des travailleurs kenyans sous-payés et exposés à des contenus particulièrement toxiques. Une enquête de @perrigo@mastodon.social pour le Time Magazine: https://time.com/6247678/openai-chatgpt-kenya-workers

To get those labels, OpenAI sent tens of thousands of snippets of text to an outsourcing firm in Kenya, beginning in November 2021. Much of that text appeared to have been pulled from the darkest recesses of the internet. Some of it described situations in graphic detail like child sexual abuse, bestiality, murder, suicide, torture, self harm, and incest.

AI often relies on hidden human labor in the Global South that can often be damaging and exploitative. These invisible workers remain on the margins even as their work contributes to billion-dollar industries

The work’s traumatic nature eventually led Sama to cancel all its work for OpenAI in February 2022, eight months earlier than planned

Le règlement IA n'est pas à la suffisant pour réguler des outils comme ChatGPT https://www.lemonde.fr/idees/article/2023/01/19/le-projet-de-regulation-de-l-ia-porte-par-bruxelles-ne-semble-pas-etre-a-la-hauteur-des-risques-que-represente-la-percee-d-outils-comme-chatgpt_6158445_3232.html

Avec la régulation européenne, ChatGPT ne tomberait que dans la dernière catégorie d’IA à risque, dite « à risque limité » : celle qui interagit avec les humains.

Mon opinionJe pense que c'est plus compliqué que ça. Si ChatGPT est utilisé dans les domaines à haut risque, il/elle rentrera dans la catégorie des IA à haut risque mais je suis bien d'accord pour dire que l'approche par grand domaine d'application du règlement IA a ses limites.

Microsoft investit dans OpenAI et prévoit d'intégrer ChatGPT dans ses outils de bureautique. On passerait alors d'un usage conscient de l'IA à un usage quotidien largement inconscient. Ce qui pose pas mal de question: https://mailchi.mp/technologyreview.com/how-microsoft-could-use-chatgpt

Iris van Rooj appelle à arrêter de nourrir la bête:
https://irisvanrooijcogsci.com/2023/01/14/stop-feeding-the-hype-and-start-resisting/ et à résister à la hype: https://irisvanrooijcogsci.com/2022/12/29/against-automated-plagiarism/

Especially in this moment in history, it is vital that we [academics] provide our students with the critical thinking skills that will allow them to recognise misleading claims made by tech companies and understand the limits and risks of hyped and harmful technology that is made mainstream at a dazzling speed and on a frightening scale.

Sonia Devillers a tenté une interview en live de ChatGPT et David Chavalarias. C'est assez drôle. Au passage, David Chavalarias glisse un argument auquel je n'avais pas pensé: Seul OpenAI sera capable de certifier que tel texte a été généré par ChatGPT. Donc il y a un business model à certifié ce qui est fake et pas fake pour OpenAI.
https://www.youtube.com/watch?v=rV9_F2gsdhk

Evidemment, ChatGPT est aussi un sujet de discussion sur Wikipédia: https://slate.com/technology/2023/01/chatgpt-wikipedia-articles.html
Je suis assez surpris de voir que les contributeurs et contributrices n'y sont pas tous hostiles.

Retraites

La génération de ceux qui ont aujourd'hui plus de 60 ans serait en quelque sorte une génération dorée : https://www.lemonde.fr/politique/article/2023/01/16/reforme-des-retraites-faire-contribuer-les-retraites-le-grand-tabou_6158074_823448.html

Les inégalités hommes-femmes face à la retraite: https://www.lemonde.fr/economie/article/2023/01/18/inegalites-a-la-retraite-64-ans-de-la-vie-d-une-femme_6158291_3234.html

Data journalisme et open data

Matthieu Slisse et Denis Vannier ont utilisé les données de la carte scolaire pour analyser la ségrégation sociale: (https://www.mediacites.fr/enquete/lille/2023/01/11/colleges-comment-la-carte-scolaire-entretient-la-segregation-sociale-dans-la-metropole-lilloise/).

Baptiste Coulmont a eu la bonne idée de croiser le fichier des prénoms et le fichier des décès pour faire des courbes de survie par prénom: https://mastodon.social/@coulmont@mstdn.io/109720168746473764

Transition écologique

Ça a l'air compliqué du cote du Haut conseil pour le climat:
https://www.lemonde.fr/idees/article/2023/01/17/consolider-la-credibilite-du-haut-conseil-pour-le-climat_6158201_3232.html