# Conscience et IA

## Point de départ
les systèmes d'IA sont capables de réaliser des tâches cognitives complexes
> alphago, ChatGPT
> (peut-on pour autant les qualifier d'intelligentes? Intelligence étroite alors).

L'IA a de fait réussi le *Imitation Game* (test de Turing): Un observateur humain s'adressant à un bot ne sait pas si il a affaire à un autre humain ou à une machine.

De là, ne pourrait-on leur prêter une forme de conscience ?
> jusqu'à récemment, un certain nombre de philos (Daniel Dennett, Douglas Hofstadter) pensaient qu'une machine passant le test de Turing serait en effet consciente.
> Black Lemoine ["prêtre de l'église universelle"], viré de ses fonctions chez Google en 2022 pour avoir affirmé que LaMDA (Language Model for Dialogue Applications) peut être considéré comme douée de conscience et possédant une âme "je reconnais une personne quand je lui parle. Peu importe que des personnes aient dans la tête un cerveau fait de viande ou un milliard de lignes de code".

Toutefois, LeCun: "Un rat a plus de conscience que les meilleurs syst d'IA qu'on est capable de construire"

## Remarques préliminaires
* Pas de définition unifiée de la cs
* "objectiver le subjectif"
* rapport verbal -> problématique
* médicine: combinaison de comportement verbal, éveil, activité cérébrale, et mvt volontaire (purposeful)
* conscience de soi (self-awareness)
* Plusieurs théories concurrentes, pm compatibles
* global workspace (Baars, Dehaene)
* integrated information theory (Edelman, Koch)
* attention schema (Graziano, Kaas)
* fausse piste de la physique quantique (Penrose)
* C. Koch, A la recherche de la cs, 2003: 400p pour pas grand chose
* qualia: la cs phénoménale est inaccessible à l'exprience, contrairement à la conscience d'accès.
* conception pré-scientifique pour S.Dehaene
* naturaliable pour A.Damasio
* point de vue des sciences cognitives: Naturalisation de l'esprit = triple réduction
* réduction de l'esprit à la cognition :
* réduction de la cognition au calcul : Leibniz, Hobbes
* réduction du calcul à un mécanisme
* Harari: la cs(=subjectivité) ne sert à rien, résidu de l'activité mentale ("pollution mentale produite par l'activation de réseaux de neurones complexes")
* see also https://www.youtube.com/watch?v=o2aAx3wk6dg
* "Nous pouvons interpréter l'espèce humaine tout entière comme un seul système de traitement de données, dont les individus seraient les puces."
* LeCun: La conscience est là pour gérer le goulot de l'attention: on ne peut être attentif que d'une chose à la fois, de façon sérielle.

### Sources
* S.Dehaene et al. science 2017: What is consciousness and could machine haves it ?
* Damasio, Sentir et Savoir, une nouvelle théorie de la cs, 2021, Odile Jacob.
* Th Magnin: "La conscience au temps des NBIC"

## Dehaene, science 2017: What is consciousness and could machine haves it ?
* Perspective axée sur le traitement de l'information (// Yuval Noah Harari, Y.LeCun)
* cs = 2 niveaux
* (C0 = traitement d'information automatique)
* C1 = **disponibilité globale** (global availability): sélection de l'information pour la diffuser globalement, ce qui la rend aisément (flexibly) disponible pour le calcul/traitement, et l'échange (report)
* C2 = **auto-contrôle** (self monitoring) le contrôle interne de ces traitements (computations), qui conduit à un sens subjectif de certitude ou d'erreur.
> SD affirme que toutes les IAs actuelles sont C0
* cs:
* vigilance et éveil (wakefulness): sans intérêt pour SD
* C1 = Avoir l'information à l'esprit (mind)
* Réduire la complexité de l'environnement pour obtenir une interprétation unique et agir
* Accès à une "espace de travail global" (global workspace) de l'esprit
* "goulot" et "embrasement" (ignition)
* la diffusion permet perception stable et claire, mecansime efficace de réduction incertitude
* Importance du PFC et association avec le langage
* C2 = introspection / méta-cognition
* Sens probabiliste de la confiance (probabilistic sense of confidence)
> (pour moi ce n'est pas séparable de C1)
* détection d'erreur
* métamémoire : savoir qu'on sait
* monitoring (critique) de la réalité
* C1 et C2 "orthogonaux"
* C1 and C2 impliquent le PFC
> Note: importance de C0: ce qui n'est pas rapporté, ne génère pas l'ignition
* L'attention reste au niveau C0

* Mais dans cette conception, une véhicule autonome serait conscient !
> Note: On arrive à une aporie: Dés lors qu'on formalise une définition algorithmique de la conscience, on la rend implémentable, engendrant de fait un système qui possède la capacité demandée. Et pourtant on refuse d'y reconnaitre la conscience
Mac Carty "dès que ça marche, personne ne l'appelle plus IA"
> peu ou prou la conviction de LeCun ?

## Vision biologique: A. Damasio, Sentir et Savoir, un nouvelle théorie de la conscience
* Une conception qui part du **corps** "mélange de signaux corporels et de signaux neuronaux [...] faire l'expérience de la chair"
* Le signaux corporels viennent de l'**homéostasie**
* = mécanismes assurant la permanence de l'individu
* coordonnée par système nerveux [permet gestes moteurs complexes, rend les connaissance explicites] -> prise en charge par esprit, qui se développe en raisonnement créatif
* sentiments : expériences mentales qui suivent et accompagnent divers états d'homéostasie au sein de l'organisme ; images mentales apportant des informations sur l'état de l'organisme.
> intéroception [sensations] \neq proprioception [musculaire] , extéroception ; plus qu'une représentation du corps: c'est le corps parlant aux système neuronal
* servent gestion de vie
* les sentiments sont parmi les premiers phénomènes mentaux, "éprouver sa propre vie"
* ne requiert pas d'esprit
* support=tronc cérébral, noyaux sous-corticaux, système limbique
* ce qu'arrête l'anesthésie ;
* Esprit vient après
* Triade **être**, **ressentir** et **connaitre**: concomitance de ces trois actions qui permet l'émergence de l'expérience, de la conscience.
* être = commun à tous les organismes (bactéries etc)
* ressentir = complexité -multicellulaire- (eg système nerveux) -> éprouver sa propre vie
* connaitre: par les sentiments d'abord; puis par esprit
* Triade **intelligence**, **esprit**, **conscience**:
* intelligence = capacité à résoudre les problèmes que pause la lutte pour la vie
* explicite ou non
* esprit = production et présentation active des images issues de la perception / mémoire, flux d'images mentales
* images = schémas cartographiés dans l'espace
* manipulables
* explicites ou non
* conscience: état de l'esprit, qui nous permet d'accéder au contenu de l'esprit.
* un événement mental devient conscient ssi il inclut des **sentiments** et une **perspective de soi**
* l'esprit sans conscience est comme une "recette"
* cs = plaisir, douleur, mémoire, perception cs; des "images" qui se rapportent à nous
* partagée avec les animaux (vertébrés)
* confrontation avec la mort: fondement de la religion
* apparue après les sentiments
* agentivité ; caractère autoréférentiel de la cs
* passage de l'esprit à la cs:
* "identification d'un esprit propriétaire qui replace l'esprit au sein d'un cadre = son corps"
* "rassembler les connaissance et les exhiber pour mieux les transformer en certificat d'identité à l'attention de l'esprit"
* "les sentiments ont mis au monde la conscience et en ont généreusement fait cadeau au reste de l'esprit"

* Problème difficile (Chalmers): " Pourquoi et comment les processus dans le cerveau engendrent-ils expérience consciente" ?
* Damasio: pas la bonne question, car la conscience n'est pas issue que du cerveau.
* Damasio: La cs n'est pas "inutile", mais la vie est première: c'est elle qui par hémoéstasie, ouvre la voie à la cs (p.170)

* Notes
> Attention = gérer l'abondante production des images dans l'esprit, distincte de la cs
> les anesthésiques n'altèrent pas la cs ms le sentir
> drogues changent les sentiments hoémostasiques, donc perturbent la cs

### Conclusion
* informatique suggère que esprit ne dépend pas du substrat qui lui sert de socle: faux ! substrat = organisme de la personne qui est en train de vivre l'histoire et d'y réagir affectivement
* l'IA s'est barré l'accès à la conscience en ne s'intéressant pas aux sentiments
> envisager des "machines sensibles"

## Magnin (Noosphère, 2020)

* "émergence de la cs à partir des réseaux neuronaux"
* on pourrait craquer la cs à certains seuils de complexité
* vs Chrétien: "conscience éclairée" (V2, TdC)
* définitions possibles
* cs phénoménale: intuition de sa propre expérience subjective
* cs d'accès: connaissance de cette expérience subjective
* cs de soi /morale
* TM Suit Edelman; cs phén commune avec gds animaux "prisonnier de l'instant présent"
* tension entre les sciences cognitives et la notion chrétienne de conscience
* sciences cognitives: naturalsiation de l'esprit, déterminisme
* chrétienne: voix intérieure, libre-arbitre; en fait 2 niveaux
* monitorage de la vie intéreure, psychisme
* "sacntuaire intérieur", syndérèse et cs morale
* TdC: socialisation et presonnalisation dans interaction de mind et spirit: cs renouvelée
* articulation Mind/spirit ignorée par les sciences cognitives,
* "parole de Dieu à la jointure" de spirit et mind (Heb)
* Transcendance = production du mind ?
* invitation à passer de la pensée de transcendance à l'expérience de la révélation par la parole
* Zundel: passage du "moi préfabriqué" au "moi oblatif"
* Le "je" ne peut advenir dans le moi préfabriqué -> besoin de Agapé, de amorisation