*Précisions et corrections éventuelles* NB: Si vous avez une remarque sur l'épisode, préférez un autre commentaire qu'une réponse à celui-ci. J'imagine que, pour beaucoup d'abonnés de la chaîne, l'épisode enfonce un peu des portes ouvertes, mais c'est au minimum un outil que vous pouvez utiliser et partager avec vos connaissances dualistes pour partir sur les mêmes bases ! *Vers **23:50**, je prends quelques libertés lorsque j'attribue des propos à Turing.* Il est plus probable que sa position ne concernait pas directement la conscience. Il cherchait simplement à donner un sens empirique et expérimental clair au terme "penser", et il a choisi de le définir comme la capacité à mener une conversation de manière indiscernable de celle d'un autre être humain. Il fournit ainsi une définition testable de "penser", venant avec ses limitations.
Une petite collab avec Mr Phi me semble appropriée, vous êtes tous les deux très talentueux pour vulgariser, et vous êtes tous les deux fascinés par les IA ;)
@@Alex-rg1rz Etrange commentaire, aurais-tu des exemples ? Je travaille dans le domaine, et je n'ai pas remarqué d'erreur grossière de mr Phi sur le sujet....
@porcoration Oh pourquoi donc ? 37 personnes sont d'accord avec moi, je comprends pourquoi, mais ceux qui ne sont pas d'accord, ça m'étonne, je veux bien comprendre pourquoi tu penses cela !
Très très bonne vidéo. Un exemple de rigueur intellectuelle face à la pléthore d'approches mysticistes du problème de la conscience y compris venant de philosophes et scientifiques de renom...
Je regarde depuis les premières heures, bravo pour le fond qui est constant de qualité et d intérêt et la forme qui n a fait que s améliorer avec les années
Le sujet est passionant et le texte est parfaitement ciselé. Mille bravos ! On est sur un excellent équilibre philosophico-scientique, qui limite au maximum l'écueil du type "critique de la raison pure". Si je peux modestement tenter de rafiner la formulation de la thèse promue ici, je dirais que : Plus précisément que "C'est l'organisation qui fait l'objet", "C'est l'organisation et la dynamique du système dans son environnement qui font l'objet vivant". Et les caractères vivant, conscient de ses sensations, conscient de soi, de sa subjectivité, de son impression de liberté non nulle mais finie, etc, sont des propriétés "émergentes" au sens d'un "réductioniste strict" : il n'y a en effet aucune opposition entre "émergence" et "réductionisme strict". Ce dernier n'est en effet jamais "abusif" quand il est bien fait, c'est à dire quand il n'oublie aucun élement et aucune interaction dynamique. Le système dynamique environné peut être strictement réduit à ses parties et à la dynamique interactive entre ces parties et l'environnement. Les propriétés "en découlent au sens strict" et le mot "émergence" ne sert qu'à exprimer que le physicien ne les avait pas intuitées avant d'appliquer correctement sa méthode réductioniste ! Et le fait que ce réductionisme fonctionne est une preuve de complétude de la description (caractère "suffisant" des ingrédients) ; et ce indépendamment du fait que ce réductionisme soit ou non la méthode la plus pratique, la plus synthétique, la plus "orientée fonctions" pour décrire ou comprendre le système. La discussion sur le fonctionalisme et sa subilité plus grande qu'il n'y parait est aussi magnifiquement menée. Bravos. Toujours pour tenter de préciser la thèse, la conscience, localisée dans "l'état interne du système" évoqué dans les schémas, doit très probablement émerger d'architecture multi-bouclée présentant des résonances (comme le cerveau en présente). Il est donc probale que des architectures très différentes puissent présenter les mêmes fonctions de base (fonction additon d'un additionneur en logique CMOS et d'un humain), mais que la fonction additionelle de conscience d'effectuer l'addition ne se rencontre que dans une architecture bouclée résonante (de type cerveau et pas dans l'additionneur CMOS). La multiplicité des boucles imbriquées dans une architecture riche en boucles, peut même ajouter aux fonctions "addition" et "conscience d'effectuer une addition", d'autres fonctions en parallèles pouvant modifier la fonction addition elle-même : comme la fonction "angoisse de rater l'addition" par exemple, qui finit par occasionner des erreur dans l'additionneur humain (les fonctions ne sont plus indépendantes du fait des boucles). Enfin petite remarque : la séparation des questions "une machine peut-elle penser" et "sommes nous des machines" est peut-être un peu artificielle ici. Un autre point de vue serait de les présenter comme deux formulations différentes d'une même question. Encore mille bravos.
Un sujet passionnant et d’une grande pertinence actuellement. Le traitement est impeccable, irréprochable me semble-t-il . Cette vidéo est un vrai bijou. Mille bravos 👏 et merci pour ces sources passionnantes à explorer.
C'est ma vision actuelle, et ancrée, des choses. Merci d'y ajouter d’innombrable graphique et passage vidéo c'est tellement agréable. Du haut niveau de vulgarisation comme toujours. Je rajouterais car je ne l'ai pas entendu bien que ce soit compatible, que dans ma vision, la notion de conscience peut être vue comme un continuum, ainsi un moulin à vent est une forme de conscience, tout comme une Gameboy, une voiture autonome, un aspirateur robot. Libre à vous des les classer. Et qu'il faut pour mieux appréhender cette notion se départir de la vision binaire d'être soit conscient (absolu 100%), soit non conscient (absolu 0%). Ainsi je propose si ça n’existe pas la notion de conscience opérative, qui référerais au seuil à partir duquel nous considérons une conscience comme de valeur suivant des critères arbitraire qui seraient propre au genre humain contraint qu'il le veuille ou non de voir l'univers par le prisme de sa condition intrinsèque.
22:15 Fascinant, j'ai abordé ce sujet hier. Même s'il y a une part d'aléatoire dans nos comportements, nous restons fondamentalement déterministes. Le bruit de l’infiniment petit peut influencer des systèmes au niveau macroscopique lorsque la source de l’actionneur est fortement amplifiée (par exemple, un synapse qui change d’état). Cela peut donc engendrer des réactions imprévisibles. Cela me semble même fondamental pour l’évolution du vivant : l’aléatoire est indispensable.
@@gaiusbaltar7122 La finalité que l'on vise est déterminée par les données accumulées et traitées par notre système déterministe. A connaissance identique et a système identique, les objectifs visés seront toujours les mêmes. On ne choisit pas nos désirs ou ne représentations du réel, on simplement l'illusion de choisir.
Merci pour cette video, était un vrai regal. La distinction entre intelligence et conscience est selon des critères a-minima ou a-maxima, le test de Turing ne concerne que l'intelligence, et un pigeon a néanmoins plus de conscience qu'un LLM. Leurs definitions possèdent les pieges et paradoxes habituels a toute observation. Une chose est claire, on ne reviendra plus en arrière sur leurs anciennes conceptions d'il y a 100ans.
C'est magnifique patron ! Et comme même le meilleur est améliorable, peut-être marquer un peu plus les pauses qui facilitent la compréhension. Ex : "...si les deux entrées valent 1 // 0 dans tous les autres cas". Merci pour ces petits bijoux.
Video de qualité exceptionnelle. En ce qui me concerne cette affaire de conscience est toute évidente. On peut dire que Toute machine de l’information comme un micro contrôleur a par exemple conscience d’un changement sur une de ses entrées lorsqu’elle la lit. Evidemment cela n’a aucune chance d’aboutir à des considérations philosophiques 😅 Car sa structure est de fonctionnalité hyper basique. Tandis qu’un cerveau est de toute évidence extrêmement plus complexe en nature, et incroyablement plus efficace. En réalité pour les gens, ils recherchent une analogie entre l’homme et la machine faite par l’homme. Dans un réflexe de demander si finalement l’âme existe ou non, donc lorsque l’on demande si une machine a une conscience, on demande si elle est capable de s’imaginer ce qu’elle est entrain de vivre, de faire et de penser. Or apparemment il nous faudra probablement travailler un peu plus sur la technique hardware et software pour oser pouvoir l’affirmer, mais si la nature le fait, fusse t il en la copiant, bien sûr nous arriverons à le faire ! Merci à vous 👍
*On peut dire que Toute machine de l’information comme un micro contrôleur a par exemple conscience d’un changement sur une de ses entrées lorsqu’elle la lit.* Je ne dirais pas cela car une des propriétés importantes du processus qu'est la conscience semble être d'avoir une représentation interne d'une partie de ses propres états macroscopique, par exemple qu'on perçoit une image oui on on a en nous une représentation de l'image mais il y a aussi une représentation en nous du méta concept d'etre en train de percevoir l'image.
Absolument remarquable, j'avais vu encore ce niveau de réflexion dans le domaine. Je vais placer la vidéo dans ma playlist "Autres" faute de meilleure rubrique pour l'instant. J'ai détaillé plus bas (commentaire de 42ArthurDent42) comment je voyais les choses, je pense que tu seras plutôt d'accord puisque cela va dans le même sens.
Excellente vidéo ! Plus accessible que les autres ce qui peut aider à la partager autour de soi pour discuter de la question ! (même si les vidéos plus techniques de la chaine sont vraiment cools)
Il y a toujours un point aveugle dans ces questions : ce que l'on appelle conscience, ou sentir. Je crois que si on s'interroge sincèrement on peut s'apercevoir que c'est assez superficiel. Je me sens moi lorsque je me pose la question et que je pense à ce que c'est que "moi". Mais tout comme je ressens une chaise lorsque je pense à une chaise, je conscientise la chaise. La sélection naturelle a inscrit des obsessions qui échappent au calcul qui est fait sur les expériences. Ça suffit à expliquer le reste.
Merci pour cette vidéo c'est un hasard total mais cela fait des mois que je me pose cette question concernant la conscience et les machines et il y a quelques heures j'ai écrit dans mon carnet ''Suis je une machine ? Ai je pris le dessus sur mon créateur ?''. Incroyable de tomber la dessus après une insomnie sur la première video que je regarde sur youtube. Votre vidéo sous entend peut être que le destin existe également !!
A partir du moment où on peut répliquer artificiellement une fonctionnalité biologique comme celle du cerveau humain, je ne vois pas pourquoi la conscience ne pourrait pas émerger de la même façon d'un mécanisme purement technologique.
Certes, mais justement qui dit que cette condition est remplie ? Que la réplique est parfaite ? Car le mécanisme c'est une chose, mais les instincts, les phobies, les archétypes ... On sait les répliquer ?
@@recorr je pense qu'on sait les répliquer, quand les consciences artificielles feront des "enfants", quand il y aura accouplement et reproduction, les comportements appris vont devenir automatiques au fil des générations, non ?
@@recorr Tous les comportements émergent de la technique, si un être simulé se comporte différemment d'un être simulé, c'est que la technique n'est pas correcte.
@@kalgon57 Si on combine algo génétique et réseau de neurone pourquoi pas, mais je crois que les réseaux ont plié le game et donc, peu de chance pour ta solution.
Très bonne vidéo. Après méditation sur le sujet. Il est évident qu'une simulation peut virtuellement devenir vivante ou consciente. En contre partie. La question de si cette simulation est la réalité (et pas une réalité) est une autr histoire...
Absolument brillant ! On pourrait étendre le raisonnement à une ruche ou une thermitière : sont-elles conscientes ? Quid de la différence fondamentale entre auto organisation et orchestration ? Notre cerveau n'est-il pas une auto organisation générant une possibilité d'orchestration ? Voir Dawkins... Je pense pour ma part qu'une machine peut penser et ressentir car nous sommes des machines ! Des machines incommensurablement plus complexes que tout ce que l'on peut imaginer, mais des machines quand-même.
Intéressant, certes, et merci d'évoquer Libet. Cela dit, il faut tenir compte des EMI, comme Expérience de Mort Imminente. Celles-ci risquent fort de faire voler en éclats le paradigme matérialiste. Ce n'est qu'une question de temps, et même un neuroscientique de la classe de Steven Laureys en est... conscient...
Super vidéo ! Un truc sur le coup de l'état interne: À mon avis il y a de l'anthropomorphisme dans ce concept. Parce qu'à mon avis on a du mal à se dire que les LLM peuvent avoir un état interne, mais est-ce que la continuité est nécessaire à la conscience ? On pourrait considérer que l'état interne de chatGPT est son ensemble de prompts. C'est juste que les LLM fonctionnent sur des inputs output immensément plus simple que le cerveau humain et qu'au lieu d'avoir un fonctionnement continu, les LLM fonctionnent par étape qui peuvent être séparées dans le temps (d'ailleurs en poussant le raisonnement, on peut surement trouver une unité de temps qui passe entre deux états interne du cerveau humain). Bref, je dis pas que chatgpt est conscient mais peut être que la continuité n'est pas nécessaire à la conscience (simplifiant encore sa définition parce que la continuité semble un peu être une hypothèse implicite de la conscience)
*Je copie des morceaux d'autres réponses à des commentaires (je te fait confiance pour adapter, mais c'est quasi deja a propo)* Oui, les réseaux de neurones actuels possèdent une forme de récurrence à travers leur fonctionnement auto-régressif token par token : leur "état mental" est constitué du texte de la conversation passée. Mais c’est évidemment très embryonnaire. Lorsque nous menons une conversation, notre état mental persistant est infiniment plus riche que le simple souvenir des mots que nous avons prononcés. Pour reprendre des termes techniques, il faudrait que la récurrence se déroule dans l’espace des features et non uniquement en sortie. Dans une certaine mesure, les LLMs actuels ont fait émerger des astuces pour émuler cela : un fonctionnement récurrent, en boucle, peut être reproduit en "déroulant la boucle". Par exemple, au lieu de passer N fois dans le même bloc, cela équivaut à passer dans N blocs consécutifs constitués de copies du premier.Comme nos réseaux actuels sont très profonds, on pourrait imaginer que quelques couches initiales, qui lisent la conversation passée, soient capables de reconstituer un état mental "riche" (davantage que de simples mots). Ensuite, dans un second temps, le reste des couches feed-forward agirait comme une sorte de récurrence déroulée. C’est donc techniquement possible que ce mécanisme ait émergé, mais il est limité par design et reste assez improbable. Quant à permettre une forme de réflexivité grâce à cette récurrence, c’est certainement encore plus délicat. *Et sur cette histoire de réflexivité dont je parle a la fin je faire référence à ceci:* Un fonctionnaliste ne dit pas qu'il suffit que le réseaux soit "complexe" il doit également, dans sa complexité, induire certaines propriétés précises. Par exemple le fait de permettre la représentation interne de ses propres états macroscopiques, ie lorsqu'on perçoit une image oui on on a en nous une représentation de l'image mais il y a aussi une représentation en nous du méta concept d'etre en train de percevoir l'image. On peut penser à ses propres pensées et donc manipuler une représentation d'une partie de nous même en tant que processus. Comme la majorité des LLMs actuels ne sont pas récurrents (n'ont pas d'état interne mis à jour cycliquement) il y a en effet de forte chance qu'ils n'induisent rien de phénoménale, par leur fonctionnement même la représentation d'eux même, la réflexivité dont je viens de parler en exemple, leur est inaccessibles. Et on ne dit pas non plus que cette réflexivité dont je viens de parler en exemple est suffisante, c'est un exemple d'une propriété qui semble essentielle.
@PasseScience sur la réflexivité, je suis pas certains qu'on soit si supérieur aux LLM justement. Mr. Phi a parlé d'un papier où ils montrent une représentation spatiale dans le réseau par exemple qui fait penser à ce coup de représentation interne. Je pense qu'on a l'impression que c'est pas la même chose parce que c'est moins complexe et multimodal que le cerveau mais à mon avis les étapes sont plus avancées vers une conscience que les philosophes ne le pensent. Mon avis c'est qu'on a surtout du mal à être réellement fonctionnaliste jusqu'au bout parce que c'est très contre-intuitif :D. Mais quand j'aurais des financements dessus j'aimerais bien étudier la question :D
@@tolhsadum Oui les LLMs actuels peuvent faire emerger des modeles du monde, mais la reflexivite dont je parle ce n'est pas juste un model du monde, c'est un model de sa propre cognition, par exemple le fait de se souvenir avoir penser a quelque chose, le fait de se souvenir de s'etre souvenu, le fait de savoir (modeliser) le fait qu'on est en train de reflechir à une certaine chose.
question chargée, on ne se demande pas "est-ce qu'un humain peut penser?"(après visionnage, c'est plus ou moins ta question finale). Il faut reconnaître que tu expliques vraiment très bien, j'ai envie de dire, bien mieux que moi. J'ai eu exactement ce débat il y a quelques temps bizarrement. Quand tu t'expliques ça parait sérieux, quand je réponds, on me prend pour un abruti, ou un zombie philosophique...étrange. Je suppose que les gens se laissent avoir par la forme, sans faire attention au fond. Merci à toi d'articuler correctement ces idées.
Le seul problème de la conscience, c'est sa conscience à soi. Les autres, je peux très bien les voir comme des machines qui fonctionnent sans conscience. Ce sont juste des êtres biologiques qui agissent en étant dirigés par la machinerie de leur cerveau. Ils n'ont pas de différence fondamentale avec un ordinateur, un robot sophistiqué. C'est le "moi", le problème, mon "moi". Si on considère habituellement que nous avons tous une conscience, c'est parce que nous généralisons la notion du "moi" : comme nous appartenons tous à la même espèce animale, il est normal que nous considérions cette notion du "moi" comme générale. Je ressens un "moi" donc ça veut dire que les autres doivent aussi ressentir un "moi". C'est raisonnable. Cependant, il n'y a que "moi" qui suis "moi". J'ai beau faire des mouvements, marcher, me déplacer, je ne me déplace en fait jamais : c'est l'univers qui bouge autour de moi. Moi je suis toujours à la même place, dans la même personne. Les autres, je vois qu'ils se déplacent, moi pas. Il y a une différence fondamentale entre moi et les autres. Les autres, je ne peux jamais être à l'intérieur d'eux.
Bah oui et c'est bien pour ça que la notion est problématique, la conscience n'a pas de manifestation objective, elle est strictement subjective. Et pourtant on ne peut pas nier qu'elle existe, d'ailleurs comme le disait Descartes c'est la seule chose dont on peut être sûr de l'existence.
Sauf si on considère que la conscience est une illusion construite par le cerveau, comme le laisse penser le passage vers 17:52 et comme l’a théorisé (entre autres) Daniel Dennett.
@@Rykvp C'est bizarre de présenter ça comme une illusion. Parce que même si c'est une illusion, le fait de se croire conscient suffit à s'établir comme conscient, puisque de toute façon notre conscience est une perception de nous-même. Est-ce que vous êtes en train de suggérer que nous n'existons pas vraiment ?
@@Rykvp illusion est le mot commode trouvé par certains pour évacuer des faits gênants. Le problème avec cette notion c'est qu'on ne sait pas où elle commence et oui elle finit. Si on l'applique à la conscience elle-même, c'est-à-dire au support même de toute représentation, ça signifie que tout est illusion et donc que rien n'existe réellement. Même sans aller jusque-là, on est vite bloqué par la question: qui est victime de l'illusion? Enfin, une autre question vertigineuse: en quoi consisterait le fait de ne pas être victime de cette illusion? Et une toute dernière pour la route: savoir qu'on est victime de l'illusion de la conscience = être _conscient_ que ce que l'on perçoit n'est pas la réalité. Mais qu'est-ce que cela, peut-il donc signifier ici?
Excellente vidéo comme d'habitude, un bonbon pour le cerveau ! Il y a malgré tout un aspect qui me turlupine toujours avec ce genre de réflexion : le problème difficile de la conscience. Il me paraît impossible de pouvoir déterminer l'émergence d'une chose tant qu'on ne sait pas ce qu'est réellement cette chose. Si d'un côté notre intuition ne semble pas à l'aise avec l'idée de l'émergence d'une conscience dans un substrat non biologique (et même non humain pour certains) et que d'un autre côté une réflexion rationnelle arrive pourtant bien à la conclusion que rien ne l'en empêche, il y a là bien la preuve qu'on loupe quelque chose. Mon interprétation est, il me semble, intrinsèquement irréfutable mais je pense simplement que le caractère "magique" que l'on accorde à la conscience n'est qu'une illusion, le biais cognitif ultime venant du fait qu'on essaie introspectivement de visualiser et d'interpréter une chose en usant de cette même chose. Comme si on voulait installer dans un ordinateur une simulation parfaite de lui-même, la simulation ne parviendrait forcément jamais à égaler son modèle, le rendant "à ses yeux" inatteignable. Comme l'est la compréhension de notre propre conscience. Qu'en pensez-vous ?
*Si d'un côté notre intuition ne semble pas à l'aise avec l'idée de l'émergence d'une conscience dans un substrat non biologique (et même non humain pour certains) et que d'un autre côté une réflexion rationnelle arrive pourtant bien à la conclusion que rien ne l'en empêche, il y a là bien la preuve qu'on loupe quelque chose.* Le cerveau humain a le biais d'habitude, il tire des patterns de la répétition, il ne voit qu'un certain type de chose et en tire ici une conclusion générale, c'est la même chose pour les partisans de la terre plate par exemple (exemple extrême certes) leur intuition est en fait dictée par l'experience quotidienne du haut et du bas dont ils dérivent un sens ontologique, cest un biais d'exposition en qq sorte, le matracage de la repetition d'une regularite fait que le cerveau l'essentialise. *Mon interprétation est, il me semble, intrinsèquement irréfutable mais je pense simplement que le caractère "magique" que l'on accorde à la conscience n'est qu'une illusion, le biais cognitif ultime venant du fait qu'on essaie introspectivement de visualiser et d'interpréter une chose en usant de cette même chose.* ca peut se rapprocher de l'illusionisme mais je ne peux le garantir car je ne suis jamais certain d'avoir compris cette these. notamment parceque si le phenomene est une illusion et bien l'illusion est le phenomene à expliquer.
@@PasseScience Merci pour cette redirection vers l'illusionnisme que je ne connaissais pas ! J'imagine que l'intérêt d'explorer cette voie est que, s'il faut comprendre les mécanismes de cette illusion, alors la place de la philosophie dans la réflexion diminue fortement au profit des neurosciences. Cela peut rendre les résultats plus tangibles et plus "durs". De plus, le fait d'admettre que la conscience serait une illusion plante un clou de plus dans le cercueil de cet anthropocentrisme qui fait tant de mal, validant ainsi une approche antispéciste.
@@divertissalt5475 Je n'ai pas été précis dans ma réflexion : l'abandon de l'anthropocentrisme et l'antispécisme ne sont pas liés par causalité mais par corrélation avec l'illusionnisme. L'homme se sert consciemment ou non du culte qu'il voue à son esprit et à sa conscience pour justifier une hiérarchisation des espèces. Hiérarchie dont il se place évidemment à la tête. Si cette conscience, élevée au rang de mythe, touchant presque au magique et au divin, ne s'avère être qu'une simple "illusion cognitive", alors la limite qui sépare les hommes des animaux en prend un coup.
Sur le thème : les 30 premières pages de ' Diaspora ' de Greg Egan. Oui, un classique, mais tout le monde ne l a pas lu...😅. presque aussi bien que cette video😊
J'ai essayé de me poser objectivement la différence entre un algo conversationnel et nous. J'avais inversé l'interrogation en me disant que ces programmes disent bcp sur nous car un "simple" calcul vectoriel de statistique autorise une machine a parler comme nous. Du coup, sommes nous à ce point prévisible ? Donc un grand merci car vos soirces vont me permeetre de mieux creuser la question Bravo pour cette vidéo (qu'il va me falloir regarder plusieurs fois pour la bien comprendee)
Il y a encore beaucoup de différences entre un algo conversationnel et nous. La majorité des LLMs ne sont pas "récurrents" : c'est un calcul feed-forward, mot par mot, sans état interne mis à jour cycliquement et qui pourrait contenir un "état de réflexion" (ou, pour certains chatbots avancés, des versions très limitées de cela). Lorsqu'on nous dit "3x4" et qu'on pense et répond "12" du tac au tac, c'est très proche de ce qu'un LLM fait pour absolument tous les mots qu'il produit. On pourrait rapprocher la production conversationnelle des LLMs de certains small talk qu'on peut avoir sans y réfléchir vraiment et par pur instinct, ou encore les rapprocher des productions verbales du beauf de la famille lors des fêtes de Noël à venir. :)
Bonjour. La bonne réponse à la question posée est : oui. Je remercie tous les participants à notre jeu concours, face à l'absence de gagnant le porte clef à gagner est remis en jeu pour la prochaine vidéo. Merci à tous.
Merci pour cette vidéo, énorme boulot ! J’adhère globalement bien à l’ensemble de tes propos. Mais à mon sens, il manque un maillon essentiel, l’intéroception. C’est justement le lien qu’il y a entre la cellule (autopoïèse, homéostasie, réproduction etc) et la conscience, dont tu parles au début, mais après tu n’y reviens pas. L’intéroception est la base de l’orientation de nos comportements (prises de décision), de boire quand on a soif, jusqu’aux comportement sociaux complexes. Connais-tu Anil Seth (livre "Être soi") ou Antonio Damasio ? Francirco Varela ("l’inscription corporelle de l’esprit") ? Si tu ne connais pas, je te recommande vivement le livre très récent d’Anil Seth. Ça va complètement dans le sens aussi de l’animal-machine. Il travaille aussi bcp sur l’intelligence artificielle etc. Parce que sans ce lien (intéroception), c’est un peu trop facile de passer de la conscience humain à la conscience d’une machine électronique ! Anil Seth et Varela, par exemple, insistent particulièrement sur la dimension phénomènologique (le "vécu"), justement, plutôt que fonctionnelle. Même si à la fin, tout ça n’est pas si contradictoire. Mais c’est vraiment la question de la texture vécue de la conscience, du sens/orientation de la pensée, de l’action, de l’inscription corporelle du vécu spirituel (l’activité du cerveau, de l’esprit) dans le corps, par l’intéroception. (sans parler du sentiment de réalité unifiée, de sentiment d’individualité unifié). Qu’est-ce qui ferait qu’une machine électronique aurait un sentiment d’identité individuel, corporel ?? Quelle serait la source de l’orientation de son comportement? Ce point est crucial. Pour l’humain on a de bonnes réponses (humain et autres animaux sensible et doué d’homéostasie !). Vraiment, lire Anil Seth !! (si c’est pas déjà fait ;-)
Je crois que notre conscience émerge de la formidable organisation de notre cerveau mais qu'il ne faut pas oublier que celui ci est un résultat d'un monde, le notre, sur notre planète et donc dans ses strictes conditions. Et donc ce qui est je pense plus fascinant encore, c'est de prendre conscience que c'est en observant l'univers inter planétaire ou inter galactique, ou, l'univers microscopique, que l'on observe des mondes que nous ne sommes pas sensés pouvoir observer. L'infiniment grand et l'infiniment petit, par rapport à nous, seraient des endroits secrets, qui sait interdits, et pourquoi pas, une aide vers les réponses à toutes nos questions.
Il a manqué quelques chiffres à cet episode pour le rendre parfait ! Un point qui je pense fache souvent les dualistes quand on fait des comparaisons comme la gigantesque administration qui deviendrait consciente, cest justement de se rendre compte a quel point elle devrait etre GIGANTESQUE. Le niveau d'efficience du vivant est juste colossal, et pour le moment bien loin d'etre égalé par d'autre support. Je vous renvoi vers les videos de cette meme chaine concernant l'origine de la vie et la physique des nanomachines qui sont de très bons moyens de réaliser cela. Si je devais voir une IA consciente de mon vivant, je dirais que ca serait quelque chose de different de nous. Deja parce qu'un neurone n'est pas l'equivalent d'une porte logique : parce que ses valeurs d'entrees et de sortie sont continues, sont influencées par des facteurs internes (energie disponible, dechets cellulaire peut etre), depandent directement de miliers de connexions, ils ne peuvent etre reduits a seulement 0 ou 1. Pour reproduire un neurone il faudrait donc necessairement une structure plus complexe qu'une porte logique. Ca reste possible, mais de la a pouvoir en assembler suffisamment qui sont capables de se re-organiser pour arriver a l'equivalent d'un cerveau et sa plasticité... il est plus probable que pour des raisons de cout et d'efficacité on ait une structure analogue plus simplifiée. Et enfin, il lui faudrait une materialisation physique qui la rendrait vulnerable à la mort et dependante du maintien de son propre corps. Un etre vivant qui ne craint pas la mort, ni la faim, ni le sommeil, qui n'a aucun désir d'appartenir a un groupe et de s'y maintenir, avec une puissance de calcul logique démesurée, ca serait tout simplement dangereux : on ne se retrouverait plus qu'avec une IA executive qui accomplirait ses taches sans aucune morale. Si on veut qu'elle soit à notre image il faut la lier plus fortement qu'un ordinateur au monde réel. Bref, aux futurs createurs, je vous envoi toute ma force mais j'ai peu d'espoir x)
Après la force vitale, vous aborder la conscience (qui comme trop de gens l’ignorent encore, n’est pas le fruit du cerveau). « ce qui n’a jamais été observé » ah? et expliquez-moi ce qu’est l’effet placebo ? et l’effet nocebo ? Vous observez le vivant, vous observez la mort (l’absence de vie), mais vous ne pouvez expliquer ce qui ce passe entre ces deux états. Votre vidéo a le mérite de faire sourire ceux qui on l’opinion contraire. On attendra encore longtemps avant que des androïdes soient dotés de conscience. Ce ne sont que des machines totalement inconscientes et c’est pourquoi nous devons les brider (si on veut éviter exterminator).
@@andreando1760 J'ai du mal à vous suivre, je ne comprends pas dans votre raisonnement ce que l'effet placebo et nocebo vient faire là-dedans, ou est censé se démontrer. Vous pouvez développer ?
En fait ce qui pose vraiment question, et que vous ne questionnez pas, est l'existence de la matière inerte. Car, comme l'a souligné Descartes, la seule chose dont une conscience phénoménale puisse être vraiment sûre, c'est d'elle-même. Le monde extérieur, la matière n'est qu'une hypothèse que produisent des qualias cohérentes, certes avec beaucoup de régularités. En somme, pour une conscience phénoménale il n'y a qu'elle-même, le monde c'est elle même. Qu'il existe une réalité plus pauvre, inerte, est la vraie question.
Ce que vous dites là est effectivement très pertinent et beaucoup plus profond que ce que l'on pourrait croire a priori. En fait, les tenants de ce genre de positions que j'estime extravagantes si on ne les prend pas pour ce qu'elles sont, à savoir de la pure science-fiction, ne font que projeter leur propre expérience subjective dans des ordinateurs sans se préoccuper de savoir comment se verrait une telle machine, et comment cette dernière verrait le monde, si d'aventure ce genre de chose était possible. En fait, il ne font que s'imaginer eux-mêmes en forme de machine. De mon point de vue, cela relève du doux fantasme au mieux, ou du délire profond au pire.
Deux livres que j'ai beaucoup aimé. Le premier ; écrit en 1979. Chercheur en sciences cognitives aussi original que stimulant, l'Américain Douglas Hofstadter écrit en 1979 le mythique GEB, Gödel, Escher, Bach, an eternal golden braid (les Brins d'une éternelle guirlande dorée) prix Pulitzer en 1980 et pose la question suivante : une Intelligence Artificielle peut-elle devenir consciente (sa réponse est oui) et dans quelles conditions ? Sa démonstration passe donc par un rapprochement entre l’œuvre de trois personnes qui a priori n’auraient aucun lien entre elles : le mathématicien Gödel, l’artiste Escher et le musicien Bach. Le deuxième ; écrit en 1980. Matière à pensée.Quel est le lien entre le monde physique et le cerveau ? Les objets mathématiques existent-ils indépendamment du cerveau de l'homme ou sont-ils seulement le produit de l'activité cérébrale ? Les mathématiques sont-elles universelles ? Mais le sont-elles au point de nous servir à communiquer avec d'hypothétiques habitants d'autres planètes ? L'éthique, qui nous fait distinguer le bien du mal, peut-elle être fondée sur des principes aussi universels que ceux des mathématiques, qui transcenderaient la diversité des cultures et l'intolérance des idéologies ? La morale peut-elle reposer sur des fondements naturels, qu'il faudrait rechercher dans le fonctionnement du cerveau humain en société ? Telles sont quelques-unes des questions essentielles instruites dans ce livre original et stimulant. Par la qualité de ses auteurs et la fécondité de leur réflexion, il constitue un événement exceptionnel. Alain Connes, médaille Fields, est titulaire de la chaire d'Analyse et Géométrie au Collège de France. Jean-Pierre Changeux, auteur de L'Homme neuronal, est titulaire de la chaire de Communications cellulaires au Collège de France. Tous deux sont membres de l'Académie des sciences. Que penser d'une personne dont le cerveau est physiquement absent à 90% absent et va parfaitement bien .Comme il existe des personnes dont le cerveau est plein d'eau, l'autre sans cervelet et le dernier est coupé en deux Pourtant, les trois personnes dotées de tels cerveaux vivent normalement. Un vrai mystère.
🫶 L'ultime épisode... L'épisode est une claque mais la fin c'est un shoot 😵😵💫✨💫🪐 merci d'avoir su expliquer cela avec brio. C'est une des meilleures expérience de pensée qui soit à mon sens... 👍
J'ai une remarque à propos du test de Turing. Je me rappelle avoir assisté à une conférence donnée par Avi Wigderson, où il avait affirmé quelque chose qui semblait contredire ce que vous avez dit. Selon mes souvenirs de ce qu'il a dit, je cite avec mes mots "l'importance réside non pas dans la cause, mais dans la propriété qui en émerge". Autrement dit, deux entités ayant des propriétés indiscernables, dans le cadre des propriétés testées, sont équivalentes dans ce contexte. Ici, le test des propriétés est celui de Turing (à condition, bien sûr, que ce test évalue effectivement toutes les bonnes propriétés, ce qui demande à clarifier ce que l'on entend par bonnes propriétés). Que pensez-vous de cette idée ? Une version élargie du test de Turing pourrait supposer qu'un humain n'est pas intrinsèquement plus conscient qu'une machine, dès lors que cette machine réussit les mêmes tests de conscience que l'humain. Si, des années plus tard, de nouveaux tests venaient à être conçus, alors la réalité ou la reconnaissance de la conscience d'une machine pourrait évoluer en fonction de ces nouveaux tests. Est-ce bien ce que vous cherchiez à développer ?
*ce qui demande à clarifier ce que l'on entend par bonnes propriétés* *Est-ce bien ce que vous cherchiez à développer ?* oui ce que les theories de la conscience cherchent à developper ce sont les proprietes necessaires et suffisantes a l'emergence de la conscience phenomenale (ie au ressenti subjectif) et ses proprietes seraient objectives (mesurables)
Une machine pourra calculer l'apropos d'un sentiment. Mais chez un être vivant, le sentiment est censé indiquer un risque ou une réalité pour son être biologique (sauf dysfonctionnement mental, conflit du ça et du surmoi...). L'être vivant peut souffrir - ça c'est simple à comprendre - ou se réjouir d'avoir bien mangé ou d'avoir suscité un lien affectif qui améliore son avenir. Et ces sentiments sont reliés à des conséquences possibles bien réelles sur son corps (santé, protection ou inversement maladie). On pourrait simuler une émotion chez un robot menacé par une arme à feu (aux USA). Reste à rendre utiles ces émotions... Chez nous, l'utilité c'est l'évolution qui les a forgées, et parfois les réactions sont inadéquates (biais, maladie), mais on les suppose en général adaptées. Réagir à une menace par la colère peut aider à mobiliser ses forces pour contre-attaquer, modifier le fonctionnement du corps et du cerveau... Avoir peur aide à fuir, et si celà paralyse, rester figé peut être un bon choix. Être en relation amoureuse aide à se reproduire et élever des enfants, mais ce serait plutôt un coût individuel ! Mais l'évolution n'existerait pas sans ce sentiment ! Pour une machine, ce ne sera pas l'évolution mais nous qui engendrerons des simulations. Et après tout, on peut apprendre à un robot à avoir mal, peur, ou se réjouir d'un bon bain d'huile (C6PO dans la guerre des étoiles). Finalement la différence entre vivant et programmé sera juste dans le processus de fabrication. D'ailleurs, quand un film nous présente un robot qui a tout d'un être humain sensible voire hypersensible, on y croit et on lui prête un esprit - la théorie de l'esprit (AI intelligence artificielle de Spielberg, et ce robot fille dans un des films Alien...). Mais si une machine est meilleure qu'un humain un jour, plus fiable, plus protectrice, plus plus tout ça, on risque de préférer l'ami artificiel au naturel qui a été produit par des millions d'années d'évolution dans des conditions variables avec des réponses approximatives... On va s'en foutre que ce soit une machine !
L'absence de conscience des LLMs est loin d'être un sujet clos. les pros de l'IA sans formation philosophique voient cela comme une évidence car ils comprennent entièrement les grands points de fonctionnement des LLMs. Mais la pensée fonctionnaliste induit que comprendre totalement une fonction n'empêche pas cette fonction de faire émerger une conscience. Tout le génie du test de Turing n'est pas un pari sur les mécanises requis pour se faire passer pour un humain mais l'idée que même simuler une tache pourrait faire émerger les mêmes états de conscience que faire cette tache pour un humain. Les limitations du test de turing sont plus dans le fait qu'être humain ne se résume pas à conversationner mais des tests similaires à celui de Turing (dans le sens ou on n'a accès qu'aux output et aux input) sont toujours pertinents.
Il y a tout de même une objection majeure qu'on peut faire aux expériences de Libet et consorts. Elles demandent toujours au sujet de faire un choix aléatoire : lever la main gauche ou droite, choisir une lettre entre 4, etc. C'est à dire qu'on demande au sujet de faire un choix inconscient, pour ensuite s'étonner triomphalement que ce choix est... inconscient. On prouve juste que l'humain est mauvais à produire du hasard. Dans ce sens, elles ne s'opposent pas à la notion de liberté. L'individu libre n'est pas celui qui agit aléatoirement. Si je vous demande de lever la main gauche, la droite, aucune ou les deux, il n'existe aucune raison de faire un choix plus qu'un autre. Je vous demande donc de faire un choix qui ne peut provenir que d'un processus subconscient, pré-conscient. Mais si je vous demande si vous voulez qu'on vous coupe la main gauche, la droite, aucune ou les deux, je n'ai pas besoin d'une IRM pour savoir ce qu'un individu libre choisirait. Je peux même le prédire plusieurs années à l'avance et ça n'enlève rien à la liberté du sujet, car la liberté, dans toutes ses acceptions, n'est jamais l'indétermination mais toujours l'autodétermination. On admet facilement que l'évolution nous guide vers la survie et la reproduction grâce à la carotte et au bâton du plaisir et de la douleur. Prenez par exemple notre appétence naturelle (statistique) pour le sucre. Singe aimer sucre -> singe manger fruit -> singe survivre et multiplier. On peut en déduire naïvement que le singe est mécaniquement déterminé par cette appétence, mais c'est oublier un détail important : pour que cela fonctionne, il faut que l'entité qui ressent le plaisir ou la douleur soit une entité décisionnaire. Sinon, la punir ou récompenser n'a aucun effet. Le "truc" qu'à trouvé la nature pour nous guider vers le fruit sucré, c'est de gratifier par du plaisir une entité qui pourrait choisir de ne pas manger le fruit. Paradoxalement, ce déterminisme ne fonctionne donc que sur des entités libres.
Sauf que il faut être conscient que ce choix est à faire, pour pouvoir le faire, et il faut bien donner un ordre conscient pour pouvoir lever la main que l'on a choisi. C'est donc bel et bien un choix conscient, mais qui bien sûr fait appel à des processus inconscients, là n'est pas le problème parce que conscience et inconscience ne sont pas des phénomènes indépendants, l'un émerge de l'autre. Mais ce que cela montre, c'est que ce choix qui nous parait délibéré émerge de processus inconscients et que la décision de lever telle ou telle main est faite avant que nous n'ayons conscience d'avoir prit cette décision. Et que de ce fait, on peut avoir l'impression d'avoir choisi sciemment une main ou l'autre sur la base de processus entièrement conscients, alors qu'en vérité il y a tout un processus inconscient derrière pour prendre cette décision, ce qui peut inclure des facteurs dont nous ignorons tout. Ce n'est pas révolutionnaire en soit, on sait depuis longtemps que souvent on prend des décisions sans nécessairement avoir conscience de toutes les raisons de notre choix. A vrai dire, c'est la raison même de notre recherche d'une pensée objective, et la raison de la mise en place de la méthode scientifique, qui vise spécifiquement à se débarrasser de ces processus inconscients dans le raisonnement et notre recherche de compréhension du monde. Mais l'intérêt de cette expérience, c'est justement de montrer expérimentalement que c'est effectivement le cas, qu'une prise de décision peut prendre racine à un niveau inconscient, et que l'idée de faire un choix conscient est au final qu'une illusion puisque nous ne sommes pas directement conscient de tout ce qui peut nous amener à faire ce choix. Bien sûr cela ne démontre pas que tous nos choix sont le fruit de processus entièrement inconscients, ce serait sauter à une conclusion que personne d'autre ne ferait que ceux qui veulent se persuader qu'ils ont un contrôle complet de leur propre pensée. Et concernant les mécanismes de l'évolution, je vous rappelle qu'on utilise un mécanisme tout à fait semblable pour entrainer des IA. C'est l'apprentissage par renforcement. La douleur ou le plaisir ne sont que des système existants pour renforcer ou réprimer certains comportements. L'analogue existe bel et bien dans le monde des machines. Le plaisir et douleur sont la mécanique pour arriver au comportement souhaité chez le vivant, mais ce qui est nécessaire c'est le réajustement des relations entre les neurones. Nous percevons ce processus comme du plaisir ou de la douleur, mais ce sont juste des sensations associées à ce processus de réajustement neuronal, il n'y a aucune raison qu'un autre type de système nécessite de ressentir des sensations similaires pour aboutir au même résultat. Mais surtout, cela montre que cela n’a rien à voir avec la notion d'entité libre ou d'auto-déterminisme, car on peut parfaitement appliquer ce processus à une machine dans le but de lui faire adopter un comportement souhaité.
@@theslay66 Ce que vous décrivez avec l'apprentissage par renforcement pour les machines ressemble plus au jeu de colin-maillard (tu chauffes, tu refroidis). Mais, là encore, il n'y a pas de choix à faire. Le choix, vous l'avez fait en acceptant de jouer au jeu, ou en acceptant que trouver l'objet caché est maintenant votre but. La machine n'a pas à faire ce choix. Ensuite, vous pouvez suivre mécaniquement les instructions ou trianguler pour trouver l'objet caché, sachant si vous vous en approchez ou éloignez. Mais il n'y a pas de choix. Donc, pas de notion de liberté. Par renforcement, je pourrais apprendre à détecter le sucre, mais pas à avoir "envie" de revenir au sucre. Si je dois guider une entité par "l'envie", il faut qu'elle soit capable de prendre une décision pour elle-même. Quant à votre première objection, elle ne répond pas au problème : les expériences des incompatibilistes requièrent toujours des choix aléatoires, donc nécessairement inconscients. C'est la différence entre choisir un nombre entre 0 et 1000, et négocier votre salaire. Évidemment, que le nombre aléatoire ne va pas procéder d'un processus conscient, puisque c'est précisément ce qu'on vous demande.
@@maldoror4035 Mais tout choix passe par des processus inconscients. Nécessairement. Parce que la pensée consciente émerge de l'activité de l'inconscient. Il n'y a aucune décision que vous preniez, qui ne soit pas issue de votre inconscient. Même vos perceptions sont constamment filtrées par votre inconscient. Vous ne décidez pas forcément vers quoi vous tournez votre attention, parfois un événements va s'imposer à celle-ci. Par exemple, vous ne prêtez pas nécessairement attention à la façon d'où vous marchez... mais soudain vous trébuchez, et tous vos sens sont en alerte afin de rétablir votre équilibre. Et si ce dont vous êtes conscient est constamment filtré par votre inconscient... comment pouvez-vous être sûr que votre choix est bien le produit d'un processus conscient, lorsqu'un choix a déjà été fait au niveau des informations que vous traitez consciemment ? Vous prenez tous les jours, constamment, des décisions inconscientes. Ne serait-ce que tous ces gestes que vous effectuez sans y penser, par habitude. Et vous n'y prêtez attention que lorsque quelque chose d'inhabituel se produit. Et la raison, c'est parce que la conscience n'est rien d'autre que la partie émergée de l'iceberg, qui s'occupe des cas pour lesquels on n'a pas déjà une réponse toute faite, un automatisme implanté dans notre inconscient. Notre conscience ne nous sert pas à faire des choix, seulement à gérer les cas pour lesquels on n'a pas déjà un choix tout fait. Et l'inconscient s'entraine, exactement comme une IA ! C'est spécifiquement à quoi sert l'entrainement, son but est de rendre une activité habituelle, de telle manière à ce que l'on ai plus besoin de faire appel à notre conscience (lente et couteuse en énergie) pour effectuer la tâche. Une tâche dont vous avez l'habitude va nécessiter moins d'attention, un niveau de conscience inférieur si vous préférez. Et oui, parce que il n'y a pas juste la partie consciente et la partie inconsciente du cerveau, ce ne sont pas deux chose séparées mais plutôt un continuum. On peut prêter plus ou moins d'attention à quelque chose. Enfin, je finirais par vous rappeler que nous, humains, sommes très mauvais pour reproduire un phénomène en apparence aléatoire. Cela signifie que, quand on nous demande de faire un choix aléatoire, on tente de reproduire sciemment ce à quoi on pense qu'un résultat aléatoire devrait ressembler. On ne peut donc pas affirmer que demander de faire un choix aléatoire est un processus particulier qui ferait plus appel à l'inconscient qu'un choix délibéré. C'est tout autant un choix délibéré que n'importe quel autre.
De la même manière qu'Einstein a prouvé qu'on ne peut pas distinguer l'accélération de la gravité, à un moment donné, nous accepterons qu'un être artificiel qui se comporte ou manifeste des sentiments n'est pas différent d'un être naturel qui ressent des sentiments.
Finalement, par bien des détours, la biologie opte pour une compréhension matérialiste. Pour paraphraser Laplace, "l'esprit est une hypothèse non nécessaire".
Il y a, à priori, pas mal de niveaux qui peuvent constituer le « programme » dans la « machine humaine ». L’ADN code beaucoup de choses, dont l’agencement des cellules entres elles pour former des organes, tels que le cerveau. Le cerveau lui-même, en interaction avec le reste du corps, sert de support à nos pensées. Le « programme » de la pensée semble difficile à réduire à une simple expression de l’ADN. Il s’agit plutôt d’un niveau de complexité supérieure, émergent à partir de la structure du cerveau codé par l’ADN, mais il est également influencé par nos expériences, et en particulier, l’environnement social ou la culture au sein de laquelle nous vivons.
😮😅 merci beaucoup j'ai mieux compris cette histoire de fonctionnaliste j'ai également appris tes apparemment on vivrait dans un simulation on le sait grâce à la 3e loi de Newton et on peut même observer maintenant les atomes au microscope on voit un point lumineux avec un dégradé autour qui représente les nuages électroniques et c'est vrai c'est incroyable comment entre la vie macroscopique et microscopiques qui sont relativement bien liés😢😢😢😊
Je suis fonctionnaliste acalculiste. Je pense que la conscience est issu d'intéractions physiques mais que la fonction réalisée qui aboutit à la conscience n'est pas un calcul (ou dit autrement que réaliser le même calcul d'une autre façon n'aboutira pas forcément à une conscience). Notamment, si le calcul est médié par une surcouche logique qui s'apparente à un langage.
Pas sûr de suivre, est ce que le même calcul aboutirait aux mêmes comportements (sans même parler de conscience subjective) ? Est-ce que reproduire le calcul de votre cognition mènerait à pouvoir discuter avec cette reproduction de manière indiscernable avec vous-même ? (mais qui ne serait pas consciente du coup?)
@@PasseScience Oui (nous en avons longuement discuté sur X). Je pense que si on parvenait à réaliser une simulation titanesque on n'aurait qu'un "zombie" (et les LLM nous donnent un exemple approchant de zombie, pour le langage). Dès lors que c'est une simulation, je vois un mur infranchissable vers la conscience phénoménale (ce que j'appelle la barrière symbolique). Je trouve a priori coûteux intellectuellement de se dire qu'on pourrait parvenir à la conscience phénoménale en sautant l'étape de complexité de la vie. Je pense (en théorie) tout à fait possible de créer une conscience artificielle, mais ce robot conscient serait également vivant (et composé de cellules vivantes).
@@brunodoussau_from_tyumen Il faut dans ce cas définir ce qui distingue le « vivant », d’un substrat artificiel. Quel mécanisme ou phénomène produit, ou sert de support, à la conscience ? S’agit-il d’un phénomène tel que la conscience quantique, défendue, entre autres, par Roger Penrose ? Il me semble beaucoup plus coûteux intellectuellement de devoir ajouter ce type de phénomène, quel qu’il soit, à notre compréhension du monde, avec l’unique objectif d’expliquer la conscience, plutôt que de chercher comment les états internes d’un système complexe, tel que le cerveau pourrait expliquer la conscience.
@@Rykvp Je n'oppose pas "artificiel" et "vivant". Le vivant est assez bien défini comme : système chimique autonome capable d'une évolution darwinienne. Rien ne s'oppose à créer un système vivant de toutes pièces, très différent si on veut du vivant historique (celui à base d'ADN-ARN-protéine). Je pense raisonnable de penser qu'un système avant d'acquérir la conscience, doit être vivant, même si c'est sous une forme bien à lui.
"Ho non" dans le sens ou tu étais deja trivialement fonctionnaliste (ou a minima d'un matérialisme qcq)? ou "ho non" dans le sens ou tu es évidemment dualiste?
J'ai toujours pensé que nos comportements, nos choix philosophiques personnels et politiques, sur le point de leur conception de notre humanité ne devaient pas dépendre de ce que nous apprenait la science. Et pourtant j'impression que nos connaissances du vivants changent beaucoup de choses ? Si tel est le cas, faut-il y voir la marque d'une insuffisance dans notre philosophie commune ?
2:50 Et l'etre humain est terriblement aveugle et centré sur sa facon d'interpreter le monde. Rien que le débat sur les sétacé (orques, dauphins, cachalots et autres) sur si ils sont aussi inteliguent voir émotive et conscient que nous.
Pour avoir conscience de soi et sentir, il faut que certaines configurations du réseau produise des entrées nouvelles qui ne soient pas celles produites par l'interaction normale d'un réseau. C'est ce que j'appelle une obsession, une epilepsie ...
j'apprécie la vidéo, après ça reste très situé et proche de l'approche de cerveau dans le bocal qui peut être intéressante comme perspective mais qui est un peu problématique si on a présente trop comme une évidence. Enfin surtout si on ne voit que ça. Pour moi faudrait ouvrir un peu sur le sciences qui dépassent un peu ce modèle de cerveau dans un bocal pour pas qu'on s'enferme dedans, ça plait un peu trop aux non scientifiques qui aiment les sciences et c'est un peu trop simplificateur. Je précise encore mais c'est pas un soucis de la vidéo en elle même. C'est en complément. Faut au moins se porter sur la psychologie pour parler de conscience et de phénoménologie. Les neurosciences sont pas le bon niveau explicatif pour la cognition, même si ça aide. Le modèle de la cognition incarnée permet de changer un peu ses perspectives et de pas répliquer les modèles dualistes sur un couple cerveau/corps. La pensée c'est une production d'un corps dans un environnement. Même si ça se passe surtout dans le cerveau on peut pas résumer ça aux neurones faut prendre tout l'appareillage et il est largement influencé par l'environnement. C'est surtout une question de perspective, ça change rien sur le fond, mais ça permet de mieux comprendre la cognition et de pas retomber dans les modèles du passé comme la vision de l'esprit comme une volonté par exemple. Et on peut faire pareil avec plusieurs approches. Le corps influe largement sur ses organes, dont le cerveau (et avec rétroaction) et pour reproduire une cognition faudrait pas seulement reproduire le cerveau avec les entrées sorties, mais aussi simuler tout le fonctionnement du corps pour l'intégrer aux entres sorties de cette vision du cerveau dans un bocal. Toutes les stimulations font partie des entrées du cerveau, même celles du corps comme le digestion ou les battements de cœur. Sinon on serait pas la même personne. Impossible de créer une conscience qu'on peut changer de corps sans changer la conscience, même si c'est populaire en SF ^^. D'ailleurs ya des expériences assez marrantes ou on regarde les changements de comportement et de perception selon le corps dans lequel on est. Avec la VR ou avec des extensions comme des outils. On est pas la même personne en conduisant un gros véhicule, derrière un clavier ou devant des gens. (voir certains modèles sur le self). Notre conscience se forme avec ces stimuli permanents et elle n'existerait peut être pas sans ça. C'est dans des théories sur la conscience qu'on peut trouver chez ceux qui travaillent sur le sujet d'ailleurs.
Dans l'état actuel de ce type de simulation (objectivement assez partiel) et dans le contexte de ce qu'on sait de la complexité de sa cognition, il ne semble pas y avoir encore trop de catastrophe morale ici. Mais c'est en effet effrayant car on commence à avoir des systèmes pour lesquels il se pourrait que ce type de catastrophe morale soit la. On pourrait décider de la vie et de la mort de système de conscience, décider de leur souffrance, ou même mettre au point sans le savoir des systèmes dont l'existence subjective n'est qu'une souffrance abyssale.
C’est peut être le tuer. Mais l’enjeu est peut être plus la souffrance. La série Westworld explore beaucoup cette thématique. Un propos qui m’a beaucoup perturbé est quand un des créateur dit que ce qu’il trouve sublime dans l’IA est la capacité a supprimer leur souffrances à leur faire oublier. Et ça, transposé potentiellement sur l’humain est très perturbant.
Tout à fait, et si on généralise, on pourrait se dire que si ce nématode est conscient, rien n'empêche de simuler des organismes plus complexes... Mettant définitivement fin au débat de si oui ou non la conscience peut émerger d'un substrat différent.
Pour me faire l'avocat du diable "dualiste", ne se peut-il pas que, pour les calculs "relativement" simples (même s'ils peuvent être déjà un peu compliqués), la "réalisabilité multiple" soit applicable (c'est-à-dire qu'on puisse effectuer les mêmes calculs avec différents supports) mais que pour les calculs plus compliqués correspondant à l'émergence d'une conscience (pour autant qu'on puisse en juger), la "réalisabilité" soit nettement moins multiple voire pas multiple du tout, c'est-à-dire, concrètement, qu'on ne puisse effectuer les calculs en question qu'avec tel type bien précis de neurotransmetteur ou autre molécule, faute de quoi il se passerait des choses trop différentes pour y voir une émulation du cerveau assez sérieuse pour générer le même type de phénoménalité ? Autrement dit, certes, la conception fonctionnaliste resterait pertinente *en principe*, mais *en pratique*, seul un certain type d'"appareil" (du "wet hardware" bien précis) permettrait d'effectuer les calculs requis... ? De sorte que, même avec un raisonnement faux, les dualistes parviendraient à une conclusion juste quant au fait que seul le cerveau humain aurait un "petit quelque chose" donnant naissance à la conscience phénoménale (non pas une âme ou un principe vital, certes, mais une organisation inimitable de la matière). (remarque complémentaire, bien que ce soit encore un autre sujet : le spécialiste d'informatique quantique Scott Aaronson - tout en prenant ses distances avec la théorie ORCH/OR de Penrose sur la nature quantique de la conscience, trop façonnée de son point de vue pour répondre à des préoccupations contestables sur le théorème de Gôdel - n'exclut pourtant pas que la conscience puisse avoir, de façon moins tirée par les cheveux, une nature quantique, de sorte qu'on ne pourrait pas la "cloner" pour la "téléverser dans un ordinateur", conformément au "non-cloning theorem", par exemple.)
Je trouve cette objection être la seule valable effectivement. J'ai trop peu de connaissances en neuroscience pour savoir comment sont réalisées précisément les fonctions au sein du cerveau. Cependant je pense que les experts du domaine pourraient te répondre. Il me semble que la façon dont les neurones traitent l'information est assez bien connue (dendrites, neurotransmetteurs, etc). Et pour l'instant on a rien trouvé de "non simulable" dans ce fonctionnement, si je ne dis pas de bétises. Réponse de chatgpt sur le fonctionnement des neurones : 1. Réception des signaux Les neurones reçoivent des signaux provenant d'autres neurones ou de stimuli externes (lumière, son, pression, etc.) via leurs dendrites, qui agissent comme des antennes. Ces signaux sont des neurotransmetteurs libérés dans les synapses, les jonctions entre les neurones. 2. Intégration des signaux Une fois reçus, les signaux sont intégrés dans le corps cellulaire du neurone. Chaque signal a un effet excitateur (qui tend à déclencher une réponse) ou inhibiteur (qui tend à bloquer une réponse). Le neurone "additionne" ces signaux pour décider s'il doit ou non envoyer une réponse. Si le potentiel global dépasse un certain seuil, un potentiel d'action est déclenché. 3. Propagation du signal Si un potentiel d'action est généré, il se propage le long de l'axone du neurone sous forme de signal électrique. Ce signal est amplifié par une couche isolante appelée gaine de myéline, qui accélère la transmission. 4. Transmission du signal À l'extrémité de l'axone, le signal électrique déclenche la libération de neurotransmetteurs dans les synapses. Ces neurotransmetteurs traversent l'espace synaptique pour atteindre les dendrites du neurone suivant, où le processus recommence. 5. Apprentissage et adaptation Les neurones ajustent la force de leurs connexions (synapses) en fonction de l'expérience, grâce à des mécanismes comme : La potentialisation à long terme (LTP) : augmentation durable de la force synaptique. La dépression à long terme (LTD) : diminution de la force synaptique. Cela permet au cerveau de s'adapter, d'apprendre et de mémoriser. En résumé, les neurones traitent l'information en transformant des signaux chimiques en impulsions électriques, en les intégrant, puis en les transmettant à d'autres neurones dans un réseau complexe et adaptable.
Il faudrait continuer en approfondissant sur ce qu'est la conscience. Quand, comment la conscience émerge-t-elle? Par exemple, est-ce qu'un niveau de conscience extrêmement faible émerge quand on joue aux dominos? Si ce n'est pas le cas, où est la limite d'émergence? Pourquoi ma sensation d'exister est limitée au corps que j'incarne?
Ce Raphaël Enthoven est essentiellement un cuistre et s'est moult fois contredit face à M. Phi, mais il n'a pas non plus dit que des conneries lors de ce débat.
@@gaiusbaltar7122 C'est un tenant du vitalisme, donc de la force surnaturelle qui anime la vie. Autant dire que son postulat de départ n'est pas "matérialiste" pour utiliser le terme le plus connu en philo (même si c'est pas le plus adapté) Son choix métaphysique de base est différent de celui des scientifiques, et de la plupart de philosophes modernes. Enthoven est agrégé en philo, heureusement qu'il ne dit pas que des conneries (par contre en dire sur son sujet d'expertise c'est souvent rédhibitoire), même si son approche est plus littéraire et symbolique que logique.
@@malluinmalluin5569 j'ignore s'il est vitaliste car je ne me souviens pas de l'avoir entendu défendre cette position lors de ce débat. Cependant, effectivement, il s'affirme d'une part matérialiste et, d'autre part, il semble défendre à bas bruit des thèses dualistes. Pour le reste je vois que vois qualifiez le vitalisme de "force surnaturelle". Je pense pour ma part que c'est aller un peu trop vite en besogne. Par ailleurs, j'affirme au risque de vous choquer, que le vitalisme n'a, jusqu'à présent, jamais été formellement réfuté. Il a en effet été évacué du discours scientifique plus par préjugé matérialiste (ce "choix métaphysique" dont vous parlez) qui domine la biologie moderne que pour des raisons rigoureusement expérimentales.
ce qui nous "motive" et nous fait bouger , ce sont les émotions . par exemple l'appétit est l'émotion qui nous fait manger , et le désir est l'émotion qui nous fait copuler . Le problème est donc d'installer au moins une émotion dans la machine , car elle n'y viendra pas toute seule . On pourrait donc imaginer des machines à manger , qui fabriqueraient de la merde , ou des machines à copuler , qu'on pourrait utiliser pour le plaisir . Mais quel est l’intérêt d'une machine munie de toutes les variétés d'émotions que nous sommes capables de ressentir ? Nonobstant sa grande complexité . . . . .
A 12:18 tu poses une hypothèse qui rejoint ma théorie. Soit que l'inconscient décide de tout, mais qu'il dysfonctionne et que nous ne serions là que pour aider à pallier ce dysfonctionnement,ce qui n'est toujours pas fait. Je m'appuie sur le fait que personne ne décide de quoi que ce soit de l' Amour, qui pourtant est là, ce qui suppose que nous ne puissions décider de rien quant à ce qui meut l'humain puisque ne décidant de rien de l' Amour qui en est une composante essentielle. Un avis là dessus? Je précise que je connais depuis vingt ans les deux conditions nécessaires pour que de l' Amour soit généré chez et entre deux personnes, ce qui me permet d'affirmer que nous ne pouvons influer sur aucune des deux, et donc rien en décider, contrairement à l'inconscient qui lui vérifie ces deux conditions et applique ce qu'elles donnent comme résultat. J'ai également constaté que plus de 95% des gens ne s'aperçoivent d'absolument rien quand leur personne tombe Amoureuse, ce qui suppose un dysfonctionnement chez ces gens, tandis que ceux qui ne sont pas affectés n'en décident pas non plus, bien que eux aussi affectés par le dysfonctionnement dans d'autres domaines, comme le non respect de la nature.
Bonjour! Votre thèse est simple, voire, à mon sens, simpliste. La voici dans les grandes lignes: la matière vivante n'a, selon vous, strictement rien de particulier. Donc les fonctions qu'elle assure n'ont rien de spécifiques à elle. Donc n'importe quelle matière, organique ou non, peut remplir exactement les même fonctions (en passant, parler de "fonctions" pour de la simple matière est extrêmement problématique du point de vue de la physique mais ce n'est pas le sujet ici). Cependant, on constate que nos ordinateurs, que vous êtes prompt à assimiler à des cerveaux (et inversement) n'ont pas de conscience et ne pensent pas, ce qui est tout a fait normal et compréhensible pour les spécialistes et techniciens de ce secteur (dont je suis par ailleurs mais cela n'est pas important). Vous affirmez de votre côté que, dans certaines conditions, la pensée et la conscience doivent nécessairement "émerger" des ordinateurs en vertu des lois de la physique. Donc, selon vous, quelque chose doit nécessairement "émerger" de cette matière que vous qualifiez de "standard". Vous dites donc: *CERTAINS assemblages de semi-conducteurs dotés de conscience sont concevables.* Concrètement, que serait cette "conscience" qui devrait "émerger" et qui ne serait donc pas, à ce titre, réductible à cette matière "standard"? En effet, si c'est toujours de la matière, alors rien n'a "émergé". Et si ce n'est pas matériel, cela n'existe pas selon vous, et donc rien n'a émergé non plus. Et que signifierait au demeurant, d'un point de vue strictement matériel, cette notion de "conscience"? Autrement dit, selon vous, que doit-il nécessairement émerger concrètement? Par ailleurs, qu'auraient de particulier ces assemblages de semi-conducteurs par rapport aux autres? Autrement dit, dans quelles conditions des assemblages de semi-conducteurs doivent-il nécessairement aboutir à un Descartes synthétique? Enfin, puisque vous considérez que Descartes s'est complètement égaré avec son délire de "je pense donc je suis" (alors que cela est manifestement impossible à réfuter, mais peu importe), comment se fait-il selon vous que des lois de la physique aboutissent nécessairement à une "erreur"? S'agit-il finalement d'une mauvaise conformation matérielle? Et si oui, au regard de quelle norme? Je précise que ces questions ne sont que des questions de surface, et que si on pousse plus loin la réflexion, ce que vous ne faites manifestement pas ici, on tombe sur des difficultés théoriques encore plus insurmontables.
Je repond point par point (à une des version de ce commentaire que moi je voyais tres bien, qui semble differente de la version ci dessus.) *on constate que nos ordinateurs, qu'on est prompt à assimiler à des cerveaux* Non pas grand monde n'assimile les ordinateurs en général à des cerveaux dans une discussion rigoureuse. > Homme de paille. *nos ordinateurs n'ont pas de conscience et ne pensent pas, ce qui est tout à fait normal et compréhensible pour les spécialistes et techniciens de ce secteur.* Je suis informaticien de métier et passionné de ces sujets, et c'est également pour moi, tout à fait normal et compréhensible que mon ordinateur ne pense pas, et même que GPT4 ne pense pas, je n'ai jamais dit le contraire et je saurais argumenter pourquoi gpt4 n'est probablement pas conscient.. > Homme de paille. *Vous dites donc: CERTAINS assemblages de semi-conducteurs dotés de conscience sont concevables. Concrètement, que serait cette "conscience" qui devrait "émerger" et qui ne serait donc pas, à ce titre, réductible à cette matière "standard"?* Un certain mouvement d'information avec sa dynamique, sa structure et des propriétés précises. *si c'est toujours de la matière, alors rien n'a "émergé".* Ce n'est pas le support physique qui importe mais l'information, et lorsqu'on parle ici d'émergence on parle des propriétés dynamique macroscopique de ce groupe d'information, vous concevez bien par exemple qu'un nuage, fait de molécule d'eau, a un comportement macroscopique induit par la physique des molécules d'eau, mais qui est en fait macroscopiquement relativement distinct de sa dynamique microscopique, il devient un objet en lui même. Mais bon, je n'espère pas ici réussir à communiquer avec vous le concept d'émergence, a l'issue de nos discussion c'est un aspect qui semble vous dépasser totalement. *Par ailleurs, qu'auraient de particulier ces assemblages de semi-conducteurs par rapport aux autres? Autrement dit, dans quelles conditions des assemblages de semi-conducteurs doivent-il nécessairement aboutir à un Descartes synthétique?* Encore une fois, le substrat physique n'est pas la clef (vous ne semblez pas vraiment comprendre la thèse de la réalisabilité multiple) donc il faut plutôt poser des conditions, des propriétés, sur le processus, Quelle propriété un processus doit avoir pour mener à la conscience subjective ? eh bien c'est le sujet des théories sur la conscience.... Je vous invite à googler "theories of consciousness". Une des propriétés qui me semble essentielle (et je n'ai pas dit suffisante) c'est qu'un processus contienne en interne, des informations qui représentent une partie de ces propres états macroscopiques, que ce mouvement d'information soit réflexif, s'auto-réfère. *Enfin, puis que vous considérez que Descartes s'est complètement égaré avec son délire de "je pense donc je suis"* Ha bon je considère ça moi ? (des fois j'avoue ne même pas imaginer comment vous comprenez les trucs de travers tellement ils sont loin de ma conception) *comment se fait-il selon vous que des lois de la physique aboutissent nécessairement à une "erreur"?* Je ne vous suis pas. Une erreur de quoi? NB: lorsque vous posez vos questions (que j'ai déjà dit suite à notre passif je me réserve maintenant largement le droit de ne pas lire) je vous serais gré de ne pas les mettre en réponse à un commentaire: ca vous permettrait de ne pas faire bugger youtube et de jouer les persécutés, de ne pas me faire moi lire 4 fois la même chose (car visiblement moi je vois bien vos commentaires qui "disparaissent"), d'en avoir les notifications, et de ne pas mélanger les carottes avec la choucroute.
Mettons de côté les semi-conducteurs. Je suis curieux de connaître votre définition des termes « conscience » et/ou « penser ». Ma question sous-jacente serait de comprendre en quoi la conscience que nous les humains avons est une caractéristique fondamentalement différente de par exemple avoir des écailles, ou des griffes ou pouvoir voler. Existe-t-il selon vous un autre mécanisme que l’évolution/sélection naturelle pour expliquer l’apparition de la conscience chez l’humain ? Autrement dit : imaginons que l’humanité disparaisse. Après un temps suffisamment long, considérez-vous possible qu’une autre forme de vie animale puisse à son tour développer une conscience ? (j’ai bien dit possible, pas inévitable ou même probable).
@@PasseScience (pour faire au plus court, je passe sur l'accessoire et focalise sur l'essentiel) *Un certain mouvement d'information avec sa dynamique, sa structure et des propriétés précises* Si vous dites : un certain mouvement de particules, d’un point de vue matériel, c’est ok, mais là vous dîtes « un certain mouvement d’information » et je vous repose la question : de quoi parlez-vous matériellement parlant ? Quel rapport entre particule et information ? Comment passe-t’on de l’un à l’autre ? *vous concevez bien par exemple qu'un nuage, fait de molécule d'eau, a un comportement macroscopique induit par la physique des molécules d'eau, mais qui est en fait macroscopiquement relativement distinct de sa dynamique microscopique* Certes, mais ici on parle toujours de choses bien identifiables d’un point de vue matériel : particules, atomes, molécules, structures macroscopiques. Donc je reviens à ma question ci-dessus. *c'est un aspect qui semble vous dépasser totalement.* Ce concept consiste à dire : un truc nouveau apparaît sans qu’on puisse dire pourquoi et comment. Avouez que ça doit nécessairement dépasser les esprits moyens tels que le mien qui ont besoin d’explications concrètes et rigoureuses. *Encore une fois, le substrat physique n'est pas la clef* Ce que vous dites là est extrêmement problématique d’un point de vue matérialiste dans lequel vous vous inscrivez. *il faut plutôt poser des conditions, des propriétés, sur le processus* Oui, on peut faire ça avec n’importe quel objet matériel et décrire tout ça d’un point de vue matériel come par exemple pour la formation des nuages, des étoiles, des planètes, voire de l’Univers dans son ensemble et on parle toujours de choses matérielles bien identifiées, avec des propriétés bien définies, et des processus bien décris mais ici vous parlez d’autre chose comme vous le dites au-dessus en affirmant que « le substrat physique n’est pas la clé » alors qu’en physique, le substrat physique est bien la clé et même la seule clé. Donc, encore une fois, vous parlez de quoi concrètement, d’un point de vue matériel et uniquement matériel comme il se doit en physique ? *des informations qui représentent une partie de ces propres états macroscopiques* Au delà du fait que vous ne dites pas ce qu'est une "représentation", notamment du point de vue de la physique, on représente toujours pour quelqu’un, donc pour une « conscience ». Autrement dit, ici il y a un gros problème car vous semblez déjà présupposer un récepteur à cette représentation de soi-même. *mouvement d'information soit réflexif, s'auto-réfère* Quand j’entends mouvement en physique, je comprends aussitôt et uniquement mouvement de particules. Ici encore une fois vous parlez d’information, ce qui est étrange. Par ailleurs, en admettant ce terme « information », vous dites une information qui se réfère à elle-même, mais pour qui exactement ? Quand je lis un livre qui s’auto-référence, c’est le lecteur qui le constate, pas le livre si vois voyez ce que je veux dire. *des fois j'avoue ne même pas imaginer comment vous comprenez les trucs de travers tellement ils sont loin de ma conception* Cette proposition est au fondement du dualisme et je crois savoir que vous êtes moniste. *Une erreur de quoi* L’erreur de Descartes (c’est le titre d’un livre par ailleurs) qui a mené au dualisme, à savoir celle d'affirmer que le fait que l'on pense est la preuve que l'on existe.
@@xaviervilloing6636 *« conscience » et/ou « penser »* Question très intéressante et très complexe à la fois. Il serait bien présomptueux pour moi de prétendre définir ces termes de manière absolument objective et formelle. En première approche, je dirais de la pensée qu'il s'agit de la capacité pour une entité quelconque de construire une image mentale, soit totalement abstraite, de la réalité. Quant à la conscience, il s'agirait en première approche de la propriété, pour cette entité, de se représenter elle-même pour elle-même et, à se titre, de se considérer comme une entité distincte du reste de l'Univers, face auquel elle se considère comme observatrice, comme point de vue. *Existe-t-il selon vous un autre mécanisme que l’évolution/sélection naturelle pour expliquer l’apparition de la conscience chez l’humain ?* Il est absolument impossible pour moi de répondre à cette question. *Après un temps suffisamment long, considérez-vous possible qu’une autre forme de vie animale puisse à son tour développer une conscience ? (j’ai bien dit possible, pas inévitable ou même probable).* Je ne vois absolument rien qui s'oppose par principe à cette possibilité.
@@gaiusbaltar7122 *Si vous dites : un certain mouvement de particules, d’un point de vue matériel, c’est ok, mais là vous dîtes « un certain mouvement d’information » et je vous repose la question : de quoi parlez-vous matériellement parlant ?* Je vous renvoie à 12:58 pour reprendre le concept de realisabilite multiple, notamment avec l'exemple de la porte ET, et les deux implementations physique differente, le calcul est ici le meme, la physique qui le supporte differe, moi je parle du point commun entre les deux structures, donc de l'information. *Ce concept consiste à dire : un truc nouveau apparaît sans qu’on puisse dire pourquoi et comment. Avouez que ça doit nécessairement dépasser les esprits moyens tels que le mien qui ont besoin d’explications concrètes et rigoureuses.* Je crois vous avoir deja donnez l'exemple de la dune, que j'aime beaucoup, vous considerez une dune de sable dans le vent, le sable s'accumulant d'un cote, s'envolant de l'autre, resultant donc en un mouvement de la dune vers le vent. Ici vous avez un objet macroscopique, la dune, qui peut persister et se deplacer dans son etat de dune indefiniement et donc avoir une duree de vie plus longue que ces constituant (puisque les grains qui la constitue finisse par venir et finissent par partir) elle a aussi des proprietes macroscopique bien a elle, un deplacement une vitesse, qui n'ont rien a voir avec le deplacement et la vitesse des grains qui la constitue, notamment elle se deplace dans le sens inverse de tous ces constituants. (a contre vent alors que les grains vont dans le sens du vent). Bon he bien ici je vois donne un exemple d'emergence que je pense que vous pouvez comprendre, et du coup sauriez vous capable de m'expliquer dans ce cas COMMENT ce truc nouveau qu'est la dune apparait ici, pourquoi et comment ? Une partie du sujet (les theories de la conscience) ont pour objectif de trouver une reponse a votre question (et donc ne l'ont pour le moment pas, ou pas integralement) mais si je vous donne l'exemple de la dune cest pour vous montrer que meme dans le cas ou l'exemple est concevable, assimilable, et compris a toutes les echelles, il est difficile de definir le type de reponse que vous voudriez avoir à "pourquoi eet comment?" meme dans un cas parfaitement maitrisé d'emergence. *Encore une fois, le substrat physique n'est pas la clef, Ce que vous dites là est extrêmement problématique d’un point de vue matérialiste dans lequel vous vous inscrivez.* Pas vraiment, c'est en fait vous ici qui voulez garder une dichotomie classique materialiste dualiste, je ne suis pas dualiste, mais je ne suis pas non plus "materialiste" au sens classique du terme, un fonctionnaliste il se concentre sur les processus interne (voir reponse sur la these de la realisabilite multiple) par exemple un "programme" ca existe pour vous ? je veux dire "materiellement" c'est quoi exactement le programme "internet exploreur" les atomes des micropusces qui l'execute ? vous ne saississez pas en quoi c'est reducteur de vouloir materialiser une structure logique ? elle est "implementee" par un substrat physique, mais celui ci est intercheangable, et ceuq qu'on garde (ie le processus) c'est ce qui nous interesse. Le fonctionnalisme a toujours eu sa part de dualisme, percisement parceque ce sur quoi il se focalise est le processus et non le hardware. *Donc, encore une fois, vous parlez de quoi concrètement, d’un point de vue matériel et uniquement matériel comme il se doit en physique ?* Meme reponse a la meme question, du coup j'imagine qu'aucun programme informatique n'existe ? cest quoi materielement un programme informatique ? comment c'est possible d'avoir le meme programme qui tourne sur des architectures differentes faites de composants qui n'ont rien a voir, quest ce qui est le meme si tout materiellement change ? A la limite si vous voulez vraiment avoir un truc materiel, a la place de parler du processus vous pouvez parler d'une realisation de ce processus, ou dans ce cas ca serait les structures physiques qui en deroule l'execution dont on parle. *Autrement dit, ici il y a un gros problème car vous semblez déjà présupposer un récepteur à cette représentation de soi-même.* Non ce qu'on dit c'est que produire cette structure rapproche simultanement de creer le recepteur de creer le signal dont je parlais. Le recepteur s'identifie au processus avec les proprietes recherché. (c'est une question de type oeuf ou la poule que vous faite, montrant des difficultes a concevoir des concepts presentant une cyclite). C'est un peu comme si vous disiez en gros qu'aucun mot du dictionnaire ne peut avoir un sens car son sens est defini par les autres mots et qu'ils faut donc que ces mots ai deja un sens etc... ba non, c'est la relation entre les elements de l'ensemble qui donne simultanement un sens a ses parties.
Plusieurs problèmes : 1) si la conscience emerge du cerveau, à quel echelle de complexité cela se produit-il? Affirmer que qq chose emerge d un systeme sans savoir pointer la configuration neuronale exacte de cette émergence est une spéculation. 2) il y a un différence ontologique évidente entre un neurone et une pensée. De quoi est fait une pensée? De neurones? Aucune passerelle theorique ne semble possible entre ces deux entités. 3) etre conscient semble etre davantage le fruit de l'information qui entre dans le cerveau que du cerveau en lui-même. Coupez le cerveau de tous stimuli extérieur et la conscience disparait. Idem avec l'anesthesie generale. Plus d'info, plus de conscience. Pourtant les neurones sont tjs là. De meme que sans ondes a receptionner un poste de radio ne produit plus de son. Ou sans un cloud ou un reseau, le téléphone ne permet plus d'acceder a internet. L'appareil n est rien. Ce qui compte c est ce qui rentre. Or ce qui rentre n est pas le produit du cerveau. C'est un apport extérieur
Je repond point par point: *Affirmer que quelque chose émerge d'un système sans savoir pointer la configuration neuronale exacte de cette émergence est une spéculation.* Ce n'est pas une certitude, oui, mais il n'y a aucun problème en science à considérer une hypothèse comme largement favorite. Spéculation, peut-être, mais toutes les spéculations ne se valent pas. Nous avons ici toutes les raisons de croire que c'est le cas, et aucune hypothèse alternative n'est davantage en accord avec les observations. C'est donc parfaitement rationnel de retenir celle-ci. Non, on n'a pas besoin, en science, de fournir un résultat définitif, exact et complet pour justifier une approche. On n'exige aucunement cela dans la très grande majorité des autres domaines ; il n'y a donc aucune raison d'exiger davantage ici. *Si la conscience émerge du cerveau, à quelle échelle de complexité cela se produit-il ?* Ce n'est pas tant une question d'échelle que de propriétés. Par exemple, le fait pour un processus d'avoir, à un instant donné, une partie de ses informations internes qui sont une description macroscopique de son propre état ou de ses états passés (réflexivité) pourrait être une propriété nécessaire (pas forcément suffisante). Pour le détail de ces propriétés, il faut se référer aux diverses théories de la conscience, dont le but est précisément de tenter de répondre à votre question. *Il y a une différence ontologique évidente entre un neurone et une pensée. De quoi est faite une pensée ? De neurones ? Aucune passerelle théorique ne semble possible entre ces deux entités.* Le neurone est le support physique ; ce qui importe ici, c'est l'information qu'il véhicule. Dans cette perspective, une pensée serait donc un certain mouvement d'information au sein de l'ensemble, nécessitant certainement un très grand nombre de neurones pour la supporter. En soi, un concept interne (mouvement d'information) ne signifie rien par lui-même : il acquiert son sens via les liens qu'il déclenche avec d'autres concepts abstraits. Au contraire, il existe actuellement de très solides passerelles théoriques : nous sommes capables de construire des systèmes qui font émerger en interne leurs propres "concepts", établissent automatiquement des liens entre eux, et les utilisent d'une manière qui reflète au moins certains aspects de la compréhension. *Coupez le cerveau de tout stimuli extérieur et la conscience disparaît.* Il n'y a pas de raison pour que, si je vous prive de tous vos sens, là maintenant, vous cessiez de pouvoir réfléchir. Cela serait angoissant, et vous deviendriez fou plutôt vite (la conscience finirait alors par s'effilocher), mais elle peut certainement persister longtemps, même privée de tout stimuli extérieur. En revanche, elle ne pourrait pas se former : un bébé privé de tous sens ne développerait pas grand-chose. *Idem avec l'anesthésie générale. Plus d'info, plus de conscience. Pourtant, les neurones sont toujours là. De même que, sans ondes à réceptionner, un poste de radio ne produit plus de son. Ou, sans un cloud ou un réseau, le téléphone ne permet plus d'accéder à internet. L'appareil n'est rien. Ce qui compte, c'est ce qui rentre.* Pas exactement. Ce qui importe, c'est le mouvement d'information interne (ce qui entre, du côté interne de l'entrée, fait également partie de ce mouvement d'information). Un fonctionnaliste ne dit pas que tout mouvement d'information interne est conscient. Il existe de nombreux exemples d'activités cérébrales qui n'atteignent pas la conscience. La conscience disparaît généralement lorsque des activités cessent dans certaines zones (et donc des zones qui supporte un mouvement d'information avec la bonne structure) ou qu'elles prennent une forme trop altérée.
Effectivement il n’y a pas de raison qu’une absence de stimuli fasse disparaître la conscience. Certaines lésions cérébrales ´enferment’ des personnes hors du monde extérieur. À l’opposé il semble que certaines régions cérébrales soient impliquées directement dans l’existence de la conscience. Certaines lésions du tronc cérébrales semblent coïncider avec une perte définitive de conscience. Au delà de l’enjeu philosophique, il est important de mieux comprendre ces phénomènes pour être certain de la mort cérébrale avant un éventuel prélèvement d’organe. Au final la conscience qui manque encore aux IA, c’est peut être la centralisation des perceptions dans un référentiel unique. Au lieu de considérer des données dans l’absolu, peut être faut-il lui implémenter des fonctions d’observation de son état. Je ne parle pas de retropropagation mais de labellisation de son état. Mais les données ne seront pas très volumineuses et les progrès sans doute moins rapides. Merci pour cette vidéo.
Je crois qu’être conscient c’est avoir des remords (regretter avoir fait mal) … décider d’améliorer son ‘code’ au vue d’une erreur fatale d’approximation (voire d’inhibition … (jusqu’à remettre en cause les règles) ) ? … (Le problème de l’arrêt et la non-déterminabilité) …comment une ia pourrait-elle se permettre d’être dépressive ?
Ah bah les poussins de Peoc'h (et ce qu'il a fait), on m'a tenu la jambe avec ça il y a plusieurs années, et je me suis fait violence pour aller lire la publication, donc je connais bien. Eh bien, en résumé bref : perte des données brutes, non-reproductibilité, et surtout un protocole de comptage ultra capillotracté. Par exemple, si vous deviez mesurer un biais de comportement aléatoire, vous pourriez décider de compter le premier moment où le robot touche le cadre, ou bien la direction où il se trouve par rapport à la position initiale une fois qu'il s'en est éloigné de 20 cm, etc. Eh bien, dans la publication, c'est un truc super complexe, genre : les 10 premiers impacts comptés sur des demi-périmètres du rectangle. En gros, ça ressemble beaucoup à un critère choisi a posteriori, à partir des données acquises, pour montrer un biais. Malheureusement, à l'époque, je n'étais tombé sur aucun tracé enregistré (juste ses tableaux de synthèse avec ses comptes chelous), donc je n'ai pas pu analyser grand-chose statistiquement. Mais j'avais aussi montré que, mathématiquement, son protocole est conçu pour être super sensible au bruit, du genre qu'une différence de placement de quelques millimètres dans la position initiale du robot peut se traduire par un impact significatif dans ses mesures. Au final, comme j'ai dit, c'est malheureusement non reproductible. Les données ne sont même pas visibles sous forme brute, le comptage semble être du cherry-picking pour coller à sa conclusion, et rien n'est justifié dans la manière dont il a choisi de faire ces analyses. Si je devais parier de l'argent, je dirais que n'importe qui reproduisant ce type d'expérience rigoureusement, en double aveugle, avec des métriques prédéfinies et un gros volume de données, ne verrait plus aucun phénomène. C'est beau, on a envie que ca soit vrai et que ca marche, en pratique ca donnerait la meme chose qu'avec les tests sur les sourciers: lorsqu'ils font mal leur test ca marche, des qu'ils sont dans un protocole rigoureux, le phenomeme disparait.
*Précisions et corrections éventuelles*
NB: Si vous avez une remarque sur l'épisode, préférez un autre commentaire qu'une réponse à celui-ci.
J'imagine que, pour beaucoup d'abonnés de la chaîne, l'épisode enfonce un peu des portes ouvertes, mais c'est au minimum un outil que vous pouvez utiliser et partager avec vos connaissances dualistes pour partir sur les mêmes bases !
*Vers **23:50**, je prends quelques libertés lorsque j'attribue des propos à Turing.* Il est plus probable que sa position ne concernait pas directement la conscience. Il cherchait simplement à donner un sens empirique et expérimental clair au terme "penser", et il a choisi de le définir comme la capacité à mener une conversation de manière indiscernable de celle d'un autre être humain. Il fournit ainsi une définition testable de "penser", venant avec ses limitations.
Une véritable prouesse que d'expliquer correctement ce type de questionnement ! Fortiche Passe-Science 💪
Comme à chaque fois, le fond et la forme sont excellents. Merci beaucoup.
Une petite collab avec Mr Phi me semble appropriée, vous êtes tous les deux très talentueux pour vulgariser, et vous êtes tous les deux fascinés par les IA ;)
Monsieur Phi est un peu un fasciste de gauche non ? Il est de ceux qui ont craché sur Bruce de ePenser pour des raisons politiques.
Mr Phi raconte nimp sur l'IA. J'ai pas l'impression qu'il comprend vraiment comment ça marche. Pour le reste je suis certain qu'il est très compétent.
Pitié non
@@Alex-rg1rz Etrange commentaire, aurais-tu des exemples ? Je travaille dans le domaine, et je n'ai pas remarqué d'erreur grossière de mr Phi sur le sujet....
@porcoration Oh pourquoi donc ? 37 personnes sont d'accord avec moi, je comprends pourquoi, mais ceux qui ne sont pas d'accord, ça m'étonne, je veux bien comprendre pourquoi tu penses cela !
un épisode sur les différentes théories de la conscience serait évidemment passionant !
Très très bonne vidéo. Un exemple de rigueur intellectuelle face à la pléthore d'approches mysticistes du problème de la conscience y compris venant de philosophes et scientifiques de renom...
Je regarde depuis les premières heures, bravo pour le fond qui est constant de qualité et d intérêt et la forme qui n a fait que s améliorer avec les années
Le sujet est passionant et le texte est parfaitement ciselé. Mille bravos ! On est sur un excellent équilibre philosophico-scientique, qui limite au maximum l'écueil du type "critique de la raison pure".
Si je peux modestement tenter de rafiner la formulation de la thèse promue ici, je dirais que : Plus précisément que "C'est l'organisation qui fait l'objet", "C'est l'organisation et la dynamique du système dans son environnement qui font l'objet vivant". Et les caractères vivant, conscient de ses sensations, conscient de soi, de sa subjectivité, de son impression de liberté non nulle mais finie, etc, sont des propriétés "émergentes" au sens d'un "réductioniste strict" : il n'y a en effet aucune opposition entre "émergence" et "réductionisme strict". Ce dernier n'est en effet jamais "abusif" quand il est bien fait, c'est à dire quand il n'oublie aucun élement et aucune interaction dynamique. Le système dynamique environné peut être strictement réduit à ses parties et à la dynamique interactive entre ces parties et l'environnement. Les propriétés "en découlent au sens strict" et le mot "émergence" ne sert qu'à exprimer que le physicien ne les avait pas intuitées avant d'appliquer correctement sa méthode réductioniste ! Et le fait que ce réductionisme fonctionne est une preuve de complétude de la description (caractère "suffisant" des ingrédients) ; et ce indépendamment du fait que ce réductionisme soit ou non la méthode la plus pratique, la plus synthétique, la plus "orientée fonctions" pour décrire ou comprendre le système.
La discussion sur le fonctionalisme et sa subilité plus grande qu'il n'y parait est aussi magnifiquement menée. Bravos. Toujours pour tenter de préciser la thèse, la conscience, localisée dans "l'état interne du système" évoqué dans les schémas, doit très probablement émerger d'architecture multi-bouclée présentant des résonances (comme le cerveau en présente). Il est donc probale que des architectures très différentes puissent présenter les mêmes fonctions de base (fonction additon d'un additionneur en logique CMOS et d'un humain), mais que la fonction additionelle de conscience d'effectuer l'addition ne se rencontre que dans une architecture bouclée résonante (de type cerveau et pas dans l'additionneur CMOS). La multiplicité des boucles imbriquées dans une architecture riche en boucles, peut même ajouter aux fonctions "addition" et "conscience d'effectuer une addition", d'autres fonctions en parallèles pouvant modifier la fonction addition elle-même : comme la fonction "angoisse de rater l'addition" par exemple, qui finit par occasionner des erreur dans l'additionneur humain (les fonctions ne sont plus indépendantes du fait des boucles).
Enfin petite remarque : la séparation des questions "une machine peut-elle penser" et "sommes nous des machines" est peut-être un peu artificielle ici. Un autre point de vue serait de les présenter comme deux formulations différentes d'une même question.
Encore mille bravos.
C'est fou, j'ai débattu de ça hier et aujourd'hui ! Et là, je vois apparaître une vidéo de Passe-Science, je sais déjà que ça va être un régal.
Un sujet passionnant et d’une grande pertinence actuellement. Le traitement est impeccable, irréprochable me semble-t-il . Cette vidéo est un vrai bijou. Mille bravos 👏 et merci pour ces sources passionnantes à explorer.
Splendide vidéo, merci pour les sources. Merci pour votre travail !❤
C'est ma vision actuelle, et ancrée, des choses.
Merci d'y ajouter d’innombrable graphique et passage vidéo c'est tellement agréable.
Du haut niveau de vulgarisation comme toujours.
Je rajouterais car je ne l'ai pas entendu bien que ce soit compatible, que dans ma vision, la notion de conscience peut être vue comme un continuum, ainsi un moulin à vent est une forme de conscience, tout comme une Gameboy, une voiture autonome, un aspirateur robot.
Libre à vous des les classer.
Et qu'il faut pour mieux appréhender cette notion se départir de la vision binaire d'être soit conscient (absolu 100%), soit non conscient (absolu 0%).
Ainsi je propose si ça n’existe pas la notion de conscience opérative, qui référerais au seuil à partir duquel nous considérons une conscience comme de valeur suivant des critères arbitraire qui seraient propre au genre humain contraint qu'il le veuille ou non de voir l'univers par le prisme de sa condition intrinsèque.
22:15 Fascinant, j'ai abordé ce sujet hier. Même s'il y a une part d'aléatoire dans nos comportements, nous restons fondamentalement déterministes. Le bruit de l’infiniment petit peut influencer des systèmes au niveau macroscopique lorsque la source de l’actionneur est fortement amplifiée (par exemple, un synapse qui change d’état). Cela peut donc engendrer des réactions imprévisibles. Cela me semble même fondamental pour l’évolution du vivant : l’aléatoire est indispensable.
L'essentiel de votre comportement n'est ni aléatoire, ni déterministe, il est finaliste.
@@gaiusbaltar7122 La finalité que l'on vise est déterminée par les données accumulées et traitées par notre système déterministe. A connaissance identique et a système identique, les objectifs visés seront toujours les mêmes. On ne choisit pas nos désirs ou ne représentations du réel, on simplement l'illusion de choisir.
excellent, c'est super bien resumé et complet en meme temps
Merci ! J'ai appris plein de trucs, notamment sur des expériences récentes sur la cognition à côté desquelles j'étais passé.
Merci pour cette video, était un vrai regal.
La distinction entre intelligence et conscience est selon des critères a-minima ou a-maxima, le test de Turing ne concerne que l'intelligence, et un pigeon a néanmoins plus de conscience qu'un LLM. Leurs definitions possèdent les pieges et paradoxes habituels a toute observation. Une chose est claire, on ne reviendra plus en arrière sur leurs anciennes conceptions d'il y a 100ans.
C'est magnifique patron !
Et comme même le meilleur est améliorable, peut-être marquer un peu plus les pauses qui facilitent la compréhension.
Ex : "...si les deux entrées valent 1 // 0 dans tous les autres cas".
Merci pour ces petits bijoux.
Vivement la prochaine vidéo !
Je trouve la vidéo très bien structurée. Bravo. Ca m'a rappelé d'autres vidéos de Mr Phi sur le même sujet.
Merci pour cette excellente vidéo et bravo pour votre travail et pédagogie :)
Fantastique cet épisode !
Toujours aussi extraordinairement clair. Bravo et merci.
Vidéo d'une qualité insimulable, bravo et merci !!
Video de qualité exceptionnelle. En ce qui me concerne cette affaire de conscience est toute évidente. On peut dire que Toute machine de l’information comme un micro contrôleur a par exemple conscience d’un changement sur une de ses entrées lorsqu’elle la lit.
Evidemment cela n’a aucune chance d’aboutir à des considérations philosophiques 😅
Car sa structure est de fonctionnalité hyper basique.
Tandis qu’un cerveau est de toute évidence extrêmement plus complexe en nature, et incroyablement plus efficace.
En réalité pour les gens, ils recherchent une analogie entre l’homme et la machine faite par l’homme. Dans un réflexe de demander si finalement l’âme existe ou non, donc lorsque l’on demande si une machine a une conscience, on demande si elle est capable de s’imaginer ce qu’elle est entrain de vivre, de faire et de penser.
Or apparemment il nous faudra probablement travailler un peu plus sur la technique hardware et software pour oser pouvoir l’affirmer, mais si la nature le fait, fusse t il en la copiant, bien sûr nous arriverons à le faire !
Merci à vous 👍
*On peut dire que Toute machine de l’information comme un micro contrôleur a par exemple conscience d’un changement sur une de ses entrées lorsqu’elle la lit.* Je ne dirais pas cela car une des propriétés importantes du processus qu'est la conscience semble être d'avoir une représentation interne d'une partie de ses propres états macroscopique, par exemple qu'on perçoit une image oui on on a en nous une représentation de l'image mais il y a aussi une représentation en nous du méta concept d'etre en train de percevoir l'image.
C’est à dire que ce que l’on va exiger pour qualifier de conscience est au minimum la conscience que peut avoir un être humain
Formidable épisode
Vidéo fascinante, Merci beaucoup 😌
Absolument remarquable, j'avais vu encore ce niveau de réflexion dans le domaine. Je vais placer la vidéo dans ma playlist "Autres" faute de meilleure rubrique pour l'instant.
J'ai détaillé plus bas (commentaire de 42ArthurDent42) comment je voyais les choses, je pense que tu seras plutôt d'accord puisque cela va dans le même sens.
Au top !
C'est super bien.
Merci beaucoup
Très intéressant et très agréable à écouter. Merci pour cette vidéo.
Excellente vidéo ! Limpide, complète et mesurée !
Excellente vidéo ! Plus accessible que les autres ce qui peut aider à la partager autour de soi pour discuter de la question ! (même si les vidéos plus techniques de la chaine sont vraiment cools)
fantastique cette vidéo. C'est exactement ce que j'expliquais à un pote hier. Le fonctionnalisme.
incroyable quelle qualité cette vidéo ! j'ai du m'accrocher par moment mais en faisant attention c'est compréhensible. direct je m'abonne !
Merci pour cette vidéo.
Merci beaucoup pour cette vidéo!
Excellente vidéo, merci pour votre travail.
Il y a toujours un point aveugle dans ces questions : ce que l'on appelle conscience, ou sentir. Je crois que si on s'interroge sincèrement on peut s'apercevoir que c'est assez superficiel. Je me sens moi lorsque je me pose la question et que je pense à ce que c'est que "moi". Mais tout comme je ressens une chaise lorsque je pense à une chaise, je conscientise la chaise.
La sélection naturelle a inscrit des obsessions qui échappent au calcul qui est fait sur les expériences. Ça suffit à expliquer le reste.
Merci pour cette excellente vidéo passionnante
Merci pour cette vidéo c'est un hasard total mais cela fait des mois que je me pose cette question concernant la conscience et les machines et il y a quelques heures j'ai écrit dans mon carnet ''Suis je une machine ? Ai je pris le dessus sur mon créateur ?''. Incroyable de tomber la dessus après une insomnie sur la première video que je regarde sur youtube. Votre vidéo sous entend peut être que le destin existe également !!
A partir du moment où on peut répliquer artificiellement une fonctionnalité biologique comme celle du cerveau humain, je ne vois pas pourquoi la conscience ne pourrait pas émerger de la même façon d'un mécanisme purement technologique.
Certes, mais justement qui dit que cette condition est remplie ? Que la réplique est parfaite ? Car le mécanisme c'est une chose, mais les instincts, les phobies, les archétypes ... On sait les répliquer ?
@@recorr je pense qu'on sait les répliquer, quand les consciences artificielles feront des "enfants", quand il y aura accouplement et reproduction, les comportements appris vont devenir automatiques au fil des générations, non ?
@@recorr Tous les comportements émergent de la technique, si un être simulé se comporte différemment d'un être simulé, c'est que la technique n'est pas correcte.
@@recorr Mais les LLMs peuvent déjà répliquer tout ça. C'est juste une question de leur fournir le matériel d'apprentissage adéquat.
@@kalgon57
Si on combine algo génétique et réseau de neurone pourquoi pas, mais je crois que les réseaux ont plié le game et donc, peu de chance pour ta solution.
Merci pour la vidéo de qualité !
Excellente vulgarisation, passionnant en plus, je m'abonne 👌
Très bonne vidéo. Après méditation sur le sujet. Il est évident qu'une simulation peut virtuellement devenir vivante ou consciente. En contre partie. La question de si cette simulation est la réalité (et pas une réalité) est une autr histoire...
Absolument brillant ! On pourrait étendre le raisonnement à une ruche ou une thermitière : sont-elles conscientes ? Quid de la différence fondamentale entre auto organisation et orchestration ? Notre cerveau n'est-il pas une auto organisation générant une possibilité d'orchestration ? Voir Dawkins...
Je pense pour ma part qu'une machine peut penser et ressentir car nous sommes des machines ! Des machines incommensurablement plus complexes que tout ce que l'on peut imaginer, mais des machines quand-même.
Toujours passionnant 🎉
Intéressant, certes, et merci d'évoquer Libet. Cela dit, il faut tenir compte des EMI, comme Expérience de Mort Imminente. Celles-ci risquent fort de faire voler en éclats le paradigme matérialiste. Ce n'est qu'une question de temps, et même un neuroscientique de la classe de Steven Laureys en est... conscient...
Super vidéo ! Un truc sur le coup de l'état interne: À mon avis il y a de l'anthropomorphisme dans ce concept. Parce qu'à mon avis on a du mal à se dire que les LLM peuvent avoir un état interne, mais est-ce que la continuité est nécessaire à la conscience ? On pourrait considérer que l'état interne de chatGPT est son ensemble de prompts. C'est juste que les LLM fonctionnent sur des inputs output immensément plus simple que le cerveau humain et qu'au lieu d'avoir un fonctionnement continu, les LLM fonctionnent par étape qui peuvent être séparées dans le temps (d'ailleurs en poussant le raisonnement, on peut surement trouver une unité de temps qui passe entre deux états interne du cerveau humain). Bref, je dis pas que chatgpt est conscient mais peut être que la continuité n'est pas nécessaire à la conscience (simplifiant encore sa définition parce que la continuité semble un peu être une hypothèse implicite de la conscience)
*Je copie des morceaux d'autres réponses à des commentaires (je te fait confiance pour adapter, mais c'est quasi deja a propo)*
Oui, les réseaux de neurones actuels possèdent une forme de récurrence à travers leur fonctionnement auto-régressif token par token : leur "état mental" est constitué du texte de la conversation passée. Mais c’est évidemment très embryonnaire. Lorsque nous menons une conversation, notre état mental persistant est infiniment plus riche que le simple souvenir des mots que nous avons prononcés. Pour reprendre des termes techniques, il faudrait que la récurrence se déroule dans l’espace des features et non uniquement en sortie. Dans une certaine mesure, les LLMs actuels ont fait émerger des astuces pour émuler cela : un fonctionnement récurrent, en boucle, peut être reproduit en "déroulant la boucle". Par exemple, au lieu de passer N fois dans le même bloc, cela équivaut à passer dans N blocs consécutifs constitués de copies du premier.Comme nos réseaux actuels sont très profonds, on pourrait imaginer que quelques couches initiales, qui lisent la conversation passée, soient capables de reconstituer un état mental "riche" (davantage que de simples mots). Ensuite, dans un second temps, le reste des couches feed-forward agirait comme une sorte de récurrence déroulée. C’est donc techniquement possible que ce mécanisme ait émergé, mais il est limité par design et reste assez improbable. Quant à permettre une forme de réflexivité grâce à cette récurrence, c’est certainement encore plus délicat.
*Et sur cette histoire de réflexivité dont je parle a la fin je faire référence à ceci:*
Un fonctionnaliste ne dit pas qu'il suffit que le réseaux soit "complexe" il doit également, dans sa complexité, induire certaines propriétés précises. Par exemple le fait de permettre la représentation interne de ses propres états macroscopiques, ie lorsqu'on perçoit une image oui on on a en nous une représentation de l'image mais il y a aussi une représentation en nous du méta concept d'etre en train de percevoir l'image. On peut penser à ses propres pensées et donc manipuler une représentation d'une partie de nous même en tant que processus. Comme la majorité des LLMs actuels ne sont pas récurrents (n'ont pas d'état interne mis à jour cycliquement) il y a en effet de forte chance qu'ils n'induisent rien de phénoménale, par leur fonctionnement même la représentation d'eux même, la réflexivité dont je viens de parler en exemple, leur est inaccessibles. Et on ne dit pas non plus que cette réflexivité dont je viens de parler en exemple est suffisante, c'est un exemple d'une propriété qui semble essentielle.
@PasseScience sur la réflexivité, je suis pas certains qu'on soit si supérieur aux LLM justement. Mr. Phi a parlé d'un papier où ils montrent une représentation spatiale dans le réseau par exemple qui fait penser à ce coup de représentation interne. Je pense qu'on a l'impression que c'est pas la même chose parce que c'est moins complexe et multimodal que le cerveau mais à mon avis les étapes sont plus avancées vers une conscience que les philosophes ne le pensent. Mon avis c'est qu'on a surtout du mal à être réellement fonctionnaliste jusqu'au bout parce que c'est très contre-intuitif :D. Mais quand j'aurais des financements dessus j'aimerais bien étudier la question :D
@@tolhsadum Oui les LLMs actuels peuvent faire emerger des modeles du monde, mais la reflexivite dont je parle ce n'est pas juste un model du monde, c'est un model de sa propre cognition, par exemple le fait de se souvenir avoir penser a quelque chose, le fait de se souvenir de s'etre souvenu, le fait de savoir (modeliser) le fait qu'on est en train de reflechir à une certaine chose.
question chargée, on ne se demande pas "est-ce qu'un humain peut penser?"(après visionnage, c'est plus ou moins ta question finale). Il faut reconnaître que tu expliques vraiment très bien, j'ai envie de dire, bien mieux que moi. J'ai eu exactement ce débat il y a quelques temps bizarrement. Quand tu t'expliques ça parait sérieux, quand je réponds, on me prend pour un abruti, ou un zombie philosophique...étrange. Je suppose que les gens se laissent avoir par la forme, sans faire attention au fond. Merci à toi d'articuler correctement ces idées.
Le seul problème de la conscience, c'est sa conscience à soi.
Les autres, je peux très bien les voir comme des machines qui fonctionnent sans conscience. Ce sont juste des êtres biologiques qui agissent en étant dirigés par la machinerie de leur cerveau. Ils n'ont pas de différence fondamentale avec un ordinateur, un robot sophistiqué. C'est le "moi", le problème, mon "moi".
Si on considère habituellement que nous avons tous une conscience, c'est parce que nous généralisons la notion du "moi" : comme nous appartenons tous à la même espèce animale, il est normal que nous considérions cette notion du "moi" comme générale. Je ressens un "moi" donc ça veut dire que les autres doivent aussi ressentir un "moi". C'est raisonnable.
Cependant, il n'y a que "moi" qui suis "moi". J'ai beau faire des mouvements, marcher, me déplacer, je ne me déplace en fait jamais : c'est l'univers qui bouge autour de moi. Moi je suis toujours à la même place, dans la même personne. Les autres, je vois qu'ils se déplacent, moi pas. Il y a une différence fondamentale entre moi et les autres. Les autres, je ne peux jamais être à l'intérieur d'eux.
Bah oui et c'est bien pour ça que la notion est problématique, la conscience n'a pas de manifestation objective, elle est strictement subjective. Et pourtant on ne peut pas nier qu'elle existe, d'ailleurs comme le disait Descartes c'est la seule chose dont on peut être sûr de l'existence.
Sauf si on considère que la conscience est une illusion construite par le cerveau, comme le laisse penser le passage vers 17:52 et comme l’a théorisé (entre autres) Daniel Dennett.
@@Rykvp : ouais, mais pourquoi ne suis-je pas un simple zombie philosophique ? Ça serait exactement pareil.
@@Rykvp C'est bizarre de présenter ça comme une illusion. Parce que même si c'est une illusion, le fait de se croire conscient suffit à s'établir comme conscient, puisque de toute façon notre conscience est une perception de nous-même. Est-ce que vous êtes en train de suggérer que nous n'existons pas vraiment ?
@@Rykvp illusion est le mot commode trouvé par certains pour évacuer des faits gênants. Le problème avec cette notion c'est qu'on ne sait pas où elle commence et oui elle finit. Si on l'applique à la conscience elle-même, c'est-à-dire au support même de toute représentation, ça signifie que tout est illusion et donc que rien n'existe réellement. Même sans aller jusque-là, on est vite bloqué par la question: qui est victime de l'illusion? Enfin, une autre question vertigineuse: en quoi consisterait le fait de ne pas être victime de cette illusion? Et une toute dernière pour la route: savoir qu'on est victime de l'illusion de la conscience = être _conscient_ que ce que l'on perçoit n'est pas la réalité. Mais qu'est-ce que cela, peut-il donc signifier ici?
Excellente vidéo comme d'habitude, un bonbon pour le cerveau !
Il y a malgré tout un aspect qui me turlupine toujours avec ce genre de réflexion : le problème difficile de la conscience. Il me paraît impossible de pouvoir déterminer l'émergence d'une chose tant qu'on ne sait pas ce qu'est réellement cette chose.
Si d'un côté notre intuition ne semble pas à l'aise avec l'idée de l'émergence d'une conscience dans un substrat non biologique (et même non humain pour certains) et que d'un autre côté une réflexion rationnelle arrive pourtant bien à la conclusion que rien ne l'en empêche, il y a là bien la preuve qu'on loupe quelque chose.
Mon interprétation est, il me semble, intrinsèquement irréfutable mais je pense simplement que le caractère "magique" que l'on accorde à la conscience n'est qu'une illusion, le biais cognitif ultime venant du fait qu'on essaie introspectivement de visualiser et d'interpréter une chose en usant de cette même chose. Comme si on voulait installer dans un ordinateur une simulation parfaite de lui-même, la simulation ne parviendrait forcément jamais à égaler son modèle, le rendant "à ses yeux" inatteignable. Comme l'est la compréhension de notre propre conscience.
Qu'en pensez-vous ?
*Si d'un côté notre intuition ne semble pas à l'aise avec l'idée de l'émergence d'une conscience dans un substrat non biologique (et même non humain pour certains) et que d'un autre côté une réflexion rationnelle arrive pourtant bien à la conclusion que rien ne l'en empêche, il y a là bien la preuve qu'on loupe quelque chose.*
Le cerveau humain a le biais d'habitude, il tire des patterns de la répétition, il ne voit qu'un certain type de chose et en tire ici une conclusion générale, c'est la même chose pour les partisans de la terre plate par exemple (exemple extrême certes) leur intuition est en fait dictée par l'experience quotidienne du haut et du bas dont ils dérivent un sens ontologique, cest un biais d'exposition en qq sorte, le matracage de la repetition d'une regularite fait que le cerveau l'essentialise. *Mon interprétation est, il me semble, intrinsèquement irréfutable mais je pense simplement que le caractère "magique" que l'on accorde à la conscience n'est qu'une illusion, le biais cognitif ultime venant du fait qu'on essaie introspectivement de visualiser et d'interpréter une chose en usant de cette même chose.* ca peut se rapprocher de l'illusionisme mais je ne peux le garantir car je ne suis jamais certain d'avoir compris cette these. notamment parceque si le phenomene est une illusion et bien l'illusion est le phenomene à expliquer.
@@PasseScience Merci pour cette redirection vers l'illusionnisme que je ne connaissais pas ! J'imagine que l'intérêt d'explorer cette voie est que, s'il faut comprendre les mécanismes de cette illusion, alors la place de la philosophie dans la réflexion diminue fortement au profit des neurosciences. Cela peut rendre les résultats plus tangibles et plus "durs".
De plus, le fait d'admettre que la conscience serait une illusion plante un clou de plus dans le cercueil de cet anthropocentrisme qui fait tant de mal, validant ainsi une approche antispéciste.
@@valerianpigeon181 Pourquoi le fait de ne pas être anthropocentré validerait une approche antispéciste?
@@divertissalt5475 Je n'ai pas été précis dans ma réflexion : l'abandon de l'anthropocentrisme et l'antispécisme ne sont pas liés par causalité mais par corrélation avec l'illusionnisme. L'homme se sert consciemment ou non du culte qu'il voue à son esprit et à sa conscience pour justifier une hiérarchisation des espèces. Hiérarchie dont il se place évidemment à la tête. Si cette conscience, élevée au rang de mythe, touchant presque au magique et au divin, ne s'avère être qu'une simple "illusion cognitive", alors la limite qui sépare les hommes des animaux en prend un coup.
Sur le thème : les 30 premières pages de ' Diaspora ' de Greg Egan. Oui, un classique, mais tout le monde ne l a pas lu...😅. presque aussi bien que cette video😊
Je m'abonne et je vous remercie pour l'effort 👍.
J'ai essayé de me poser objectivement la différence entre un algo conversationnel et nous. J'avais inversé l'interrogation en me disant que ces programmes disent bcp sur nous car un "simple" calcul vectoriel de statistique autorise une machine a parler comme nous. Du coup, sommes nous à ce point prévisible ?
Donc un grand merci car vos soirces vont me permeetre de mieux creuser la question
Bravo pour cette vidéo (qu'il va me falloir regarder plusieurs fois pour la bien comprendee)
Il y a encore beaucoup de différences entre un algo conversationnel et nous. La majorité des LLMs ne sont pas "récurrents" : c'est un calcul feed-forward, mot par mot, sans état interne mis à jour cycliquement et qui pourrait contenir un "état de réflexion" (ou, pour certains chatbots avancés, des versions très limitées de cela). Lorsqu'on nous dit "3x4" et qu'on pense et répond "12" du tac au tac, c'est très proche de ce qu'un LLM fait pour absolument tous les mots qu'il produit. On pourrait rapprocher la production conversationnelle des LLMs de certains small talk qu'on peut avoir sans y réfléchir vraiment et par pur instinct, ou encore les rapprocher des productions verbales du beauf de la famille lors des fêtes de Noël à venir. :)
Bonjour. La bonne réponse à la question posée est : oui.
Je remercie tous les participants à notre jeu concours, face à l'absence de gagnant le porte clef à gagner est remis en jeu pour la prochaine vidéo. Merci à tous.
Merci pour cette vidéo, énorme boulot !
J’adhère globalement bien à l’ensemble de tes propos.
Mais à mon sens, il manque un maillon essentiel, l’intéroception. C’est justement le lien qu’il y a entre la cellule (autopoïèse, homéostasie, réproduction etc) et la conscience, dont tu parles au début, mais après tu n’y reviens pas. L’intéroception est la base de l’orientation de nos comportements (prises de décision), de boire quand on a soif, jusqu’aux comportement sociaux complexes.
Connais-tu Anil Seth (livre "Être soi") ou Antonio Damasio ? Francirco Varela ("l’inscription corporelle de l’esprit") ?
Si tu ne connais pas, je te recommande vivement le livre très récent d’Anil Seth. Ça va complètement dans le sens aussi de l’animal-machine. Il travaille aussi bcp sur l’intelligence artificielle etc.
Parce que sans ce lien (intéroception), c’est un peu trop facile de passer de la conscience humain à la conscience d’une machine électronique !
Anil Seth et Varela, par exemple, insistent particulièrement sur la dimension phénomènologique (le "vécu"), justement, plutôt que fonctionnelle. Même si à la fin, tout ça n’est pas si contradictoire. Mais c’est vraiment la question de la texture vécue de la conscience, du sens/orientation de la pensée, de l’action, de l’inscription corporelle du vécu spirituel (l’activité du cerveau, de l’esprit) dans le corps, par l’intéroception. (sans parler du sentiment de réalité unifiée, de sentiment d’individualité unifié).
Qu’est-ce qui ferait qu’une machine électronique aurait un sentiment d’identité individuel, corporel ?? Quelle serait la source de l’orientation de son comportement? Ce point est crucial. Pour l’humain on a de bonnes réponses (humain et autres animaux sensible et doué d’homéostasie !).
Vraiment, lire Anil Seth !! (si c’est pas déjà fait ;-)
Je crois que notre conscience émerge de la formidable organisation de notre cerveau mais qu'il ne faut pas oublier que celui ci est un résultat d'un monde, le notre, sur notre planète et donc dans ses strictes conditions.
Et donc ce qui est je pense plus fascinant encore, c'est de prendre conscience que c'est en observant l'univers inter planétaire ou inter galactique, ou, l'univers microscopique, que l'on observe des mondes que nous ne sommes pas sensés pouvoir observer.
L'infiniment grand et l'infiniment petit, par rapport à nous, seraient des endroits secrets, qui sait interdits, et pourquoi pas, une aide vers les réponses à toutes nos questions.
Il a manqué quelques chiffres à cet episode pour le rendre parfait ! Un point qui je pense fache souvent les dualistes quand on fait des comparaisons comme la gigantesque administration qui deviendrait consciente, cest justement de se rendre compte a quel point elle devrait etre GIGANTESQUE. Le niveau d'efficience du vivant est juste colossal, et pour le moment bien loin d'etre égalé par d'autre support. Je vous renvoi vers les videos de cette meme chaine concernant l'origine de la vie et la physique des nanomachines qui sont de très bons moyens de réaliser cela.
Si je devais voir une IA consciente de mon vivant, je dirais que ca serait quelque chose de different de nous. Deja parce qu'un neurone n'est pas l'equivalent d'une porte logique : parce que ses valeurs d'entrees et de sortie sont continues, sont influencées par des facteurs internes (energie disponible, dechets cellulaire peut etre), depandent directement de miliers de connexions, ils ne peuvent etre reduits a seulement 0 ou 1. Pour reproduire un neurone il faudrait donc necessairement une structure plus complexe qu'une porte logique. Ca reste possible, mais de la a pouvoir en assembler suffisamment qui sont capables de se re-organiser pour arriver a l'equivalent d'un cerveau et sa plasticité... il est plus probable que pour des raisons de cout et d'efficacité on ait une structure analogue plus simplifiée.
Et enfin, il lui faudrait une materialisation physique qui la rendrait vulnerable à la mort et dependante du maintien de son propre corps. Un etre vivant qui ne craint pas la mort, ni la faim, ni le sommeil, qui n'a aucun désir d'appartenir a un groupe et de s'y maintenir, avec une puissance de calcul logique démesurée, ca serait tout simplement dangereux : on ne se retrouverait plus qu'avec une IA executive qui accomplirait ses taches sans aucune morale. Si on veut qu'elle soit à notre image il faut la lier plus fortement qu'un ordinateur au monde réel.
Bref, aux futurs createurs, je vous envoi toute ma force mais j'ai peu d'espoir x)
merci super intéressant!
« Je n’ai pas eu besoin de cette hypothèse »
Après la force vitale, vous aborder la conscience (qui comme trop de gens l’ignorent encore, n’est pas le fruit du cerveau).
« ce qui n’a jamais été observé » ah? et expliquez-moi ce qu’est l’effet placebo ?
et l’effet nocebo ?
Vous observez le vivant, vous observez la mort (l’absence de vie), mais vous ne pouvez expliquer ce qui ce passe entre ces deux états. Votre vidéo a le mérite de faire sourire ceux qui on l’opinion contraire. On attendra encore longtemps avant que des androïdes soient dotés de conscience. Ce ne sont que des machines totalement inconscientes et c’est pourquoi nous devons les brider (si on veut éviter exterminator).
@@andreando1760 J'ai du mal à vous suivre, je ne comprends pas dans votre raisonnement ce que l'effet placebo et nocebo vient faire là-dedans, ou est censé se démontrer. Vous pouvez développer ?
En fait ce qui pose vraiment question, et que vous ne questionnez pas, est l'existence de la matière inerte. Car, comme l'a souligné Descartes, la seule chose dont une conscience phénoménale puisse être vraiment sûre, c'est d'elle-même. Le monde extérieur, la matière n'est qu'une hypothèse que produisent des qualias cohérentes, certes avec beaucoup de régularités.
En somme, pour une conscience phénoménale il n'y a qu'elle-même, le monde c'est elle même. Qu'il existe une réalité plus pauvre, inerte, est la vraie question.
Merci , néanmoins "Etre c'est se sentir" il manque par conséquent la partie capteurs.
Ce que vous dites là est effectivement très pertinent et beaucoup plus profond que ce que l'on pourrait croire a priori. En fait, les tenants de ce genre de positions que j'estime extravagantes si on ne les prend pas pour ce qu'elles sont, à savoir de la pure science-fiction, ne font que projeter leur propre expérience subjective dans des ordinateurs sans se préoccuper de savoir comment se verrait une telle machine, et comment cette dernière verrait le monde, si d'aventure ce genre de chose était possible. En fait, il ne font que s'imaginer eux-mêmes en forme de machine. De mon point de vue, cela relève du doux fantasme au mieux, ou du délire profond au pire.
Toujours d'une qualité peu commune ! ❤
Deux livres que j'ai beaucoup aimé.
Le premier ; écrit en 1979.
Chercheur en sciences cognitives aussi original que stimulant, l'Américain Douglas Hofstadter écrit en 1979 le mythique GEB, Gödel, Escher, Bach, an eternal golden braid (les Brins d'une éternelle guirlande dorée) prix Pulitzer en 1980 et pose la question suivante : une Intelligence Artificielle peut-elle devenir consciente (sa réponse est oui) et dans quelles conditions ?
Sa démonstration passe donc par un rapprochement entre l’œuvre de trois personnes qui a priori n’auraient aucun lien entre elles : le mathématicien Gödel, l’artiste Escher et le musicien Bach.
Le deuxième ; écrit en 1980.
Matière à pensée.Quel est le lien entre le monde physique et le cerveau ? Les objets mathématiques existent-ils indépendamment du cerveau de l'homme ou sont-ils seulement le produit de l'activité cérébrale ? Les mathématiques sont-elles universelles ? Mais le sont-elles au point de nous servir à communiquer avec d'hypothétiques habitants d'autres planètes ? L'éthique, qui nous fait distinguer le bien du mal, peut-elle être fondée sur des principes aussi universels que ceux des mathématiques, qui transcenderaient la diversité des cultures et l'intolérance des idéologies ? La morale peut-elle reposer sur des fondements naturels, qu'il faudrait rechercher dans le fonctionnement du cerveau humain en société ? Telles sont quelques-unes des questions essentielles instruites dans ce livre original et stimulant. Par la qualité de ses auteurs et la fécondité de leur réflexion, il constitue un événement exceptionnel. Alain Connes, médaille Fields, est titulaire de la chaire d'Analyse et Géométrie au Collège de France. Jean-Pierre Changeux, auteur de L'Homme neuronal, est titulaire de la chaire de Communications cellulaires au Collège de France. Tous deux sont membres de l'Académie des sciences.
Que penser d'une personne dont le cerveau est physiquement absent à 90% absent et va parfaitement bien .Comme il existe des personnes dont le cerveau est plein d'eau, l'autre sans cervelet et le dernier est coupé en deux Pourtant, les trois personnes dotées de tels cerveaux vivent normalement. Un vrai mystère.
Oui
Là je dis 👍
🫶 L'ultime épisode... L'épisode est une claque mais la fin c'est un shoot 😵😵💫✨💫🪐 merci d'avoir su expliquer cela avec brio. C'est une des meilleures expérience de pensée qui soit à mon sens... 👍
J'adore ! 100% d'accord ! je suis un Ghost in the shell Organique ! Ni plus ni moins !
Quand on utilise le terme "ghost", c'est pour affirmer que l'esprit n'existe pas. Pensez-vous sincèrement que vous n'existez pas?
J'ai une remarque à propos du test de Turing. Je me rappelle avoir assisté à une conférence donnée par Avi Wigderson, où il avait affirmé quelque chose qui semblait contredire ce que vous avez dit. Selon mes souvenirs de ce qu'il a dit, je cite avec mes mots "l'importance réside non pas dans la cause, mais dans la propriété qui en émerge". Autrement dit, deux entités ayant des propriétés indiscernables, dans le cadre des propriétés testées, sont équivalentes dans ce contexte. Ici, le test des propriétés est celui de Turing (à condition, bien sûr, que ce test évalue effectivement toutes les bonnes propriétés, ce qui demande à clarifier ce que l'on entend par bonnes propriétés).
Que pensez-vous de cette idée ? Une version élargie du test de Turing pourrait supposer qu'un humain n'est pas intrinsèquement plus conscient qu'une machine, dès lors que cette machine réussit les mêmes tests de conscience que l'humain. Si, des années plus tard, de nouveaux tests venaient à être conçus, alors la réalité ou la reconnaissance de la conscience d'une machine pourrait évoluer en fonction de ces nouveaux tests. Est-ce bien ce que vous cherchiez à développer ?
*ce qui demande à clarifier ce que l'on entend par bonnes propriétés* *Est-ce bien ce que vous cherchiez à développer ?* oui ce que les theories de la conscience cherchent à developper ce sont les proprietes necessaires et suffisantes a l'emergence de la conscience phenomenale (ie au ressenti subjectif) et ses proprietes seraient objectives (mesurables)
Une machine pourra calculer l'apropos d'un sentiment. Mais chez un être vivant, le sentiment est censé indiquer un risque ou une réalité pour son être biologique (sauf dysfonctionnement mental, conflit du ça et du surmoi...). L'être vivant peut souffrir - ça c'est simple à comprendre - ou se réjouir d'avoir bien mangé ou d'avoir suscité un lien affectif qui améliore son avenir. Et ces sentiments sont reliés à des conséquences possibles bien réelles sur son corps (santé, protection ou inversement maladie).
On pourrait simuler une émotion chez un robot menacé par une arme à feu (aux USA). Reste à rendre utiles ces émotions...
Chez nous, l'utilité c'est l'évolution qui les a forgées, et parfois les réactions sont inadéquates (biais, maladie), mais on les suppose en général adaptées. Réagir à une menace par la colère peut aider à mobiliser ses forces pour contre-attaquer, modifier le fonctionnement du corps et du cerveau... Avoir peur aide à fuir, et si celà paralyse, rester figé peut être un bon choix. Être en relation amoureuse aide à se reproduire et élever des enfants, mais ce serait plutôt un coût individuel ! Mais l'évolution n'existerait pas sans ce sentiment !
Pour une machine, ce ne sera pas l'évolution mais nous qui engendrerons des simulations. Et après tout, on peut apprendre à un robot à avoir mal, peur, ou se réjouir d'un bon bain d'huile (C6PO dans la guerre des étoiles).
Finalement la différence entre vivant et programmé sera juste dans le processus de fabrication. D'ailleurs, quand un film nous présente un robot qui a tout d'un être humain sensible voire hypersensible, on y croit et on lui prête un esprit - la théorie de l'esprit (AI intelligence artificielle de Spielberg, et ce robot fille dans un des films Alien...).
Mais si une machine est meilleure qu'un humain un jour, plus fiable, plus protectrice, plus plus tout ça, on risque de préférer l'ami artificiel au naturel qui a été produit par des millions d'années d'évolution dans des conditions variables avec des réponses approximatives...
On va s'en foutre que ce soit une machine !
L'absence de conscience des LLMs est loin d'être un sujet clos. les pros de l'IA sans formation philosophique voient cela comme une évidence car ils comprennent entièrement les grands points de fonctionnement des LLMs.
Mais la pensée fonctionnaliste induit que comprendre totalement une fonction n'empêche pas cette fonction de faire émerger une conscience.
Tout le génie du test de Turing n'est pas un pari sur les mécanises requis pour se faire passer pour un humain mais l'idée que même simuler une tache pourrait faire émerger les mêmes états de conscience que faire cette tache pour un humain.
Les limitations du test de turing sont plus dans le fait qu'être humain ne se résume pas à conversationner mais des tests similaires à celui de Turing (dans le sens ou on n'a accès qu'aux output et aux input) sont toujours pertinents.
Il y a tout de même une objection majeure qu'on peut faire aux expériences de Libet et consorts. Elles demandent toujours au sujet de faire un choix aléatoire : lever la main gauche ou droite, choisir une lettre entre 4, etc. C'est à dire qu'on demande au sujet de faire un choix inconscient, pour ensuite s'étonner triomphalement que ce choix est... inconscient. On prouve juste que l'humain est mauvais à produire du hasard. Dans ce sens, elles ne s'opposent pas à la notion de liberté. L'individu libre n'est pas celui qui agit aléatoirement.
Si je vous demande de lever la main gauche, la droite, aucune ou les deux, il n'existe aucune raison de faire un choix plus qu'un autre. Je vous demande donc de faire un choix qui ne peut provenir que d'un processus subconscient, pré-conscient. Mais si je vous demande si vous voulez qu'on vous coupe la main gauche, la droite, aucune ou les deux, je n'ai pas besoin d'une IRM pour savoir ce qu'un individu libre choisirait. Je peux même le prédire plusieurs années à l'avance et ça n'enlève rien à la liberté du sujet, car la liberté, dans toutes ses acceptions, n'est jamais l'indétermination mais toujours l'autodétermination.
On admet facilement que l'évolution nous guide vers la survie et la reproduction grâce à la carotte et au bâton du plaisir et de la douleur. Prenez par exemple notre appétence naturelle (statistique) pour le sucre. Singe aimer sucre -> singe manger fruit -> singe survivre et multiplier. On peut en déduire naïvement que le singe est mécaniquement déterminé par cette appétence, mais c'est oublier un détail important : pour que cela fonctionne, il faut que l'entité qui ressent le plaisir ou la douleur soit une entité décisionnaire. Sinon, la punir ou récompenser n'a aucun effet. Le "truc" qu'à trouvé la nature pour nous guider vers le fruit sucré, c'est de gratifier par du plaisir une entité qui pourrait choisir de ne pas manger le fruit. Paradoxalement, ce déterminisme ne fonctionne donc que sur des entités libres.
Sauf que il faut être conscient que ce choix est à faire, pour pouvoir le faire, et il faut bien donner un ordre conscient pour pouvoir lever la main que l'on a choisi. C'est donc bel et bien un choix conscient, mais qui bien sûr fait appel à des processus inconscients, là n'est pas le problème parce que conscience et inconscience ne sont pas des phénomènes indépendants, l'un émerge de l'autre.
Mais ce que cela montre, c'est que ce choix qui nous parait délibéré émerge de processus inconscients et que la décision de lever telle ou telle main est faite avant que nous n'ayons conscience d'avoir prit cette décision. Et que de ce fait, on peut avoir l'impression d'avoir choisi sciemment une main ou l'autre sur la base de processus entièrement conscients, alors qu'en vérité il y a tout un processus inconscient derrière pour prendre cette décision, ce qui peut inclure des facteurs dont nous ignorons tout.
Ce n'est pas révolutionnaire en soit, on sait depuis longtemps que souvent on prend des décisions sans nécessairement avoir conscience de toutes les raisons de notre choix. A vrai dire, c'est la raison même de notre recherche d'une pensée objective, et la raison de la mise en place de la méthode scientifique, qui vise spécifiquement à se débarrasser de ces processus inconscients dans le raisonnement et notre recherche de compréhension du monde.
Mais l'intérêt de cette expérience, c'est justement de montrer expérimentalement que c'est effectivement le cas, qu'une prise de décision peut prendre racine à un niveau inconscient, et que l'idée de faire un choix conscient est au final qu'une illusion puisque nous ne sommes pas directement conscient de tout ce qui peut nous amener à faire ce choix.
Bien sûr cela ne démontre pas que tous nos choix sont le fruit de processus entièrement inconscients, ce serait sauter à une conclusion que personne d'autre ne ferait que ceux qui veulent se persuader qu'ils ont un contrôle complet de leur propre pensée.
Et concernant les mécanismes de l'évolution, je vous rappelle qu'on utilise un mécanisme tout à fait semblable pour entrainer des IA. C'est l'apprentissage par renforcement. La douleur ou le plaisir ne sont que des système existants pour renforcer ou réprimer certains comportements. L'analogue existe bel et bien dans le monde des machines.
Le plaisir et douleur sont la mécanique pour arriver au comportement souhaité chez le vivant, mais ce qui est nécessaire c'est le réajustement des relations entre les neurones. Nous percevons ce processus comme du plaisir ou de la douleur, mais ce sont juste des sensations associées à ce processus de réajustement neuronal, il n'y a aucune raison qu'un autre type de système nécessite de ressentir des sensations similaires pour aboutir au même résultat. Mais surtout, cela montre que cela n’a rien à voir avec la notion d'entité libre ou d'auto-déterminisme, car on peut parfaitement appliquer ce processus à une machine dans le but de lui faire adopter un comportement souhaité.
@@theslay66 Ce que vous décrivez avec l'apprentissage par renforcement pour les machines ressemble plus au jeu de colin-maillard (tu chauffes, tu refroidis). Mais, là encore, il n'y a pas de choix à faire. Le choix, vous l'avez fait en acceptant de jouer au jeu, ou en acceptant que trouver l'objet caché est maintenant votre but. La machine n'a pas à faire ce choix. Ensuite, vous pouvez suivre mécaniquement les instructions ou trianguler pour trouver l'objet caché, sachant si vous vous en approchez ou éloignez. Mais il n'y a pas de choix. Donc, pas de notion de liberté. Par renforcement, je pourrais apprendre à détecter le sucre, mais pas à avoir "envie" de revenir au sucre. Si je dois guider une entité par "l'envie", il faut qu'elle soit capable de prendre une décision pour elle-même.
Quant à votre première objection, elle ne répond pas au problème : les expériences des incompatibilistes requièrent toujours des choix aléatoires, donc nécessairement inconscients. C'est la différence entre choisir un nombre entre 0 et 1000, et négocier votre salaire. Évidemment, que le nombre aléatoire ne va pas procéder d'un processus conscient, puisque c'est précisément ce qu'on vous demande.
@@maldoror4035 Mais tout choix passe par des processus inconscients. Nécessairement. Parce que la pensée consciente émerge de l'activité de l'inconscient. Il n'y a aucune décision que vous preniez, qui ne soit pas issue de votre inconscient.
Même vos perceptions sont constamment filtrées par votre inconscient. Vous ne décidez pas forcément vers quoi vous tournez votre attention, parfois un événements va s'imposer à celle-ci. Par exemple, vous ne prêtez pas nécessairement attention à la façon d'où vous marchez... mais soudain vous trébuchez, et tous vos sens sont en alerte afin de rétablir votre équilibre.
Et si ce dont vous êtes conscient est constamment filtré par votre inconscient... comment pouvez-vous être sûr que votre choix est bien le produit d'un processus conscient, lorsqu'un choix a déjà été fait au niveau des informations que vous traitez consciemment ?
Vous prenez tous les jours, constamment, des décisions inconscientes. Ne serait-ce que tous ces gestes que vous effectuez sans y penser, par habitude. Et vous n'y prêtez attention que lorsque quelque chose d'inhabituel se produit.
Et la raison, c'est parce que la conscience n'est rien d'autre que la partie émergée de l'iceberg, qui s'occupe des cas pour lesquels on n'a pas déjà une réponse toute faite, un automatisme implanté dans notre inconscient. Notre conscience ne nous sert pas à faire des choix, seulement à gérer les cas pour lesquels on n'a pas déjà un choix tout fait.
Et l'inconscient s'entraine, exactement comme une IA ! C'est spécifiquement à quoi sert l'entrainement, son but est de rendre une activité habituelle, de telle manière à ce que l'on ai plus besoin de faire appel à notre conscience (lente et couteuse en énergie) pour effectuer la tâche. Une tâche dont vous avez l'habitude va nécessiter moins d'attention, un niveau de conscience inférieur si vous préférez. Et oui, parce que il n'y a pas juste la partie consciente et la partie inconsciente du cerveau, ce ne sont pas deux chose séparées mais plutôt un continuum. On peut prêter plus ou moins d'attention à quelque chose.
Enfin, je finirais par vous rappeler que nous, humains, sommes très mauvais pour reproduire un phénomène en apparence aléatoire. Cela signifie que, quand on nous demande de faire un choix aléatoire, on tente de reproduire sciemment ce à quoi on pense qu'un résultat aléatoire devrait ressembler. On ne peut donc pas affirmer que demander de faire un choix aléatoire est un processus particulier qui ferait plus appel à l'inconscient qu'un choix délibéré. C'est tout autant un choix délibéré que n'importe quel autre.
De la même manière qu'Einstein a prouvé qu'on ne peut pas distinguer l'accélération de la gravité, à un moment donné, nous accepterons qu'un être artificiel qui se comporte ou manifeste des sentiments n'est pas différent d'un être naturel qui ressent des sentiments.
Finalement, par bien des détours, la biologie opte pour une compréhension matérialiste. Pour paraphraser Laplace, "l'esprit est une hypothèse non nécessaire".
Le programme dans la machine humaine, est-ce l'adn ? L' épigénétique est-ce des args ?
Il y a, à priori, pas mal de niveaux qui peuvent constituer le « programme » dans la « machine humaine ». L’ADN code beaucoup de choses, dont l’agencement des cellules entres elles pour former des organes, tels que le cerveau. Le cerveau lui-même, en interaction avec le reste du corps, sert de support à nos pensées. Le « programme » de la pensée semble difficile à réduire à une simple expression de l’ADN. Il s’agit plutôt d’un niveau de complexité supérieure, émergent à partir de la structure du cerveau codé par l’ADN, mais il est également influencé par nos expériences, et en particulier, l’environnement social ou la culture au sein de laquelle nous vivons.
😮😅 merci beaucoup j'ai mieux compris cette histoire de fonctionnaliste j'ai également appris tes apparemment on vivrait dans un simulation on le sait grâce à la 3e loi de Newton et on peut même observer maintenant les atomes au microscope on voit un point lumineux avec un dégradé autour qui représente les nuages électroniques et c'est vrai c'est incroyable comment entre la vie macroscopique et microscopiques qui sont relativement bien liés😢😢😢😊
Je suis fonctionnaliste acalculiste. Je pense que la conscience est issu d'intéractions physiques mais que la fonction réalisée qui aboutit à la conscience n'est pas un calcul (ou dit autrement que réaliser le même calcul d'une autre façon n'aboutira pas forcément à une conscience). Notamment, si le calcul est médié par une surcouche logique qui s'apparente à un langage.
Ok mais tu es qui pour penser ça ? Tu y fais des études sur ce sujet ?
Pas sûr de suivre, est ce que le même calcul aboutirait aux mêmes comportements (sans même parler de conscience subjective) ? Est-ce que reproduire le calcul de votre cognition mènerait à pouvoir discuter avec cette reproduction de manière indiscernable avec vous-même ? (mais qui ne serait pas consciente du coup?)
@@PasseScience Oui (nous en avons longuement discuté sur X). Je pense que si on parvenait à réaliser une simulation titanesque on n'aurait qu'un "zombie" (et les LLM nous donnent un exemple approchant de zombie, pour le langage). Dès lors que c'est une simulation, je vois un mur infranchissable vers la conscience phénoménale (ce que j'appelle la barrière symbolique).
Je trouve a priori coûteux intellectuellement de se dire qu'on pourrait parvenir à la conscience phénoménale en sautant l'étape de complexité de la vie. Je pense (en théorie) tout à fait possible de créer une conscience artificielle, mais ce robot conscient serait également vivant (et composé de cellules vivantes).
@@brunodoussau_from_tyumen Il faut dans ce cas définir ce qui distingue le « vivant », d’un substrat artificiel. Quel mécanisme ou phénomène produit, ou sert de support, à la conscience ? S’agit-il d’un phénomène tel que la conscience quantique, défendue, entre autres, par Roger Penrose ?
Il me semble beaucoup plus coûteux intellectuellement de devoir ajouter ce type de phénomène, quel qu’il soit, à notre compréhension du monde, avec l’unique objectif d’expliquer la conscience, plutôt que de chercher comment les états internes d’un système complexe, tel que le cerveau pourrait expliquer la conscience.
@@Rykvp Je n'oppose pas "artificiel" et "vivant". Le vivant est assez bien défini comme : système chimique autonome capable d'une évolution darwinienne. Rien ne s'oppose à créer un système vivant de toutes pièces, très différent si on veut du vivant historique (celui à base d'ADN-ARN-protéine). Je pense raisonnable de penser qu'un système avant d'acquérir la conscience, doit être vivant, même si c'est sous une forme bien à lui.
Excellent
ho nooon, pas ce sujet .. bon, comme c'est toi, je regarde quand même 😄
"Ho non" dans le sens ou tu étais deja trivialement fonctionnaliste (ou a minima d'un matérialisme qcq)? ou "ho non" dans le sens ou tu es évidemment dualiste?
J'ai toujours pensé que nos comportements, nos choix philosophiques personnels et politiques, sur le point de leur conception de notre humanité ne devaient pas dépendre de ce que nous apprenait la science. Et pourtant j'impression que nos connaissances du vivants changent beaucoup de choses ? Si tel est le cas, faut-il y voir la marque d'une insuffisance dans notre philosophie commune ?
2:50
Et l'etre humain est terriblement aveugle et centré sur sa facon d'interpreter le monde.
Rien que le débat sur les sétacé (orques, dauphins, cachalots et autres) sur si ils sont aussi inteliguent voir émotive et conscient que nous.
Pour avoir conscience de soi et sentir, il faut que certaines configurations du réseau produise des entrées nouvelles qui ne soient pas celles produites par l'interaction normale d'un réseau. C'est ce que j'appelle une obsession, une epilepsie ...
j'apprécie la vidéo, après ça reste très situé et proche de l'approche de cerveau dans le bocal qui peut être intéressante comme perspective mais qui est un peu problématique si on a présente trop comme une évidence. Enfin surtout si on ne voit que ça.
Pour moi faudrait ouvrir un peu sur le sciences qui dépassent un peu ce modèle de cerveau dans un bocal pour pas qu'on s'enferme dedans, ça plait un peu trop aux non scientifiques qui aiment les sciences et c'est un peu trop simplificateur.
Je précise encore mais c'est pas un soucis de la vidéo en elle même. C'est en complément.
Faut au moins se porter sur la psychologie pour parler de conscience et de phénoménologie. Les neurosciences sont pas le bon niveau explicatif pour la cognition, même si ça aide.
Le modèle de la cognition incarnée permet de changer un peu ses perspectives et de pas répliquer les modèles dualistes sur un couple cerveau/corps. La pensée c'est une production d'un corps dans un environnement. Même si ça se passe surtout dans le cerveau on peut pas résumer ça aux neurones faut prendre tout l'appareillage et il est largement influencé par l'environnement.
C'est surtout une question de perspective, ça change rien sur le fond, mais ça permet de mieux comprendre la cognition et de pas retomber dans les modèles du passé comme la vision de l'esprit comme une volonté par exemple.
Et on peut faire pareil avec plusieurs approches.
Le corps influe largement sur ses organes, dont le cerveau (et avec rétroaction) et pour reproduire une cognition faudrait pas seulement reproduire le cerveau avec les entrées sorties, mais aussi simuler tout le fonctionnement du corps pour l'intégrer aux entres sorties de cette vision du cerveau dans un bocal. Toutes les stimulations font partie des entrées du cerveau, même celles du corps comme le digestion ou les battements de cœur. Sinon on serait pas la même personne.
Impossible de créer une conscience qu'on peut changer de corps sans changer la conscience, même si c'est populaire en SF ^^. D'ailleurs ya des expériences assez marrantes ou on regarde les changements de comportement et de perception selon le corps dans lequel on est. Avec la VR ou avec des extensions comme des outils. On est pas la même personne en conduisant un gros véhicule, derrière un clavier ou devant des gens. (voir certains modèles sur le self).
Notre conscience se forme avec ces stimuli permanents et elle n'existerait peut être pas sans ça. C'est dans des théories sur la conscience qu'on peut trouver chez ceux qui travaillent sur le sujet d'ailleurs.
Je suis extrêmement perturbée par cette simulation de nématode. Et si l'éteindre c'était tuer ce ver ? C'est fascinant et un peu effrayant.
Point positif : on peut facilement le ressusciter.
Dans l'état actuel de ce type de simulation (objectivement assez partiel) et dans le contexte de ce qu'on sait de la complexité de sa cognition, il ne semble pas y avoir encore trop de catastrophe morale ici. Mais c'est en effet effrayant car on commence à avoir des systèmes pour lesquels il se pourrait que ce type de catastrophe morale soit la. On pourrait décider de la vie et de la mort de système de conscience, décider de leur souffrance, ou même mettre au point sans le savoir des systèmes dont l'existence subjective n'est qu'une souffrance abyssale.
C’est peut être le tuer. Mais l’enjeu est peut être plus la souffrance. La série Westworld explore beaucoup cette thématique. Un propos qui m’a beaucoup perturbé est quand un des créateur dit que ce qu’il trouve sublime dans l’IA est la capacité a supprimer leur souffrances à leur faire oublier. Et ça, transposé potentiellement sur l’humain est très perturbant.
Tout à fait, et si on généralise, on pourrait se dire que si ce nématode est conscient, rien n'empêche de simuler des organismes plus complexes... Mettant définitivement fin au débat de si oui ou non la conscience peut émerger d'un substrat différent.
Merci
Merci :)
La transcendance est le propre de la conscience .
Pour me faire l'avocat du diable "dualiste", ne se peut-il pas que, pour les calculs "relativement" simples (même s'ils peuvent être déjà un peu compliqués), la "réalisabilité multiple" soit applicable (c'est-à-dire qu'on puisse effectuer les mêmes calculs avec différents supports) mais que pour les calculs plus compliqués correspondant à l'émergence d'une conscience (pour autant qu'on puisse en juger), la "réalisabilité" soit nettement moins multiple voire pas multiple du tout, c'est-à-dire, concrètement, qu'on ne puisse effectuer les calculs en question qu'avec tel type bien précis de neurotransmetteur ou autre molécule, faute de quoi il se passerait des choses trop différentes pour y voir une émulation du cerveau assez sérieuse pour générer le même type de phénoménalité ? Autrement dit, certes, la conception fonctionnaliste resterait pertinente *en principe*, mais *en pratique*, seul un certain type d'"appareil" (du "wet hardware" bien précis) permettrait d'effectuer les calculs requis... ? De sorte que, même avec un raisonnement faux, les dualistes parviendraient à une conclusion juste quant au fait que seul le cerveau humain aurait un "petit quelque chose" donnant naissance à la conscience phénoménale (non pas une âme ou un principe vital, certes, mais une organisation inimitable de la matière).
(remarque complémentaire, bien que ce soit encore un autre sujet : le spécialiste d'informatique quantique Scott Aaronson - tout en prenant ses distances avec la théorie ORCH/OR de Penrose sur la nature quantique de la conscience, trop façonnée de son point de vue pour répondre à des préoccupations contestables sur le théorème de Gôdel - n'exclut pourtant pas que la conscience puisse avoir, de façon moins tirée par les cheveux, une nature quantique, de sorte qu'on ne pourrait pas la "cloner" pour la "téléverser dans un ordinateur", conformément au "non-cloning theorem", par exemple.)
Je trouve cette objection être la seule valable effectivement. J'ai trop peu de connaissances en neuroscience pour savoir comment sont réalisées précisément les fonctions au sein du cerveau. Cependant je pense que les experts du domaine pourraient te répondre. Il me semble que la façon dont les neurones traitent l'information est assez bien connue (dendrites, neurotransmetteurs, etc). Et pour l'instant on a rien trouvé de "non simulable" dans ce fonctionnement, si je ne dis pas de bétises.
Réponse de chatgpt sur le fonctionnement des neurones :
1. Réception des signaux
Les neurones reçoivent des signaux provenant d'autres neurones ou de stimuli externes (lumière, son, pression, etc.) via leurs dendrites, qui agissent comme des antennes. Ces signaux sont des neurotransmetteurs libérés dans les synapses, les jonctions entre les neurones.
2. Intégration des signaux
Une fois reçus, les signaux sont intégrés dans le corps cellulaire du neurone.
Chaque signal a un effet excitateur (qui tend à déclencher une réponse) ou inhibiteur (qui tend à bloquer une réponse). Le neurone "additionne" ces signaux pour décider s'il doit ou non envoyer une réponse.
Si le potentiel global dépasse un certain seuil, un potentiel d'action est déclenché.
3. Propagation du signal
Si un potentiel d'action est généré, il se propage le long de l'axone du neurone sous forme de signal électrique.
Ce signal est amplifié par une couche isolante appelée gaine de myéline, qui accélère la transmission.
4. Transmission du signal
À l'extrémité de l'axone, le signal électrique déclenche la libération de neurotransmetteurs dans les synapses.
Ces neurotransmetteurs traversent l'espace synaptique pour atteindre les dendrites du neurone suivant, où le processus recommence.
5. Apprentissage et adaptation
Les neurones ajustent la force de leurs connexions (synapses) en fonction de l'expérience, grâce à des mécanismes comme :
La potentialisation à long terme (LTP) : augmentation durable de la force synaptique.
La dépression à long terme (LTD) : diminution de la force synaptique.
Cela permet au cerveau de s'adapter, d'apprendre et de mémoriser.
En résumé, les neurones traitent l'information en transformant des signaux chimiques en impulsions électriques, en les intégrant, puis en les transmettant à d'autres neurones dans un réseau complexe et adaptable.
Il faudrait continuer en approfondissant sur ce qu'est la conscience. Quand, comment la conscience émerge-t-elle? Par exemple, est-ce qu'un niveau de conscience extrêmement faible émerge quand on joue aux dominos? Si ce n'est pas le cas, où est la limite d'émergence? Pourquoi ma sensation d'exister est limitée au corps que j'incarne?
Voir l’épisode "vers la conscience artificielle", il commence a dater mais donne quelques éléments de réponse.
Raphaël Enthoven, c est une vidéo pour toi 😂
Ce Raphaël Enthoven est essentiellement un cuistre et s'est moult fois contredit face à M. Phi, mais il n'a pas non plus dit que des conneries lors de ce débat.
@@gaiusbaltar7122 Il a ce je ne sais quoi de pertinent.
@@gaiusbaltar7122 C'est un tenant du vitalisme, donc de la force surnaturelle qui anime la vie. Autant dire que son postulat de départ n'est pas "matérialiste" pour utiliser le terme le plus connu en philo (même si c'est pas le plus adapté)
Son choix métaphysique de base est différent de celui des scientifiques, et de la plupart de philosophes modernes.
Enthoven est agrégé en philo, heureusement qu'il ne dit pas que des conneries (par contre en dire sur son sujet d'expertise c'est souvent rédhibitoire), même si son approche est plus littéraire et symbolique que logique.
@@malluinmalluin5569 j'ignore s'il est vitaliste car je ne me souviens pas de l'avoir entendu défendre cette position lors de ce débat. Cependant, effectivement, il s'affirme d'une part matérialiste et, d'autre part, il semble défendre à bas bruit des thèses dualistes.
Pour le reste je vois que vois qualifiez le vitalisme de "force surnaturelle". Je pense pour ma part que c'est aller un peu trop vite en besogne. Par ailleurs, j'affirme au risque de vous choquer, que le vitalisme n'a, jusqu'à présent, jamais été formellement réfuté. Il a en effet été évacué du discours scientifique plus par préjugé matérialiste (ce "choix métaphysique" dont vous parlez) qui domine la biologie moderne que pour des raisons rigoureusement expérimentales.
Il y a effectivement un "je ne sais quoi" dans cette vidéo qui devrait lui plaire ! 😂😂😂
ce qui nous "motive" et nous fait bouger , ce sont les émotions . par exemple l'appétit est l'émotion qui nous fait manger , et le désir est l'émotion qui nous fait copuler . Le problème est donc d'installer au moins une émotion dans la machine , car elle n'y viendra pas toute seule . On pourrait donc imaginer des machines à manger , qui fabriqueraient de la merde , ou des machines à copuler , qu'on pourrait utiliser pour le plaisir . Mais quel est l’intérêt d'une machine munie de toutes les variétés d'émotions que nous sommes capables de ressentir ? Nonobstant sa grande complexité . . . . .
A 12:18 tu poses une hypothèse qui rejoint ma théorie. Soit que l'inconscient décide de tout, mais qu'il dysfonctionne et que nous ne serions là que pour aider à pallier ce dysfonctionnement,ce qui n'est toujours pas fait. Je m'appuie sur le fait que personne ne décide de quoi que ce soit de l' Amour, qui pourtant est là, ce qui suppose que nous ne puissions décider de rien quant à ce qui meut l'humain puisque ne décidant de rien de l' Amour qui en est une composante essentielle. Un avis là dessus? Je précise que je connais depuis vingt ans les deux conditions nécessaires pour que de l' Amour soit généré chez et entre deux personnes, ce qui me permet d'affirmer que nous ne pouvons influer sur aucune des deux, et donc rien en décider, contrairement à l'inconscient qui lui vérifie ces deux conditions et applique ce qu'elles donnent comme résultat. J'ai également constaté que plus de 95% des gens ne s'aperçoivent d'absolument rien quand leur personne tombe Amoureuse, ce qui suppose un dysfonctionnement chez ces gens, tandis que ceux qui ne sont pas affectés n'en décident pas non plus, bien que eux aussi affectés par le dysfonctionnement dans d'autres domaines, comme le non respect de la nature.
Top!
MAIS !! pourquoi je n'étais plus abonné à cette chaîne ???
Quel précurseur a été Spinoza tout de même sur la vision mécaniste du vivant
Je suis un homme simple je pouce haut
Bonjour! Votre thèse est simple, voire, à mon sens, simpliste. La voici dans les grandes lignes: la matière vivante n'a, selon vous, strictement rien de particulier. Donc les fonctions qu'elle assure n'ont rien de spécifiques à elle. Donc n'importe quelle matière, organique ou non, peut remplir exactement les même fonctions (en passant, parler de "fonctions" pour de la simple matière est extrêmement problématique du point de vue de la physique mais ce n'est pas le sujet ici). Cependant, on constate que nos ordinateurs, que vous êtes prompt à assimiler à des cerveaux (et inversement) n'ont pas de conscience et ne pensent pas, ce qui est tout a fait normal et compréhensible pour les spécialistes et techniciens de ce secteur (dont je suis par ailleurs mais cela n'est pas important).
Vous affirmez de votre côté que, dans certaines conditions, la pensée et la conscience doivent nécessairement "émerger" des ordinateurs en vertu des lois de la physique. Donc, selon vous, quelque chose doit nécessairement "émerger" de cette matière que vous qualifiez de "standard". Vous dites donc: *CERTAINS assemblages de semi-conducteurs dotés de conscience sont concevables.*
Concrètement, que serait cette "conscience" qui devrait "émerger" et qui ne serait donc pas, à ce titre, réductible à cette matière "standard"? En effet, si c'est toujours de la matière, alors rien n'a "émergé". Et si ce n'est pas matériel, cela n'existe pas selon vous, et donc rien n'a émergé non plus.
Et que signifierait au demeurant, d'un point de vue strictement matériel, cette notion de "conscience"? Autrement dit, selon vous, que doit-il nécessairement émerger concrètement?
Par ailleurs, qu'auraient de particulier ces assemblages de semi-conducteurs par rapport aux autres? Autrement dit, dans quelles conditions des assemblages de semi-conducteurs doivent-il nécessairement aboutir à un Descartes synthétique?
Enfin, puisque vous considérez que Descartes s'est complètement égaré avec son délire de "je pense donc je suis" (alors que cela est manifestement impossible à réfuter, mais peu importe), comment se fait-il selon vous que des lois de la physique aboutissent nécessairement à une "erreur"? S'agit-il finalement d'une mauvaise conformation matérielle? Et si oui, au regard de quelle norme?
Je précise que ces questions ne sont que des questions de surface, et que si on pousse plus loin la réflexion, ce que vous ne faites manifestement pas ici, on tombe sur des difficultés théoriques encore plus insurmontables.
Je repond point par point (à une des version de ce commentaire que moi je voyais tres bien, qui semble differente de la version ci dessus.)
*on constate que nos ordinateurs, qu'on est prompt à assimiler à des cerveaux*
Non pas grand monde n'assimile les ordinateurs en général à des cerveaux dans une discussion rigoureuse. > Homme de paille.
*nos ordinateurs n'ont pas de conscience et ne pensent pas, ce qui est tout à fait normal et compréhensible pour les spécialistes et techniciens de ce secteur.*
Je suis informaticien de métier et passionné de ces sujets, et c'est également pour moi, tout à fait normal et compréhensible que mon ordinateur ne pense pas, et même que GPT4 ne pense pas, je n'ai jamais dit le contraire et je saurais argumenter pourquoi gpt4 n'est probablement pas conscient.. > Homme de paille.
*Vous dites donc: CERTAINS assemblages de semi-conducteurs dotés de conscience sont concevables. Concrètement, que serait cette "conscience" qui devrait "émerger" et qui ne serait donc pas, à ce titre, réductible à cette matière "standard"?*
Un certain mouvement d'information avec sa dynamique, sa structure et des propriétés précises.
*si c'est toujours de la matière, alors rien n'a "émergé".*
Ce n'est pas le support physique qui importe mais l'information, et lorsqu'on parle ici d'émergence on parle des propriétés dynamique macroscopique de ce groupe d'information, vous concevez bien par exemple qu'un nuage, fait de molécule d'eau, a un comportement macroscopique induit par la physique des molécules d'eau, mais qui est en fait macroscopiquement relativement distinct de sa dynamique microscopique, il devient un objet en lui même. Mais bon, je n'espère pas ici réussir à communiquer avec vous le concept d'émergence, a l'issue de nos discussion c'est un aspect qui semble vous dépasser totalement.
*Par ailleurs, qu'auraient de particulier ces assemblages de semi-conducteurs par rapport aux autres? Autrement dit, dans quelles conditions des assemblages de semi-conducteurs doivent-il nécessairement aboutir à un Descartes synthétique?*
Encore une fois, le substrat physique n'est pas la clef (vous ne semblez pas vraiment comprendre la thèse de la réalisabilité multiple) donc il faut plutôt poser des conditions, des propriétés, sur le processus, Quelle propriété un processus doit avoir pour mener à la conscience subjective ? eh bien c'est le sujet des théories sur la conscience.... Je vous invite à googler "theories of consciousness". Une des propriétés qui me semble essentielle (et je n'ai pas dit suffisante) c'est qu'un processus contienne en interne, des informations qui représentent une partie de ces propres états macroscopiques, que ce mouvement d'information soit réflexif, s'auto-réfère.
*Enfin, puis que vous considérez que Descartes s'est complètement égaré avec son délire de "je pense donc je suis"*
Ha bon je considère ça moi ? (des fois j'avoue ne même pas imaginer comment vous comprenez les trucs de travers tellement ils sont loin de ma conception)
*comment se fait-il selon vous que des lois de la physique aboutissent nécessairement à une "erreur"?*
Je ne vous suis pas. Une erreur de quoi?
NB: lorsque vous posez vos questions (que j'ai déjà dit suite à notre passif je me réserve maintenant largement le droit de ne pas lire) je vous serais gré de ne pas les mettre en réponse à un commentaire: ca vous permettrait de ne pas faire bugger youtube et de jouer les persécutés, de ne pas me faire moi lire 4 fois la même chose (car visiblement moi je vois bien vos commentaires qui "disparaissent"), d'en avoir les notifications, et de ne pas mélanger les carottes avec la choucroute.
Mettons de côté les semi-conducteurs. Je suis curieux de connaître votre définition des termes « conscience » et/ou « penser ». Ma question sous-jacente serait de comprendre en quoi la conscience que nous les humains avons est une caractéristique fondamentalement différente de par exemple avoir des écailles, ou des griffes ou pouvoir voler.
Existe-t-il selon vous un autre mécanisme que l’évolution/sélection naturelle pour expliquer l’apparition de la conscience chez l’humain ?
Autrement dit : imaginons que l’humanité disparaisse. Après un temps suffisamment long, considérez-vous possible qu’une autre forme de vie animale puisse à son tour développer une conscience ? (j’ai bien dit possible, pas inévitable ou même probable).
@@PasseScience (pour faire au plus court, je passe sur l'accessoire et focalise sur l'essentiel)
*Un certain mouvement d'information avec sa dynamique, sa structure et des propriétés précises*
Si vous dites : un certain mouvement de particules, d’un point de vue matériel, c’est ok, mais là vous dîtes « un certain mouvement d’information » et je vous repose la question : de quoi parlez-vous matériellement parlant ? Quel rapport entre particule et information ? Comment passe-t’on de l’un à l’autre ?
*vous concevez bien par exemple qu'un nuage, fait de molécule d'eau, a un comportement macroscopique induit par la physique des molécules d'eau, mais qui est en fait macroscopiquement relativement distinct de sa dynamique microscopique*
Certes, mais ici on parle toujours de choses bien identifiables d’un point de vue matériel : particules, atomes, molécules, structures macroscopiques. Donc je reviens à ma question ci-dessus.
*c'est un aspect qui semble vous dépasser totalement.*
Ce concept consiste à dire : un truc nouveau apparaît sans qu’on puisse dire pourquoi et comment. Avouez que ça doit nécessairement dépasser les esprits moyens tels que le mien qui ont besoin d’explications concrètes et rigoureuses.
*Encore une fois, le substrat physique n'est pas la clef*
Ce que vous dites là est extrêmement problématique d’un point de vue matérialiste dans lequel vous vous inscrivez.
*il faut plutôt poser des conditions, des propriétés, sur le processus*
Oui, on peut faire ça avec n’importe quel objet matériel et décrire tout ça d’un point de vue matériel come par exemple pour la formation des nuages, des étoiles, des planètes, voire de l’Univers dans son ensemble et on parle toujours de choses matérielles bien identifiées, avec des propriétés bien définies, et des processus bien décris mais ici vous parlez d’autre chose comme vous le dites au-dessus en affirmant que « le substrat physique n’est pas la clé » alors qu’en physique, le substrat physique est bien la clé et même la seule clé. Donc, encore une fois, vous parlez de quoi concrètement, d’un point de vue matériel et uniquement matériel comme il se doit en physique ?
*des informations qui représentent une partie de ces propres états macroscopiques*
Au delà du fait que vous ne dites pas ce qu'est une "représentation", notamment du point de vue de la physique, on représente toujours pour quelqu’un, donc pour une « conscience ». Autrement dit, ici il y a un gros problème car vous semblez déjà présupposer un récepteur à cette représentation de soi-même.
*mouvement d'information soit réflexif, s'auto-réfère*
Quand j’entends mouvement en physique, je comprends aussitôt et uniquement mouvement de particules. Ici encore une fois vous parlez d’information, ce qui est étrange. Par ailleurs, en admettant ce terme « information », vous dites une information qui se réfère à elle-même, mais pour qui exactement ? Quand je lis un livre qui s’auto-référence, c’est le lecteur qui le constate, pas le livre si vois voyez ce que je veux dire.
*des fois j'avoue ne même pas imaginer comment vous comprenez les trucs de travers tellement ils sont loin de ma conception*
Cette proposition est au fondement du dualisme et je crois savoir que vous êtes moniste.
*Une erreur de quoi*
L’erreur de Descartes (c’est le titre d’un livre par ailleurs) qui a mené au dualisme, à savoir celle d'affirmer que le fait que l'on pense est la preuve que l'on existe.
@@xaviervilloing6636
*« conscience » et/ou « penser »*
Question très intéressante et très complexe à la fois. Il serait bien présomptueux pour moi de prétendre définir ces termes de manière absolument objective et formelle. En première approche, je dirais de la pensée qu'il s'agit de la capacité pour une entité quelconque de construire une image mentale, soit totalement abstraite, de la réalité. Quant à la conscience, il s'agirait en première approche de la propriété, pour cette entité, de se représenter elle-même pour elle-même et, à se titre, de se considérer comme une entité distincte du reste de l'Univers, face auquel elle se considère comme observatrice, comme point de vue.
*Existe-t-il selon vous un autre mécanisme que l’évolution/sélection naturelle pour expliquer l’apparition de la conscience chez l’humain ?*
Il est absolument impossible pour moi de répondre à cette question.
*Après un temps suffisamment long, considérez-vous possible qu’une autre forme de vie animale puisse à son tour développer une conscience ? (j’ai bien dit possible, pas inévitable ou même probable).*
Je ne vois absolument rien qui s'oppose par principe à cette possibilité.
@@gaiusbaltar7122 *Si vous dites : un certain mouvement de particules, d’un point de vue matériel, c’est ok, mais là vous dîtes « un certain mouvement d’information » et je vous repose la question : de quoi parlez-vous matériellement parlant ?*
Je vous renvoie à 12:58 pour reprendre le concept de realisabilite multiple, notamment avec l'exemple de la porte ET, et les deux implementations physique differente, le calcul est ici le meme, la physique qui le supporte differe, moi je parle du point commun entre les deux structures, donc de l'information.
*Ce concept consiste à dire : un truc nouveau apparaît sans qu’on puisse dire pourquoi et comment. Avouez que ça doit nécessairement dépasser les esprits moyens tels que le mien qui ont besoin d’explications concrètes et rigoureuses.*
Je crois vous avoir deja donnez l'exemple de la dune, que j'aime beaucoup, vous considerez une dune de sable dans le vent, le sable s'accumulant d'un cote, s'envolant de l'autre, resultant donc en un mouvement de la dune vers le vent. Ici vous avez un objet macroscopique, la dune, qui peut persister et se deplacer dans son etat de dune indefiniement et donc avoir une duree de vie plus longue que ces constituant (puisque les grains qui la constitue finisse par venir et finissent par partir) elle a aussi des proprietes macroscopique bien a elle, un deplacement une vitesse, qui n'ont rien a voir avec le deplacement et la vitesse des grains qui la constitue, notamment elle se deplace dans le sens inverse de tous ces constituants. (a contre vent alors que les grains vont dans le sens du vent).
Bon he bien ici je vois donne un exemple d'emergence que je pense que vous pouvez comprendre, et du coup sauriez vous capable de m'expliquer dans ce cas COMMENT ce truc nouveau qu'est la dune apparait ici, pourquoi et comment ? Une partie du sujet (les theories de la conscience) ont pour objectif de trouver une reponse a votre question (et donc ne l'ont pour le moment pas, ou pas integralement) mais si je vous donne l'exemple de la dune cest pour vous montrer que meme dans le cas ou l'exemple est concevable, assimilable, et compris a toutes les echelles, il est difficile de definir le type de reponse que vous voudriez avoir à "pourquoi eet comment?" meme dans un cas parfaitement maitrisé d'emergence.
*Encore une fois, le substrat physique n'est pas la clef, Ce que vous dites là est extrêmement problématique d’un point de vue matérialiste dans lequel vous vous inscrivez.*
Pas vraiment, c'est en fait vous ici qui voulez garder une dichotomie classique materialiste dualiste, je ne suis pas dualiste, mais je ne suis pas non plus "materialiste" au sens classique du terme, un fonctionnaliste il se concentre sur les processus interne (voir reponse sur la these de la realisabilite multiple) par exemple un "programme" ca existe pour vous ? je veux dire "materiellement" c'est quoi exactement le programme "internet exploreur" les atomes des micropusces qui l'execute ? vous ne saississez pas en quoi c'est reducteur de vouloir materialiser une structure logique ? elle est "implementee" par un substrat physique, mais celui ci est intercheangable, et ceuq qu'on garde (ie le processus) c'est ce qui nous interesse. Le fonctionnalisme a toujours eu sa part de dualisme, percisement parceque ce sur quoi il se focalise est le processus et non le hardware.
*Donc, encore une fois, vous parlez de quoi concrètement, d’un point de vue matériel et uniquement matériel comme il se doit en physique ?*
Meme reponse a la meme question, du coup j'imagine qu'aucun programme informatique n'existe ? cest quoi materielement un programme informatique ? comment c'est possible d'avoir le meme programme qui tourne sur des architectures differentes faites de composants qui n'ont rien a voir, quest ce qui est le meme si tout materiellement change ? A la limite si vous voulez vraiment avoir un truc materiel, a la place de parler du processus vous pouvez parler d'une realisation de ce processus, ou dans ce cas ca serait les structures physiques qui en deroule l'execution dont on parle.
*Autrement dit, ici il y a un gros problème car vous semblez déjà présupposer un récepteur à cette représentation de soi-même.*
Non ce qu'on dit c'est que produire cette structure rapproche simultanement de creer le recepteur de creer le signal dont je parlais. Le recepteur s'identifie au processus avec les proprietes recherché. (c'est une question de type oeuf ou la poule que vous faite, montrant des difficultes a concevoir des concepts presentant une cyclite). C'est un peu comme si vous disiez en gros qu'aucun mot du dictionnaire ne peut avoir un sens car son sens est defini par les autres mots et qu'ils faut donc que ces mots ai deja un sens etc... ba non, c'est la relation entre les elements de l'ensemble qui donne simultanement un sens a ses parties.
Plusieurs problèmes :
1) si la conscience emerge du cerveau, à quel echelle de complexité cela se produit-il? Affirmer que qq chose emerge d un systeme sans savoir pointer la configuration neuronale exacte de cette émergence est une spéculation.
2) il y a un différence ontologique évidente entre un neurone et une pensée. De quoi est fait une pensée? De neurones? Aucune passerelle theorique ne semble possible entre ces deux entités.
3) etre conscient semble etre davantage le fruit de l'information qui entre dans le cerveau que du cerveau en lui-même. Coupez le cerveau de tous stimuli extérieur et la conscience disparait. Idem avec l'anesthesie generale. Plus d'info, plus de conscience. Pourtant les neurones sont tjs là. De meme que sans ondes a receptionner un poste de radio ne produit plus de son. Ou sans un cloud ou un reseau, le téléphone ne permet plus d'acceder a internet. L'appareil n est rien. Ce qui compte c est ce qui rentre. Or ce qui rentre n est pas le produit du cerveau. C'est un apport extérieur
Je repond point par point:
*Affirmer que quelque chose émerge d'un système sans savoir pointer la configuration neuronale exacte de cette émergence est une spéculation.*
Ce n'est pas une certitude, oui, mais il n'y a aucun problème en science à considérer une hypothèse comme largement favorite. Spéculation, peut-être, mais toutes les spéculations ne se valent pas. Nous avons ici toutes les raisons de croire que c'est le cas, et aucune hypothèse alternative n'est davantage en accord avec les observations. C'est donc parfaitement rationnel de retenir celle-ci. Non, on n'a pas besoin, en science, de fournir un résultat définitif, exact et complet pour justifier une approche. On n'exige aucunement cela dans la très grande majorité des autres domaines ; il n'y a donc aucune raison d'exiger davantage ici.
*Si la conscience émerge du cerveau, à quelle échelle de complexité cela se produit-il ?*
Ce n'est pas tant une question d'échelle que de propriétés. Par exemple, le fait pour un processus d'avoir, à un instant donné, une partie de ses informations internes qui sont une description macroscopique de son propre état ou de ses états passés (réflexivité) pourrait être une propriété nécessaire (pas forcément suffisante). Pour le détail de ces propriétés, il faut se référer aux diverses théories de la conscience, dont le but est précisément de tenter de répondre à votre question.
*Il y a une différence ontologique évidente entre un neurone et une pensée. De quoi est faite une pensée ? De neurones ? Aucune passerelle théorique ne semble possible entre ces deux entités.*
Le neurone est le support physique ; ce qui importe ici, c'est l'information qu'il véhicule. Dans cette perspective, une pensée serait donc un certain mouvement d'information au sein de l'ensemble, nécessitant certainement un très grand nombre de neurones pour la supporter. En soi, un concept interne (mouvement d'information) ne signifie rien par lui-même : il acquiert son sens via les liens qu'il déclenche avec d'autres concepts abstraits. Au contraire, il existe actuellement de très solides passerelles théoriques : nous sommes capables de construire des systèmes qui font émerger en interne leurs propres "concepts", établissent automatiquement des liens entre eux, et les utilisent d'une manière qui reflète au moins certains aspects de la compréhension.
*Coupez le cerveau de tout stimuli extérieur et la conscience disparaît.*
Il n'y a pas de raison pour que, si je vous prive de tous vos sens, là maintenant, vous cessiez de pouvoir réfléchir. Cela serait angoissant, et vous deviendriez fou plutôt vite (la conscience finirait alors par s'effilocher), mais elle peut certainement persister longtemps, même privée de tout stimuli extérieur. En revanche, elle ne pourrait pas se former : un bébé privé de tous sens ne développerait pas grand-chose.
*Idem avec l'anesthésie générale. Plus d'info, plus de conscience. Pourtant, les neurones sont toujours là. De même que, sans ondes à réceptionner, un poste de radio ne produit plus de son. Ou, sans un cloud ou un réseau, le téléphone ne permet plus d'accéder à internet. L'appareil n'est rien. Ce qui compte, c'est ce qui rentre.*
Pas exactement. Ce qui importe, c'est le mouvement d'information interne (ce qui entre, du côté interne de l'entrée, fait également partie de ce mouvement d'information). Un fonctionnaliste ne dit pas que tout mouvement d'information interne est conscient. Il existe de nombreux exemples d'activités cérébrales qui n'atteignent pas la conscience. La conscience disparaît généralement lorsque des activités cessent dans certaines zones (et donc des zones qui supporte un mouvement d'information avec la bonne structure) ou qu'elles prennent une forme trop altérée.
Effectivement il n’y a pas de raison qu’une absence de stimuli fasse disparaître la conscience.
Certaines lésions cérébrales ´enferment’ des personnes hors du monde extérieur.
À l’opposé il semble que certaines régions cérébrales soient impliquées directement dans l’existence de la conscience. Certaines lésions du tronc cérébrales semblent coïncider avec une perte définitive de conscience.
Au delà de l’enjeu philosophique, il est important de mieux comprendre ces phénomènes pour être certain de la mort cérébrale avant un éventuel prélèvement d’organe.
Au final la conscience qui manque encore aux IA, c’est peut être la centralisation des perceptions dans un référentiel unique.
Au lieu de considérer des données dans l’absolu, peut être faut-il lui implémenter des fonctions d’observation de son état.
Je ne parle pas de retropropagation mais de labellisation de son état.
Mais les données ne seront pas très volumineuses et les progrès sans doute moins rapides.
Merci pour cette vidéo.
Je crois qu’être conscient c’est avoir des remords (regretter avoir fait mal) … décider d’améliorer son ‘code’ au vue d’une erreur fatale d’approximation (voire d’inhibition … (jusqu’à remettre en cause les règles) ) ? … (Le problème de l’arrêt et la non-déterminabilité) …comment une ia pourrait-elle se permettre d’être dépressive ?
Que pensez-vous de cette expérience ? :
ruclips.net/video/YZSsNUT5npo/видео.html
Ah bah les poussins de Peoc'h (et ce qu'il a fait), on m'a tenu la jambe avec ça il y a plusieurs années, et je me suis fait violence pour aller lire la publication, donc je connais bien. Eh bien, en résumé bref : perte des données brutes, non-reproductibilité, et surtout un protocole de comptage ultra capillotracté. Par exemple, si vous deviez mesurer un biais de comportement aléatoire, vous pourriez décider de compter le premier moment où le robot touche le cadre, ou bien la direction où il se trouve par rapport à la position initiale une fois qu'il s'en est éloigné de 20 cm, etc. Eh bien, dans la publication, c'est un truc super complexe, genre : les 10 premiers impacts comptés sur des demi-périmètres du rectangle. En gros, ça ressemble beaucoup à un critère choisi a posteriori, à partir des données acquises, pour montrer un biais.
Malheureusement, à l'époque, je n'étais tombé sur aucun tracé enregistré (juste ses tableaux de synthèse avec ses comptes chelous), donc je n'ai pas pu analyser grand-chose statistiquement. Mais j'avais aussi montré que, mathématiquement, son protocole est conçu pour être super sensible au bruit, du genre qu'une différence de placement de quelques millimètres dans la position initiale du robot peut se traduire par un impact significatif dans ses mesures.
Au final, comme j'ai dit, c'est malheureusement non reproductible. Les données ne sont même pas visibles sous forme brute, le comptage semble être du cherry-picking pour coller à sa conclusion, et rien n'est justifié dans la manière dont il a choisi de faire ces analyses. Si je devais parier de l'argent, je dirais que n'importe qui reproduisant ce type d'expérience rigoureusement, en double aveugle, avec des métriques prédéfinies et un gros volume de données, ne verrait plus aucun phénomène.
C'est beau, on a envie que ca soit vrai et que ca marche, en pratique ca donnerait la meme chose qu'avec les tests sur les sourciers: lorsqu'ils font mal leur test ca marche, des qu'ils sont dans un protocole rigoureux, le phenomeme disparait.