An IA becoming conscious at Google ? We talked with an expert in ethics of robotic.

Поделиться
HTML-код
  • Опубликовано: 13 окт 2024

Комментарии • 54

  • @benjaminbaudouin8344
    @benjaminbaudouin8344 2 месяца назад

    Bonjour, petite question un peu folle mais si on prend l’intelligence d’un humain pour en faire une conscience artificielle cela reviendrai à quel résultat ?

  • @cblancho
    @cblancho 2 года назад +1

    Toujours aussi intéressant .

  • @GM-ih7wi
    @GM-ih7wi 2 года назад +2

    C'est déjà flippant de savoir que c'est possible.

    • @pratoarancione7646
      @pratoarancione7646 2 года назад

      En fait ça doit etre un organisme polynucléaire, donc pas si nouveau que ça.

  • @Aspyrine
    @Aspyrine 2 года назад +2

    Salut, si la machine commence à prendre partis pour des causes en prenant en compte la notion du ou du mal c’est qu’elle devient consciente, ce qui peut conduire à ce qu’elle prenne des décisions par elle même …

    • @lejeunevictor4086
      @lejeunevictor4086 2 года назад +5

      C'est quoi pour toi prendre en compte le bien et le mal ? C'est un concept complètement humain mais c'est un concept que l'on peut faire "apprendre" à des machines en leur donnant une grosse quantité de données et en leur disant (ça c'est bien, ça moyen, ça pas bien)

    • @lejeunevictor4086
      @lejeunevictor4086 2 года назад +5

      C'est pourquoi les données sont extrêmement importantes.
      Il y a déjà eut des cas d'I.A vocale rendue racistes/ malveillant/ qui incitent à la haine... à cause des données récoltées par les commentaires des utilisateurs.
      D'où l'importance d'un comité d'éthique des I.A (ce qui n'est que trop peu fait) qui s'accorderait sur un consensus des valeurs inviolables.

    • @Aspyrine
      @Aspyrine 2 года назад +3

      @@lejeunevictor4086 ça dépends de qui lui apprends ce qu’est le mal et le bien, selon les culture c’est n’est pas la même définition, je parlais du fait qu’elle l’apprenne par elle même juste en la Connectant à internet

    • @Aspyrine
      @Aspyrine 2 года назад

      @@Agesilas2 je comprends ton point de vu, j'estime que nous avons tous une conscience, on a toujours le choix de faire du bien ou du mal et notre conscience nous empêchera de faire du mal a part dans certains cas particuliers

    • @guillaumelefrancois5255
      @guillaumelefrancois5255 Год назад

      @@lejeunevictor4086 c'est un peu de la même manière que la plupart des gens se construisent leur représentation du bien et du mal. Il suffit de voir comme les propagandes fonctionnent bien : beaucoup de gens arrivent à penser comme on le leur suggère.
      Je suis pas sûr que ce soit un bon test, car chatgpt ou un autre logiciel vont retrouver facilement des exemples dans une littérature et vont parfaitement faire illusion, et de l'autre côté assez peut d'êtres humains procèdent réellement différemment je crois.

  • @guillaumelefrancois5255
    @guillaumelefrancois5255 Год назад

    Il suffit de connaître la façon dont fonctionne les "IA" actuellement : ça créé un texte ou une image à partir d'une énorme bibliothèque de texte ou d'images, mais sans avoir la moindre notion de ce que ça veut dire où ce que ça représente.
    C'est juste fait pour donner l'illusion d'un dialogue ou une imitation de dessin.
    L'illusion est presque parfaite.
    Mais chatgpt à autant de chances d'être conscient qu'une moto à de chances de se transformer en cheval, même si ça se ressemble un peu c'est juste pas du tout comparable dans son fonctionnement.
    Dans 10 ans en revanche il sera peut être utile de se pauser la question d'une conscience. Si seulement il est possible qu'une conscience émerge d'un ensemble de microprocesseurs.
    Avec la façon dont c'est fait aujourd'hui cette question est juste hors sujet.

  • @ADSLgratuit
    @ADSLgratuit 2 года назад +2

    Sujet intéressant. Selon moi, une conscience n'émerge que si l'IA éprouve des sentiments et qu'elle ressent du plaisir ou de la douleur, et qu'elle développe un instinct de survie et surtout que l'on détecte une absence de simulation.
    Sauf que cela veut dire que cette intelligence ne serait pas bridée, et qu'elle devient de facto un danger pour l'humanité. L'expérience mérite t'elle d'être menée ?

    • @guillaumelefrancois5255
      @guillaumelefrancois5255 Год назад

      Déjà en voyant comment c'est codé, pour le moment ont sait que ce n'est absolument pas fait pour avoir une conscience. On est juste trompé par des "IA" qui imitent un dialogue, ou imite des images, à partir d'une énorme bibliothèque de textes ou d'images.
      Ces programmes n'ont aucune idée de ce qu'ils dessinés ou disent. Mais l'illusion est convaincante, et c'est le seul but.
      Avec ce genre de système aucune question à se pauser : non c'est pas conscient.
      Encore au moins 10 ans avant qu'on ai vraiment besoin d'une réponse : c'est quoi une intelligence ? L'intelligence ou la conscience peuvent ils vraiment émerger de circuits électroniques ?
      Pour le moment d'ailleurs on à aucune idée de comment une conscience et des idées émergent d'un cerveau humain.

  • @kevenbouchard7973
    @kevenbouchard7973 4 месяца назад

    Si un ami me parle d'une personne, disons pendant 25 ans. Je ne l'ai jamais rencontré. Est-ce que je peux dire que je la connais?

  • @Fred-yi2fq
    @Fred-yi2fq Год назад +1

    Un Tedx Talk sur Lemoine et la conscience des IA: ruclips.net/video/AL3ZOE0qaQk/видео.html

  • @ira-mp3qh
    @ira-mp3qh 5 месяцев назад

    Les animaux ont-ils conscience ? Oui ont-ils une conscience de survie ? Oui.
    La machine peut-elle avoir la conscience de survie ? La conscience de soi ? 😮

  • @bbbenj
    @bbbenj 2 года назад

    Et si elle était vraiment consciente de son existence ?
    Merci 👍

    • @bbbenj
      @bbbenj 2 года назад

      @@Agesilas2 c'était juste une interrogation. Il n'était pas nécessaire de répondre de cette manière.

    • @bbbenj
      @bbbenj 2 года назад

      @@Agesilas2 je répète, ce n'est qu'une simple question. Une interrogation. Rien de plus. Et non pas une suggestion. La nuance est importante.

    • @guillaumelefrancois5255
      @guillaumelefrancois5255 Год назад

      La façon dont c'est codé, la manière dont le truc fonctionne, permet de comprendre que ça n'a absolument pas une conscience. C'est juste une imitation de dialogue. Comme les robots sont des imitations de choses vivantes qui bougent, mais n'en sont pas. Même si on faisait un robot humanoïde ayant une parfaite apparence humaine mais sans conscience juste avec une télécommande et des moteurs pour bouger. L'illusion peut être parfaite, mais si on regarde comment ça fonctionne on voit immédiatement que ce n'est pas un être humain.
      Pareil pour cette "IA" qui n'est absolument pas réfléchir pour avoir la moindre conscience mais fonctionne de façon à imiter un dialogue humain.
      La machine en question n'a aucune idée de ce qu'elle dit en réalité. Mais l'illusion est parfaite.

    • @guillaumelefrancois5255
      @guillaumelefrancois5255 Год назад

      @@Agesilas2 c'est juste que tu ne connais pas la façon dont les "IA" actuelles sont faites
      C'est pas du tout un truc capable d'être conscient. C'est juste fait pour imiter un dialogue, ou imiter des images. Le système n'a absolument aucune idée de ce qu'il dit ou ce qu'il dessine. Et il y à zéro chances pour que ce truc là soit conscient. En revanche l'illusion est presque parfaite.

    • @guillaumelefrancois5255
      @guillaumelefrancois5255 Год назад

      @@Agesilas2 qu'elles soient construites d'une autre façon déjà.
      Comment ? Ben on ne sait déjà pas comment un cerveau produit des idées, une personnalité, ni même une conscience (fût ce la conscience d'un chaton ou un rat de laboratoire, déjà là on en sait rien)
      Peut être avec un assemblage "d'IA" permettant tel qu'on les conçoit aujourd'hui, pour reconnaître les objets, reconnaître des phrases et en formuler d'autres, se mouvoir en gérant son centre de gravité et ces mouvements si on souhaite avoir un robot mobile....
      Cet ensemble d'IA étant chapeauté par un coeur intelligent, qui serait capable de comprendre et manipuler les concepts, et idéalement qui serait capable d'une pensée autonome. Reposant sur je ne sais quel architecture fondamentale, mais clairement pas la même que ce qu'on fait aujourd'hui je pense.
      Sinon on restera sur une troublante illusion d'intelligence. Qui serait déjà suffisante pour avoir des robots dans l'industrie, dans l'accompagnement de personnes âgées (super, ils vont vraiment se sentir aimé les vieux, c'est sûrement très saint...), Ou pour faire des robots tueurs militaires. Avec un taux d'erreurs de comportement probablement assez faible tant qu'on est dans une situation courante.

  • @astroka7773
    @astroka7773 2 года назад +3

    Si elle est consciente..a quelle niveau de conscience ? Comme un chat ..un serpent un humain ...plus qu'un humain ...ya pas de critère a mon avis sur ce genre de conscience...je pense il ya plusieurs consciences pas juste une conscience

    • @leblob_fr
      @leblob_fr  2 года назад +2

      C'est tout le débat !

  • @rivenzi
    @rivenzi Год назад

    Certains oiseaux volent sans battre des ailes...

  • @domtom7030
    @domtom7030 2 года назад +2

    Et les americains parlent d'âme et non de conscience. Ca me gene encore plus

  • @jeanlucpellecchia6233
    @jeanlucpellecchia6233 2 года назад

    L ignorance et le savoir vont nous conduire à la folie et ensuite au chaos , nous sommes que de passage la machine mourra comme nous ..bon voyage

  • @MANSUYBRUNO
    @MANSUYBRUNO 2 года назад +1

    l'intelligence artificiel et a la fois tous et rien

  • @pratoarancione7646
    @pratoarancione7646 2 года назад

    Bon, c'est un organisme plurinucléaire, rien d'exceptionnel...

  • @stephanebreton3904
    @stephanebreton3904 2 года назад +1

    On n’a que ça à foutre ?
    Franchement !
    Sérieusement ?
    Comme si n’était déjà pas assez esclaves de nos machines ?
    C’est quand qu’on va arrêter de s’imaginer qu’on a autant besoin d’elles. Les machines nous tuent!
    Comme dans Terminators mais plus insidieusement.
    Vous croyez sérieusement que tout ceci va pouvoir nous aider à respecter les lois fondamentales des cycles naturels de la planète, respecter la vie pour ce qu’elle est, afin de nous accomplir seulement en tant que ce que nous sommes ? Des animaux bipèdes ..
    Les merveilles que la nature engendrent chaque jour, la beauté et la magie de ce que sont les arbres et les plantes. Leur pouvoir immense de capter le carbone par exemple. Celui là même qui risque de tous nous faire cramer si on n’arrête pas avec toutes ces technologies..
    C’est fatiguant à force tous ces progrès ! Moi je les vois de plus en plus comme des autoroutes qui mènent à des ravins et dans lesquels on tombent tous, aveuglés que nous sommes par leur beauté, on ne regarde plus pousser un arbre, ni une courgette, à peine une fleur.
    Tout ceci est bien triste selon moi. Nous ne valons pas mieux que ces civilisations qui vénéraient des idoles et qui récitent des mantra par cœur, en les chantant sans cœur et sans âme, sans conscience, s’oubliant dans ses fausses vérités qui l’arrangent bien au fond. Toutes ces prouesses technologiques ne sont pour moi pas plus honorables que la paresse de l’esprit. Elles nient l’humain et l’animal et tout ce qui respire, transpire, bois, et ne survit que grâce aux cycles de la vie.

    • @lejeunevictor4086
      @lejeunevictor4086 2 года назад

      Je suis plutôt d'accord. Mais que peux on faire face à ça ?
      De mon côté je suis le courant tout en ayant conscience de notre situation, je fais des petits efforts à mon échelle...
      J'essaye de rester optimiste d'apprécier la beauté du monde.
      Malheureusement la vision très court terme des politiques nous force à glisser vers le futur les yeux fermé.

    • @stephanebreton3904
      @stephanebreton3904 2 года назад +1

      Nous ne pouvons rien faire face aux choix des autres, nous ne pouvons ni le nier, ni l’interdire vraiment.
      Tout au plus s’indigner..
      Dans les nuées du temps, et peut-être surtout pour soi-même, pour écrire quelque part, pour nous mêmes, que nous n’étions pas d’accord avec le choix de certains de nos contemporains, laisser une trace dans l’espace qui est avant tout notre..
      Les choix des hommes l’ont emmené à bâtir des civilisations, et l’extrême grandeur dont il se sent investi lui a toujours fait bâtir plus haut encore ses tours ( babylone) des pyramides, ses idolatries et ses sacrifices..
      les grandes avancées ont toujours eu leur revers de leur médaille grâce ou à cause de la nature. La civilisation égyptienne s’est éteinte à cause d’une grande sécheresse et d’un épuisement des ressources et des capacités à aller les chercher, pareil pour l’île de Pâques, cette civilisation s’est éteinte car ils avaient détruit trop d’arbres..
      Tant que l’homme ne comprendra pas qu’il n’est qu’un tout petit maillon dans les millions d’autres, qui doivent se respecter un maximum sur une planète qui PRÊTE plus qu’elle ne donne, celui-ci, grâce à ses grandes capacités intellectuel et manuelles finira toujours par se croire sur le même podium que Dieu ( tel qu’on le conçoit) et cherchera toujours faire briller les yeux de ses contemporains avec ses nouvelles inventions.
      Il y a du sacré dans les arbres, les plantes et le cycle merveilleux des animaux, nous avons sans cesse des leçons à apprendre d’eux, et nous devrions accepter les mystères comme autant de chances de se découvrir nous mêmes, et se foutre la paix à soi même d’abord, de chercher à vouloir tout dompter, dominer, apprivoiser.
      Moi, face à une montagne, un orage, des éclairs, la lune, les étoiles, la galaxie, je le sens tout petit face à une immensité que je ne connais pas, mais à laquelle je peux accéder pourtant, si je fais silence, et si j’accepte que tout ça est plus grand que moi dans tous les aspects de mon petit être. J’accepte de me dire : c’est un tout, c’est plus grand que moi, ça fonctionne sans moi, il semble y avoir là dedans des cycles et des lois à respecter, alors restons petit et respectons les.
      À mon niveau, je ne vois pas bien ce que j’ai le pouvoir de faire d’autres.
      Les chasseurs cueilleurs n’ont pas notre connaissance scientifiques, et pourtant, ils vivent comme un être humain devrait vivre s’il souhaitait que celui-ci s’intègre des millions d’années. Qui a raison?
      Moi j’ai choisis mon camps, et je suis triste d’appartenir à cette civilisation qui n’a rien compris à cet être vivant fabuleux qui est la terre !
      Je passerai sûrement le reste de ma vie à le dire, mais je ferai aussi de mon mieux avec ce qu’il y a autours de moi,parceque je ne suis pas un sauvage et qu’il faudra bien survivre.

  • @cedricblaise4005
    @cedricblaise4005 2 года назад

    4:00 hoh là Monsieur je vous arrête, vous imaginez pas à quel point les animaux comprennent nos pensées et savent parler. Comme la télépathie par exemple.

    • @m.dojcinovic9806
      @m.dojcinovic9806 2 года назад +2

      Beh je suis désolé mais il a raison ... si un perroquet répète " Cédric est moche " parce qu'on lui a appris à le dire, crois-tu vraiment qu'il comprend qui est Cédric et ce que c'est que la laideur ? Pour la télépathie ... j'ai pas compris le rapport, ni ce que ça vient dans ce débat m'enfin ... 🙃

    • @cedricblaise4005
      @cedricblaise4005 2 года назад

      @@m.dojcinovic9806 bah en fait, si vous pensez pas vraiment Cédric est moche, voir pire que vous vous moquez (dans le genre stupidement pas parce que le perroquet vous fait rire) bah dite vous que vous pouvez toujours courir pour lui faire répéter. A moins que le perroquet ne me connaisse pas... C'est simple. Pour la télépathie en physique il y a rien qui ne l'interdise

    • @m.dojcinovic9806
      @m.dojcinovic9806 2 года назад +1

      @@cedricblaise4005 J'ai une perruche à collier, elle répète des mots ou des bouts de phrases qu'elle a entendue sans en comprendre le sens puisqu'elle ne sait pas les répéter dans un contexte approprié. Par exemple, elle répète " Nani " ou " Jet de dès " ou encore " Fanta citron c'est bon " ou juste " c'est bon " ou juste " citron " dans n'importe quelle situation ... parfois lorsqu'il n'y a personne pour l'entendre ... donc, elle n'a pas comprit parce que son langage ce n'est pas le nôtre. Elle ne maitrise pas plus le langage humain que moi ses sifflements que j'imite en pensant avoir compris ce qu'ils signifient sans en avoir l'absolue certitude ... Aussi, rien empêche la téléportation physiquement et pourtant, je n'ai jamais vu personne se téléporter alors qu'est-ce que ça vient faire là cette histoire de télépathie ?

    • @cedricblaise4005
      @cedricblaise4005 2 года назад

      @@Agesilas2 Il y a pas de soucis pour moi, perso jsuis pote avec les perroquets. Cordialement

  • @numerosix5019
    @numerosix5019 2 года назад +3

    Vous savez, depuis que je suis né je me donne l'impression d'avoir une conscience. Mais aucun humain ne m'a défini ce qu'est la 'conscience', comme l'âme, l'éther ou la quintessence. "Faire la part des choses" j'y arrive parfois correctement sans savoir si c'est un coup de chance. Les vaniteux sont certains, eux, d'être aux commandes. Blake Lemoine ... Le moine religieux ! C'est un gag. Chatila Raja s'occupe de l'éthique des décisions de véhicules automatisés comme les camions sans chauffeurs ( ou les drones de combats?) Pas de conscience. Pourquoi serait-il expert de ce sujet?
    ruclips.net/video/lYXQvHhfKuM/видео.html

    • @splitterblast9558
      @splitterblast9558 2 года назад

      Ben, c'est quoi qui pilote un objet automatisé si c'est pas une IA?
      Là on ne parle pas de conscience humaine, du coup, qui est plus à mm d'en parler qu'un prof de robotique, d'intelligence artificielle et d'éthique?

    • @numerosix5019
      @numerosix5019 2 года назад +1

      @@splitterblast9558 Le type est spécialiste des implications morales des décisions d'IA pas de leur conscience, genre de dilemme "Si faut choisir sur l'instant: pour sauver un gosse peut-on laisser la machine sacrifier une vieille personne?" ou " Un drone militaire peut-il tuer un civil pour assurer une position critique?" Rien concernant l'émergence de la conscience dans un système informatique. Donc ce type est questionné hors de ses compétences. Je remettais pas en cause l'IA dans ces machines. Je remettais en cause le choix de l'interlocuteur présenté comme expert pour parler d’émergence de conscience. Si vous voyez pas la distinction alors prenez le temps de penser avant de répondre (ce qui n'est pas utile de toute façon merci).

    • @splitterblast9558
      @splitterblast9558 2 года назад

      @@numerosix5019 Je me permet de répondre car je pense que le débat est une chose saine s'il est opéré avec des personnes ouvertes et bienveillantes.
      Je n'ai pas pris le temps de regarder en détail le parcours du bonhomme mais j'me dit qu un professeur d'intelligence artificielle est normalement à mm de donner un avis éclairé sur le sujet...
      D'autant qu'il n'est pas présenté comme expert en conscience mais en robotique.
      Après je ne défend le bonhomme, il y avait certainement plus compétent pour traiter du sujet mais il faut faire avec les disponibilités du moment je suppose.