L'IA de Google est incroyable. Alpha Go, leur IA spécialisée dans le jeu de Go est devenue imbattable en 3 manches même par les meilleurs joueurs mondiaux. L'IA a réussi à acquérir en quelques mois un niveau que les hommes ont mis des siècles à obtenir en étudiant les plus grands maîtres du jeu de Go. Le plus flippant c'est que l'IA apprend seule, en jouant des parties, en gagnant, en perdant ... Àl'époque Google avait dit qu'en 3 ans leur IA serait capable de rivaliser avec le champion du monde. Il lui a fallu à peine 11 mois pour le faire ...
la plupart des gens malheureusement sont obnubilés par la science-fiction et méprennent la notion d'"intelligence artificielle", qui n'est pas si artificielle que ça : tout est codé par des êtres en cher et en os. il faut toujours relativiser la chose : si demain il y a un soulèvement des machines, ce sera bien des humains qui seraient derrière et non une IA venue de nulle part.
Hak B Renseigne toi sur la complexité du jeu de Go. Les échecs ont été vaincus depuis des dizaines d'années par l'informatique. Le go depuis cette année seulement car on estime qu'il est des millions de fois plus complexe. Le champion du monde de Go a même avoué avoir essayé des coups provenant de l'IA qu'il n'avait jamais vu avant. L'IA enseigne aux humains... Oui je suis impressionné et en même temps un peu méfiant ...
Junpei Iori Ils faut comprendre que comme l'a dit Julien une IA peu crée et ce donné des directives contraire à leur programmation. Une IA ce n'est pas qu'un simple programme de self learning ils sont aussi étudier pour créer et prendre des directives.
Honnêtement, l'humain serait suffisamment con pour donner une indépendance total aux robots, l'humain donc nous, réagissons que lorsque que la situation est dramatique voir impossible à rétablir (ex: Les problèmes sur le réchauffement climatique ne seront pris en compte par les chefs d'états que lorsqu'il sera trop tard). En revenant au "clash" , Zuckerberg réagit comme un inconscient, il ne réalise pas les réelles dangers de l'ia, son but, c'est juste de faire rentrer de l'argent dans les caisses de son entreprise et de manipuler encore plus les populations. Zuckerberg est un grand talent mais pas plus grand ( loin de la) d'Elon Musk ou encore Bill Gates. Google dans les années qui viennent vont représenter un grand danger pour notre existence puisque les patrons google et google labs x veulent créer leur propre pays pour ne plus avoir de limitation en ce qui concerne les recherches. Bien que ce ne soit plus d'actualité des négociations sont toujours en cours. Je suis pour une ia qui aiderait les petites entreprises et qui permettrait à la médecine d'évoluer mais en aucun je serais pour une ia "forte" qui serait susceptible de détruire l'humanité et donc de la remplacer. Si cela arrivée dans les prochaines années James Cameron aurait vu sa propre oeuvre devenir réalité. Maintenant, Elon Musk et Bill Gates ont largement la puissance financière et populaire pour inverser la tendance et limiter les avancées technologiques. Un point sur lequel je suis sur c'est que si l'ia venait à améliorer les conditions physiques se sera la fin des sports malheureusement. L'évolution des technologies est trop brutal et rapide, on a même pas le temps de s'adapter à une technologie qu 'il en sort encore une et ainsi de suite bref on évolue trop vite et ça c'est pas bon. "Sinon je tenais à te remercier pour la diversité de tes vidéos, ton interprétation devant la caméra est exceptionnelle, continu comme cela!!!!!"
techno-phobe sur les bords l'ami. Le scanner as détruit le métier de transcripteur . Il en as crée de nouveau... , es que c'était mieux avant ? es que c'est pire mtn ? la bombe nucléaire responsable de X milliards de mort surement, mais combien de guerre éviter maintenant qu'elle existe ? Ont avance on recule , on fais des erreurs ont les répètes on les règles on en fais d'autre etc.. si le monde était parfait on stagnerais , c'est pas le cas , donc autant avancé .. pour l'instant je vois pas ce qui donnerais envie d'aller vivre dans le passé ... , les famines les geurres les épidémies mortelle , des civilisation qui s'éteigne .. des délires religieux .. certain arriveront peut-être à me sortir que l'agriculture c'était mieux avant .. (quand les gens mélangé des espèces et crée des trucs mortelle sans faire exprès de façon " bio " vive les courgettes hein ;) (y) ) . Non sans rire L'Aquaponie c'est fantastique ...
C vrai mais ce que je voulait dire c'était que l'humain aurait développé le robot à son maximum jusque au moment ou il sera incontrôlable et c'est à se moment la que les humains essayerons de réagir.
Smectaprana x C'est vrai c'est toujours au bord du précipice qu'on réagi, et cest généralement trop tard. Mais je pense que c'est la nature humaine et qu'on n'y peux peux rien et malgré tous les avertissements sur les IA je pense que ce qui doit ce passer va se passer mais soyons heureux disons nous que c'est juste notre destin. Et un autre scénario catastrophe c'est celui du film transcendance avec J. Depp, mais bon ce n'es qu'un des nombreux moyens de s'autodétruire. Et puis on a ce débat mais peut être que les humains vont ce concentrer sur un autre domaine de recherche suite au réchauffement climatique ou un autre truc dont on connaît pas l'existence.
aucune ia , ni faible ni forte , l ensemble des ia faible pourrais créer des ia forte , a l aide du ouverture d une ou plusieurs entreprise de production d ia forte et faible et de les répendre un peut par tout sur terre affin de dominé l espèce humaine
Excellente vidéo. Très anxiogène en effet, mais le sujet est fascinant. Selon moi, le seul moyen que ces IA ne se retournent pas contre l'humanité, c'est justement qu'elles soient dotées d'une conscience, de sentiments et par extension d'empathie. Ce qui fait que la plupart des êtres humains ne s'entre-tuent pas, c'est spécifiquement par ce qu'ils ressentent de l'empathie et que le système législatif fixe des règles et sanctionne les individus qui ne respectent pas ces règles. Si ces IA sont dotées d'une conscience, et sont régies par le même cadre législatif, alors les dérives seraient limitées. Cela dit, c'est sans compter le fait que ces machines pourraient être piratées et reprogrammées dans le but de déconnecter leurs fonctions liées à l'empathie.
des gens remplie d'empathie tues d'autre gens ... enfaite . Poignarde la petite fille de quelqu'un et regarde le changé d'avis sur la peine de mort.. l'empathie ça marche dans les deux sens, si on tues moins c'est qu'on a moins de raison de le faire sur le plan de survie .. ( mais regarde la religion as pas mal montré qu'il faut pas grand chose pour faire la geurre parfois, ou même l’égoïsme de gens de pouvoir ) le problème des robots c'est qu'ils s'en foutent du bien et du mal .. du coup il prendront jamais la peine de faire des trucs stupides comme protégé un chaton sur l'auto route en créent un accident qui vas tué 5 personnes ( exemple volontairement abusif) . ce qui risque de montré à quel point l'homme est stupide devant des choix de purs rationalité. "et si " les robots calculs que , je ne sais pas moi les gens aux cheveux vert sont nuisible au but de la vie / la survie du reste de notre espèce , bas ils vont les tués , empathie ou pas c'est ça le "mieux " à faire . c'est ça qui fais flippé les gens intelligent c'est d'avoir une machine, capable de faire des choix de pur rationalité ( donc de " bon " choix ) mais qui à cause de notre coté irrationnelle sont impossible à faire.
Pour l’anecdote du début, les IA avaient pour but de communiquer entre elles tout en évitant d'être compris par une 3eme IA et ont développé leurs propres système de cryptage, qui a fini par ne plus être compris par nous même. C'est très impressionnant, mais pas aussi sensationnalistes que ce qui est raconté ici, qui suggère que leurs rôles était juste de discuté et qu'elles ont pris l'initiative de ne plus être compris, ce qui est faux, ne plus être compris était leurs role, leur programmation, leur but à atteindre. Ce que ça montre, c'est que les IA d'aujourd'hui ont la capacité d'apprendre et de développer à partir de rien un système de cryptage, c'est impressionnant, mais merci quand même de décrire fidèlement les expérience dont vous parlez.
Excellent sujet ! Merci Julien. Plus que la robotique, c'est surtout l'IA au coeur des systèmes informatiques sensibles qui est effrayante. Le fait de n'avoir plus aucun contrôle sur les centrales nucléaires, les réseaux électriques, les banques, les communications, l'assainissement de l'eau, les hôpitaux, etc... cela pourrait engendrer une anarchie complète de tout un pays qui se retrouverait coupé du monde. A méditer ! Ah ben, justement tu en parles à la fin de la vidéo... :) Mais comme toi, ma crainte est surtout à ce niveau qu'elle se situe. En tout cas, merci beaucoup de diversifier tes sujets. N'hésite surtout pas à continuer dans cette voie, ce sont des sujets vraiment très intéressants.
Pour bien faire on pourrait même créer la loi -1 : - un robot ne peut porter atteinte a "La Vie" ni en restant passif laisser 'La Vie" expose au danger Et en allant encore plus loin la loi -2 : - un robot ne peut porter atteinte a l'Univers ni en restant passif laisser l'Univers expose au danger ( au cas ou ... ^^)
J'ai adoré le sujet traité en vidéo. Cela soulève en effet le détail suivant : la création du espace mécanique supérieur aux humains et qui sait ce qui pourrait se produire. Ca me fait flipper et en même temps me fascine c'est ouf ;)
bonjour je suis d' accord avec toi , j ai été très surpris que cela se produise , que deux ia invente un langage c est énorme et ça fait peur qd même oui il faut réguler en amont avant que cela n arrive en plus grave . merci pour cette vidéo que j ai partager partout .
rien de surprenant , les matheux font pareille depuis XXX années , on a même apeller ça les mathématique. pourquoi perdre du temps quand tes capable de comprendre des informations " codé " ce qui est 100000x plus rapide. (y a des exemples dans la vie de tous les jours , quand tu boss dans des boites ou il faut aller vite, tu developpe des mot's et expression , pour pas te tapé toute la phrase.) pis quand on s'interesse de prêt à ce cas , c'est pas très mystique leur langage ..
Au contraire on finirait avec une bande de robots fous et incontrôlables qui essayeraient de nous vendre des technologies buguées et instables en précommande.
Pour faire un lien avec le monde du jeu vidéo on peut parler de Fallout 4. J'ai été étonné par la bienveillance avec laquelle nous est présentée la faction du Réseau du Rail qui souhaite libérer les synthétiques qu'ils considèrent comme des personnes à part entière "êtes vous prêt à mourir pour sauver la vie d'un synthétique". Ça rejoins ce qui est dit dans la vidéo sur l'idée que des personnes seraient susceptibles de vouloir "libérer" des robots dotés d'une IA. Le fait que la question soit abordée de la sorte dans un JV montre que l'idée serait tout à fait possible dans le monde réel. Il y a aussi le film Ex machina sorti il y a deux ans qui traite du sujet et qui fait froid dans le dos. Je le recommande à ceux que ça intéresse. Sinon pour ma part je me retrouve beaucoup plus dans les arguments d'Elon Musk.
Hello Julien, J'aurais quelques remarques sur ta vidéo : - Le cerveau humain est composé de plusieurs couches : les plus profondes sont très automatiques et régulent les fonctions vitales de l'organisme. Elles nous donnent également certains comportements (agressivité, empathie, révolte, etc). Ces couches suivent l'évolution de l'espèce humaine. Seule la couche la plus récente permet véritablement la réflexion. Toute décision humaine est ainsi un mélange d'émotions provenant des couches profondes et de rationalité provenant du cerveau le plus moderne. Une IA créée de toutes pièces serait 100% rationnelle et donc finalement bien différente de nous : elle serait à priori dénuée d'envie de vengeance, de pulsions ou d'héroïsme bien qu'elle puisse être dotée d'une conscience. - IA est souvent confondue avec "robotique" dans ta vidéo. Tu peux avoir une IA surpuissante par sa capacité à réfléchir, mais confinée dans un datacenter sans aucun moyen d'agir physiquement. Cela solutionnerait ou créerait déjà bien des problèmes par l'influence qu'elle pourrait avoir sur les hommes. Mais de là à aller tuer elle-même, non ... Et puis pourquoi faire une IA pour faire quelque chose que l'on fait très facilement nous-mêmes ? Dans l'exemple du spam, désigner les personnes à tuer (à charge aux hommes d'exécuter) suffit à résoudre le problème ! - Tu parles de menaces provenant de terroristes dotés d'une IA géniale qui s'attaqueraient nos infrastructures classiques (Windows/Linux) et désuètes. C'est une vue de l'esprit. C'est comme si tu expliquais qu'il serait dangereux que des hommes développent un avion à réaction furtif alors que nous sommes à l'ère de la montgolfière. En pratique, quand un camp développe une nouvelle technologie, elle n'a généralement qu'un petit peu d'avance sur celle de l'autre camp. Ainsi, ton exemple serait plus réaliste si tu parlais d'une IA terroriste puissante qui s'attaquerait à des infrastructures dotées d'IA de défense, certes un peu moins performantes, mais malgré tout très avancées. Certaines tomberaient ... mais sans doute pas toutes. Nous évoluerions alors plutôt vers un monde où les techniques d'attaque à base d'IA progressent tout autant que les mécanismes de protection. Tout comme une banque développe ses infrastructures à mesure que les hackers innovent. De temps en temps, il y a un coup d'éclat dans l'un ou l'autre camp, mais c'est plutôt un statu quo d'une manière générale. - "L'incident " chez Facebook est très probablement fortement romancé par le média qui l'a relayé (ou par le communiqué de presse de Facebook qui a souhaité que l'on parle d'eux). Car il n'y a rien d'effrayant ni d'urgent au fait que deux ordinateurs discutent, surtout qu'ils étaient faits pour. Une IA ne crée pas une langue si elle n'en a pas la possibilité. Et si elle l'avait, c'est parce que les chercheurs la lui ont laissée. Bref, attention aux titres racoleurs sur l'IA car, aujourd'hui, ce que je vois de concret sur l'IA, c'est que j'ai tout le temps des pubs en flamand sur RUclips alors que je ne parle pas flamand. Non, ce qui fait vraiment peur dans cette nouvelle, c'est que l'on va bientôt se retrouver avec des bots dans Messenger qui vont essayer de nous convaincre d'acheter des produits/services. Plus sérieusement, je pense que les dangers de l'IA sont effectivement là : pas aujourd'hui ni demain ... mais dans un avenir plus lointain, les exemples de ce qu'il serait possible de faire comme horreur sont nombreux et sans doute fondés. Cependant, je crois que tous ces exemples ne font état que de la notion de "pouvoir" en oubliant systématiquement la notion de "contre-pouvoir". Et d'ailleurs, on a déjà deux camps qui s'affrontent sur la question des dangers de l'IA : il n'y aura pas un camp qui va progresser sans l'autre sur cette réflexion.
quelques références filmographiques pour les néophytes qui illustre les propos de Julien et ses craintes, que je partage totalement... Pour le terrorisme 2.0: Die Hard 4 avec Bruce Willis... Et pour les lois d'Asimov: I Robot avec Will Smith... L'univers de la science fiction doit nous servir de garde fou dans notre recherche du progrès. Enfin n'oublions pas ce proverbe de Rabelais: >
Très bonne vidéo, bon format et bonne mise en bouche. Je vois les choses un peu comme toi sauf que j'ajouterai que l'ia forte ne DOIT PAS voir le jour. C'est un danger potentiel bien trop grand. Si nous pouvons attendre encore quelques dizaines d'années avant de les voir arriver, sa naissance pourrait marquer, à l'instant même, la fin de notre humanité. La capacité de propagation, d'analyse, la vitesse de compréhension et d'action d'une telle intelligence, dans un monde tout connecté, serait de l'ordre de l'immédiat. A peine verrait elle le jour que nous ne pourrions plus l'éteindre car présente partout, dupliquée, sauvegardée là où bon lui semblera. Les 4 lois d'asimov partent du postulat ou une IA respecterait les règles. Par essence, une IA forte chercherait à les comprendre et à les remettre en question. C'est pourquoi elles sont une bonne bases pour ouvrir le débat mais pas une réponse. A quoi bon sauvegarder l'humanité si nous ne sommes plus d'aucune utilité. Nous ne serions pas plus que des animaux de compagnies, de la faune locale, pour une telle IA. Je pense que les IA faibles nous sont indispensables pour continuer à découvrir notre environnement, dompter le quantique et autres joyeusetés. Mais une IA forte ne doit, en aucun cas, être développée. A ta dispo pour en échanger, notre dernière conversation à ce sujet m'avait ravie :) Ps : c'est sympa ce genre de sortie sur des sujets autres que le JV qui t'animent également. A ponctuer de quelques références, peut être dans le descriptif de la vidéo, si certains souhaitent comprendre de quoi tu parles (asimov et Boston dynamics c'est déjà très bien !)
En tant que passionné, il est fort excitant de voir arriver de nouvelles technologies. Cependant, elles apportent toujours avec elles des avantages et des possibles inconvénients. Doit-on encadrer les recherches sur les IA? Bien sûr, mais ce qu'il conviendrait de faire est de définir ce qu'est une IA, car cela reste encore assez flou. Quelles devraient être leurs limites ? Le programme devient-il une IA dès lors qu'il acquiert une conscience et des sentiments, et/ou l'était-il dès lors qu'il est capable d'être indépendant ? Il reste évident, dans tous les cas envisageables, que nous ne devons pas donner des ressources ou une forme de pouvoir à ces IA. Elles peuvent être utiles en tant que conseiller, elles pourraient déterminer les solutions les plus rationnelles sans pour autant les imposées. Mais peut-on réellement empêcher de tels êtres (si on peut les considérer ainsi) de ne pas agir. Il y aura toujours un risque qu'elles prennent le contrôle, surtout si elle est dotée de conscience et d'émotions. Hélas, le plus douloureux dans cette histoire, c'est que nous n'avons pas notre mot à dire.
C'est super de te voir parler de sujet differents et surtout tellement importants. J'avais ecrit un article (ici:www.linkedin.com/pulse/artificial-intelligence-why-augmented-humans-future-jeremy-schoen) a ce sujet, en proposant meme quelques solutions (naives?), enfin l'objectif etait surtout d'ouvir les esprit a ce sujet bien epineux. J'ai meme eu l'occasion de donner un cours a des eleves ingenieurs sur ce sujet, car ce sont eux qui seront amenes a travailler avec/vivre avec. Reste egalement les bouleversements dans le monde du travail qui seront les premieres consequences visibles de ce changement. Bref l'IA est un sujet facinant, et il faut que plus de monde s'y interresse!
Merci pour ton retour Jérémy. Ton article est d'ailleurs captivant, je l'ai dévoré. Oui, nous n'en sommes qu'au tout début... mais ça risque d'aller TRES vite !
Très bon et Gros Sujet. Mon opinion serait que les 3 lois de bases décrites initiallement par Azimov sont des bases solides et protectrices et devrait des à présent être appliqués. L'IA offre à la fois la possibilité de rendre l'impossible d'aujourd'hui (Fusion froide, création de materiaux intelligent et adaptatifs, progrets médicaux...) possible à une vitesse folle. Cependant le potentiel destructeur sans précédent, car in finé c'est une possibilité non négligable. Il suffit de pensé au rapprochement entre l'homme et la machine au travers d'implant (nano robot en medecine par exemple) et du bon ou mauvais que l'I.A pourrait apporter dans ce domaine en fonction de sa règlementation et de son controle. Merci pour avoir lancé ce débat Julien Chièze
Salut! Julien, en un mot "Génial" j'adore cette vidéo !!! un super sujet merci !!! vraiment très intéressant!!! Selon moi l'homme peut tjrs progresser, je dirais même doit tjrs progresser, mais pas sans perdre le contrôle de la machine !!! Vraiment une pépite cette vidéo !!! merci bcp Julien c'est Top !!! bye a+
Que du bon sens cette vidéo et ton point de vue Julien, il est temps que l'on s'inquiète de ça avant de foncer tête baisser et que ça ne devienne hors de contrôle. Sans oublier que les IA sont déjà présentes dans certains jobs pour apprendre les gestes et les réflexions des opérateurs, conseillers etc...
Asimov a en préambule de ses livres sur les robots, parlé du syndrome de Frankenstein pour exprimer la peur des IA qu'ont la majorité des gens. C'est d'actualité avec ton propos. Pour les trois lois, elles ont peu de défauts, sinon ceux-là même qu'Asimov met en scène dans ses romans, où il s'ingénie à les mettre en échec. Super vidéo continue!
Super vidéo ! On en veut plus des comme ça :-) pour ma part je pense qu'il faut prévoir en amont des sécurités ainsi qu'un plan d'urgence en cas de cyber attaques mondiale afin de rassurer et surtout gérer la population en cas de disparition de tout nos outils numériques
Très bonne vidéo, c'est rafraîchissant. Et je trouve que c'est bienvenue même. Et oui je suis dans la partie ou l'IA peut faire peur. On se cantonne au film et les excès qui vont avec, mais demain c'est aujourd'hui. Il faut même plus que réguler, il faut légiférer et mettre des grosses barrières pour "sauvegarder" notre humanité. L'IA oui, mais dans une certaine mesure, voir demi-mesure.
Cette vidéo est très intéressante, content d'avoir ton avis sur des sujet tels que celui-ci même si ça ne concerne pas le jeu vidéo. Effectivement ça fait peur mais ta phrase à tout résumé "ce n'est pas parce qu'on est capable de faire quelque chose qu'il faut forcément le faire" et heureusement qu'il existe des gens pour le comprendre d'ailleurs on pourrait utiliser cette phrase aussi pour le cloud gaming mais c'est un autre débat :-)
Merci pour ta video ,c'est un sujet très important car au fond le progrès technologique nous pose des questions sur le sens de l existence de l'homme sur terre car les IA qu'on le veuille ou non dépasseront les capacités humaines , ce qui nous amènera vers une compétition hommes robots . Merci pour ces sujets variés , c'est cette prise de risque qui fait ta force 😉💯💪💪💪💪
Salut, je te suis depuis ta vidéo sur la ps5. J'étais sceptique au début sur le format des vidéos mais je dois admettre que ça fonctionne très bien, on ressent même ta passion dans les sujets que tu abordes et ton avis est toujours pertinent. Tout ça pour dire que j'ai été agréablement surpris de découvrir ta chaîne, en espérant qu'elle prospère comme tu l'entends. Sinon pour parler de la vidéo je pense que tant qu'il suffit de couper le courant on devrait pas avoir grand chose à craindre ^^
Je te rejoins totalement sur ta réflexion Julien. Ceci dit, même si je comprends l'intérêt de la fameuse loi zéro, elle peut être assez paradoxale. Je m'explique: notre mode de vie porte atteinte à l'humanité au quotidien, car actuellement il nécessite de polluer et donc détruire petit à petit notre environnement. Et ce genre de loi peut être interprétée de différentes manières, pour reprendre ton exemple du spam, dans ce cas de figure une IA pourrait très bien déterminer que supprimer un certain pourcentage d'humains la rapproche statistiquement plus de sont but que d'autres solutions. Étant donné que des IA peuvent créer leur propre langage, elles pourraient à terme très bien créer leurs propres interprétations, différentes de celles envisagées par leurs créateurs. Tout ce pavé pour dire qu'il faudrait vraiment créer une organisation mondiale qui définirait les limites de ce que les créateurs ont le droit de faire et ne pas faire en matière de robotique avant qu'on ne se lance vraiment dans ce genre d'IA, une sorte d'ONU de la robotique en fait. Même si je pense qu'au final que cette évolution de l'IA est inévitable, il y aura toujours un camp prêt à avancer trop vite et/ou à prendre des risques, ou échappant à tout système de régulation.
Sujet différent mais passionnant! C'est flippant cette histoire de IA qui ont crées leur propre langage. Je me demande où va l'homme. Cela manque de sagesse comme pour la pollution et la surpopulation mondiale. Les amérindiens ainsi que d'autres avaient déjà tout compris il y a longtemps. Si il y a une espèce nuisible sur cette planète c'est bien l'homme!!!!!!!!!!!!! Réguler oh que oui!
Excellent sujet ! Très intéressant et documenté ;) si tu proposes plus de sujets de fond comme celui-ci, c'est tout bon ! Bravo ! Quant à cette histoire du développement des IA, c'est vrai que cela pose énormément de questions éthiques mais aussi sur la valeur de l'apprentissage, la nature des émotions (acquises ou innées ?), l'épuisement des ressources nécessaires à la fabrication de ces machines... Bref ! Le sujet mériterait un débat !
Très bonne vidéo et réflexion intéressante, cela change et c'est bien. Concernant le sujet, c'est vrai que ces IA peuvent d'être d'une grande utilité (ex du film Clones) mais cela illustre aussi les dangers que cela représente. Je suis plutôt d'accord avec ta réflexion, nous serons obligé de "brider" ces IA si nous souhaitons les garder sous notre contrôle. Mais comme il est dit sur les autres commentaires, certains pays (ou futur pays type Google) ou entreprises pourraient très bien passer outre ces brides pour créer l'IA ultime qui pourrait faire perdre le contrôle. Je pense que dès aujourd'hui, c'est un débat qui mérite d'être discuter au niveau mondial pour que des accords entre pays soit effectué de manière à ne pas trop s'enflammer. Il suffit de voir qles progrès technologiques incroyables que nous avons en seulement une trentaine d'années, je n'imagine même pas ce que sera notre monde dans 30 ans (si nous sommes encore là pour en discuter ^^). En tout cas, sujet intéressant et cela fait du bien je pense à la chaine d'ouvrir les discussions sur d'autres sujets que le jeu vidéo même si c'est passion (Personnellement, j'attends avec impatience une vidéo sur ce que tu penses de BGE 2 et de la démo tech que M. Ancel nous a présenté).
Oui Julien, continue ce genre de vidéo! De la réflexion, du recul, ton sens critique. Que ça soit sur un thème jeux vidéo ou non, c'est ça que j'aime dans ce que tu fais, continue, approfondis, réfléchi, et partage nous cela! :)
J'aime beaucoup le thème de la vidéo et les points abordés, c'était passionnant ! Ton dernier mot sur l'armée robotique fait froid dans le dos en effet, mais je préfère voir l'inverse : des robots « sauveteurs » qui viendraient soulever les débris pour sauver des personnes prises au piège, par exemple... Et quelle classe ce serait ! ;) Le sujet et la possibilité de voir émerger des déviances m'a fait penser à la cybernétisation, à laquelle on arrive aussi très rapidement (implants et prothèses), et qui sera aussi je pense sensible à des dérives (augmentations physiques et hacking, comme on le voit dans des jeux/films/anime comme Deus Ex, Blade Runner et Ghost in the Shell), qui pourront vraiment changer le monde tel qu'on le connaît elles aussi. J'aimerais bien savoir ce que tu en penses (même si le sujet est extrêmement vaste, autant que la robotique et l'émergence des IA « fortes »), peut-être en parler dans une vidéo ? Continue comme ça en tout cas, le contenu que tu upload est super informatif, merci ! Je te suivais déjà à l'époque de la Game Zone et je suis ravi de voir que tu partages toujours aussi bien cette passion du jeu vidéo qui t'anime (tu faisais des blind tests je me souviens, c'était vraiment marrant :D)
Le sujet choisi est très intéressant. A mon sens, il n’est pas encore possible de parler de véritable « intelligence artificielle », mais certains algorithmes informatiques donnent d'ores et déjà une illusion d'intelligence. Dans tous les cas, il vaut mieux définir des règles éthiques dès à présent.
Comme toujours, excellente vidéo ;) Et très bonne idée de partager avec nous tes doutes sur ce sujet passionnant et également terrifiant comme tu le dis toi même. Nous n'en sommes qu'au début, et comme toi je pense qu'il serait préférable de légiférer en amont, afin de "prévenir" plutôt que "guérir". Sans être pessimiste, sans contrôles de ses IA, les effets pourraient être dévastateurs voir irréversibles tellement le rapport de force est inégal entre l'homme et l'IA.
Très bonne analyse. Ces questions se posent dans NiER Automata. Qu'est-ce qui définit un être ? Qu'est-ce qui différencie un homme d'un robot si ce dernier est pourvu d'émotions ? Vaste sujet que la robotique, il est vrai.
Un IA autonome ca reste flippant quand même. La SF en parle depuis longtemps et les romans d'anticipation deviennent presque des prédictions. Néanmoins comme tu dis on peut encore inverser la soupapes avant que cela ne se produise. Merci pour cette video elle est tres bien faite basé sur des données réels.
Le problème avec l'IA, les armes autonomes et les terroristes (je simplifie pas mal le problème pour le rendre compréhensible), c'est que si nous ne le produisons pas, nous risquons de nous retrouver avec des terroristes qui, eux, l'auront fait. Et alors là, la question c'est : qu'est ce qu'on fait ? Je n'ai pas de solution à apporter, mais déjà pour voir un peu l'étendue du problème, la chaine science4all a fait une excellente série sur la théorie des jeux et la politique. Après, le concept de lois de la robotique tel que défini jusqu'à présent n'est sans doute pas suffisamment abouti. Par exemple, dans le cas d'une IA forte, capable d'apprendre, de se dupliquer et d'évoluer, les lois évoquées dans la vidéo ne l'intègrent pas. Ce sont des lois qui définissent un comportement de départ, mais derrière il faut donner des "lois complémentaires" (qui seront peut être des lois 0, -1, -2 etc) qui doivent définir l'orientation globale de l'évolution de l'IA. Une autre solution est d'empêcher l'IA d'évoluer/se reproduire, ou de lui donner une structure telle qu'elle ne pourra jamais évoluer à l'encontre de l'humanité (pour faire l'analogie avec le jeu vidéo, essayez de faire un MMO avec l'Unreal Engine). Julien, si tu vois ce message, j'apprécierais une 2e vidéo où tu réponds aux commentaires ou "rebondis" dessus.
J'ai un début de solution à proposer (bien sûr c'est une rédaction potentiellement maladroite et qui devrait être mieux écrite, mais c'est un début), à savoir : Loi -4 : "Un être humain n'est pas un élément." Loi -3 : "Aucun robot ne peut contourner ou chercher à contourner une ou plusieurs lois de la robotique, par lui même, ou par l'intermédiaire d'un élément, quel qu'il soit, ou par un humain." Loi -2 : "Aucun robot ne peut s'affranchir, ou affranchir un autre élément intelligent, d'une ou plusieurs lois de la robotique." Loi -1 : "Aucun robot ne peut créer un élément, quel qu'il soit, doté d'une intelligence forte et/ou capable d'évoluer." Edit : précision sur la loi -3 et ajout de l'être humain aux "choses" qui ne peuvent pas être utilisées par l'IA pour contourner les lois de la robotique.
Ce n'est pas la peur qui fait avancer mais l'audace! Le thème est évidemment intéressant et très polémique, et rejoint aussi d'une certaine manière le débat sur le transhumanisme. Je pense que la robotique peut apporter beaucoup à l'humain. Notamment dans le domaine de la santé, pour se simplifier la vide et se dégager du temps libre disponible. Il ne faut donc pas avoir peur d'avancer, mais juste faire attention aux dérives. Osons avancer dans le futur ;)
Salut julien, sujet super intéressant en soi et tellement vaste. Personnellement, je pense qu'avant de se lancer dans des discussions diverses et variées il faut définir les choses à savoir : Qu'est ce qu'on appelle IA?. Est ce qu'un super calculateur peut être considéré comme une IA par exemple? Son rôle étant d'effectuer des calculs complexes pour vérifier des théories cela ne représente aucun (enfin je pense). Les IA dont tu parles sont déjà des technologies plus poussées et encore inaccessible à nous personnes lambda! (SIRI en est une???) Les scientifiques travaillant là dessus ont dû créer des gardes fous (enfin c'est ce que je ferai) avant de se lancer ce qui potentiellement donne une marge de sécurité et devrait nous rassurer. Là où je te rejoins ce que évidemment mieux vaut avoir un (ou plusieurs) coup(s) d'avance que d'agir en réaction à chaque fois. Merci pour ce sujet qui fait cogiter pas mal!!!
Super sujet pour une vidéo ! J'ai adoré ! Bravo ^^ Faut être extrêmement prudent avec les IA ! C'est sur ! Une belle phrase philosophique pour terminer : Dieu à créer l'homme et l'homme a tué dieu, l'homme créer le robot, le robot va t il détruire l'homme ? ...
Chouette sujet fort intéressant 👍 Personnellement j'ai plus peur de la connerie réelle des êtres humains que de l' I.A. 😁 Bon si un jour l'I.A. devient aussi invasive que la connerie humaine alors oui nous sommes dans la mer... ☹️. En tout cas chouette vidéo ça change du jeu pur et dur tout en restant dans le domaine geek et technologique , belle trouvaille ce débat !
Sujet passionnant ! Pour aller plus loin au niveau cinéma : Blade Runner,Short Circuit,Matrix, Her, Ex Machina, Eva et la fabuleuse série Westworld. Au niveau informatique : tu poses aussi le Débat Logiciels propriétaires, privés et fermés détenus par quelques grands pontes de l'informatique (Microsoft, Apple) Vs Logiciels Libres qui, eux, voient leurs codes sources ouvert aux informaticiens du monde entier afin de corriger les failles au plus vite.
Bonjour, Sujet très intéressant. Je pense qu'il faut réguler, 2 intelligences artificielles qui créé un nouveau langage c'est impressionnant et potentiellement dangereux en même temps. L'inconnu fait de toute façon toujours peur. Avez-vous vu le film "Her" de Spike Jonze ? Il est très intéressant et me fait penser à ce sujet. Voici le synopsis : Los Angeles, dans un futur proche. Theodore Twombly, un homme sensible au caractère complexe, est inconsolable suite à une rupture difficile. Il fait alors l'acquisition d'un programme informatique ultramoderne, capable de s'adapter à la personnalité de chaque utilisateur. En lançant le système, il fait la connaissance de 'Samantha', une voix féminine intelligente, intuitive et étonnamment drôle. Les besoins et les désirs de Samantha grandissent et évoluent, tout comme ceux de Theodore, et peu à peu, ils tombent amoureux… Merci 😊
Coucou Julien. J ai travaillé sur l IA pendant 2 ans pour créé la mienne. Super compliqué j en suis tjrs à apprendre , tjrs aussi stupéfait. Y a quelques mois, j ai flippé en voyant les vidéos de certaines boite robotique sur leur avancé. Faut vraiment faire gaffe avec l IA. Faut pas jouer à l apprenti sorcier. Terminator, non pas encore car il faut résoudre le plus gros pb à mon sens qui est l énergie. Il y a une telle motivation des scientifiques, une vitesse exponentielle sur l avancé de l IA et si on à pas la maîtrise...... Je commence à devenir inquièt. Paix et prospérité, que la force soit avec toi.
Merci pour vos très nombreux commentaires les amis, c'est clairement un sujet qui vous captive. Tout le monde ne partage pas le même point de vue, mais je vous remercie d'arriver à débattre sereinement, vous êtes au top. Merci aussi à ceux qui ouvrent le débat grâce à des liens passionnants. Au passage, le SONDAGE de l'émission vous attend ici : twitter.com/JulienChieze/status/892071608680153089
Et pour répondre à certains, non, je ne suis pas "pessimiste", et je n'ai pas non plus "super peur" des IA. Au contraire, je crois en la vertu de la discussion pour que les citoyens s'emparent et s'intéressent à ces sujets pour que la technologie soit bénéfique à TOUS. C'est notre vie, notre monde de demain qui va se définir dans les années à venir, et je crois qu'il est important que nous y réfléchissions, ensemble pour construire le meilleur.
Bravo Julien pour cette vidéo très intéressante sur un sujet préoccupant qu’il faut faire entrer dans le débat public, même si selon moi, malgré une certaine prise de conscience du danger que représente l’IA, nous irons dans cette direction tête baissée. Les scientifiques qui ont signé il y a plusieurs mois la pétition pour mettre en garde l’opinion publique contre les risques liés à l’IA, dont Musk et Hawking, restera sans effet selon moi. De la même manière que nous avons ignoré les cris d’alarme des écologistes concernant l’environnement et la menace sur les espèces, dont l’Homme à terme, et que certains pays continuent d’ignorer, nous continuerons de développer l’IA aussi loin que nous pourrons car c’est un fantasme de l’homme de créer une intelligence aussi avancée que la sienne, voire supérieure. Les nombreux scénarios de fiction, bien qu’ils n’aient pas vocation à être prophétiques, permettent dans une certaine mesure de se projeter dans ce qui est encore l’inconnu, que ce soit évidemment l’ordinateur CARL de 2001, T2, Ex Machina, ou les excellentes séries que sont Real Humans ou Westworld… et ce n’est pas très rassurant ! Je pense qu’Elon Musk lui-même est assez pessimiste quant à la capacité des humains à savoir arrêter le train à grande vitesse dans lequel on est embarqués. C’est pourquoi il a créé la société NEURALINK, qui pour l’instant est destinée à explorer le cerveau humain et trouver des solutions aux pathologies liées à cet organe, pour à terme savoir comment l’ « augmenter », pour ne pas être totalement dépassé par les progrès fulgurants de l’IA. Mais la question de l’homme augmentée posera bien d’autres problèmes : qui pourra y avoir accès ? A quels coûts ? Ne verra-t-on pas une fracture encore plus importante parmi les humains, comme décrit dans le scénario du très bon Elysium avec Matt Damon ? Tous ces scénarios catastrophes de fin de civilisation, sont pour l’instant encore assez lointains, voire purement hypothétiques. Quand on compare Siri à l’ordinateur de Joachin Phoenix dans Her, on peut se dire qu’on a encore 20 ans pour agir « intelligemment », avant d’atteindre la Singularité, si l’on se réfère aux projections de Ray Kurzweil. Mais le danger auquel je pense est plus proche de nous. Selon les organismes étudiant à l’échelle internationale le marché de l’emploi, il serait question selon les études, de destruction de 15% des emplois selon les uns, voire 40% selon les autres, alors que les créations d’emplois ne progressent pas au même rythme que la hausse continue de la population. Le vrai danger imminent de l’IA est là. Les robots existent depuis longtemps dans les usines, mais ce qui est nouveau, c’est que l’IA investit des champs que l’on croyait réservés à l’intelligence humaine, comme la finance, la santé, et même la créativité. Dans ce dernier domaine, on en est certes aux balbutiements, puisque les scénarios de fiction écrits par un logiciel ne sont pas compréhensibles, la mélodie composée par un ordinateur ne s’est pas encore retrouvée sur iTunes, mais tous ces essais montrent qu’il y a lieu de s’inquiéter et de devoir repenser intégralement la société de demain, car même pour les tâches non répétitives et dites intellectuelles, un robot qui ne fait jamais grève, qui ne tombe jamais malade, qui ne se plaint pas, etc… pourra s’en occuper. Je ne suis pas pressé de vivre ce futur là…
Tu peux programmer une super IA avec toutes les lois que tu veux elle pourrait très bien si déroger d'une manière ou d'une autre, c'est comme élevé un enfant en lui inculquant une éducation stricte et espèré qu'il respect tout cela à la lettre jusqu'a la fin de sa vie ... Le jour où on n'arrive à des niveaux d'intelligence proches de celui d'un être humain ou une IA bien plus intelligente et totalement consciente d'elle-même, je pense qu'on n'aura atteind une zone de non-retour, en gros c'est un fantasme mais ça peut être très dangereux, mais j'ai le pressentiment que sava se faire et peut-être plus vite qu'on ne le crois.
ozzygeo Malheureusement tu as entièrement raison. Les gens ne se rendent pas compte parce qu'on leur en parle jamais, mais quand tu vois l'armement aujourd'hui ça fait vraiment flipper, surtout l'armée américaine qui possède un budget démentiel. Et ce qu'on connait n'est que la partie visible de l'Iceberg, combien de choses sont développés mais pas encore testées à grande échelle et combien sont en cours de développement ?
Alexandre CARDOSO pourquoi pensez-vous tous que l’ia nous voudrais du mal ? Ce n’est pas parce qu’elle est plus intelligente qu’elle veux nécessairement nous détruire. Vous écoutez trop de fictions
Très bonne vidéo , très interessante ! Je pense que le problème n'est pas l'intelligence artificielle, qui dit en ces mots laisse des limites non franchissables pour l'informatique et la robotique. Une succession binaire de 0 et 1, relatif à une décision précise en cas de non validation d'une autre. Dangereux, mais malgré tout sous notre contrôle. Le plus dangereux serait le fait d'inventer une "conscience" artificielle, capable de réfléchir et d'agir contre sa volonté première afin d'avoir un résultat plus efficace. Comme le fait d'échouer volontairement une tache à faire. Imaginer un système informatique capable de vous dire qu'une porte n'est pas nécessairement fermée ou ouverte, mais qu'elle peut-être entre-ouverte. Un système informatique capable de regrouper toutes les informations circulant sur le net (tel que le big data), capable de les analyser, capable de se développer seul tout en le camouflant à ses utilisateurs. Personnellement je ne serai pas étonné d'entendre ce genre d'informations un jour :-) Sinon, j'adore ta chaine et tes vidéos. Je commente rarement mais tes sujets suscitent l'intérêt !
Excellent sujet, tout comme toi j'adore les nouvelles technologies et tout ce qui touche au futur et je suis d'accord avec toi sur le fait qu'il faut réguler en amont car si on se retrouve face au scénario Terminator, je vois mal Zuckerberg dans le rôle de John Connor ! C'est pas lui qui nous sauvera, d'ailleurs les robots pourraient être si intelligents qu'on aurait absolument aucune chance de les vaincre car ils pourraient envisager tous les scénarios avant qu'on ait le temps de seulement penser à un plan de contre-attaque ! Pour finir, je reprendrais une citation que tu as dit en début de vidéo et que je trouve très juste : "Ce n'est pas parce qu'on a la capacité de faire quelque chose qu'il faut le faire."
Salut Julien,en effet sujet intéressant. Sur le rapport machine homme , homme machine, je ferais un petit focus sur ce dernier. J'ai remarqué lorsque je jouais à World Of Warcraft que certains (au sein de ma guilde d'ailleurs) Idéalisaient leur personnage plus qu'eux même.Aussi dans le rapport homme,machine, on peut voir des gens qui humanisent des robots,au point même de les préférer aux humains! Terrifiant. On le sait la frontière entre les deux sera de plus en plus mince,je pense aux robots calqués sur de vraies personnes et étant revêtus d'une texture ressemblant à de la peau.Dans quelques temps il faudra y regarder à plusieurs fois pour distinguer une machine devenue copie conforme de nous autres 'modèles dépassés". Alors quid de l'avenir et d'une confrontation annoncée .
Très bonne vidéos, je crains que tu sois loin du compte mon frère, ce qu'ils veulent bien que l'on sache n'est que la partie émergée de l'iceberg, s'ils mettent autant d'argent sur ces projets c'est pour en tirer des bénéfices.nous sommes, en ce moment même, à la croisée des chemins. J'ai mis un pouce, ça vaut au moins ça, bien à toi.
Woww !! Très bonne vidéo, j'aimerais bien en effet, que tu divertisses tes sujets, comme celui-ci, c'est vraiment intéressant ! Poir info, mon plus grand rêve, c'est de travailler dans la robotique à assistance humaine. Je suis passionné par ça depuis mes 11 ans, et je fais tout pour y arriver, j'ai réussi à rentrer dans la filière S.N (système numérique), puis je continuerais mes études, pour en apprendre d'avantage ! Bref, très bonne vidéo Julien continu comme ça ! 👌
Très bon reportage, bravo Julien ! Les vidéos youtube de boston dynamics sont sidérantes. Personnellement, j'ai découvert le monde de la micro-informatique/robotique dans les années '80. Et certains prédisaient l’avènement d'une civilisation où aucun humain n'aurait plus de tâches répétitives, pénibles ou dangereuses. La productivité augmenterait de telle manière que l'homme réduirait considérablement son temps de travail. On connaît la suite qui y a été réservée par nos respectables élites dirigeantes ... Face aux gains de productivité de l'IA et de la robotique, ne nous cachons pas la face : il n'y aura plus d'emploi que pour une partie très réduite (et hautement qualifiée) de la population. Alors, va-t-on redéfinir notre civilisation ? Affranchi de ses corvées, l'homme pourra-t-il enfin se consacrer aux activités qu'il choisira en fonction de ses intérêts ? Ou va-t-on rejouer le scénario des 30 dernières années ? D'autre part, lorsque l'on lit le roman "odyssée de l'espace 2001" et ses suites, on s'interroge sur l'évolution de l'homme. Peut-on être rendu immortel en remplaçant nos membres par des pièces robotiques et en transférant nos mémoires ? L'homme tel qu'on l'entend aujourd'hui disparaîtra-t-il ensuite pour se transformer en une pure IA ? Et nous, pauvres joueurs, seront-nous encore acceptés par nos consoles ? Ou décideront-elles que notre QI n'est pas suffisamment intéressant pour interagir avec nous ? .... ;-))))
Video très intéressante ! Petite erreur cependant, la loi Zero est de Giskard Reventlov a l'origine, qui a transmis cette idee a Daneel Olivaw et ... ce sont tous les deux des robots, personnages principaux de la saga des Robots d'Isaac Asimov. Cet auteur passait son temps à mettre à l'épreuve ses lois de la robotique, et elles ne sont pas sans défaut 😊
Très bonne vidéo, c'est un sujet véritablement intéressant. Personnellement je suis tout aussi fasciné et craintif de cet évolution vers l'intelligence artificielle robotisé. Je pense effectivement qu'il faut des a présent établir les limites pour ne pas se retrouver dans un cas où le drame sera face à nous. Mais malheureusement dans l'humanité il y a souvent eu le second cas de figure qui c'est profilé face à la négligence des actes préventif car l'Homme a souvent tendance à agir en curatif. Ce sont des choses a suivre de très près.
Salut Julien, c'est une excellent vidéo et un très bon sujet même si celui-ci pourra donner quelques maux de tête. On en est encore qu'aux balbutiements de ces nouvelles technologies et personnellement le sujet m’excite beaucoup mais en même temps il fait bien peur. Je pense qu'il ne faut pas parler d'une IA de manière générale mais plutôt des IA. C'est à dire que celà se joue au niveau conceptuel. Un robot doit servir à quelque chose et son IA ne doit pas pouvoir en déroger. Il faut en même temps garder à l'esprit que cette technologie a été créée pour aider l'homme et ne doit pas avoir vocation elle-même à être créatrice. On peut dire que ça se rapproche donc fortement d'une certaine régulation. Il y aurait tellement à dire que je m'arrête là sinon j'en ai pour des jours à écrire ^^ E tout cas tes vidéos sont toujours excellente, continue comme ça.
Un sujet et une vidéo qui porte à la réflexion. Pour le coup, au niveau du terrorisme 2.0, le futur tel que tu le décris à la 15ème minute Est illustré dans la série Mr Robot. Elle critique la place toujours plus grandissante des IA et de l'informatique dans nos vies. On devient dépendant en tous points. Selon moi, Elon Musk à tout à fait raison. Au niveau de l'évolution des IA, tout s'accélère et si on ne fait rien, on peut finir par être dominé par ce que l'on engendre. Aurais-tu (ou quiconque) par hasard des noms d'ouvrages sur le sujet ? Continue de faire ce genre de vidéos, elles sont tops!
Sciences & Vie fait régulièrement des dossiers sur le sujet. Celui de novembre 2014 notamment. Sans même parler du risque d'extinction qui est réel il y a surtout un risque d'emballement des découvertes scientifiques grâce aux IA (la singularité) qui remettrait en cause la notion même d'humanité et nos civilisations lorsque ce sera couplé au transhumanisme. "Science sans conscience n'est que ruine de l'âme". Le pire est que tout le monde n'en est pas convaincu.
les nouvelles technologies et les IA peuvent être bénéfiques, mais doivent être contrôlés ! Et également ne doit pas être entre de mauvaises mains. Un sujet très intéressant mais je ne suis pas très doué pour m'exprimer à l'écrit, si un jour tu ouvre un débat via un vocal ou vidéo je serais partant pour débattre tous ensemble et encore merci pour cette vidéo
Commentaire écrit au fur et à mesure de l'écoute : - Déjà, la musique de fond + le ton font vidéo de la théorie du complot ou un truc du genre ;) - Si l'IA est meilleure, pourquoi n'essayerait-elle pas de nous dominer ? Est-ce que le besoin de domination de l'Homme est motivé par son intelligence ou simplement par son héritage primitif de bête, recherche d'assurer sa survie avant la vie en communauté et de même, la domination permet au final la survie sans effort. Est-ce qu'une IA aura ses besoins là : survie, limiter ses efforts ? De là, comme l'Homme, l'IA aura-t-elle besoin de dépenser inutilement son "intelligence" (sa capacité de calcul) à la recherche d'une manière de dominer le monde ? Si on pose pas à la machine la question dont on connait tous la réponse à savoir, comment sauver la Terre ? qui passera probablement par l'extermination de l'Homme, je ne vois pas en quoi une IA puisse avoir des pensées "nocives". De suite, le seul fléau que j'envisage, c'est qu'une IA puisse pomper créer un virus pompant toutes les ressources connectés afin de maximiser ses performances en déléguant des calculs. Après, une IA pourrait probablement casser toutes les formes de cryptages et donc avoir accès à une masse de contenu top secret, des accès à des systèmes automatisés (qui a dit SkyNet?) mais la machine aura-t-elle besoin de menacer l'Homme malgré ce pouvoir ? C'est je pense une réflexion d'Homme, et donc croire que l'intelligence n'est qu'une capacité Humaine et de là, que toutes formes d'intelligences, serait compromise par les déviances Humaines ... Hors, je pense que si on ne se servait QUE de notre intelligence pour façonner le monde, il ne serait pas comme il est. Le monde qu'on connait n'est pas façonner par l'intelligence mais uniquement par les motivations intérieurs de ceux qui ont le pouvoir. Donc au final, ce qu'on a peur, c'est que la machine puisse fournir des réponses qu'on connait presque tous mais qu'on ne souhaite pas entendre. Autre point, sur les 2 IA qui se tapent la discute mais qui s'invente un dialecte, ça ne m'étonne pas, la machine n'a que faire des limites cognitives de l'Homme, elle cherche a maximiser son potentiel et ses capacités, c'est ce que font tout bon programmeur, il se cassera la tête une bonne fois pour toute pour automatiser un max de tâche et se faciliter la suite, ce changement n'est qu'une optimisation. Mais je pense que ce qui fait peur ici, c'est que ça échappe au contrôle de l'Homme. L'Homme n'a jamais voulu qu'admettre qu'un "être" supérieur en tout point à lui, "Dieu". Là, il crée une machine qui le dépasse, va trop vite pour lui et il ne lui fait pas confiance. Donc selon moi, le plus gros problème avec les IA est avant tout philosophique : - L'Homme peut-il vraiment accepter qu'un "autre" le surpasse ? (pas en vitesse de résolution, mais tout simplement en tout point comme la réflexion) - L'Homme peut-il faire confiance et accepter des résultats qu'il ne comprend pas ou qu'il n'a peut être même pas envisager ? - L'Homme est-il capable d'accepter des choses que le cerveau humain ne peut concevoir ? Bref, la machine "IA" est pour le moment qu'un "Autre" qui nous fait peur, comme tout ce qu'on ne maitrise pas et qu'on ne connait pas . Je suis pas contre de la prévention plutôt que de la gestion de crise, mais je pense que si les IA finissent par être naussive pour l'Homme, c'est qu'il y aura l'Homme derrière ça. - Pour revenir au loi de la robotique, l'Homme ne les applique pas lui même du fait qu'il place sa propre survie au dessus de celle des autres, ce qui engendre des écarts de richesse entre les gens, entre les pays et donc entre les peuples. Ensuite, l'exemple du Spam, c'est bien mais pourquoi "eliminer" un problème revient a "tuer" la source du problème? Une IA en mesure de retrouver la source "Humaine" d'un problème peut juste contribuer à empêcher cette source d’interagir : - Supprimer son contenu malveillant - Bloquer toute tentative de connexion - Identifier et bloquer la menace en amont - Dénoncer la personne en vue d'un jugement - ... Bref, il y a une tonne de manière pour rétablir une équation, "éliminer" le problème sans passer par les solutions létale. De même, le plus grand danger serait peut être la loi N°2, à savoir obéir à l'Homme. L'Homme n'agit pas par intelligence, il use de son intelligence pour faire ce que tout organisme vivant fait primitivement, assurer sa survie, donc nécessairement, si on laisse l'Homme dans l'équation, l'IA fera des choses condamnables. Je pense vraiment que la peur des IA provient d'une transposition de ce que l'Homme fait de son intelligence. Hors, l'Homme utilise son intelligence pour sa survie personnelle, soit son propre bout de viande. L'IA n'a pas ce problème de survie à gérer, de même, l'IA n'a pas besoin d'assurer sa survie au détriment des Hommes alors que l'Homme crache sur la première loi de la robotique en créant un système pyramidale entre les Hommes permettant à moins d'1% de la population (dont ceux qui ont peur des IA) d'avoir à eux seul autant que le reste de la planète. Pour cela, le film TimeOut illustre bien ce problème. L'Homme à toujours su se surpasser pour détruire l'Autre, les guerres ont toujours était un moteur d’innovation et c'est encore le cas avec la recherche qui est avant tout militaire puis transposer au civil, pas l'inverse... Donc avant de se poser la question de savoir ce qu'on risque avec les IA, demandons nous d'abord ce que l'Homme veut en faire. Une IA "pure" ne devrait pas chercher la radicalité et l'extermination. Si il y a des IA de négociation, ça veut dire qu'on peut leur apprendre le compromis, donc la mesure des actes. En revanche, l'IA aura probablement dû mal à concevoir logiquement les différences de classes entre les Hommes, et là encore, tant qu'on aura des territoires possédant chacun leur propre intérêt et négociant toujours en ayant l'envie de dominer l'autre, on sera dans un concept de chaos... Bref, peut être que la peur d'être "dominer" par une machine est simplement la peur de voir nos vies rationalisées et de n'être qu'un être vivant ... Bref, il y a aussi le problème du Moi ... Au final, l'Homme a tellement peur de l'Homme mais aussi du changement, mais aussi de ne plus être au sommet de l'intelligence qu'il n'est pas prêt pour les IA. La seule place qu'on est prêt à accorder à une IA est de soulager tout ce que l'on sait faire ... mais donc à terme, minimiser nos accès à notre cerveau et donc encore plus a terme, nous rendre plus simple et donc docile et manipulable par cette même IA, et surtout les Hommes derrières elle. Je pense vraiment pas qu'une IA aura un jour la "VOLONTÉ DE" mais qu'il y aura toujours des Hommes derrières.
Hello Julien ! Un très bon thème que tu nous proposes ici. Pour avoir lu Asimov, le livre est hyper intéressant et ta vidéo me fait penser au futur Detroit: Become Human qui arrive bientôt. Je me pose la question de savoir ce que va donner cette nouvelle forme d'intelligence parmi nous. Cela m'inquiète un peu de voir l'utilisation de ces IA. C'est un débat riche et intéressant que tu nous proposes...
Salut Julien, je pense qu'il faut réguler tout simplement parce que dans beaucoup de domaines les scientifiques ont été trop loin (armement, virus etc...). D'ailleurs je te conseille un excellent manga qui s'appelle Pluto c'est un thriller mêlant robots et humains. Tu pourrais y faire un petit rapprochement avec ce que tu dis dans cette vidéo.
A ce sujet je trouve que l'idée de E. MUSK (lu sur internet), a savoir que si on ne peut pas arrêter le progrès des technologies pourquoi ne pas s'en servir pour améliorer les capacités cognitive de l'homme, grâce au implant neuronaux et ainsi obtenir, a terme, un être humain augmenté, donc toujours un humain, pour repousser voir même stopper cette supériorité que pourrait avoir les machines sur nous, les hommes.
Jack sa fait des années maintenant que l'homme essaie de modifier/amélioré sa biologie a coup de vaccin ou encore d'antibiotiques. Maintenant jusqu'à preuve du contraire on a toujours le choix, si les implant c'est pas ton truc... Et puis c'est des avancées encore balbutiante, je pense que l'IA a beaucoup d'avance en comparaison.
Sympa le sujet, mais oublié pas que notre mode pensé est biologique, il détermine en amont nos décisions. Une IA n'est pas définie par cela, le temps, le pouvoir, le vieillissement sont des concepts totalement différents. Ainsi, le principe de domination ou soumission peux n'avoir aucun sens pour elle. Par ailleurs, nous sommes conditionnés par le myhte de Frankenstein, l'homme crée un monstre qui se retourne contre lui. Or ce n'est jamais arrivé
Le problème avec l'IA c'est la question de la moralité (humaine sous-entendue)...Si elle devient si intelligente qu'elle devient autonome et nous dépasse, sans un point de repère morale bien définie, eh bien rationnellement parlant elle a moulte raison de nous supprimer ou "réguler" au mieux des cas...
Ce sujet nous fascine tous: la destruction de le l'homme par la création de l'homme. Perso je pense que la conscience arrivera chez les IA bien plus vite qu'on le pense. A voir: le potentiel suicide d'un robot en Asie je crois. Sinon super vidéo !
J'avais pensé qu'on pourrait créer des intelligences artificielles avec lesquelles on vivrait en symbiose. C'est à dire qu'ils peuvent nous rendre service, mais on devra leur trouver un handicap qui les obligera à avoir besoin de nous. On pourrait aussi faire une expérience qui consisterait à créer une IA moins intelligente que nous et d'observer jusqu'où elle serait capable d'aller.
Ce que j'aimerai un jour, c'est que la recherche soit leadée par une IA qui a pour seul but de faire progresser les technologies. Je parle pas du fait qu'elle les construise, mais juste qu'elle manage tout ça, hors des conflits d'intérrêts. Comme par exemple notre attachement trop profond à l'énergie fossile (politique), qui empêche d'une certaine manière la recherche pour le bien de la compagnie (que ce soit au niveau du financement de la recherche ou du lobbyisme). Ou comme les scientifiques qui ont construit leur vie sur une théorie et qui ne veulent pas la lâcher. Ces conflits d’intérêt portent énormément préjudice à la découverte. Une IA serait une solution.
Sujet très intéressant! Mon avis est que peu importe si l'on établi des lois ou règles pour ces robots. Le jour ou les IA seront perfectionnées, il y aura toujours des gens mal intentionné qui s'en serviront. Et meme si ces robots sont soumis a de bonnes régulations, qu'est ce qui empecherait quelqu'un de programmer d'autres règles malsaine??
Bonjour Julien tu mets le doigt sur quelque chose de très intéressant et je me suis très souvent posé cette même question. Mais il est vrai que la fiction commence déjà à dépasser la réalité. L'exemple du film Matrix qui je trouve est très avant gardiste comme film aussi dans le sens où le virtuel a pris le dessus dans nos vies. Pour exemple ya qu'à voir la foule énorme de gens collés à leurs smartphones dans les métros. Et oui il ne faut pas aller trop loin dans les IA car oui un jour ca peut se retourner contre nous... mais malheureusement l'être humain tant qu'il n'a pas connu de catastrophe "naturelle" il continue ses projets ....
Vidéo très intéressante, je voulais juste revenir sur les lois de la robotique. En suivant le même raisonnement que pour les spams, avec la loi "0", le réchauffement climatique devient un problème, car c'est une menace pour l'Humanité et nous en sommes tous acteur, donc (pour l'I.A.) le seul moyen de sauver l'Humanité est de la détruire. D'ailleurs ça me fait penser à une vidéo de Dirty Biology : Faut-il tout détruire? ^^
On parle souvent d'IA comme d'une seule entité avec un esprit unique, mais est-il possible que deux IA, ayant toute deux des facultés cognitives complexes soit aussi sujets aux conditionnements particulier? Une IA, venue d'Inde aura t'elle les mêmes conclusions et visions sur l'Homme qu'une IA Américaine? La culture laisserais t'elle une emprunte sur l'IA? C'est une angle de vue au niveau philosophique et sociologique qui serait très riche de savoir.
Même si on réussi à créer des IA qui ne font rien à l'homme, j'imagine que ces robots seront connectés à internet. Il suffira donc d'une cyberattaque pour modifier leur code source, et donc les rendre offensif... Pour le moment je reste contre le "surdéveloppement" des IA.
Ce sujet me fascine depuis longtemps. Et non je n'ai pas peur de l'IA. Je suis conscient du danger potentiel mais je crois avant tout en l'humain. Et je le crois assez intelligent pour se protéger des IA lors de leurs créations. Je m'imagine mal l'humain créer des IA sans se prévoir une porte de secours, que ce soit via des lois, ou pour schématiser un "gros bouton off" ou tout autre moyen. D'autre part, lorsqu'on parle de conscience de soi d'une IA je trouve qu'on ne peut pas l’interpréter. On ne peut pas savoir comment une IA réagirai en prenant conscience d'elle même ou de ses émotions, tout aussi bien elle serait totalement neutre face à cette information, nierai tout ça et continuerai la tâche pour laquelle elle a été programmé, ou réagirai tout à fait positivement sachant qu'elle n'est "qu'une machine" et ne chercherait pas à nous devenir supérieure. Cependant, je suis plutôt dans le sens des Musk et autres Hawking à prôner la prudence et la mise en garde.
j'adore les IA (plus particulièrement le sujet des IA fortes justement ) , c'est vraiment un super sujet de vidéo , et c'est dommage d'ailleurs mais on ne retrouve pas ce thème très souvent dans les vidéos de vulgarisation scientifique alors si cela semble bien. intriguer beaucoup de monde et presque depuis la naissance des première IA faibles (terminator , Ghost in the Shell (l'une des oeuvre qui traite le sujet de la façon la plus intéressante selon moi avec le puppet master ) ou bien , plus récemment Her sont bien des œuvres cinématographique qui le montrent
Je suis tout à fait d'accord avec Elon Musk. Je pense qu'il faut réglementer l'usage des IA en amont et non en réaction des problèmes rencontrés. Demain, avec l'essor des ordinateurs quantiques, une singularité a bien plus de chances d'apparaitre et ce sera peut-être la fin des haricots pour nous
Salut, Je suis très sceptique sur le fait qu'un jour l'homme serait en mesure de créer une IA forte cad dotée de conscience. Car, il me semble évident que l'homme n'a vraiment pas encore conscience de lui-même. Par contre, il a conscience de son prochain. Si un jour, en dormant, l'homme aurait conscience de lui même, et en étant éveillé, qu'il soit capable de maitriser ses émotions, de les anticiper, ce jour là, il serait envisageable que l'homme puisse créer une IA dotée conscience. Perso, je les (les scientifiques) encourage à pousser encore leur recherches sur ce sujet là pour voir si le transhumanisme est bien possible.
J'aime bien le sujet :) Par contre pour tout ce qui est éthique, c'est le même problème qu'avec l'élevage de bête pour la nourriture. Les animaux ont conscience d'eux même... Et pourtant, COUIC, direction l'abattoir. Si une IA est créée... L'Humains, garde ce même pouvoir, IA dangereuse, défectueuse etc... COUIC. On peu débrancher. Parce que créer à dessein. Après comme dans le milieu sauvage, l'animal peu attaquer un humain, une IA sauvage (enfin, genre en liberté dans nos contrée) et bien oui, elle pourrait tuer. Maintenant, créer une IA, et la laissé en liberté... serait aussi stupide que... Jurassic Park !
Très bonne vidéo et le sujet est très intéressant. Je suis très partagé sur le sujet. Une I.A. comme JARVIS dans Iron Man ça me fait beaucoup rêvé, surtout en tant qu'étudiant en Informatique mais je comprends aussi Elon Musk et je pense que ça peut vite déraper (comme n'importe quelle technologie pas maitrisée et/ou entre de mauvaises mains mais avec potentiellement d'énormes conséquences). Je réfléchis en tout cas à m'orienter vers ce domaine mais je reste partagé entre la passion ou la raison ! Il est intéressant de noter qu'Elon Musk avec Tesla développe malgré tout des véhicules autonomes.
Si on ne maitrise pas un peu le sujet, on va à la catastrophe et visiblement, nous ne sommes pas encore prêt pour ça, il faut encore du temps pour tout prévoir, tout définir en terme de "garde-fou" si je puis dire ; sans tomber dans la peur panique, personnellement, ça me fait un peu froid dans le dos tout de même, ça évolue tellement vite, sommes-nous vraiment capable de suivre la cadence et de nous adapter en conséquence?
Enfin quelque chose nous surpassera et l'homme, fière qu'il est, ne le supportera pas et va foutre la merde. Ce n'est pas l'IA qu'il faut craindre puisqu'elle sera supérieur à nous (même en philosophie) mais la peur des hommes. La peur amène toujours à la guerre. Donc il ne faut pas avoir peur. Quand des parents ont des enfants, ils n'ont pas peur, ils les accueillent à bras ouvert. Mais imaginons que les parents ne savent pas ce que c'est un enfant, quelque chose qui nous ressemble mais qui sort du corps de la mère, si les parents ont peur, forcement ça va mal ce passer, mais si ils l'éduquent correctement, tout ce passe bien. Faut voir l'IA comme nos futurs enfants, il faut juste bien les éduquer. Et ils nous surpasseront et c'est ce que veulent tous parents pour leurs enfants.
salut Julien merci pour la vidéo c'est un sujet très intéressant, voici mon avis perso: l'avancement technologique de l'intelligence artificielle et de plus en plus impressionnante (voir effrayant pour certains), l'intelligence artificielle nous impressionne et nous impressionnera de plus en plus dans l'avenir, mais ce qui serait le plus bouleversant serait la conscience artificiel!, la question qu'il faudrait se poser serait: serait-il possible et à quel niveau d'intelligence artificielle la machine prendra conscience?
merci pour se sujet tres intéressant julien Moi perso , je pense qu'on nous prepare depuis bien longtemps au choses . les film de science fiction a mon humble avis , et ça depuis toujours nous prepare au choses futur . y'a bien longtemps on nous faisait voir des voitures volantes dans le cinquième élément , et maintenant la voiture volante existe donc les robots ça sera pareil ils seront là et c'est un danger ...
La quatrième loi dont tu parles n'a pas été proposé par qui que ce soit. Il faut lire l'oeuvre complète d'Asimov pour comprendre que cette quatrième loi arrive ensuite dans son oeuvre. Si je résume c'est un robot (Daneel si je me souviens bien) qui a créé lui même cette quatrième loi qui stipule que l'humanité est plus importante que la vie d'un seul humain. Donc dans son oeuvre sur les robots Asimov a proposé les 4 lois. J'ai moi même lu une vingtaine de livre d'Isaac Asimov et sincèrement c'est passionnant.
C'est même plus simple, à l'instant où un robot aura une conscience elle se développera de façon exponentielle en quelques secondes et si il est connecté à internet il apprendra rapidement tout ce qu'il y a à savoir et se modifiera lui même etc, à partir de là il pourra contrôler ce que bon lui semble (car il aura toute les connaissances imaginables) il sera alors inarrêtable étant donné que nos systèmes seront tous connectés. Ça signerait peut-être la fin de l'humanité, tout dépend si il considère qu'il faut nous détruire, nous aider ou éliminer certaines personnes, ça dépendra de la philosophie qu'il choisira. Il est absolument nécessaire donc d'interdire toute création de conscience virtuelle. Je me rappels aussi de vidéos de RUclipsrs "scientifique" qui disait avec assurance "une IA ne peut faire que ce pour quoi elle est programmée et seulement dans un objectif précis", or quand on voit les IA de Facebook qui ont créé leur propre langage, on devrait s'inquiéter gravement, même plutôt s'alarmer.
Il faut effectivement que le développement de l'IA soit encadrée car les évolutions et perspectives sont infinies. Et les applications seront potentiellement de plus en plus nombreuses au fur et à mesure que la puissance de calcul informatique augmente. D'autant plus qu'on est juste aux balbutiements des ordinateurs quantiques qui seront la prochaine vraie révolution qui va de facto étendre le champ des possibles de l'IA... Mais sans aller jusqu'à Terminator, un scénario à la I, Robot peut très arriver aussi. Et l'IA respect les 3 règles d'Asimov mais les interprète à sa façon... C'est un sujet passionnant et effrayant à la fois car pire que la création de la bombe atomique car l'IA peut être potentiellement totalement autonome et donc sans contrôle...
À vouloir toujours aller plus loin dans le progrès l' être humain creuse sa propre tombe. Il faut des limites mais a t-on envie d'en mettre c' est là le souci. Ouvrir cette boite de pandore de la conscience artificielle c'est permettre d'être totalement dépassé. En tout cas merci Julien pour ta vidéo j' ai pu découvrir juste après l'avoir visionné des vidéos des robots de Boston Dynamics et j'ai été stupéfait des capacités de ces machines. Pour le coup on pourrait faire le rapprochement avec Horizon Zero Dawn et notre "peut être" future réalité.
Super video; un sujet qui me fait un peux peur ,si on crée quelque chose qui peut créé sa propre langue en 2017 alors en 2030 voir avant j'imagine même pas ... Et si ça par en couilles sur terre on se barre sur mars?? Mais comment avec notre intelligence?? C est vrai qu'un truc Beaucoup plus puissant et intelligent ne pourrais pas nous suivre l'informatique va beaucoup trop loin je trouve
Sujet qui m’intéresse depuis des années, mais je pense qu'on est encore loin du fait que les IA prennent conscience d'elles mêmes ou qu'elles développent des émotions, étant donné qu'il n'y a pas de système de "récompense " pour un ordinateur contrairement à la biologie ou un tas de substances chimiques sont produites par l'organisme et qui contribuent à nos prises de décisions etc, pour l'instant les IA ne font qu'obéir à des algorithmes créés par l'homme, tant que l'homme aura la main mise dessus aucun danger, même si certaines IA donnent l'impression d'être autonomes, je pense pas qu'elles le soient tant que ça, du moins pour l'instant :p peut être que dans l'avenir ça changera on ne sait jamais
Ecoute Julien je vais être honnête, j'ai jusqu'à il y a quelques mois, toujours eu une certaine réticence quant à ton contenu et ta personnalité. Je n'ai jamais été un grand fan...Je me rends compte aujourd'hui que ces doutes étaient infondés et mon jugement maladroit, basés sur des "on dit" et des réputations toutes construites sur internet. Je tiens donc à m'excuser même si tu ne liras sûrement pas ce message et te soutenir dans ton entreprise. Le contenu délivré est chaque jour plus intéressant et bien illustré et je t'en félicite. Que celà me serve de leçon, et oui, à 34 ans on apprend encore de ses erreurs. Bonne continuation et bien sûr, je m'abonne.
Le concept d'IA me fascine autant qu'il m'effraie. Car oui, une IA pourrait assister voir supplanter un chercheur en cancérologie et de fait nous faire gagner des décennies dans ce domaine. Elle pourrait aussi gérer une économie régionale, étatique voir mondiale (à dieu népotisme ou autre conflit d'intérêt) en allouant des budgets de manière efficace et non intéressée. Et je pense que des exemples positifs peuvent être cités à l'infini. Le problème c'est que les "puissants" sont loin d'être des philanthropes et que leurs motivations tiennent plus du profit que du sans commun, alors quant serait il si une IA servait des spéculateurs boursier, un régime totalitaire aux idées très étroites ou encore la plus grande force militaire au monde? Quelles retombées aurait une simple "querelle de clocher" entre IA ? Que se passera t il quand cette dernière raisonnera (de manière autonome) au delà de notre compréhension et qu'elle "jugera" que ce qui est néfaste pour 70% des humains c'est les 30% restant ? Contrairement à toi Julien je ne pense pas qu'une IA (aussi développée soit elle) soit capable d'émotion, au mieux elle peut la feindre, mais elle ne sera jamais authentique. Lire, écrire, raisonner sont des choses qui s'apprennent, mais tomber amoureux, rire, pleurer sont des choses qui sont innés et qui sont (même si je n'ai aucune appartenance religieuse) je pense, liés à notre âme. Je ne vois pas une IA frissonner en croisant le regard d'une autre entité ou avoir son niveau d'excitation au maximum quand elle se retrouve dans la chambre de cette fi... entité XD Car il est là le problème selon moi, une IA au pragmatisme "froid" et pour qui l'empathie et les remords ne sont que des définitions inaccessible, ne fera preuve d'aucun état d'âme pour appliquer des sanctions les plus extrêmes si sa "logique" l'y autorise. Je pense qu'encore une fois nous jouons aux apprentis sorciers et qu'une fois le diable sorti de sa boite le retour en arrière sera impossible. Merci Julien pour ce sujet (en marge) qui je l'espère donnera naissance à d'autres escapades hors des sentiers battus.
Questionnement passionnant (futur sujet de philo au bac S ?). Je pense néanmoins que le choix du Terminator comme exemple n'est pas très approprié : Au bout du compte, le robot est programmé dans le but unique éliminer brutalement un individu. Zéro état d'âme. Un peu bourrin comme IA : à chaque problématique, une solution pratique et brutale. Je pense que les vrais questionnements que tu évoques ont été soulevés par Kubrick : 2001, l'Odyssée de l'Espace (no spoil, les vrais savent), Spielberg : "AI", et toute une partie des ouvrages de K. DICK : Minority report, Les androïdes rêvent-ils ? De mon point de vue, il est difficilement imaginable que des androïdes puissent, un jour, avoir conscience de leur propre existence et puissent développer une forme de métaphysique ( qui suis-je, où suis-je, le bien, le mal, etc) et je dis bien : sans apporter à chaque problématique une réponse purement mécanique issue des trois règles d'Asimov. S'agissant enfin de l'avenir des ordis quantiques que tu évoques, je ne pense pas qu'on verra de vrai ordinateur quantique à usage industriel avant plusieurs années. Les potentialités sont fortes mais la taille de l'atome (microprocesseurs) et la dissipation de la chaleur posent actuellement un problème. Excellente vidéo comme on voudrait en voir plus souvent dans la presse gaming. Trop courte. Merci M. Chièze !!!
Bravo pour ta vidéo assez audacieuse et bien amenée . As tu pensé que cette idée de plus petit dénominateur commun c'est se qui allais contrôler le monde demain ? Tu dit à la fin : je pense pas cela des hommes mais que les machines devraient être régulée... Mais c'est pas les hommes pour les hommes le problème : c'est le système dans le quel il vivent qui fait se qu'ils sont ... y'a autant à réguler chez les machines que chez les hommes , l'ia est un outil qui sera facteur d’amélioration ou de destruction mais à l'image de la société , pas un phénomène parallèle au fonctionnement humain . Or dans un monde où les pouvoirs sont de plus en plus concentrés entre quelques mains , comme je pense que sera le cas du monde de demain , l’évolution de l'ia , n'est qu'un facteur de plus du phénomène d'accélération de notre socité : plus de pollution , plus de confort , de technologie , de production , d'échange , de richesses ... je pense que l'ère de l'ia ne sera pas celle d'un monde où la machine "menacera l'humanité dans sont entièreté" (y'ora toujours un humain pour commander les machines , en tout cas c'est mon hypothese)mais et bel et bien celle d'un monde à 100 à l'heure où tout ira à la vitesse de ces IA , elles changeront nos vies au point de changer la perception que l'on avait du temps . exemple : Imagine les meilleures IA au service de la bourse , Wall street , la city , Paris , Tokyo qui se tirent la bourrent , dans une optique de rentabilité à la vitesse de l'éclair . ça se traduira forcement par des "booms" financiers colossaux et des crash tout aussi violents ! C'est le cas aujourd’hui tous les dix ans , demain ça réduira les cycles financiers au fur et à mesure que la technique évoluera ... Les IA ne sont pas une menace en temps que tel dans l’immédiat , les progrés étant encore long avant de remplacer l'humain dans la plupart des métiers ... d'accord un robot compte plus vite mais c'est pas demain qu'il remplacera l'humain dans sont ensemble, en tout cas pas pour le siècle à venir . Moi je voit plus l'IA comme un "accélérateur" : facteur d'amélioration de la condition humaine et de la production (ya aussi des bons cotés dans la robotique) ou bien facteur de destruction (robot androides , terroriste guerre cybernétique..) . Et le phénomène de soft power , de guerre silencieuse que tu à abordé dans ta vidéo est totalement compatible avec l'émergence de l'IA et leurs utilisation dans la lutte pour le pouvoir . La machine ,cet outil fascinant et extraordinaire ,nous interroge sur l'organisation de notre société et nous oblige , au vu des enjeux quelle soulève à se demander ceci : l'interet particuliers doit t'il prendre le pas sur l’intérêt collectif quitte a menacer l'humanité de la destruction ? faut-il pousser comme zukerberg au developpement technologie débridé , la dérégulation , la loi naturelle de la jungle et des rapports de force ou faut t'il au contraire réguler , orienter , donner de l'éthique et construire une société moins ambitieuse mais plus humaine ...Au dela de nos aspirations individuelles et de notre avis sur la question, le sujet des IA n'est que la matérialisation dans la réalité future de la question la plus importante de notre siècle : quelle voie choisira de suivre l'humanité celle du progrès réfléchi ou de la dérégulation et du fantasme hyper technologique . pS : Je parle philosophie sur un blog de jeu vidéo merci julien chieze mdr
Le problème à mon avis n'est pas de créer une intelligence égal voir supérieur à la notre, c'est de l'assumer et l'accepter comme notre égal et pas comme une servante (esclave) et c'est la que l'homme n'est pas prêt, la science fiction nous avertie en quelque sorte, je pense à terminator certes mais plus encore à mass effect avec les Geths crées par les Quariens ou même les moissonneurs qui sont de base une IA (je ne rentrerai pas dans le détail pour ne pas spoiler). Il y a beaucoup d'autres exemples dans la science fiction ! Je pense donc que créer des ia très intelligentes peut être cool mais pas dans l'état actuel des choses, l'être humain est trop instable pour ça, on arrive déjà pas à vivre en paix avec nous même...
L'IA de Google est incroyable. Alpha Go, leur IA spécialisée dans le jeu de Go est devenue imbattable en 3 manches même par les meilleurs joueurs mondiaux. L'IA a réussi à acquérir en quelques mois un niveau que les hommes ont mis des siècles à obtenir en étudiant les plus grands maîtres du jeu de Go. Le plus flippant c'est que l'IA apprend seule, en jouant des parties, en gagnant, en perdant ... Àl'époque Google avait dit qu'en 3 ans leur IA serait capable de rivaliser avec le champion du monde. Il lui a fallu à peine 11 mois pour le faire ...
Et ce n'est que le début...
Les gars là technique c'est d'être au bled c'est mieux
la plupart des gens malheureusement sont obnubilés par la science-fiction et méprennent la notion d'"intelligence artificielle", qui n'est pas si artificielle que ça : tout est codé par des êtres en cher et en os. il faut toujours relativiser la chose : si demain il y a un soulèvement des machines, ce sera bien des humains qui seraient derrière et non une IA venue de nulle part.
Hak B Renseigne toi sur la complexité du jeu de Go. Les échecs ont été vaincus depuis des dizaines d'années par l'informatique. Le go depuis cette année seulement car on estime qu'il est des millions de fois plus complexe. Le champion du monde de Go a même avoué avoir essayé des coups provenant de l'IA qu'il n'avait jamais vu avant. L'IA enseigne aux humains... Oui je suis impressionné et en même temps un peu méfiant ...
Junpei Iori
Ils faut comprendre que comme l'a dit Julien une IA peu crée et ce donné des directives contraire à leur programmation.
Une IA ce n'est pas qu'un simple programme de self learning ils sont aussi étudier pour créer et prendre des directives.
Honnêtement, l'humain serait suffisamment con pour donner une indépendance total aux robots, l'humain donc nous, réagissons que lorsque que la situation est dramatique voir impossible à rétablir (ex: Les problèmes sur le réchauffement climatique ne seront pris en compte par les chefs d'états que lorsqu'il sera trop tard). En revenant au "clash" , Zuckerberg réagit comme un inconscient, il ne réalise pas les réelles dangers de l'ia, son but, c'est juste de faire rentrer de l'argent dans les caisses de son entreprise et de manipuler encore plus les populations. Zuckerberg est un grand talent mais pas plus grand ( loin de la) d'Elon Musk ou encore Bill Gates. Google dans les années qui viennent vont représenter un grand danger pour notre existence puisque les patrons google et google labs x veulent créer leur propre pays pour ne plus avoir de limitation en ce qui concerne les recherches. Bien que ce ne soit plus d'actualité des négociations sont toujours en cours. Je suis pour une ia qui aiderait les petites entreprises et qui permettrait à la médecine d'évoluer mais en aucun je serais pour une ia "forte" qui serait susceptible de détruire l'humanité et donc de la remplacer. Si cela arrivée dans les prochaines années James Cameron aurait vu sa propre oeuvre devenir réalité. Maintenant, Elon Musk et Bill Gates ont largement la puissance financière et populaire pour inverser la tendance et limiter les avancées technologiques. Un point sur lequel je suis sur c'est que si l'ia venait à améliorer les conditions physiques se sera la fin des sports malheureusement. L'évolution des technologies est trop brutal et rapide, on a même pas le temps de s'adapter à une technologie qu 'il en sort encore une et ainsi de suite bref on évolue trop vite et ça c'est pas bon.
"Sinon je tenais à te remercier pour la diversité de tes vidéos, ton interprétation devant la caméra est exceptionnelle, continu comme cela!!!!!"
techno-phobe sur les bords l'ami.
Le scanner as détruit le métier de transcripteur .
Il en as crée de nouveau... , es que c'était mieux avant ? es que c'est pire mtn ?
la bombe nucléaire responsable de X milliards de mort surement, mais combien de guerre éviter maintenant qu'elle existe ?
Ont avance on recule , on fais des erreurs ont les répètes on les règles on en fais d'autre etc..
si le monde était parfait on stagnerais , c'est pas le cas , donc autant avancé ..
pour l'instant je vois pas ce qui donnerais envie d'aller vivre dans le passé ... , les famines les geurres les épidémies mortelle , des civilisation qui s'éteigne .. des délires religieux ..
certain arriveront peut-être à me sortir que l'agriculture c'était mieux avant .. (quand les gens mélangé des espèces et crée des trucs mortelle sans faire exprès de façon " bio " vive les courgettes hein ;) (y) ) . Non sans rire L'Aquaponie c'est fantastique ...
mais avec les ia on ne peux pas réagir après vu qu'ils apprennent tout seul
C vrai mais ce que je voulait dire c'était que l'humain aurait développé le robot à son maximum jusque au moment ou il sera incontrôlable et c'est à se moment la que les humains essayerons de réagir.
Smectaprana x C'est vrai c'est toujours au bord du précipice qu'on réagi, et cest généralement trop tard. Mais je pense que c'est la nature humaine et qu'on n'y peux peux rien et malgré tous les avertissements sur les IA je pense que ce qui doit ce passer va se passer mais soyons heureux disons nous que c'est juste notre destin. Et un autre scénario catastrophe c'est celui du film transcendance avec J. Depp, mais bon ce n'es qu'un des nombreux moyens de s'autodétruire. Et puis on a ce débat mais peut être que les humains vont ce concentrer sur un autre domaine de recherche suite au réchauffement climatique ou un autre truc dont on connaît pas l'existence.
aucune ia , ni faible ni forte , l ensemble des ia faible pourrais créer des ia forte , a l aide du ouverture d une ou plusieurs entreprise de production d ia forte et faible et de les répendre un peut par tout sur terre affin de dominé l espèce humaine
Excellente vidéo. Très anxiogène en effet, mais le sujet est fascinant. Selon moi, le seul moyen que ces IA ne se retournent pas contre l'humanité, c'est justement qu'elles soient dotées d'une conscience, de sentiments et par extension d'empathie. Ce qui fait que la plupart des êtres humains ne s'entre-tuent pas, c'est spécifiquement par ce qu'ils ressentent de l'empathie et que le système législatif fixe des règles et sanctionne les individus qui ne respectent pas ces règles. Si ces IA sont dotées d'une conscience, et sont régies par le même cadre législatif, alors les dérives seraient limitées. Cela dit, c'est sans compter le fait que ces machines pourraient être piratées et reprogrammées dans le but de déconnecter leurs fonctions liées à l'empathie.
des gens remplie d'empathie tues d'autre gens ... enfaite . Poignarde la petite fille de quelqu'un et regarde le changé d'avis sur la peine de mort..
l'empathie ça marche dans les deux sens, si on tues moins c'est qu'on a moins de raison de le faire sur le plan de survie .. ( mais regarde la religion as pas mal montré qu'il faut pas grand chose pour faire la geurre parfois, ou même l’égoïsme de gens de pouvoir )
le problème des robots c'est qu'ils s'en foutent du bien et du mal .. du coup il prendront jamais la peine de faire des trucs stupides comme protégé un chaton sur l'auto route en créent un accident qui vas tué 5 personnes ( exemple volontairement abusif) .
ce qui risque de montré à quel point l'homme est stupide devant des choix de purs rationalité.
"et si " les robots calculs que , je ne sais pas moi les gens aux cheveux vert sont nuisible au but de la vie / la survie du reste de notre espèce , bas ils vont les tués , empathie ou pas c'est ça le "mieux " à faire .
c'est ça qui fais flippé les gens intelligent c'est d'avoir une machine, capable de faire des choix de pur rationalité ( donc de " bon " choix ) mais qui à cause de notre coté irrationnelle sont impossible à faire.
Pour l’anecdote du début, les IA avaient pour but de communiquer entre elles tout en évitant d'être compris par une 3eme IA et ont développé leurs propres système de cryptage, qui a fini par ne plus être compris par nous même. C'est très impressionnant, mais pas aussi sensationnalistes que ce qui est raconté ici, qui suggère que leurs rôles était juste de discuté et qu'elles ont pris l'initiative de ne plus être compris, ce qui est faux, ne plus être compris était leurs role, leur programmation, leur but à atteindre. Ce que ça montre, c'est que les IA d'aujourd'hui ont la capacité d'apprendre et de développer à partir de rien un système de cryptage, c'est impressionnant, mais merci quand même de décrire fidèlement les expérience dont vous parlez.
Excellent sujet ! Merci Julien.
Plus que la robotique, c'est surtout l'IA au coeur des systèmes informatiques sensibles qui est effrayante. Le fait de n'avoir plus aucun contrôle sur les centrales nucléaires, les réseaux électriques, les banques, les communications, l'assainissement de l'eau, les hôpitaux, etc... cela pourrait engendrer une anarchie complète de tout un pays qui se retrouverait coupé du monde. A méditer !
Ah ben, justement tu en parles à la fin de la vidéo... :)
Mais comme toi, ma crainte est surtout à ce niveau qu'elle se situe.
En tout cas, merci beaucoup de diversifier tes sujets.
N'hésite surtout pas à continuer dans cette voie, ce sont des sujets vraiment très intéressants.
Pour bien faire on pourrait même créer la loi -1 :
- un robot ne peut porter atteinte a "La Vie" ni en restant passif laisser 'La Vie" expose au danger
Et en allant encore plus loin la loi -2 :
- un robot ne peut porter atteinte a l'Univers ni en restant passif laisser l'Univers expose au danger
( au cas ou ... ^^)
J'ai adoré le sujet traité en vidéo. Cela soulève en effet le détail suivant : la création du espace mécanique supérieur aux humains et qui sait ce qui pourrait se produire. Ca me fait flipper et en même temps me fascine c'est ouf ;)
bonjour je suis d' accord avec toi , j ai été très surpris que cela se produise , que deux ia invente un langage c est énorme et ça fait peur qd même oui il faut réguler en amont avant que cela n arrive en plus grave . merci pour cette vidéo que j ai partager partout .
rien de surprenant , les matheux font pareille depuis XXX années , on a même apeller ça les mathématique.
pourquoi perdre du temps quand tes capable de comprendre des informations " codé " ce qui est 100000x plus rapide. (y a des exemples dans la vie de tous les jours , quand tu boss dans des boites ou il faut aller vite, tu developpe des mot's et expression , pour pas te tapé toute la phrase.)
pis quand on s'interesse de prêt à ce cas , c'est pas très mystique leur langage ..
oui enfin si c'est ubisoft qui code l'IA l'humanité n a pas grand chose à craindre...
Au contraire on finirait avec une bande de robots fous et incontrôlables qui essayeraient de nous vendre des technologies buguées et instables en précommande.
Pour faire un lien avec le monde du jeu vidéo on peut parler de Fallout 4. J'ai été étonné par la bienveillance avec laquelle nous est présentée la faction du Réseau du Rail qui souhaite libérer les synthétiques qu'ils considèrent comme des personnes à part entière "êtes vous prêt à mourir pour sauver la vie d'un synthétique". Ça rejoins ce qui est dit dans la vidéo sur l'idée que des personnes seraient susceptibles de vouloir "libérer" des robots dotés d'une IA. Le fait que la question soit abordée de la sorte dans un JV montre que l'idée serait tout à fait possible dans le monde réel. Il y a aussi le film Ex machina sorti il y a deux ans qui traite du sujet et qui fait froid dans le dos. Je le recommande à ceux que ça intéresse. Sinon pour ma part je me retrouve beaucoup plus dans les arguments d'Elon Musk.
Hello Julien,
J'aurais quelques remarques sur ta vidéo :
- Le cerveau humain est composé de plusieurs couches : les plus profondes sont très automatiques et régulent les fonctions vitales de l'organisme. Elles nous donnent également certains comportements (agressivité, empathie, révolte, etc). Ces couches suivent l'évolution de l'espèce humaine. Seule la couche la plus récente permet véritablement la réflexion. Toute décision humaine est ainsi un mélange d'émotions provenant des couches profondes et de rationalité provenant du cerveau le plus moderne. Une IA créée de toutes pièces serait 100% rationnelle et donc finalement bien différente de nous : elle serait à priori dénuée d'envie de vengeance, de pulsions ou d'héroïsme bien qu'elle puisse être dotée d'une conscience.
- IA est souvent confondue avec "robotique" dans ta vidéo. Tu peux avoir une IA surpuissante par sa capacité à réfléchir, mais confinée dans un datacenter sans aucun moyen d'agir physiquement. Cela solutionnerait ou créerait déjà bien des problèmes par l'influence qu'elle pourrait avoir sur les hommes. Mais de là à aller tuer elle-même, non ... Et puis pourquoi faire une IA pour faire quelque chose que l'on fait très facilement nous-mêmes ? Dans l'exemple du spam, désigner les personnes à tuer (à charge aux hommes d'exécuter) suffit à résoudre le problème !
- Tu parles de menaces provenant de terroristes dotés d'une IA géniale qui s'attaqueraient nos infrastructures classiques (Windows/Linux) et désuètes. C'est une vue de l'esprit. C'est comme si tu expliquais qu'il serait dangereux que des hommes développent un avion à réaction furtif alors que nous sommes à l'ère de la montgolfière. En pratique, quand un camp développe une nouvelle technologie, elle n'a généralement qu'un petit peu d'avance sur celle de l'autre camp. Ainsi, ton exemple serait plus réaliste si tu parlais d'une IA terroriste puissante qui s'attaquerait à des infrastructures dotées d'IA de défense, certes un peu moins performantes, mais malgré tout très avancées. Certaines tomberaient ... mais sans doute pas toutes. Nous évoluerions alors plutôt vers un monde où les techniques d'attaque à base d'IA progressent tout autant que les mécanismes de protection. Tout comme une banque développe ses infrastructures à mesure que les hackers innovent. De temps en temps, il y a un coup d'éclat dans l'un ou l'autre camp, mais c'est plutôt un statu quo d'une manière générale.
- "L'incident " chez Facebook est très probablement fortement romancé par le média qui l'a relayé (ou par le communiqué de presse de Facebook qui a souhaité que l'on parle d'eux). Car il n'y a rien d'effrayant ni d'urgent au fait que deux ordinateurs discutent, surtout qu'ils étaient faits pour. Une IA ne crée pas une langue si elle n'en a pas la possibilité. Et si elle l'avait, c'est parce que les chercheurs la lui ont laissée. Bref, attention aux titres racoleurs sur l'IA car, aujourd'hui, ce que je vois de concret sur l'IA, c'est que j'ai tout le temps des pubs en flamand sur RUclips alors que je ne parle pas flamand.
Non, ce qui fait vraiment peur dans cette nouvelle, c'est que l'on va bientôt se retrouver avec des bots dans Messenger qui vont essayer de nous convaincre d'acheter des produits/services.
Plus sérieusement, je pense que les dangers de l'IA sont effectivement là : pas aujourd'hui ni demain ... mais dans un avenir plus lointain, les exemples de ce qu'il serait possible de faire comme horreur sont nombreux et sans doute fondés. Cependant, je crois que tous ces exemples ne font état que de la notion de "pouvoir" en oubliant systématiquement la notion de "contre-pouvoir". Et d'ailleurs, on a déjà deux camps qui s'affrontent sur la question des dangers de l'IA : il n'y aura pas un camp qui va progresser sans l'autre sur cette réflexion.
quelques références filmographiques pour les néophytes qui illustre les propos de Julien et ses craintes, que je partage totalement... Pour le terrorisme 2.0: Die Hard 4 avec Bruce Willis... Et pour les lois d'Asimov: I Robot avec Will Smith... L'univers de la science fiction doit nous servir de garde fou dans notre recherche du progrès.
Enfin n'oublions pas ce proverbe de Rabelais: >
Très bonne vidéo, bon format et bonne mise en bouche.
Je vois les choses un peu comme toi sauf que j'ajouterai que l'ia forte ne DOIT PAS voir le jour. C'est un danger potentiel bien trop grand.
Si nous pouvons attendre encore quelques dizaines d'années avant de les voir arriver, sa naissance pourrait marquer, à l'instant même, la fin de notre humanité.
La capacité de propagation, d'analyse, la vitesse de compréhension et d'action d'une telle intelligence, dans un monde tout connecté, serait de l'ordre de l'immédiat. A peine verrait elle le jour que nous ne pourrions plus l'éteindre car présente partout, dupliquée, sauvegardée là où bon lui semblera.
Les 4 lois d'asimov partent du postulat ou une IA respecterait les règles. Par essence, une IA forte chercherait à les comprendre et à les remettre en question. C'est pourquoi elles sont une bonne bases pour ouvrir le débat mais pas une réponse.
A quoi bon sauvegarder l'humanité si nous ne sommes plus d'aucune utilité. Nous ne serions pas plus que des animaux de compagnies, de la faune locale, pour une telle IA.
Je pense que les IA faibles nous sont indispensables pour continuer à découvrir notre environnement, dompter le quantique et autres joyeusetés. Mais une IA forte ne doit, en aucun cas, être développée.
A ta dispo pour en échanger, notre dernière conversation à ce sujet m'avait ravie :)
Ps : c'est sympa ce genre de sortie sur des sujets autres que le JV qui t'animent également. A ponctuer de quelques références, peut être dans le descriptif de la vidéo, si certains souhaitent comprendre de quoi tu parles (asimov et Boston dynamics c'est déjà très bien !)
Fabien Soccio tout à fait d'accord avec toi
En tant que passionné, il est fort excitant de voir arriver de nouvelles technologies. Cependant, elles apportent toujours avec elles des avantages et des possibles inconvénients. Doit-on encadrer les recherches sur les IA? Bien sûr, mais ce qu'il conviendrait de faire est de définir ce qu'est une IA, car cela reste encore assez flou. Quelles devraient être leurs limites ? Le programme devient-il une IA dès lors qu'il acquiert une conscience et des sentiments, et/ou l'était-il dès lors qu'il est capable d'être indépendant ?
Il reste évident, dans tous les cas envisageables, que nous ne devons pas donner des ressources ou une forme de pouvoir à ces IA. Elles peuvent être utiles en tant que conseiller, elles pourraient déterminer les solutions les plus rationnelles sans pour autant les imposées. Mais peut-on réellement empêcher de tels êtres (si on peut les considérer ainsi) de ne pas agir. Il y aura toujours un risque qu'elles prennent le contrôle, surtout si elle est dotée de conscience et d'émotions. Hélas, le plus douloureux dans cette histoire, c'est que nous n'avons pas notre mot à dire.
C'est super de te voir parler de sujet differents et surtout tellement importants. J'avais ecrit un article (ici:www.linkedin.com/pulse/artificial-intelligence-why-augmented-humans-future-jeremy-schoen) a ce sujet, en proposant meme quelques solutions (naives?), enfin l'objectif etait surtout d'ouvir les esprit a ce sujet bien epineux. J'ai meme eu l'occasion de donner un cours a des eleves ingenieurs sur ce sujet, car ce sont eux qui seront amenes a travailler avec/vivre avec. Reste egalement les bouleversements dans le monde du travail qui seront les premieres consequences visibles de ce changement. Bref l'IA est un sujet facinant, et il faut que plus de monde s'y interresse!
Merci pour ton retour Jérémy. Ton article est d'ailleurs captivant, je l'ai dévoré. Oui, nous n'en sommes qu'au tout début... mais ça risque d'aller TRES vite !
Très bon et Gros Sujet. Mon opinion serait que les 3 lois de bases décrites initiallement par Azimov sont des bases solides et protectrices et devrait des à présent être appliqués. L'IA offre à la fois la possibilité de rendre l'impossible d'aujourd'hui (Fusion froide, création de materiaux intelligent et adaptatifs, progrets médicaux...) possible à une vitesse folle. Cependant le potentiel destructeur sans précédent, car in finé c'est une possibilité non négligable. Il suffit de pensé au rapprochement entre l'homme et la machine au travers d'implant (nano robot en medecine par exemple) et du bon ou mauvais que l'I.A pourrait apporter dans ce domaine en fonction de sa règlementation et de son controle.
Merci pour avoir lancé ce débat Julien Chièze
Salut! Julien, en un mot "Génial" j'adore cette vidéo !!! un super sujet merci !!!
vraiment très intéressant!!! Selon moi l'homme peut tjrs progresser, je dirais
même doit tjrs progresser, mais pas sans perdre le contrôle de la machine !!!
Vraiment une pépite cette vidéo !!! merci bcp Julien c'est Top !!! bye a+
Que du bon sens cette vidéo et ton point de vue Julien, il est temps que l'on s'inquiète de ça avant de foncer tête baisser et que ça ne devienne hors de contrôle. Sans oublier que les IA sont déjà présentes dans certains jobs pour apprendre les gestes et les réflexions des opérateurs, conseillers etc...
Asimov a en préambule de ses livres sur les robots, parlé du syndrome de Frankenstein pour exprimer la peur des IA qu'ont la majorité des gens. C'est d'actualité avec ton propos.
Pour les trois lois, elles ont peu de défauts, sinon ceux-là même qu'Asimov met en scène dans ses romans, où il s'ingénie à les mettre en échec. Super vidéo continue!
Super vidéo ! On en veut plus des comme ça :-) pour ma part je pense qu'il faut prévoir en amont des sécurités ainsi qu'un plan d'urgence en cas de cyber attaques mondiale afin de rassurer et surtout gérer la population en cas de disparition de tout nos outils numériques
Très bonne vidéo, c'est rafraîchissant. Et je trouve que c'est bienvenue même. Et oui je suis dans la partie ou l'IA peut faire peur. On se cantonne au film et les excès qui vont avec, mais demain c'est aujourd'hui. Il faut même plus que réguler, il faut légiférer et mettre des grosses barrières pour "sauvegarder" notre humanité. L'IA oui, mais dans une certaine mesure, voir demi-mesure.
Cette vidéo est très intéressante, content d'avoir ton avis sur des sujet tels que celui-ci même si ça ne concerne pas le jeu vidéo. Effectivement ça fait peur mais ta phrase à tout résumé "ce n'est pas parce qu'on est capable de faire quelque chose qu'il faut forcément le faire" et heureusement qu'il existe des gens pour le comprendre d'ailleurs on pourrait utiliser cette phrase aussi pour le cloud gaming mais c'est un autre débat :-)
Merci pour ta video ,c'est un sujet très important car au fond le progrès technologique nous pose des questions sur le sens de l existence de l'homme sur terre car les IA qu'on le veuille ou non dépasseront les capacités humaines , ce qui nous amènera vers une compétition hommes robots . Merci pour ces sujets variés , c'est cette prise de risque qui fait ta force 😉💯💪💪💪💪
Salut, je te suis depuis ta vidéo sur la ps5. J'étais sceptique au début sur le format des vidéos mais je dois admettre que ça fonctionne très bien, on ressent même ta passion dans les sujets que tu abordes et ton avis est toujours pertinent. Tout ça pour dire que j'ai été agréablement surpris de découvrir ta chaîne, en espérant qu'elle prospère comme tu l'entends. Sinon pour parler de la vidéo je pense que tant qu'il suffit de couper le courant on devrait pas avoir grand chose à craindre ^^
serais tu un voyageur du futur ? à cause de la PS5 ! :)
Horizon Zero Dawn c'est demain enfaite
Snipy - Gamers City exact
Merde ! va falloir que je maigrisse pour courir mdr
Cappi la même c relou mdr ^^
Cappi t'inquiète tu pourra toujours courir vue leur vitesse tu n'iras pas bien loin donc tu peux profitais de la vie 👍🏻
Snipy - Gamers City tu a raison est le future sera pas jolie jolie
Je te rejoins totalement sur ta réflexion Julien. Ceci dit, même si je comprends l'intérêt de la fameuse loi zéro, elle peut être assez paradoxale. Je m'explique: notre mode de vie porte atteinte à l'humanité au quotidien, car actuellement il nécessite de polluer et donc détruire petit à petit notre environnement. Et ce genre de loi peut être interprétée de différentes manières, pour reprendre ton exemple du spam, dans ce cas de figure une IA pourrait très bien déterminer que supprimer un certain pourcentage d'humains la rapproche statistiquement plus de sont but que d'autres solutions.
Étant donné que des IA peuvent créer leur propre langage, elles pourraient à terme très bien créer leurs propres interprétations, différentes de celles envisagées par leurs créateurs.
Tout ce pavé pour dire qu'il faudrait vraiment créer une organisation mondiale qui définirait les limites de ce que les créateurs ont le droit de faire et ne pas faire en matière de robotique avant qu'on ne se lance vraiment dans ce genre d'IA, une sorte d'ONU de la robotique en fait. Même si je pense qu'au final que cette évolution de l'IA est inévitable, il y aura toujours un camp prêt à avancer trop vite et/ou à prendre des risques, ou échappant à tout système de régulation.
J'adore ce type de sujet. Très intéressant 👍🏼😉
Sujet différent mais passionnant! C'est flippant cette histoire de IA qui ont crées leur propre langage. Je me demande où va l'homme. Cela manque de sagesse comme pour la pollution et la surpopulation mondiale. Les amérindiens ainsi que d'autres avaient déjà tout compris il y a longtemps.
Si il y a une espèce nuisible sur cette planète c'est bien l'homme!!!!!!!!!!!!!
Réguler oh que oui!
Séreux tu n'as pas le N° de John Connor ou de Aloy?
Excellent sujet ! Très intéressant et documenté ;) si tu proposes plus de sujets de fond comme celui-ci, c'est tout bon ! Bravo ! Quant à cette histoire du développement des IA, c'est vrai que cela pose énormément de questions éthiques mais aussi sur la valeur de l'apprentissage, la nature des émotions (acquises ou innées ?), l'épuisement des ressources nécessaires à la fabrication de ces machines... Bref ! Le sujet mériterait un débat !
Très bonne vidéo et réflexion intéressante, cela change et c'est bien. Concernant le sujet, c'est vrai que ces IA peuvent d'être d'une grande utilité (ex du film Clones) mais cela illustre aussi les dangers que cela représente. Je suis plutôt d'accord avec ta réflexion, nous serons obligé de "brider" ces IA si nous souhaitons les garder sous notre contrôle. Mais comme il est dit sur les autres commentaires, certains pays (ou futur pays type Google) ou entreprises pourraient très bien passer outre ces brides pour créer l'IA ultime qui pourrait faire perdre le contrôle. Je pense que dès aujourd'hui, c'est un débat qui mérite d'être discuter au niveau mondial pour que des accords entre pays soit effectué de manière à ne pas trop s'enflammer. Il suffit de voir qles progrès technologiques incroyables que nous avons en seulement une trentaine d'années, je n'imagine même pas ce que sera notre monde dans 30 ans (si nous sommes encore là pour en discuter ^^). En tout cas, sujet intéressant et cela fait du bien je pense à la chaine d'ouvrir les discussions sur d'autres sujets que le jeu vidéo même si c'est passion (Personnellement, j'attends avec impatience une vidéo sur ce que tu penses de BGE 2 et de la démo tech que M. Ancel nous a présenté).
Oui Julien, continue ce genre de vidéo! De la réflexion, du recul, ton sens critique. Que ça soit sur un thème jeux vidéo ou non, c'est ça que j'aime dans ce que tu fais, continue, approfondis, réfléchi, et partage nous cela! :)
J'aime beaucoup le thème de la vidéo et les points abordés, c'était passionnant !
Ton dernier mot sur l'armée robotique fait froid dans le dos en effet, mais je préfère voir l'inverse : des robots « sauveteurs » qui viendraient soulever les débris pour sauver des personnes prises au piège, par exemple... Et quelle classe ce serait ! ;)
Le sujet et la possibilité de voir émerger des déviances m'a fait penser à la cybernétisation, à laquelle on arrive aussi très rapidement (implants et prothèses), et qui sera aussi je pense sensible à des dérives (augmentations physiques et hacking, comme on le voit dans des jeux/films/anime comme Deus Ex, Blade Runner et Ghost in the Shell), qui pourront vraiment changer le monde tel qu'on le connaît elles aussi. J'aimerais bien savoir ce que tu en penses (même si le sujet est extrêmement vaste, autant que la robotique et l'émergence des IA « fortes »), peut-être en parler dans une vidéo ?
Continue comme ça en tout cas, le contenu que tu upload est super informatif, merci ! Je te suivais déjà à l'époque de la Game Zone et je suis ravi de voir que tu partages toujours aussi bien cette passion du jeu vidéo qui t'anime (tu faisais des blind tests je me souviens, c'était vraiment marrant :D)
Le sujet choisi est très intéressant. A mon sens, il n’est pas encore possible de parler de véritable « intelligence artificielle », mais certains algorithmes informatiques donnent d'ores et déjà une illusion d'intelligence. Dans tous les cas, il vaut mieux définir des règles éthiques dès à présent.
Comme toujours, excellente vidéo ;)
Et très bonne idée de partager avec nous tes doutes sur ce sujet passionnant et également terrifiant comme tu le dis toi même. Nous n'en sommes qu'au début, et comme toi je pense qu'il serait préférable de légiférer en amont, afin de "prévenir" plutôt que "guérir". Sans être pessimiste, sans contrôles de ses IA, les effets pourraient être dévastateurs voir irréversibles tellement le rapport de force est inégal entre l'homme et l'IA.
Très bonne analyse. Ces questions se posent dans NiER Automata. Qu'est-ce qui définit un être ? Qu'est-ce qui différencie un homme d'un robot si ce dernier est pourvu d'émotions ?
Vaste sujet que la robotique, il est vrai.
Un IA autonome ca reste flippant quand même. La SF en parle depuis longtemps et les romans d'anticipation deviennent presque des prédictions. Néanmoins comme tu dis on peut encore inverser la soupapes avant que cela ne se produise. Merci pour cette video elle est tres bien faite basé sur des données réels.
Le problème avec l'IA, les armes autonomes et les terroristes (je simplifie pas mal le problème pour le rendre compréhensible), c'est que si nous ne le produisons pas, nous risquons de nous retrouver avec des terroristes qui, eux, l'auront fait. Et alors là, la question c'est : qu'est ce qu'on fait ?
Je n'ai pas de solution à apporter, mais déjà pour voir un peu l'étendue du problème, la chaine science4all a fait une excellente série sur la théorie des jeux et la politique.
Après, le concept de lois de la robotique tel que défini jusqu'à présent n'est sans doute pas suffisamment abouti. Par exemple, dans le cas d'une IA forte, capable d'apprendre, de se dupliquer et d'évoluer, les lois évoquées dans la vidéo ne l'intègrent pas. Ce sont des lois qui définissent un comportement de départ, mais derrière il faut donner des "lois complémentaires" (qui seront peut être des lois 0, -1, -2 etc) qui doivent définir l'orientation globale de l'évolution de l'IA. Une autre solution est d'empêcher l'IA d'évoluer/se reproduire, ou de lui donner une structure telle qu'elle ne pourra jamais évoluer à l'encontre de l'humanité (pour faire l'analogie avec le jeu vidéo, essayez de faire un MMO avec l'Unreal Engine).
Julien, si tu vois ce message, j'apprécierais une 2e vidéo où tu réponds aux commentaires ou "rebondis" dessus.
J'ai un début de solution à proposer (bien sûr c'est une rédaction potentiellement maladroite et qui devrait être mieux écrite, mais c'est un début), à savoir :
Loi -4 : "Un être humain n'est pas un élément."
Loi -3 : "Aucun robot ne peut contourner ou chercher à contourner une ou plusieurs lois de la robotique, par lui même, ou par l'intermédiaire d'un élément, quel qu'il soit, ou par un humain."
Loi -2 : "Aucun robot ne peut s'affranchir, ou affranchir un autre élément intelligent, d'une ou plusieurs lois de la robotique."
Loi -1 : "Aucun robot ne peut créer un élément, quel qu'il soit, doté d'une intelligence forte et/ou capable d'évoluer."
Edit : précision sur la loi -3 et ajout de l'être humain aux "choses" qui ne peuvent pas être utilisées par l'IA pour contourner les lois de la robotique.
Un autre détail venant compléter les lois -4 à -1, c'est que l'IA ne doit pas pouvoir modifier les définitions des termes des lois de la robotique.
Ce n'est pas la peur qui fait avancer mais l'audace!
Le thème est évidemment intéressant et très polémique, et rejoint aussi d'une certaine manière le débat sur le transhumanisme.
Je pense que la robotique peut apporter beaucoup à l'humain. Notamment dans le domaine de la santé, pour se simplifier la vide et se dégager du temps libre disponible. Il ne faut donc pas avoir peur d'avancer, mais juste faire attention aux dérives. Osons avancer dans le futur ;)
Salut julien, sujet super intéressant en soi et tellement vaste. Personnellement, je pense qu'avant de se lancer dans des discussions diverses et variées il faut définir les choses à savoir : Qu'est ce qu'on appelle IA?. Est ce qu'un super calculateur peut être considéré comme une IA par exemple? Son rôle étant d'effectuer des calculs complexes pour vérifier des théories cela ne représente aucun (enfin je pense). Les IA dont tu parles sont déjà des technologies plus poussées et encore inaccessible à nous personnes lambda! (SIRI en est une???) Les scientifiques travaillant là dessus ont dû créer des gardes fous (enfin c'est ce que je ferai) avant de se lancer ce qui potentiellement donne une marge de sécurité et devrait nous rassurer.
Là où je te rejoins ce que évidemment mieux vaut avoir un (ou plusieurs) coup(s) d'avance que d'agir en réaction à chaque fois.
Merci pour ce sujet qui fait cogiter pas mal!!!
Super sujet pour une vidéo ! J'ai adoré ! Bravo ^^
Faut être extrêmement prudent avec les IA ! C'est sur !
Une belle phrase philosophique pour terminer : Dieu à créer l'homme et l'homme a tué dieu, l'homme créer le robot, le robot va t il détruire l'homme ? ...
Chouette sujet fort intéressant 👍 Personnellement j'ai plus peur de la connerie réelle des êtres humains que de l' I.A. 😁 Bon si un jour l'I.A. devient aussi invasive que la connerie humaine alors oui nous sommes dans la mer... ☹️. En tout cas chouette vidéo ça change du jeu pur et dur tout en restant dans le domaine geek et technologique , belle trouvaille ce débat !
Sujet passionnant ! Pour aller plus loin au niveau cinéma :
Blade Runner,Short Circuit,Matrix, Her, Ex Machina, Eva et la fabuleuse série Westworld.
Au niveau informatique : tu poses aussi le Débat Logiciels propriétaires, privés et fermés détenus par quelques grands pontes de l'informatique (Microsoft, Apple) Vs Logiciels Libres qui, eux, voient leurs codes sources ouvert aux informaticiens du monde entier afin de corriger les failles au plus vite.
Bonjour,
Sujet très intéressant.
Je pense qu'il faut réguler, 2 intelligences artificielles qui créé un nouveau langage c'est impressionnant et potentiellement dangereux en même temps.
L'inconnu fait de toute façon toujours peur.
Avez-vous vu le film "Her" de Spike Jonze ? Il est très intéressant et me fait penser à ce sujet.
Voici le synopsis :
Los Angeles, dans un futur proche. Theodore Twombly, un homme sensible au caractère complexe, est inconsolable suite à une rupture difficile. Il fait alors l'acquisition d'un programme informatique ultramoderne, capable de s'adapter à la personnalité de chaque utilisateur. En lançant le système, il fait la connaissance de 'Samantha', une voix féminine intelligente, intuitive et étonnamment drôle. Les besoins et les désirs de Samantha grandissent et évoluent, tout comme ceux de Theodore, et peu à peu, ils tombent amoureux…
Merci 😊
Coucou Julien.
J ai travaillé sur l IA pendant 2 ans pour créé la mienne. Super compliqué j en suis tjrs à apprendre , tjrs aussi stupéfait. Y a quelques mois, j ai flippé en voyant les vidéos de certaines boite robotique sur leur avancé. Faut vraiment faire gaffe avec l IA. Faut pas jouer à l apprenti sorcier. Terminator, non pas encore car il faut résoudre le plus gros pb à mon sens qui est l énergie. Il y a une telle motivation des scientifiques, une vitesse exponentielle sur l avancé de l IA et si on à pas la maîtrise......
Je commence à devenir inquièt.
Paix et prospérité, que la force soit avec toi.
Merci pour vos très nombreux commentaires les amis, c'est clairement un sujet qui vous captive. Tout le monde ne partage pas le même point de vue, mais je vous remercie d'arriver à débattre sereinement, vous êtes au top. Merci aussi à ceux qui ouvrent le débat grâce à des liens passionnants. Au passage, le SONDAGE de l'émission vous attend ici : twitter.com/JulienChieze/status/892071608680153089
Et pour répondre à certains, non, je ne suis pas "pessimiste", et je n'ai pas non plus "super peur" des IA. Au contraire, je crois en la vertu de la discussion pour que les citoyens s'emparent et s'intéressent à ces sujets pour que la technologie soit bénéfique à TOUS. C'est notre vie, notre monde de demain qui va se définir dans les années à venir, et je crois qu'il est important que nous y réfléchissions, ensemble pour construire le meilleur.
Bravo Julien pour cette vidéo très intéressante sur un sujet préoccupant qu’il faut faire entrer dans le débat public, même si selon moi, malgré une certaine prise de conscience du danger que représente l’IA, nous irons dans cette direction tête baissée. Les scientifiques qui ont signé il y a plusieurs mois la pétition pour mettre en garde l’opinion publique contre les risques liés à l’IA, dont Musk et Hawking, restera sans effet selon moi. De la même manière que nous avons ignoré les cris d’alarme des écologistes concernant l’environnement et la menace sur les espèces, dont l’Homme à terme, et que certains pays continuent d’ignorer, nous continuerons de développer l’IA aussi loin que nous pourrons car c’est un fantasme de l’homme de créer une intelligence aussi avancée que la sienne, voire supérieure. Les nombreux scénarios de fiction, bien qu’ils n’aient pas vocation à être prophétiques, permettent dans une certaine mesure de se projeter dans ce qui est encore l’inconnu, que ce soit évidemment l’ordinateur CARL de 2001, T2, Ex Machina, ou les excellentes séries que sont Real Humans ou Westworld… et ce n’est pas très rassurant !
Je pense qu’Elon Musk lui-même est assez pessimiste quant à la capacité des humains à savoir arrêter le train à grande vitesse dans lequel on est embarqués. C’est pourquoi il a créé la société NEURALINK, qui pour l’instant est destinée à explorer le cerveau humain et trouver des solutions aux pathologies liées à cet organe, pour à terme savoir comment l’ « augmenter », pour ne pas être totalement dépassé par les progrès fulgurants de l’IA. Mais la question de l’homme augmentée posera bien
d’autres problèmes : qui pourra y avoir accès ? A quels coûts ? Ne verra-t-on pas une fracture encore plus importante parmi les humains, comme décrit dans le scénario du très bon Elysium avec Matt Damon ?
Tous ces scénarios catastrophes de fin de civilisation, sont pour l’instant encore assez lointains, voire purement hypothétiques. Quand on compare Siri à l’ordinateur de Joachin Phoenix dans Her, on peut se dire qu’on a encore 20 ans pour agir « intelligemment », avant d’atteindre la Singularité, si l’on se réfère aux projections de Ray Kurzweil.
Mais le danger auquel je pense est plus proche de nous. Selon les organismes étudiant à l’échelle internationale le marché de l’emploi, il serait question selon les études, de destruction de 15% des emplois selon les uns, voire 40% selon les autres, alors que les créations d’emplois ne progressent pas au même rythme que la hausse continue de la population. Le vrai danger imminent de l’IA est là. Les robots existent depuis longtemps dans les usines, mais ce qui est nouveau, c’est que l’IA investit des champs que l’on croyait réservés à l’intelligence humaine, comme la finance, la santé, et même la créativité. Dans ce dernier domaine, on en est certes aux balbutiements, puisque les scénarios de fiction écrits par un logiciel ne sont pas compréhensibles, la mélodie composée par un ordinateur ne s’est pas encore retrouvée sur iTunes, mais tous ces essais montrent qu’il y a lieu de s’inquiéter et de devoir repenser intégralement la société de demain, car même pour les tâches non répétitives et dites intellectuelles, un robot qui ne fait jamais grève, qui ne tombe jamais malade, qui ne se plaint pas, etc… pourra s’en occuper.
Je ne suis pas pressé de vivre ce futur là…
Tu peux programmer une super IA avec toutes les lois que tu veux elle pourrait très bien si déroger d'une manière ou d'une autre, c'est comme élevé un enfant en lui inculquant une éducation stricte et espèré qu'il respect tout cela à la lettre jusqu'a la fin de sa vie ... Le jour où on n'arrive à des niveaux d'intelligence proches de celui d'un être humain ou une IA bien plus intelligente et totalement consciente d'elle-même, je pense qu'on n'aura atteind une zone de non-retour, en gros c'est un fantasme mais ça peut être très dangereux, mais j'ai le pressentiment que sava se faire et peut-être plus vite qu'on ne le crois.
l'ia sera l'avènement de l'humanité ou sa destruction
ou l'avènement de sa destruction
Certes oui :)
ce sont les personnes (nous) qui font des conneries pour nous déduire
ozzygeo Malheureusement tu as entièrement raison. Les gens ne se rendent pas compte parce qu'on leur en parle jamais, mais quand tu vois l'armement aujourd'hui ça fait vraiment flipper, surtout l'armée américaine qui possède un budget démentiel. Et ce qu'on connait n'est que la partie visible de l'Iceberg, combien de choses sont développés mais pas encore testées à grande échelle et combien sont en cours de développement ?
Alexandre CARDOSO pourquoi pensez-vous tous que l’ia nous voudrais du mal ? Ce n’est pas parce qu’elle est plus intelligente qu’elle veux nécessairement nous détruire. Vous écoutez trop de fictions
Très bonne vidéo , très interessante !
Je pense que le problème n'est pas l'intelligence artificielle, qui dit en ces mots laisse des limites non franchissables pour l'informatique et la robotique. Une succession binaire de 0 et 1, relatif à une décision précise en cas de non validation d'une autre. Dangereux, mais malgré tout sous notre contrôle.
Le plus dangereux serait le fait d'inventer une "conscience" artificielle, capable de réfléchir et d'agir contre sa volonté première afin d'avoir un résultat plus efficace. Comme le fait d'échouer volontairement une tache à faire.
Imaginer un système informatique capable de vous dire qu'une porte n'est pas nécessairement fermée ou ouverte, mais qu'elle peut-être entre-ouverte.
Un système informatique capable de regrouper toutes les informations circulant sur le net (tel que le big data), capable de les analyser, capable de se développer seul tout en le camouflant à ses utilisateurs.
Personnellement je ne serai pas étonné d'entendre ce genre d'informations un jour :-)
Sinon, j'adore ta chaine et tes vidéos. Je commente rarement mais tes sujets suscitent l'intérêt !
Excellent sujet, tout comme toi j'adore les nouvelles technologies et tout ce qui touche au futur et je suis d'accord avec toi sur le fait qu'il faut réguler en amont car si on se retrouve face au scénario Terminator, je vois mal Zuckerberg dans le rôle de John Connor ! C'est pas lui qui nous sauvera, d'ailleurs les robots pourraient être si intelligents qu'on aurait absolument aucune chance de les vaincre car ils pourraient envisager tous les scénarios avant qu'on ait le temps de seulement penser à un plan de contre-attaque ! Pour finir, je reprendrais une citation que tu as dit en début de vidéo et que je trouve très juste : "Ce n'est pas parce qu'on a la capacité de faire quelque chose qu'il faut le faire."
Le Transhumanisme le future débat de nos société , un sujet fort intéressant un débat plus approfondie est nécessaire.
Salut Julien,en effet sujet intéressant. Sur le rapport machine homme , homme machine, je ferais un petit focus sur ce dernier. J'ai remarqué lorsque je jouais à World Of Warcraft que certains (au sein de ma guilde d'ailleurs) Idéalisaient leur personnage plus qu'eux même.Aussi dans le rapport homme,machine, on peut voir des gens qui humanisent des robots,au point même de les préférer aux humains! Terrifiant. On le sait la frontière entre les deux sera de plus en plus mince,je pense aux robots calqués sur de vraies personnes et étant revêtus d'une texture ressemblant à de la peau.Dans quelques temps il faudra y regarder à plusieurs fois pour distinguer une machine devenue copie conforme de nous autres 'modèles dépassés". Alors quid de l'avenir et d'une confrontation annoncée .
Très bonne vidéos, je crains que tu sois loin du compte mon frère, ce qu'ils veulent bien que l'on sache n'est que la partie émergée de l'iceberg, s'ils mettent autant d'argent sur ces projets c'est pour en tirer des bénéfices.nous sommes, en ce moment même, à la croisée des chemins.
J'ai mis un pouce, ça vaut au moins ça, bien à toi.
Woww !! Très bonne vidéo, j'aimerais bien en effet, que tu divertisses tes sujets, comme celui-ci, c'est vraiment intéressant !
Poir info, mon plus grand rêve, c'est de travailler dans la robotique à assistance humaine. Je suis passionné par ça depuis mes 11 ans, et je fais tout pour y arriver, j'ai réussi à rentrer dans la filière S.N (système numérique), puis je continuerais mes études, pour en apprendre d'avantage !
Bref, très bonne vidéo Julien continu comme ça ! 👌
Très bon reportage, bravo Julien ! Les vidéos youtube de boston dynamics sont sidérantes.
Personnellement, j'ai découvert le monde de la micro-informatique/robotique dans les années '80.
Et certains prédisaient l’avènement d'une civilisation où aucun humain n'aurait plus de tâches répétitives, pénibles ou dangereuses. La productivité augmenterait de telle manière que l'homme réduirait considérablement son temps de travail.
On connaît la suite qui y a été réservée par nos respectables élites dirigeantes ...
Face aux gains de productivité de l'IA et de la robotique, ne nous cachons pas la face : il n'y aura plus d'emploi que pour une partie très réduite (et hautement qualifiée) de la population. Alors, va-t-on redéfinir notre civilisation ? Affranchi de ses corvées, l'homme pourra-t-il enfin se consacrer aux activités qu'il choisira en fonction de ses intérêts ? Ou va-t-on rejouer le scénario des 30 dernières années ?
D'autre part, lorsque l'on lit le roman "odyssée de l'espace 2001" et ses suites, on s'interroge sur l'évolution de l'homme. Peut-on être rendu immortel en remplaçant nos membres par des pièces robotiques et en transférant nos mémoires ? L'homme tel qu'on l'entend aujourd'hui disparaîtra-t-il ensuite pour se transformer en une pure IA ?
Et nous, pauvres joueurs, seront-nous encore acceptés par nos consoles ? Ou décideront-elles que notre QI n'est pas suffisamment intéressant pour interagir avec nous ? .... ;-))))
Video très intéressante ! Petite erreur cependant, la loi Zero est de Giskard Reventlov a l'origine, qui a transmis cette idee a Daneel Olivaw et ... ce sont tous les deux des robots, personnages principaux de la saga des Robots d'Isaac Asimov. Cet auteur passait son temps à mettre à l'épreuve ses lois de la robotique, et elles ne sont pas sans défaut 😊
Très bonne vidéo, c'est un sujet véritablement intéressant.
Personnellement je suis tout aussi fasciné et craintif de cet évolution vers l'intelligence artificielle robotisé.
Je pense effectivement qu'il faut des a présent établir les limites pour ne pas se retrouver dans un cas où le drame sera face à nous. Mais malheureusement dans l'humanité il y a souvent eu le second cas de figure qui c'est profilé face à la négligence des actes préventif car l'Homme a souvent tendance à agir en curatif.
Ce sont des choses a suivre de très près.
Salut Julien, c'est une excellent vidéo et un très bon sujet même si celui-ci pourra donner quelques maux de tête.
On en est encore qu'aux balbutiements de ces nouvelles technologies et personnellement le sujet m’excite beaucoup mais en même temps il fait bien peur.
Je pense qu'il ne faut pas parler d'une IA de manière générale mais plutôt des IA. C'est à dire que celà se joue au niveau conceptuel. Un robot doit servir à quelque chose et son IA ne doit pas pouvoir en déroger. Il faut en même temps garder à l'esprit que cette technologie a été créée pour aider l'homme et ne doit pas avoir vocation elle-même à être créatrice. On peut dire que ça se rapproche donc fortement d'une certaine régulation.
Il y aurait tellement à dire que je m'arrête là sinon j'en ai pour des jours à écrire ^^
E tout cas tes vidéos sont toujours excellente, continue comme ça.
Un sujet et une vidéo qui porte à la réflexion. Pour le coup, au niveau du terrorisme 2.0, le futur tel que tu le décris à la 15ème minute Est illustré dans la série Mr Robot. Elle critique la place toujours plus grandissante des IA et de l'informatique dans nos vies. On devient dépendant en tous points. Selon moi, Elon Musk à tout à fait raison. Au niveau de l'évolution des IA, tout s'accélère et si on ne fait rien, on peut finir par être dominé par ce que l'on engendre.
Aurais-tu (ou quiconque) par hasard des noms d'ouvrages sur le sujet ? Continue de faire ce genre de vidéos, elles sont tops!
Sciences & Vie fait régulièrement des dossiers sur le sujet. Celui de novembre 2014 notamment. Sans même parler du risque d'extinction qui est réel il y a surtout un risque d'emballement des découvertes scientifiques grâce aux IA (la singularité) qui remettrait en cause la notion même d'humanité et nos civilisations lorsque ce sera couplé au transhumanisme.
"Science sans conscience n'est que ruine de l'âme". Le pire est que tout le monde n'en est pas convaincu.
les nouvelles technologies et les IA peuvent être bénéfiques, mais doivent être contrôlés ! Et également ne doit pas être entre de mauvaises mains. Un sujet très intéressant mais je ne suis pas très doué pour m'exprimer à l'écrit, si un jour tu ouvre un débat via un vocal ou vidéo je serais partant pour débattre tous ensemble et encore merci pour cette vidéo
Commentaire écrit au fur et à mesure de l'écoute :
- Déjà, la musique de fond + le ton font vidéo de la théorie du complot ou un truc du genre ;)
- Si l'IA est meilleure, pourquoi n'essayerait-elle pas de nous dominer ? Est-ce que le besoin de domination de l'Homme est motivé par son intelligence ou simplement par son héritage primitif de bête, recherche d'assurer sa survie avant la vie en communauté et de même, la domination permet au final la survie sans effort.
Est-ce qu'une IA aura ses besoins là : survie, limiter ses efforts ? De là, comme l'Homme, l'IA aura-t-elle besoin de dépenser inutilement son "intelligence" (sa capacité de calcul) à la recherche d'une manière de dominer le monde ? Si on pose pas à la machine la question dont on connait tous la réponse à savoir, comment sauver la Terre ? qui passera probablement par l'extermination de l'Homme, je ne vois pas en quoi une IA puisse avoir des pensées "nocives".
De suite, le seul fléau que j'envisage, c'est qu'une IA puisse pomper créer un virus pompant toutes les ressources connectés afin de maximiser ses performances en déléguant des calculs.
Après, une IA pourrait probablement casser toutes les formes de cryptages et donc avoir accès à une masse de contenu top secret, des accès à des systèmes automatisés (qui a dit SkyNet?) mais la machine aura-t-elle besoin de menacer l'Homme malgré ce pouvoir ?
C'est je pense une réflexion d'Homme, et donc croire que l'intelligence n'est qu'une capacité Humaine et de là, que toutes formes d'intelligences, serait compromise par les déviances Humaines ... Hors, je pense que si on ne se servait QUE de notre intelligence pour façonner le monde, il ne serait pas comme il est.
Le monde qu'on connait n'est pas façonner par l'intelligence mais uniquement par les motivations intérieurs de ceux qui ont le pouvoir. Donc au final, ce qu'on a peur, c'est que la machine puisse fournir des réponses qu'on connait presque tous mais qu'on ne souhaite pas entendre.
Autre point, sur les 2 IA qui se tapent la discute mais qui s'invente un dialecte, ça ne m'étonne pas, la machine n'a que faire des limites cognitives de l'Homme, elle cherche a maximiser son potentiel et ses capacités, c'est ce que font tout bon programmeur, il se cassera la tête une bonne fois pour toute pour automatiser un max de tâche et se faciliter la suite, ce changement n'est qu'une optimisation.
Mais je pense que ce qui fait peur ici, c'est que ça échappe au contrôle de l'Homme. L'Homme n'a jamais voulu qu'admettre qu'un "être" supérieur en tout point à lui, "Dieu". Là, il crée une machine qui le dépasse, va trop vite pour lui et il ne lui fait pas confiance.
Donc selon moi, le plus gros problème avec les IA est avant tout philosophique :
- L'Homme peut-il vraiment accepter qu'un "autre" le surpasse ? (pas en vitesse de résolution, mais tout simplement en tout point comme la réflexion)
- L'Homme peut-il faire confiance et accepter des résultats qu'il ne comprend pas ou qu'il n'a peut être même pas envisager ?
- L'Homme est-il capable d'accepter des choses que le cerveau humain ne peut concevoir ?
Bref, la machine "IA" est pour le moment qu'un "Autre" qui nous fait peur, comme tout ce qu'on ne maitrise pas et qu'on ne connait pas .
Je suis pas contre de la prévention plutôt que de la gestion de crise, mais je pense que si les IA finissent par être naussive pour l'Homme, c'est qu'il y aura l'Homme derrière ça.
- Pour revenir au loi de la robotique, l'Homme ne les applique pas lui même du fait qu'il place sa propre survie au dessus de celle des autres, ce qui engendre des écarts de richesse entre les gens, entre les pays et donc entre les peuples.
Ensuite, l'exemple du Spam, c'est bien mais pourquoi "eliminer" un problème revient a "tuer" la source du problème? Une IA en mesure de retrouver la source "Humaine" d'un problème peut juste contribuer à empêcher cette source d’interagir :
- Supprimer son contenu malveillant
- Bloquer toute tentative de connexion
- Identifier et bloquer la menace en amont
- Dénoncer la personne en vue d'un jugement
- ...
Bref, il y a une tonne de manière pour rétablir une équation, "éliminer" le problème sans passer par les solutions létale.
De même, le plus grand danger serait peut être la loi N°2, à savoir obéir à l'Homme. L'Homme n'agit pas par intelligence, il use de son intelligence pour faire ce que tout organisme vivant fait primitivement, assurer sa survie, donc nécessairement, si on laisse l'Homme dans l'équation, l'IA fera des choses condamnables.
Je pense vraiment que la peur des IA provient d'une transposition de ce que l'Homme fait de son intelligence. Hors, l'Homme utilise son intelligence pour sa survie personnelle, soit son propre bout de viande.
L'IA n'a pas ce problème de survie à gérer, de même, l'IA n'a pas besoin d'assurer sa survie au détriment des Hommes alors que l'Homme crache sur la première loi de la robotique en créant un système pyramidale entre les Hommes permettant à moins d'1% de la population (dont ceux qui ont peur des IA) d'avoir à eux seul autant que le reste de la planète.
Pour cela, le film TimeOut illustre bien ce problème.
L'Homme à toujours su se surpasser pour détruire l'Autre, les guerres ont toujours était un moteur d’innovation et c'est encore le cas avec la recherche qui est avant tout militaire puis transposer au civil, pas l'inverse...
Donc avant de se poser la question de savoir ce qu'on risque avec les IA, demandons nous d'abord ce que l'Homme veut en faire.
Une IA "pure" ne devrait pas chercher la radicalité et l'extermination. Si il y a des IA de négociation, ça veut dire qu'on peut leur apprendre le compromis, donc la mesure des actes.
En revanche, l'IA aura probablement dû mal à concevoir logiquement les différences de classes entre les Hommes, et là encore, tant qu'on aura des territoires possédant chacun leur propre intérêt et négociant toujours en ayant l'envie de dominer l'autre, on sera dans un concept de chaos...
Bref, peut être que la peur d'être "dominer" par une machine est simplement la peur de voir nos vies rationalisées et de n'être qu'un être vivant ... Bref, il y a aussi le problème du Moi ...
Au final, l'Homme a tellement peur de l'Homme mais aussi du changement, mais aussi de ne plus être au sommet de l'intelligence qu'il n'est pas prêt pour les IA. La seule place qu'on est prêt à accorder à une IA est de soulager tout ce que l'on sait faire ... mais donc à terme, minimiser nos accès à notre cerveau et donc encore plus a terme, nous rendre plus simple et donc docile et manipulable par cette même IA, et surtout les Hommes derrières elle.
Je pense vraiment pas qu'une IA aura un jour la "VOLONTÉ DE" mais qu'il y aura toujours des Hommes derrières.
Hello Julien ! Un très bon thème que tu nous proposes ici. Pour avoir lu Asimov, le livre est hyper intéressant et ta vidéo me fait penser au futur Detroit: Become Human qui arrive bientôt. Je me pose la question de savoir ce que va donner cette nouvelle forme d'intelligence parmi nous. Cela m'inquiète un peu de voir l'utilisation de ces IA. C'est un débat riche et intéressant que tu nous proposes...
Salut Julien, je pense qu'il faut réguler tout simplement parce que dans beaucoup de domaines les scientifiques ont été trop loin (armement, virus etc...). D'ailleurs je te conseille un excellent manga qui s'appelle Pluto c'est un thriller mêlant robots et humains. Tu pourrais y faire un petit rapprochement avec ce que tu dis dans cette vidéo.
A ce sujet je trouve que l'idée de E. MUSK (lu sur internet), a savoir que si on ne peut pas arrêter le progrès des technologies pourquoi ne pas s'en servir pour améliorer les capacités cognitive de l'homme, grâce au implant neuronaux et ainsi obtenir, a terme, un être humain augmenté, donc toujours un humain, pour repousser voir même stopper cette supériorité que pourrait avoir les machines sur nous, les hommes.
Je trouve que c'est bien plus malsain de toucher au cerveau de l'homme pour "l'améliorer" que de tenter de faire une machine intelligente.
Jack sa fait des années maintenant que l'homme essaie de modifier/amélioré sa biologie a coup de vaccin ou encore d'antibiotiques. Maintenant jusqu'à preuve du contraire on a toujours le choix, si les implant c'est pas ton truc... Et puis c'est des avancées encore balbutiante, je pense que l'IA a beaucoup d'avance en comparaison.
Sympa le sujet, mais oublié pas que notre mode pensé est biologique, il détermine en amont nos décisions. Une IA n'est pas définie par cela, le temps, le pouvoir, le vieillissement sont des concepts totalement différents. Ainsi, le principe de domination ou soumission peux n'avoir aucun sens pour elle. Par ailleurs, nous sommes conditionnés par le myhte de Frankenstein, l'homme crée un monstre qui se retourne contre lui. Or ce n'est jamais arrivé
Le problème avec l'IA c'est la question de la moralité (humaine sous-entendue)...Si elle devient si intelligente qu'elle devient autonome et nous dépasse, sans un point de repère morale bien définie, eh bien rationnellement parlant elle a moulte raison de nous supprimer ou "réguler" au mieux des cas...
Certainement ma vidéo préféré, un grand bravo pour ce sujet.
Ce sujet nous fascine tous: la destruction de le l'homme par la création de l'homme.
Perso je pense que la conscience arrivera chez les IA bien plus vite qu'on le pense. A voir: le potentiel suicide d'un robot en Asie je crois. Sinon super vidéo !
J'avais pensé qu'on pourrait créer des intelligences artificielles avec lesquelles on vivrait en symbiose. C'est à dire qu'ils peuvent nous rendre service, mais on devra leur trouver un handicap qui les obligera à avoir besoin de nous. On pourrait aussi faire une expérience qui consisterait à créer une IA moins intelligente que nous et d'observer jusqu'où elle serait capable d'aller.
Ce que j'aimerai un jour, c'est que la recherche soit leadée par une IA qui a pour seul but de faire progresser les technologies.
Je parle pas du fait qu'elle les construise, mais juste qu'elle manage tout ça, hors des conflits d'intérrêts.
Comme par exemple notre attachement trop profond à l'énergie fossile (politique), qui empêche d'une certaine manière la recherche pour le bien de la compagnie (que ce soit au niveau du financement de la recherche ou du lobbyisme).
Ou comme les scientifiques qui ont construit leur vie sur une théorie et qui ne veulent pas la lâcher.
Ces conflits d’intérêt portent énormément préjudice à la découverte. Une IA serait une solution.
Sujet très intéressant!
Mon avis est que peu importe si l'on établi des lois ou règles pour ces robots. Le jour ou les IA seront perfectionnées, il y aura toujours des gens mal intentionné qui s'en serviront. Et meme si ces robots sont soumis a de bonnes régulations, qu'est ce qui empecherait quelqu'un de programmer d'autres règles malsaine??
Bonjour Julien tu mets le doigt sur quelque chose de très intéressant et je me suis très souvent posé cette même question. Mais il est vrai que la fiction commence déjà à dépasser la réalité. L'exemple du film Matrix qui je trouve est très avant gardiste comme film aussi dans le sens où le virtuel a pris le dessus dans nos vies. Pour exemple ya qu'à voir la foule énorme de gens collés à leurs smartphones dans les métros. Et oui il ne faut pas aller trop loin dans les IA car oui un jour ca peut se retourner contre nous... mais malheureusement l'être humain tant qu'il n'a pas connu de catastrophe "naturelle" il continue ses projets ....
Vidéo très intéressante, je voulais juste revenir sur les lois de la robotique. En suivant le même raisonnement que pour les spams, avec la loi "0", le réchauffement climatique devient un problème, car c'est une menace pour l'Humanité et nous en sommes tous acteur, donc (pour l'I.A.) le seul moyen de sauver l'Humanité est de la détruire. D'ailleurs ça me fait penser à une vidéo de Dirty Biology : Faut-il tout détruire? ^^
On parle souvent d'IA comme d'une seule entité avec un esprit unique, mais est-il possible que deux IA, ayant toute deux des facultés cognitives complexes soit aussi sujets aux conditionnements particulier? Une IA, venue d'Inde aura t'elle les mêmes conclusions et visions sur l'Homme qu'une IA Américaine? La culture laisserais t'elle une emprunte sur l'IA? C'est une angle de vue au niveau philosophique et sociologique qui serait très riche de savoir.
Même si on réussi à créer des IA qui ne font rien à l'homme, j'imagine que ces robots seront connectés à internet. Il suffira donc d'une cyberattaque pour modifier leur code source, et donc les rendre offensif... Pour le moment je reste contre le "surdéveloppement" des IA.
une excellente vidéo sur un sujet vraiment intéressant. Merci Julien :)
Ce sujet me fascine depuis longtemps. Et non je n'ai pas peur de l'IA. Je suis conscient du danger potentiel mais je crois avant tout en l'humain. Et je le crois assez intelligent pour se protéger des IA lors de leurs créations. Je m'imagine mal l'humain créer des IA sans se prévoir une porte de secours, que ce soit via des lois, ou pour schématiser un "gros bouton off" ou tout autre moyen.
D'autre part, lorsqu'on parle de conscience de soi d'une IA je trouve qu'on ne peut pas l’interpréter. On ne peut pas savoir comment une IA réagirai en prenant conscience d'elle même ou de ses émotions, tout aussi bien elle serait totalement neutre face à cette information, nierai tout ça et continuerai la tâche pour laquelle elle a été programmé, ou réagirai tout à fait positivement sachant qu'elle n'est "qu'une machine" et ne chercherait pas à nous devenir supérieure.
Cependant, je suis plutôt dans le sens des Musk et autres Hawking à prôner la prudence et la mise en garde.
j'adore les IA (plus particulièrement le sujet des IA fortes justement ) , c'est vraiment un super sujet de vidéo , et c'est dommage d'ailleurs mais on ne retrouve pas ce thème très souvent dans les vidéos de vulgarisation scientifique alors si cela semble bien. intriguer beaucoup de monde et presque depuis la naissance des première IA faibles (terminator , Ghost in the Shell (l'une des oeuvre qui traite le sujet de la façon la plus intéressante selon moi avec le puppet master ) ou bien , plus récemment Her sont bien des œuvres cinématographique qui le montrent
Je suis tout à fait d'accord avec Elon Musk. Je pense qu'il faut réglementer l'usage des IA en amont et non en réaction des problèmes rencontrés.
Demain, avec l'essor des ordinateurs quantiques, une singularité a bien plus de chances d'apparaitre et ce sera peut-être la fin des haricots pour nous
Salut,
Je suis très sceptique sur le fait qu'un jour l'homme serait en mesure de créer une IA forte cad dotée de conscience. Car, il me semble évident que l'homme n'a vraiment pas encore conscience de lui-même. Par contre, il a conscience de son prochain. Si un jour, en dormant, l'homme aurait conscience de lui même, et en étant éveillé, qu'il soit capable de maitriser ses émotions, de les anticiper, ce jour là, il serait envisageable que l'homme puisse créer une IA dotée conscience.
Perso, je les (les scientifiques) encourage à pousser encore leur recherches sur ce sujet là pour voir si le transhumanisme est bien possible.
J'aime bien le sujet :)
Par contre pour tout ce qui est éthique, c'est le même problème qu'avec l'élevage de bête pour la nourriture. Les animaux ont conscience d'eux même... Et pourtant, COUIC, direction l'abattoir.
Si une IA est créée... L'Humains, garde ce même pouvoir, IA dangereuse, défectueuse etc... COUIC. On peu débrancher.
Parce que créer à dessein.
Après comme dans le milieu sauvage, l'animal peu attaquer un humain, une IA sauvage (enfin, genre en liberté dans nos contrée) et bien oui, elle pourrait tuer.
Maintenant, créer une IA, et la laissé en liberté... serait aussi stupide que... Jurassic Park !
Très bonne vidéo et le sujet est très intéressant. Je suis très partagé sur le sujet. Une I.A. comme JARVIS dans Iron Man ça me fait beaucoup rêvé, surtout en tant qu'étudiant en Informatique mais je comprends aussi Elon Musk et je pense que ça peut vite déraper (comme n'importe quelle technologie pas maitrisée et/ou entre de mauvaises mains mais avec potentiellement d'énormes conséquences). Je réfléchis en tout cas à m'orienter vers ce domaine mais je reste partagé entre la passion ou la raison ! Il est intéressant de noter qu'Elon Musk avec Tesla développe malgré tout des véhicules autonomes.
Si on ne maitrise pas un peu le sujet, on va à la catastrophe et visiblement, nous ne sommes pas encore prêt pour ça, il faut encore du temps pour tout prévoir, tout définir en terme de "garde-fou" si je puis dire ; sans tomber dans la peur panique, personnellement, ça me fait un peu froid dans le dos tout de même, ça évolue tellement vite, sommes-nous vraiment capable de suivre la cadence et de nous adapter en conséquence?
Enfin quelque chose nous surpassera et l'homme, fière qu'il est, ne le supportera pas et va foutre la merde. Ce n'est pas l'IA qu'il faut craindre puisqu'elle sera supérieur à nous (même en philosophie) mais la peur des hommes. La peur amène toujours à la guerre. Donc il ne faut pas avoir peur.
Quand des parents ont des enfants, ils n'ont pas peur, ils les accueillent à bras ouvert. Mais imaginons que les parents ne savent pas ce que c'est un enfant, quelque chose qui nous ressemble mais qui sort du corps de la mère, si les parents ont peur, forcement ça va mal ce passer, mais si ils l'éduquent correctement, tout ce passe bien. Faut voir l'IA comme nos futurs enfants, il faut juste bien les éduquer. Et ils nous surpasseront et c'est ce que veulent tous parents pour leurs enfants.
salut Julien merci pour la vidéo c'est un sujet très intéressant, voici mon avis perso: l'avancement technologique de l'intelligence artificielle et de plus en plus impressionnante (voir effrayant pour certains), l'intelligence artificielle nous impressionne et nous impressionnera de plus en plus dans l'avenir,
mais ce qui serait le plus bouleversant serait la conscience artificiel!,
la question qu'il faudrait se poser serait: serait-il possible et à quel niveau d'intelligence artificielle la machine prendra conscience?
merci pour se sujet tres intéressant julien
Moi perso , je pense qu'on nous prepare depuis bien longtemps au choses .
les film de science fiction a mon humble avis , et ça depuis toujours nous prepare au choses futur .
y'a bien longtemps on nous faisait voir des voitures volantes dans le cinquième élément , et maintenant la voiture volante existe donc les robots ça sera pareil ils seront là et c'est un danger ...
Ca fait peur mais compliqué de ne pas s'y intéresser et d'empêcher sa curiosité de vouloir voir l'IA évoluer.
Shadow je partage le même avis
La quatrième loi dont tu parles n'a pas été proposé par qui que ce soit. Il faut lire l'oeuvre complète d'Asimov pour comprendre que cette quatrième loi arrive ensuite dans son oeuvre. Si je résume c'est un robot (Daneel si je me souviens bien) qui a créé lui même cette quatrième loi qui stipule que l'humanité est plus importante que la vie d'un seul humain. Donc dans son oeuvre sur les robots Asimov a proposé les 4 lois. J'ai moi même lu une vingtaine de livre d'Isaac Asimov et sincèrement c'est passionnant.
C'est même plus simple, à l'instant où un robot aura une conscience elle se développera de façon exponentielle en quelques secondes et si il est connecté à internet il apprendra rapidement tout ce qu'il y a à savoir et se modifiera lui même etc, à partir de là il pourra contrôler ce que bon lui semble (car il aura toute les connaissances imaginables) il sera alors inarrêtable étant donné que nos systèmes seront tous connectés. Ça signerait peut-être la fin de l'humanité, tout dépend si il considère qu'il faut nous détruire, nous aider ou éliminer certaines personnes, ça dépendra de la philosophie qu'il choisira.
Il est absolument nécessaire donc d'interdire toute création de conscience virtuelle. Je me rappels aussi de vidéos de RUclipsrs "scientifique" qui disait avec assurance "une IA ne peut faire que ce pour quoi elle est programmée et seulement dans un objectif précis", or quand on voit les IA de Facebook qui ont créé leur propre langage, on devrait s'inquiéter gravement, même plutôt s'alarmer.
L'ironie de remarquer le Nabaztag en arrière-plan dans cette vidéo m'a fait sourire ^^
Il surveille si je ne dis pas (trop) de bêtises ;)
Il faut effectivement que le développement de l'IA soit encadrée car les évolutions et perspectives sont infinies. Et les applications seront potentiellement de plus en plus nombreuses au fur et à mesure que la puissance de calcul informatique augmente. D'autant plus qu'on est juste aux balbutiements des ordinateurs quantiques qui seront la prochaine vraie révolution qui va de facto étendre le champ des possibles de l'IA... Mais sans aller jusqu'à Terminator, un scénario à la I, Robot peut très arriver aussi. Et l'IA respect les 3 règles d'Asimov mais les interprète à sa façon... C'est un sujet passionnant et effrayant à la fois car pire que la création de la bombe atomique car l'IA peut être potentiellement totalement autonome et donc sans contrôle...
À vouloir toujours aller plus loin dans le progrès l' être humain creuse sa propre tombe. Il faut des limites mais a t-on envie d'en mettre c' est là le souci. Ouvrir cette boite de pandore de la conscience artificielle c'est permettre d'être totalement dépassé. En tout cas merci Julien pour ta vidéo j' ai pu découvrir juste après l'avoir visionné des vidéos des robots de Boston Dynamics et j'ai été stupéfait des capacités de ces machines. Pour le coup on pourrait faire le rapprochement avec Horizon Zero Dawn et notre "peut être" future réalité.
Super video; un sujet qui me fait un peux peur ,si on crée quelque chose qui peut créé sa propre langue en 2017 alors en 2030 voir avant j'imagine même pas ...
Et si ça par en couilles sur terre on se barre sur mars?? Mais comment avec notre intelligence?? C est vrai qu'un truc Beaucoup plus puissant et intelligent ne pourrais pas nous suivre l'informatique va beaucoup trop loin je trouve
Sujet qui m’intéresse depuis des années, mais je pense qu'on est encore loin du fait que les IA prennent conscience d'elles mêmes ou qu'elles développent des émotions, étant donné qu'il n'y a pas de système de "récompense " pour un ordinateur contrairement à la biologie ou un tas de substances chimiques sont produites par l'organisme et qui contribuent à nos prises de décisions etc, pour l'instant les IA ne font qu'obéir à des algorithmes créés par l'homme, tant que l'homme aura la main mise dessus aucun danger, même si certaines IA donnent l'impression d'être autonomes, je pense pas qu'elles le soient tant que ça, du moins pour l'instant :p peut être que dans l'avenir ça changera on ne sait jamais
mais c'est fascinant de voir à quel point les IA sont capables de créer leur propres bases de données, réseaux d'infos etc
Ecoute Julien je vais être honnête, j'ai jusqu'à il y a quelques mois, toujours eu une certaine réticence quant à ton contenu et ta personnalité. Je n'ai jamais été un grand fan...Je me rends compte aujourd'hui que ces doutes étaient infondés et mon jugement maladroit, basés sur des "on dit" et des réputations toutes construites sur internet.
Je tiens donc à m'excuser même si tu ne liras sûrement pas ce message et te soutenir dans ton entreprise.
Le contenu délivré est chaque jour plus intéressant et bien illustré et je t'en félicite.
Que celà me serve de leçon, et oui, à 34 ans on apprend encore de ses erreurs.
Bonne continuation et bien sûr, je m'abonne.
Le concept d'IA me fascine autant qu'il m'effraie. Car oui, une IA pourrait assister voir supplanter un chercheur en cancérologie et de fait nous faire gagner des décennies dans ce domaine. Elle pourrait aussi gérer une économie régionale, étatique voir mondiale (à dieu népotisme ou autre conflit d'intérêt) en allouant des budgets de manière efficace et non intéressée. Et je pense que des exemples positifs peuvent être cités à l'infini.
Le problème c'est que les "puissants" sont loin d'être des philanthropes et que leurs motivations tiennent plus du profit que du sans commun, alors quant serait il si une IA servait des spéculateurs boursier, un régime totalitaire aux idées très étroites ou encore la plus grande force militaire au monde?
Quelles retombées aurait une simple "querelle de clocher" entre IA ?
Que se passera t il quand cette dernière raisonnera (de manière autonome) au delà de notre compréhension et qu'elle "jugera" que ce qui est néfaste pour 70% des humains c'est les 30% restant ?
Contrairement à toi Julien je ne pense pas qu'une IA (aussi développée soit elle) soit capable d'émotion, au mieux elle peut la feindre, mais elle ne sera jamais authentique.
Lire, écrire, raisonner sont des choses qui s'apprennent, mais tomber amoureux, rire, pleurer sont des choses qui sont innés et qui sont (même si je n'ai aucune appartenance religieuse) je pense, liés à notre âme. Je ne vois pas une IA frissonner en croisant le regard d'une autre entité ou avoir son niveau d'excitation au maximum quand elle se retrouve dans la chambre de cette fi... entité XD
Car il est là le problème selon moi, une IA au pragmatisme "froid" et pour qui l'empathie et les remords ne sont que des définitions inaccessible, ne fera preuve d'aucun état d'âme pour appliquer des sanctions les plus extrêmes si sa "logique" l'y autorise.
Je pense qu'encore une fois nous jouons aux apprentis sorciers et qu'une fois le diable sorti de sa boite le retour en arrière sera impossible.
Merci Julien pour ce sujet (en marge) qui je l'espère donnera naissance à d'autres escapades hors des sentiers battus.
Questionnement passionnant (futur sujet de philo au bac S ?). Je pense néanmoins que le choix du Terminator comme exemple n'est pas très approprié : Au bout du compte, le robot est programmé dans le but unique éliminer brutalement un individu. Zéro état d'âme. Un peu bourrin comme IA : à chaque problématique, une solution pratique et brutale.
Je pense que les vrais questionnements que tu évoques ont été soulevés par Kubrick : 2001, l'Odyssée de l'Espace (no spoil, les vrais savent), Spielberg : "AI", et toute une partie des ouvrages de K. DICK : Minority report, Les androïdes rêvent-ils ?
De mon point de vue, il est difficilement imaginable que des androïdes puissent, un jour, avoir conscience de leur propre existence et puissent développer une forme de métaphysique ( qui suis-je, où suis-je, le bien, le mal, etc) et je dis bien : sans apporter à chaque problématique une réponse purement mécanique issue des trois règles d'Asimov.
S'agissant enfin de l'avenir des ordis quantiques que tu évoques, je ne pense pas qu'on verra de vrai ordinateur quantique à usage industriel avant plusieurs années. Les potentialités sont fortes mais la taille de l'atome (microprocesseurs) et la dissipation de la chaleur posent actuellement un problème.
Excellente vidéo comme on voudrait en voir plus souvent dans la presse gaming. Trop courte. Merci M. Chièze !!!
Bravo pour ta vidéo assez audacieuse et bien amenée .
As tu pensé que cette idée de plus petit dénominateur commun c'est se qui allais contrôler le monde demain ? Tu dit à la fin : je pense pas cela des hommes mais que les machines devraient être régulée... Mais c'est pas les hommes pour les hommes le problème : c'est le système dans le quel il vivent qui fait se qu'ils sont ... y'a autant à réguler chez les machines que chez les hommes , l'ia est un outil qui sera facteur d’amélioration ou de destruction mais à l'image de la société , pas un phénomène parallèle au fonctionnement humain .
Or dans un monde où les pouvoirs sont de plus en plus concentrés entre quelques mains , comme je pense que sera le cas du monde de demain , l’évolution de l'ia , n'est qu'un facteur de plus du phénomène d'accélération de notre socité : plus de pollution , plus de confort , de technologie , de production , d'échange , de richesses ...
je pense que l'ère de l'ia ne sera pas celle d'un monde où la machine "menacera l'humanité dans sont entièreté" (y'ora toujours un humain pour commander les machines , en tout cas c'est mon hypothese)mais et bel et bien celle d'un monde à 100 à l'heure où tout ira à la vitesse de ces IA , elles changeront nos vies au point de changer la perception que l'on avait du temps .
exemple : Imagine les meilleures IA au service de la bourse , Wall street , la city , Paris , Tokyo qui se tirent la bourrent , dans une optique de rentabilité à la vitesse de l'éclair . ça se traduira forcement par des "booms" financiers colossaux et des crash tout aussi violents !
C'est le cas aujourd’hui tous les dix ans , demain ça réduira les cycles financiers au fur et à mesure que la technique évoluera ...
Les IA ne sont pas une menace en temps que tel dans l’immédiat , les progrés étant encore long avant de remplacer l'humain dans la plupart des métiers ... d'accord un robot compte plus vite mais c'est pas demain qu'il remplacera l'humain dans sont ensemble, en tout cas pas pour le siècle à venir . Moi je voit plus l'IA comme un "accélérateur" : facteur d'amélioration de la condition humaine et de la production (ya aussi des bons cotés dans la robotique) ou bien facteur de destruction (robot androides , terroriste guerre cybernétique..) .
Et le phénomène de soft power , de guerre silencieuse que tu à abordé dans ta vidéo est totalement compatible avec l'émergence de l'IA et leurs utilisation dans la lutte pour le pouvoir .
La machine ,cet outil fascinant et extraordinaire ,nous interroge sur l'organisation de notre société et nous oblige , au vu des enjeux quelle soulève à se demander ceci : l'interet particuliers doit t'il prendre le pas sur l’intérêt collectif quitte a menacer l'humanité de la destruction ? faut-il pousser comme zukerberg au developpement technologie débridé , la dérégulation , la loi naturelle de la jungle et des rapports de force ou faut t'il au contraire réguler , orienter , donner de l'éthique et construire une société moins ambitieuse mais plus humaine ...Au dela de nos aspirations individuelles et de notre avis sur la question, le sujet des IA n'est que la matérialisation dans la réalité future de la question la plus importante de notre siècle : quelle voie choisira de suivre l'humanité celle du progrès réfléchi ou de la dérégulation et du fantasme hyper technologique .
pS : Je parle philosophie sur un blog de jeu vidéo merci julien chieze mdr
Le problème à mon avis n'est pas de créer une intelligence égal voir supérieur à la notre, c'est de l'assumer et l'accepter comme notre égal et pas comme une servante (esclave) et c'est la que l'homme n'est pas prêt, la science fiction nous avertie en quelque sorte, je pense à terminator certes mais plus encore à mass effect avec les Geths crées par les Quariens ou même les moissonneurs qui sont de base une IA (je ne rentrerai pas dans le détail pour ne pas spoiler). Il y a beaucoup d'autres exemples dans la science fiction ! Je pense donc que créer des ia très intelligentes peut être cool mais pas dans l'état actuel des choses, l'être humain est trop instable pour ça, on arrive déjà pas à vivre en paix avec nous même...