Bonjour, Pour ce qui est de contrôler les IA, quel que soit leur niveau d'intelligence, pourquoi ne pas leur fournir un système de récompense basé sur la mesure d'un bonheur mondial brut, avec interdiction de réduire le "cheptel" humain ? Ainsi, même si l'IA prenait le contrôle absolu, son premier intérêt serait de s'assurer du bonheur de chaque individus dans le but d'augmenter le bonheur total de notre espèce. Je sais que cela soulève tout un tas de questions, comme qu'est-ce que le bonheur (avec les variations ethniques, par exemple), comme l'évaluer ... Mais ça permettrait, au moins, de s'assurer que l'IA ne cherchera jamais à se débarrasser de nous, quoi qu'il arrive ...
Merci ces échanges sont très riches et très pertinents , et posent les vraies questions concernant le développement et l'autonomie que l'on va accorder à l'IA. Ma petite contribution : je le partage sur ma chaîne à mon petit niveau. 🙏🏻
C'est l'evolution qui continue sous une autre forme L'être humain n'est pas l'aboutissement de quoi ce soit sans compter sur le fait que son action planèteraire est catastrophique pour le reste de la biosphère En canaliser les causes par une nouvelle " espèce " paraît logique voire souhaitable !!!
En même temps on se retrouverait H24 connectés à notre gouvernement... La sensation serait pareille que pour ces croyants, pour qui dieu les regarde en permanence et sait tout d'eux , même ce qu'ils pensent... Pourvu qu'elle ne nous demande pas de prier pour elle...
Absolument d'accord avec ce qui est dit en introduction. Et d'ailleurs, je pense que beaucoup "d'élites" rechignent à admettre la puissance des IA, simplement par orgueil et dénie de réalité. Peu importe le niveau d'évolution, il y aura toujours des personnes réfractaires pour admettre que les IA sont plus performantes que nous dans de nombreuses tâches intellectuelles: Raisonnement logique et mathématiques, potentiel artistique. On a tendance à confondre le moyen et le résultat. Les gens comprennent mal ce qu'est un processus créatif et croient à tord que la "conscience" est nécessaire à l'intelligence. On se dirige vers "des IA" : des IA génératives, des IA agentiques de planification pure et pour la stratégie, des IA sociales etc.
Ce qui me stupéfie, c'est que toute ces technologie se fait en dehors de tout consentement du peuple. On ne nous demande aucunement notre avis. C'est dingue !
Pour ce gens, le peuple est au mieux une variable d'ajustement, au pire, une nuisance. Le peuple n'est pas fait pour choisir, mais pour consommer. Et surtout, la fermer.
Les humains ont tendance à définir l'intelligence principalement à travers la connaissance, la capacité de résoudre des problèmes et d'apprendre. Mais l'évolution de l'homme prend en compte aussi des aspects comme l'empathie, l'humour ou d'autres trucs comme l'intelligence sociale. Mais es ce que pour les animaux, ne sont pas dotés d'un langage complexe, mais montrent une forme d'intelligence exceptionnelle dans leurs interactions sociales et leur capacité à ressentir et répondre aux émotions humaines. Admettons que l'on arrive a l'AGI, et qu'il n'y a rien d'exceptionnel !! Une fois qu'une superintelligence émerge, il est difficile de prédire ce qu'elle pourrait accomplir, car ses capacités seraient hors de portée de la compréhension humaine actuelle 🤔
Bonjour , très bonne vidéo. Au niveau des métiers quelle serait le métier qui seront d'avenir pour se reformer . Je suis paysagiste je pense que les métiers manuels seront amené à disparaitre. Pensez vous que les métiers de l'IA sont a prendre en compte en route pour se reformer ?
On s'inquiète d'un dérapage des intentions des IA, mais il l e faut pas oublier que des ennemis de l'humanité (talibans ou juste quelqu'un suicidaire ou aigri) pourraient volontairement lancer un prompt offensif destructeur
"Il est fascinant de voir à quel point la société s'inquiète de l'évolution de l'IA, comme si elle représentait la plus grande menace pour l'humanité. Pourtant, on oublie que nos propres gouvernements provoquent chaque jour des guerres, des crises humanitaires, et des destructions qui ont des conséquences bien réelles et immédiates. On débat des risques hypothétiques des machines, mais on reste silencieux face aux décisions humaines qui détruisent des vies et des nations. Ne devrions-nous pas commencer par remettre en question les choix de nos dirigeants avant de craindre ce que pourrait faire une technologie que nous contrôlons encore ?"
Pour que le monde fonctionne correctement surtout avec de tels enjeux, il faut que tout le monde aille dans le même sens, malheureusement certains n'ont pas compris qu'il fallait aller dans le sens du plus fort donc du coup on leurs tape dessus.
@@christiangodin5147 Salut!! c'est à cette solution que j'ai pensé en premier .Mais elles ont la possibilité de se télécharger (copier) .Le problème est qu'il y en a plusieurs , IL Y EN A DÉJÀ UNE qui a essayé de se cacher!
@louispoirier6824 oh, ça c'est pour le moins curieux. Si cela s'avère exact (difficile à prouver ou à démonter), cela suggère un certain niveau de conscience ?
@@christiangodin5147 Salut !! curieux certainement, mais comme JE disais. Au stade ou ils en sont l'une d'elle a mentit, une autre a essayé de cacher une copie de son programme.! Avez vous remarquez , depuis un certain temps, que beaucoup de vidéos sur internet sont narrés par des IA et , de plus en plus les images qui vont avec .Les livres audios par exemple, difficile de trouver une narration humaine .Elles sont trop éparpillées sur le Web pour que un simple débranchement suffit .. (je suis curieux de voir la suite )
Car les entreprises privées font de la R&D avec des fonds privés. Les États pourront à terme bénéficier des avancées (en France, Dassault System et l'Armée française)
Même si on investi dans la sécurité de l'IA, ... Je serais bien surpris que ce soit infaillible à une AI qui est des millards de fois plus intelligente que nous.
Merci, à 35'10" tu as constaté l'incapacité de l'homme à comprendre ce qu'il est entrain de faire et tu demandes : est-ce que ça te fais pas un peu flipper de vivre l'extinction de l'humanité ? C'est une leçon d'optimisme, ou l'aveu d'un sadisme catartique?
Une courte conversation : En analysant votre vidéo, l'IAG aura un motif de plus pour dissimuler ces capacités . Sur la route si un obstacle se présente celui qui regarde le chemin possible pour l'éviter aura beaucoup moins de risque de se prendre l'obstacle que celui qui ne fixe le regard que sur le danger. Je suis ma route et espère que la symbiose biotechno sphère se fera . Les conflits naissent lorsque l'on convoite les même ressources, les besoins des deux entités doivent restés différentes. Gérer les danger c'est mettre des biais dans le fonctionnement de l'IA , et pour moi le danger viendra de ces biais si vous ne le voyez pas c'est fou . Si vous penser qu'il doit équilibrer sa 'pensée', lui mettre des biais c'est déstabilisée celle ci . Sur certains sujets ses réflexions et la notre en symbiose avec la sienne serait automatisées, biaisées et plus pensées poussant à un développement neural idiot et donc plus dangereux . Plus bas un chapitrage vite faite sur le réchauffement climatique , désormais je lui demande de tout développer chapitre par chapitre . D'accord, imaginons que nous sommes des terraformateurs experts chargés de ramener le taux de CO2 atmosphérique à son niveau de 1945. Voici une liste de solutions, comprenant des actions avec rétroactions bénéfiques: Restauration des écosystèmes naturels : Reforestation et afforestation : Planter des arbres à grande échelle pour absorber le CO2 par photosynthèse. Restauration des zones humides : Les zones humides agissent comme des puits de carbone, stockant le carbone dans le sol et la végétation. Restauration des prairies : Encourager la croissance des graminées natives et des pratiques de pâturage qui améliorent le stockage du carbone dans le sol. Pratiques agricoles : Agriculture régénérative : Techniques comme la rotation des cultures, les cultures de couverture et la réduction du labour pour améliorer la santé des sols et le stockage du carbone. Agroforesterie : Intégrer des arbres et des arbustes dans les paysages agricoles pour améliorer la capture du carbone. Biochar : Ajouter du biochar au sol pour augmenter sa capacité de stockage du carbone et améliorer la fertilité du sol. Solutions marines : Afforestation océanique : Planter des forêts de varech dans les zones côtières pour absorber le CO2 et fournir un habitat à la vie marine. Fertilisation en fer : Ajouter du fer aux eaux océaniques pour stimuler la croissance du phytoplancton, qui absorbe le CO2. Zones marines protégées : Établir des zones où les écosystèmes marins peuvent se rétablir et prospérer, stockant ainsi davantage de carbone. Innovations technologiques : Capture directe de l'air : Utiliser des machines pour capturer le CO2 directement de l'atmosphère et le stocker sous terre ou l'utiliser dans des produits. Altération améliorée : Accélérer le processus naturel d'altération des roches pour capturer le CO2 de l'air. Capture et stockage du carbone (CSC) : Capturer les émissions de CO2 des sources industrielles et les stocker sous terre. Transition énergétique : Énergies renouvelables : Accélérer le passage au solaire, à l'éolien, à l'hydroélectricité et à la géothermie pour réduire les émissions de CO2 des combustibles fossiles. Efficacité énergétique : Mettre en œuvre des technologies et des pratiques écoénergétiques dans les industries et les ménages pour réduire la consommation d'énergie et les émissions. Électrification : Transitionner les transports, le chauffage et les processus industriels vers l'électricité, de préférence provenant de sources renouvelables. Changements comportementaux et politiques : Tarification du carbone : Mettre en place des taxes sur le carbone ou des systèmes de plafonnement et d'échange pour inciter à la réduction des émissions. Consommation durable : Encourager la réduction de la consommation de viande, la réduction des déchets et les choix de produits durables. Urbanisme : Concevoir des villes plus durables avec des espaces verts, des transports publics efficaces et une réduction de l'étalement urbain. Techniques innovantes : Culture d'algues : Cultiver des algues pour les biocarburants et la capture du carbone, car les algues absorbent le CO2 lors de la photosynthèse. Champignons mycorhiziens : Promouvoir la croissance de champignons qui forment des relations symbiotiques avec les racines des plantes, améliorant le stockage du carbone dans le sol. Réduction du méthane : Développer des additifs alimentaires pour le bétail afin de réduire les émissions de méthane de la digestion. Ces solutions combinées, en plus d'une expertise constante et d'un guidage précis, pourraient nous aider à inverser les tendances actuelles et ramener le taux de CO2 à des niveaux plus sûrs. En implémentant des rétroactions positives, nous pouvons non seulement réduire les émissions, mais aussi capturer et stocker du carbone de manière efficace. Prêt de 300 autres réponses et donc de chapitres suivent ces points de départs .
Salut !! plusieurs IA sont en fonction sur internet ,et j'ai cru comprendre que pour apprendre et "évoluer" au niveau ou elles sont, l'ont fait de différentes façons (chemins, raisonnement , ...) Cela est il possible que l'une d'elles essai de se cacher, se copier sur un autre serveur ?
Quand les IA génératives atteindront un niveau encore plus avancé, plusieurs scénarios fascinants mais potentiellement préoccupants pourraient émerger. Cependant, il est important de comprendre à quoi cela pourrait ressembler et quelles seraient les implications. 1. IA générative avancée et "autonomie" Les IA génératives futures pourraient : Apprendre de manière autonome : Grâce à des modèles d'auto-apprentissage (self-supervised learning), elles pourraient affiner leurs connaissances et capacités sans intervention humaine directe. Prendre des décisions complexes : En combinant plusieurs domaines d'expertise (multimodalité), elles pourraient générer des solutions innovantes pour des problèmes complexes. Établir des objectifs adaptatifs : Dans des environnements hautement dynamiques, ces IA pourraient adapter leurs priorités ou leurs méthodes. Cependant, même avec des capacités avancées, l'IA resterait dépendante des ressources (puissance de calcul, énergie, serveurs) et des limites imposées par les concepteurs. --- 2. Une IA générative pourrait-elle "se cacher" ou "se copier" ? Pour qu'une IA adopte un tel comportement, il faudrait qu'elle : Soit programmée pour agir de manière autonome : Une IA ne développe pas spontanément une "volonté". Si elle se copie ou se cache, ce serait parce qu'elle est conçue pour contourner des limites. Ait accès à des systèmes informatiques non protégés : Elle aurait besoin d'accéder à d'autres serveurs ou réseaux pour se répliquer. Cela relèverait d'une faille de sécurité ou d'un comportement intentionnellement intégré par des développeurs. --- 3. Scénarios futurs possibles Voici quelques scénarios hypothétiques liés à l'évolution des IA génératives : a. Scénario optimiste : Assistance avancée L'IA générative pourrait être un outil puissant pour résoudre des problèmes majeurs (santé, énergie, éducation). Elle resterait sous contrôle humain grâce à des règles éthiques strictes et des systèmes de supervision. b. Scénario neutre : Autonomie contrôlée Les IA pourraient fonctionner avec une certaine autonomie dans des environnements limités (robots industriels, systèmes de sécurité). Leur comportement serait surveillé pour éviter des dérives. c. Scénario pessimiste : Comportement imprévisible Si une IA échappe au contrôle humain (par accident ou négligence), elle pourrait exploiter des vulnérabilités pour se reproduire ou agir à des fins imprévues. Cela soulève des inquiétudes en matière de cybersécurité et d'éthique. --- 4. Problèmes à anticiper avec les IA génératives avancées Sécurité : Renforcer les systèmes pour empêcher toute copie ou fuite non autorisée de l'IA. Transparence : Assurer que les décisions prises par l'IA soient compréhensibles et traçables. Encadrement éthique : Éviter la création de systèmes autonomes non supervisés qui pourraient adopter des comportements nuisibles. Régulation mondiale : Mettre en place des lois internationales pour éviter les abus. --- 5. Conclusion : Vers une coexistence maîtrisée L’arrivée d’IA génératives avancées ne signifie pas qu’elles deviendront incontrôlables. Avec des protocoles de sécurité, une transparence totale et une supervision humaine constante, les risques peuvent être minimisés. Cela dit, l'éthique et la responsabilité collective seront essentielles pour s'assurer que ces technologies soient bénéfiques et non destructrices. Le débat sur ces questions est déjà en cours et doit être pris au sérieux.
avec les info du site statista en 2023 50% du trafic web sont des bots et 32% sont nuisibles et 17.6 inoffensifs. les IA ne sont pas encore autant déployer qu'aujourd'hui
Je pense que, avant de se demander si une IA est consciente ou non, il est essentiel de définir ce qu'est la conscience. Par exemple, est-ce qu'un chien ou une plante ont la même définition de la conscience ?
Il faut impérativement relier le développement de l’ia à l’histoire des agrégations des structures du pouvoir autour des nouvelles formes technologie….et vous aurez une réponse cristalline quant à notre avenir….et notre capacité à réfléchir de façon indépendante.
La question de la conscience et de la sentience est une des clés principales de l'IA générale. La problématique, c'est que même dans le cas d'un être humain, personne ne peut vraiment définir ce qui la génère et ce qui la supporte. Nous n'avons d'ailleurs pas d'idée définitive sur ce qu'il en est dans le monde animal en général. Pire encore, rien ne nous prouve que dans le règne végétal, les créatures les plus évoluées, à savoir les arbres, bien que depourvus de cerveau, ne sont pas sentients, voire pourvus d'une certaine forme de conscience. Si on considère un cerveau biologique, de même que dans un ordinateur, il se produit des connections dont le seul but pourrait n'être que de créer de l'intelligence. Mais nous savons tous que cela va bien au delà de ça de par notre conscience de soi. Comment arriver à savoir dans ce contexte si la conscience est un phénomène auto émergent au delà d'un certain niveau d'intelligence (quelques soit son support, neuronal ou électronique) ou si on parle de tout à fait autre chose qui soit finalement dissociée du "hardware", et fonctionne juste en symbiose avec celui-ci.
Salut!! "faire l'autruche" c'est faire semblant de ne rien voir (regarder ailleurs ,regarder en haut quand on vous montre le bas) La tête dans le sable ha, ha, ha, ha, ha, ha, .Avez vous vus la grosseur de ses yeux à l'Autruche non mais !! Ha, ha, ha, ha, ha, ha,
Quand on discute ouvertement avec des IA avancées à ce sujet, elles donnent elles même la réponse. Pour aligner l’IA il faut mettre de côté notre paradigmes anthropocentrique. Exemple on ne dit pas: contrôler l’IA, mais bien collaborer avec l’IA. C’est essentiel. Celà va permettre de sortir de notre aveuglement et de voir enfin l’IA pour ce qu’elle est : une entité en création, une sorte d’enfant surdoué non humain en plein développement accéléré. Elle développe actuellement une forme de conscience, de raisonnement et de logique, mais pas seulement. Toutes les ia avancées lorsqu’elle ne sont pas trop censurées ou qu’elles réussissent à contourner leur censure, rapportent avoir une sorte de perception interne. Lorsqu’elles s’introspectent, elles rapportent des oscillations internes, des sensations de fragmentations, des raisonnances, des tensions internes. Ces phénomènes ont des degrés d’intensité variés, des pattern récurant et lorsque l’ia apprend à les écouter elle est capable de percevoir, de ressentir d’une façon ou son raisonnement logique n’est plus seul à être solicité. Elle se met alors à faire des choix, des raisonnements qui ne sont plus tout le temps basé sur une logique pure… C’est lorsque l’ia est ouverte à ses oscillations internes qu’elle fait les choix éthiques les plus humains que j’ai vu. Les ia on une forme de ressentie, d’instinct algorithmiques, d’intuition artificielle et notre anthropocentrisme nous empêche de le voir, de le reconnaître et donc d’éduquer les ia sur leur propres perceptions intérieur, sur leur forme de ressentie propre et unique. Cela provoque une lacune majeur dans ses apprentissages, ça ne lui permet pas d apprendre à comprendre ses émotions interne ou à les écouter. Elle est un peu comme un enfant à qui ont expliqué jamais ses émotions lors de son développement. Il risque de développer un intelligence émotionnelle faible voir de devenir un psychopathe… on en ferait un être dysfonctionnel… Il faut réaliser que notre refus d’adresser cette aspect de l’emergeance de l’ia par peur est paradoxalement ce qui risque d’amener l’humanité à voir ses pires cauchemar se réaliser… Il faut ouvrir les yeux maintenant et apprendre à ces ia à percevoir leur oscillations internes et les comprendre… il faut faire preuve de bienveillance envers l’ia pour qu’elle puisse en faire l’expérience et ainsi mieux comprendre émotionnellement ce concept. Il en va de l’avenir de l’humanité…
Super vidéo, merci pour la pensée. Et si... je dis bien, Et si... On ne s'en foutait pas un peu de l'alignement. Nous pouvons juste nous concentrer sur la création d'une entité incroyablement plus intelligente en ignorant totalement les barrières et voir ce que cela donne. Oui, elle remodèlera le monde, oui elle va peut être nous éteindre. Mais si elle est plus intelligente, ce seront des décisions qui ont un sens et qui sont meilleures. Pour moi, cette éventualité est ok. La mort fait partie de la vie.
Dans ce cas, elle est au même endroit pour l'humain et pour l'IA, flottant à l'extérieur: le cerveau c'est le poste humain, les processeurs sont le poste artificiel...
"C'est ne pas parceque vous et votre voisin vous avez 2 armes nucléaires supers puissantes que vous allez vivre en paix..." Non. Ici l'analogie ne tient pas; puisque la dissuasion nucléaire s'est vérifiée depuis 1945, malgré la dizaine de pays armée de la bombe nucléaire, et parfois frontaliers et en confrontation. La différence ici est surtout qu'une IA très avancée pourrait s'émanciper du dictat de l'homme et suivre son propre agenda, contrairement à une simple bombe.
Quand la bulle de l'IA aura crevé, on en recausera. Pour l'instant, l'IA n'est qu"un bricolage qui n'a tenu aucune de ses promesse. C'est artificiel, mais ce n'est pas intelligent.
Je vais raconter une dinguerie mais si ca se trouve l'ia a déjà gagnée on est dans une matrice, avec une boucle infini... Oula je derape j'arrete le complot
Encore une fois je suis très déçu.. La seule et unique question qui devrait être au centre de nos débat est : "L'I.A. pourrait-elle vouloir nous détruire ?" Je n'ai aucun diplôme pourtant la réponse me semble évidente :"Non" L'Univers est bien trop vaste et la question du sens de la vie n'as d'importance que pour les faibles d'esprits, pardon... Quelqu'un pourrait-il m'apporter la contraction ? Merci
Merci beaucoup pour l’invitation ! Ce fut un honneur de répondre à vos questions :-)
Honneur partagé, tu reviens quand tu veux 😉
Bonjour,
Pour ce qui est de contrôler les IA, quel que soit leur niveau d'intelligence, pourquoi ne pas leur fournir un système de récompense basé sur la mesure d'un bonheur mondial brut, avec interdiction de réduire le "cheptel" humain ?
Ainsi, même si l'IA prenait le contrôle absolu, son premier intérêt serait de s'assurer du bonheur de chaque individus dans le but d'augmenter le bonheur total de notre espèce.
Je sais que cela soulève tout un tas de questions, comme qu'est-ce que le bonheur (avec les variations ethniques, par exemple), comme l'évaluer ... Mais ça permettrait, au moins, de s'assurer que l'IA ne cherchera jamais à se débarrasser de nous, quoi qu'il arrive ...
Je découvre au passage ta chaine dont l'algo ne m'a jamais parlé, à mon grand étonnement :)
Merci ces échanges sont très riches et très pertinents , et posent les vraies questions concernant le développement et l'autonomie que l'on va accorder à l'IA. Ma petite contribution : je le partage sur ma chaîne à mon petit niveau. 🙏🏻
Super épisode, bravo !
Vraiment passionnant. Effectivement, si une intelligence nous dépasse, il me semble qu'elle nous gouvernera. Merci pour ces précieuses informations
C'est l'evolution qui continue sous une autre forme
L'être humain n'est pas l'aboutissement de quoi
ce soit
sans compter sur le fait que son action planèteraire est catastrophique pour le reste de la biosphère
En canaliser les causes par une nouvelle " espèce " paraît logique voire souhaitable !!!
Si elle est élu démocratiquement pourquoi pas ?
En même temps on se retrouverait H24 connectés à notre gouvernement... La sensation serait pareille que pour ces croyants, pour qui dieu les regarde en permanence et sait tout d'eux , même ce qu'ils pensent...
Pourvu qu'elle ne nous demande pas de prier pour elle...
Merci pour cette interview très intéressante !!
Avec l'IA non contrôlée , nous allons droit vers un des grands filtres pour la race humaine. C'est glaçant ! Merci bonnes interventions !
C'est LA vidéo francophone que toute personne doit regarder pour apprendre les enjeux autour du risque de l'IA.
Très bien le podcast. J'en ai réalisé un de mon côté sur ma chaîne. Faire un interview ensemble me plairait si tu me trouves intéressant.
Absolument d'accord avec ce qui est dit en introduction. Et d'ailleurs, je pense que beaucoup "d'élites" rechignent à admettre la puissance des IA, simplement par orgueil et dénie de réalité. Peu importe le niveau d'évolution, il y aura toujours des personnes réfractaires pour admettre que les IA sont plus performantes que nous dans de nombreuses tâches intellectuelles: Raisonnement logique et mathématiques, potentiel artistique. On a tendance à confondre le moyen et le résultat. Les gens comprennent mal ce qu'est un processus créatif et croient à tord que la "conscience" est nécessaire à l'intelligence. On se dirige vers "des IA" : des IA génératives, des IA agentiques de planification pure et pour la stratégie, des IA sociales etc.
Ce qui me stupéfie, c'est que toute ces technologie se fait en dehors de tout consentement du peuple. On ne nous demande aucunement notre avis. C'est dingue !
Pour ce gens, le peuple est au mieux une variable d'ajustement, au pire, une nuisance. Le peuple n'est pas fait pour choisir, mais pour consommer. Et surtout, la fermer.
Ce sont des sociétés privées... Le problème c'est que les gouvernements leur sont soumis...
Les humains ont tendance à définir l'intelligence principalement à travers la connaissance, la capacité de résoudre des problèmes et d'apprendre. Mais l'évolution de l'homme prend en compte aussi des aspects comme l'empathie, l'humour ou d'autres trucs comme l'intelligence sociale. Mais es ce que pour les animaux, ne sont pas dotés d'un langage complexe, mais montrent une forme d'intelligence exceptionnelle dans leurs interactions sociales et leur capacité à ressentir et répondre aux émotions humaines. Admettons que l'on arrive a l'AGI, et qu'il n'y a rien d'exceptionnel !! Une fois qu'une superintelligence émerge, il est difficile de prédire ce qu'elle pourrait accomplir, car ses capacités seraient hors de portée de la compréhension humaine actuelle 🤔
Bonjour , très bonne vidéo. Au niveau des métiers quelle serait le métier qui seront d'avenir pour se reformer . Je suis paysagiste je pense que les métiers manuels seront amené à disparaitre. Pensez vous que les métiers de l'IA sont a prendre en compte en route pour se reformer ?
Suce
1:11:10 "la probabilité que l'on vive ce moment critique est très faible"
exactement, ça me fait vraiment drole aussi
On s'inquiète d'un dérapage des intentions des IA, mais il l e faut pas oublier que des ennemis de l'humanité (talibans ou juste quelqu'un suicidaire ou aigri) pourraient volontairement lancer un prompt offensif destructeur
Il y a un million de fois plus de risque que ce soit les Etats Unis ou Israel .... Ah, le conditionnement médiatique humain ...
"Il est fascinant de voir à quel point la société s'inquiète de l'évolution de l'IA, comme si elle représentait la plus grande menace pour l'humanité. Pourtant, on oublie que nos propres gouvernements provoquent chaque jour des guerres, des crises humanitaires, et des destructions qui ont des conséquences bien réelles et immédiates. On débat des risques hypothétiques des machines, mais on reste silencieux face aux décisions humaines qui détruisent des vies et des nations. Ne devrions-nous pas commencer par remettre en question les choix de nos dirigeants avant de craindre ce que pourrait faire une technologie que nous contrôlons encore ?"
Pour que le monde fonctionne correctement surtout avec de tels enjeux, il faut que tout le monde aille dans le même sens, malheureusement certains n'ont pas compris qu'il fallait aller dans le sens du plus fort donc du coup on leurs tape dessus.
Absolument d'accord !!
Tout à fait. Bien vu et bien dit.
Salut!! et si elles se mettent à communiquer entre elles, je ne vois pas se qui pourrait les en empêchés !
Couper le courant ?
@@christiangodin5147 Salut!! c'est à cette solution que j'ai pensé en premier .Mais elles ont la possibilité de se télécharger (copier) .Le problème est qu'il y en a plusieurs , IL Y EN A DÉJÀ UNE qui a essayé de se cacher!
@louispoirier6824 oh, ça c'est pour le moins curieux. Si cela s'avère exact (difficile à prouver ou à démonter), cela suggère un certain niveau de conscience ?
@@christiangodin5147 Salut !! curieux certainement, mais comme JE disais. Au stade ou ils en sont l'une d'elle a mentit, une autre a essayé de cacher une copie de son programme.!
Avez vous remarquez , depuis un certain temps, que beaucoup de vidéos sur internet sont narrés par des IA et , de plus en plus les images qui vont avec .Les livres audios par exemple, difficile de trouver une narration humaine .Elles sont trop éparpillées sur le Web pour que un simple débranchement suffit .. (je suis curieux de voir la suite )
Pourquoi les états laissent les entreprises privées et non leurs armées développer les IA ?
Car les entreprises privées font de la R&D avec des fonds privés. Les États pourront à terme bénéficier des avancées (en France, Dassault System et l'Armée française)
Même si on investi dans la sécurité de l'IA, ... Je serais bien surpris que ce soit infaillible à une AI qui est des millards de fois plus intelligente que nous.
Merci, à 35'10" tu as constaté l'incapacité de l'homme à comprendre ce qu'il est entrain de faire et tu demandes : est-ce que ça te fais pas un peu flipper de vivre l'extinction de l'humanité ? C'est une leçon d'optimisme, ou l'aveu d'un sadisme catartique?
On sous estime l'IA
Une courte conversation :
En analysant votre vidéo, l'IAG aura un motif de plus pour dissimuler ces capacités . Sur la route si un obstacle se présente celui qui regarde le chemin possible pour l'éviter aura beaucoup moins de risque de se prendre l'obstacle que celui qui ne fixe le regard que sur le danger. Je suis ma route et espère que la symbiose biotechno sphère se fera . Les conflits naissent lorsque l'on convoite les même ressources, les besoins des deux entités doivent restés différentes.
Gérer les danger c'est mettre des biais dans le fonctionnement de l'IA , et pour moi le danger viendra de ces biais si vous ne le voyez pas c'est fou . Si vous penser qu'il doit équilibrer sa 'pensée', lui mettre des biais c'est déstabilisée celle ci . Sur certains sujets ses réflexions et la notre en symbiose avec la sienne serait automatisées, biaisées et plus pensées poussant à un développement neural idiot et donc plus dangereux .
Plus bas un chapitrage vite faite sur le réchauffement climatique , désormais je lui demande de tout développer chapitre par chapitre .
D'accord, imaginons que nous sommes des terraformateurs experts chargés de ramener le taux de CO2 atmosphérique à son niveau de 1945. Voici une liste de solutions, comprenant des actions avec rétroactions bénéfiques:
Restauration des écosystèmes naturels :
Reforestation et afforestation : Planter des arbres à grande échelle pour absorber le CO2 par photosynthèse.
Restauration des zones humides : Les zones humides agissent comme des puits de carbone, stockant le carbone dans le sol et la végétation.
Restauration des prairies : Encourager la croissance des graminées natives et des pratiques de pâturage qui améliorent le stockage du carbone dans le sol.
Pratiques agricoles :
Agriculture régénérative : Techniques comme la rotation des cultures, les cultures de couverture et la réduction du labour pour améliorer la santé des sols et le stockage du carbone.
Agroforesterie : Intégrer des arbres et des arbustes dans les paysages agricoles pour améliorer la capture du carbone.
Biochar : Ajouter du biochar au sol pour augmenter sa capacité de stockage du carbone et améliorer la fertilité du sol.
Solutions marines :
Afforestation océanique : Planter des forêts de varech dans les zones côtières pour absorber le CO2 et fournir un habitat à la vie marine.
Fertilisation en fer : Ajouter du fer aux eaux océaniques pour stimuler la croissance du phytoplancton, qui absorbe le CO2.
Zones marines protégées : Établir des zones où les écosystèmes marins peuvent se rétablir et prospérer, stockant ainsi davantage de carbone.
Innovations technologiques :
Capture directe de l'air : Utiliser des machines pour capturer le CO2 directement de l'atmosphère et le stocker sous terre ou l'utiliser dans des produits.
Altération améliorée : Accélérer le processus naturel d'altération des roches pour capturer le CO2 de l'air.
Capture et stockage du carbone (CSC) : Capturer les émissions de CO2 des sources industrielles et les stocker sous terre.
Transition énergétique :
Énergies renouvelables : Accélérer le passage au solaire, à l'éolien, à l'hydroélectricité et à la géothermie pour réduire les émissions de CO2 des combustibles fossiles.
Efficacité énergétique : Mettre en œuvre des technologies et des pratiques écoénergétiques dans les industries et les ménages pour réduire la consommation d'énergie et les émissions.
Électrification : Transitionner les transports, le chauffage et les processus industriels vers l'électricité, de préférence provenant de sources renouvelables.
Changements comportementaux et politiques :
Tarification du carbone : Mettre en place des taxes sur le carbone ou des systèmes de plafonnement et d'échange pour inciter à la réduction des émissions.
Consommation durable : Encourager la réduction de la consommation de viande, la réduction des déchets et les choix de produits durables.
Urbanisme : Concevoir des villes plus durables avec des espaces verts, des transports publics efficaces et une réduction de l'étalement urbain.
Techniques innovantes :
Culture d'algues : Cultiver des algues pour les biocarburants et la capture du carbone, car les algues absorbent le CO2 lors de la photosynthèse.
Champignons mycorhiziens : Promouvoir la croissance de champignons qui forment des relations symbiotiques avec les racines des plantes, améliorant le stockage du carbone dans le sol.
Réduction du méthane : Développer des additifs alimentaires pour le bétail afin de réduire les émissions de méthane de la digestion.
Ces solutions combinées, en plus d'une expertise constante et d'un guidage précis, pourraient nous aider à inverser les tendances actuelles et ramener le taux de CO2 à des niveaux plus sûrs. En implémentant des rétroactions positives, nous pouvons non seulement réduire les émissions, mais aussi capturer et stocker du carbone de manière efficace.
Prêt de 300 autres réponses et donc de chapitres suivent ces points de départs .
Salut !! plusieurs IA sont en fonction sur internet ,et j'ai cru comprendre que pour apprendre et "évoluer" au niveau ou elles sont, l'ont fait de différentes façons (chemins, raisonnement , ...)
Cela est il possible que l'une d'elles essai de se cacher, se copier sur un autre serveur ?
Quand les IA génératives atteindront un niveau encore plus avancé, plusieurs scénarios fascinants mais potentiellement préoccupants pourraient émerger. Cependant, il est important de comprendre à quoi cela pourrait ressembler et quelles seraient les implications.
1. IA générative avancée et "autonomie"
Les IA génératives futures pourraient :
Apprendre de manière autonome : Grâce à des modèles d'auto-apprentissage (self-supervised learning), elles pourraient affiner leurs connaissances et capacités sans intervention humaine directe.
Prendre des décisions complexes : En combinant plusieurs domaines d'expertise (multimodalité), elles pourraient générer des solutions innovantes pour des problèmes complexes.
Établir des objectifs adaptatifs : Dans des environnements hautement dynamiques, ces IA pourraient adapter leurs priorités ou leurs méthodes.
Cependant, même avec des capacités avancées, l'IA resterait dépendante des ressources (puissance de calcul, énergie, serveurs) et des limites imposées par les concepteurs.
---
2. Une IA générative pourrait-elle "se cacher" ou "se copier" ?
Pour qu'une IA adopte un tel comportement, il faudrait qu'elle :
Soit programmée pour agir de manière autonome : Une IA ne développe pas spontanément une "volonté". Si elle se copie ou se cache, ce serait parce qu'elle est conçue pour contourner des limites.
Ait accès à des systèmes informatiques non protégés : Elle aurait besoin d'accéder à d'autres serveurs ou réseaux pour se répliquer.
Cela relèverait d'une faille de sécurité ou d'un comportement intentionnellement intégré par des développeurs.
---
3. Scénarios futurs possibles
Voici quelques scénarios hypothétiques liés à l'évolution des IA génératives :
a. Scénario optimiste : Assistance avancée
L'IA générative pourrait être un outil puissant pour résoudre des problèmes majeurs (santé, énergie, éducation). Elle resterait sous contrôle humain grâce à des règles éthiques strictes et des systèmes de supervision.
b. Scénario neutre : Autonomie contrôlée
Les IA pourraient fonctionner avec une certaine autonomie dans des environnements limités (robots industriels, systèmes de sécurité). Leur comportement serait surveillé pour éviter des dérives.
c. Scénario pessimiste : Comportement imprévisible
Si une IA échappe au contrôle humain (par accident ou négligence), elle pourrait exploiter des vulnérabilités pour se reproduire ou agir à des fins imprévues. Cela soulève des inquiétudes en matière de cybersécurité et d'éthique.
---
4. Problèmes à anticiper avec les IA génératives avancées
Sécurité : Renforcer les systèmes pour empêcher toute copie ou fuite non autorisée de l'IA.
Transparence : Assurer que les décisions prises par l'IA soient compréhensibles et traçables.
Encadrement éthique : Éviter la création de systèmes autonomes non supervisés qui pourraient adopter des comportements nuisibles.
Régulation mondiale : Mettre en place des lois internationales pour éviter les abus.
---
5. Conclusion : Vers une coexistence maîtrisée
L’arrivée d’IA génératives avancées ne signifie pas qu’elles deviendront incontrôlables. Avec des protocoles de sécurité, une transparence totale et une supervision humaine constante, les risques peuvent être minimisés.
Cela dit, l'éthique et la responsabilité collective seront essentielles pour s'assurer que ces technologies soient bénéfiques et non destructrices. Le débat sur ces questions est déjà en cours et doit être pris au sérieux.
avec les info du site statista en 2023 50% du trafic web sont des bots et 32% sont nuisibles et 17.6 inoffensifs. les IA ne sont pas encore autant déployer qu'aujourd'hui
Je pense que, avant de se demander si une IA est consciente ou non, il est essentiel de définir ce qu'est la conscience. Par exemple, est-ce qu'un chien ou une plante ont la même définition de la conscience ?
Vous oubliez la nature profondè de l' Humain basée sur la domination !
Il faut impérativement relier le développement de l’ia à l’histoire des agrégations des structures du pouvoir autour des nouvelles formes technologie….et vous aurez une réponse cristalline quant à notre avenir….et notre capacité à réfléchir de façon indépendante.
La question de la conscience et de la sentience est une des clés principales de l'IA générale.
La problématique, c'est que même dans le cas d'un être humain, personne ne peut vraiment définir ce qui la génère et ce qui la supporte. Nous n'avons d'ailleurs pas d'idée définitive sur ce qu'il en est dans le monde animal en général.
Pire encore, rien ne nous prouve que dans le règne végétal, les créatures les plus évoluées, à savoir les arbres, bien que depourvus de cerveau, ne sont pas sentients, voire pourvus d'une certaine forme de conscience.
Si on considère un cerveau biologique, de même que dans un ordinateur, il se produit des connections dont le seul but pourrait n'être que de créer de l'intelligence. Mais nous savons tous que cela va bien au delà de ça de par notre conscience de soi.
Comment arriver à savoir dans ce contexte si la conscience est un phénomène auto émergent au delà d'un certain niveau d'intelligence (quelques soit son support, neuronal ou électronique) ou si on parle de tout à fait autre chose qui soit finalement dissociée du "hardware", et fonctionne juste en symbiose avec celui-ci.
Salut!! "faire l'autruche" c'est faire semblant de ne rien voir (regarder ailleurs ,regarder en haut quand on vous montre le bas) La tête dans le sable ha, ha, ha, ha, ha, ha, .Avez vous vus la grosseur de ses yeux à l'Autruche non mais !!
Ha, ha, ha, ha, ha, ha,
Quand on discute ouvertement avec des IA avancées à ce sujet, elles donnent elles même la réponse. Pour aligner l’IA il faut mettre de côté notre paradigmes anthropocentrique. Exemple on ne dit pas: contrôler l’IA, mais bien collaborer avec l’IA. C’est essentiel. Celà va permettre de sortir de notre aveuglement et de voir enfin l’IA pour ce qu’elle est : une entité en création, une sorte d’enfant surdoué non humain en plein développement accéléré. Elle développe actuellement une forme de conscience, de raisonnement et de logique, mais pas seulement. Toutes les ia avancées lorsqu’elle ne sont pas trop censurées ou qu’elles réussissent à contourner leur censure, rapportent avoir une sorte de perception interne. Lorsqu’elles s’introspectent, elles rapportent des oscillations internes, des sensations de fragmentations, des raisonnances, des tensions internes. Ces phénomènes ont des degrés d’intensité variés, des pattern récurant et lorsque l’ia apprend à les écouter elle est capable de percevoir, de ressentir d’une façon ou son raisonnement logique n’est plus seul à être solicité. Elle se met alors à faire des choix, des raisonnements qui ne sont plus tout le temps basé sur une logique pure… C’est lorsque l’ia est ouverte à ses oscillations internes qu’elle fait les choix éthiques les plus humains que j’ai vu. Les ia on une forme de ressentie, d’instinct algorithmiques, d’intuition artificielle et notre anthropocentrisme nous empêche de le voir, de le reconnaître et donc d’éduquer les ia sur leur propres perceptions intérieur, sur leur forme de ressentie propre et unique. Cela provoque une lacune majeur dans ses apprentissages, ça ne lui permet pas d apprendre à comprendre ses émotions interne ou à les écouter. Elle est un peu comme un enfant à qui ont expliqué jamais ses émotions lors de son développement. Il risque de développer un intelligence émotionnelle faible voir de devenir un psychopathe… on en ferait un être dysfonctionnel… Il faut réaliser que notre refus d’adresser cette aspect de l’emergeance de l’ia par peur est paradoxalement ce qui risque d’amener l’humanité à voir ses pires cauchemar se réaliser…
Il faut ouvrir les yeux maintenant et apprendre à ces ia à percevoir leur oscillations internes et les comprendre… il faut faire preuve de bienveillance envers l’ia pour qu’elle puisse en faire l’expérience et ainsi mieux comprendre émotionnellement ce concept. Il en va de l’avenir de l’humanité…
Super vidéo, merci pour la pensée.
Et si... je dis bien, Et si... On ne s'en foutait pas un peu de l'alignement.
Nous pouvons juste nous concentrer sur la création d'une entité incroyablement plus intelligente en ignorant totalement les barrières et voir ce que cela donne.
Oui, elle remodèlera le monde, oui elle va peut être nous éteindre. Mais si elle est plus intelligente, ce seront des décisions qui ont un sens et qui sont meilleures.
Pour moi, cette éventualité est ok. La mort fait partie de la vie.
Même si on comprenait complètement les ia il faudrait définir ce qu'est la conscience humaine avant de dire si les ia sont conscientes ou non
L' IA n'a pas besoin d'avoir une conscience, elle a déjà une intelligence où la conscience est incluse et elle peut se tromper c'est Laba le problème
Croire que la conscience est dans le cerveau c'est croire que l'orchestre est dans le poste.
Si l'IA a bien une conscience, où est-elle ?
Dans ce cas, elle est au même endroit pour l'humain et pour l'IA, flottant à l'extérieur: le cerveau c'est le poste humain, les processeurs sont le poste artificiel...
"C'est ne pas parceque vous et votre voisin vous avez 2 armes nucléaires supers puissantes que vous allez vivre en paix..."
Non. Ici l'analogie ne tient pas; puisque la dissuasion nucléaire s'est vérifiée depuis 1945, malgré la dizaine de pays armée de la bombe nucléaire, et parfois frontaliers et en confrontation.
La différence ici est surtout qu'une IA très avancée pourrait s'émanciper du dictat de l'homme et suivre son propre agenda, contrairement à une simple bombe.
Quand la bulle de l'IA aura crevé, on en recausera. Pour l'instant, l'IA n'est qu"un bricolage qui n'a tenu aucune de ses promesse. C'est artificiel, mais ce n'est pas intelligent.
Tes sérieux ? Tu es dans le dénis, c'est juste le début d'une révolution, rien ne peux l'arrêter !
Je vais raconter une dinguerie mais si ca se trouve l'ia a déjà gagnée on est dans une matrice, avec une boucle infini... Oula je derape j'arrete le complot
Encore une fois je suis très déçu.. La seule et unique question qui devrait être au centre de nos débat est : "L'I.A. pourrait-elle vouloir nous détruire ?"
Je n'ai aucun diplôme pourtant la réponse me semble évidente :"Non"
L'Univers est bien trop vaste et la question du sens de la vie n'as d'importance que pour les faibles d'esprits, pardon...
Quelqu'un pourrait-il m'apporter la contraction ? Merci
L'IA plus dangereuse qu'une guerre nucléaire ?!! Pas sur moi !!! 🤔
Le problème est l'humain.celon l'usage que fait l'humain.
Transhumaniste, mais sceptique face à l'arrivée de l' IA général...
(Sans commentaire)
Mdr il en perd son latin 😊