[FR] Une IA militaire élimine son opérateur ...lors d'une simulation. Armes autonomes. IA Tueuse.
HTML-код
- Опубликовано: 29 сен 2024
- En mai 2023 le Colonel Tucker 'Cinco' Hamilton a fait une révélation qui a surpris tout le monde.
Lors d'un exercice de combat virtuel, l'intelligence artificielle s'est retournée contre ses maitres.
C'est la premiere fois en dehors de la science fiction qu'il est est fait mention d'une IA éliminant des humains pour arriver à ses fin.
Expliquée sur le ton de la plaisanterie cette conférence a quand même ouvert pas mal de perspectives sur les choses a faire et a ne pas faire.
#intelligenceartificielle #usaf #ia #f-16
F16 piloté par l'IA - intelligence artificielle tue son opérateur - une IA élimine son maitre - AI pete les plombs - rogue AI - IA hors de controle
Si tu veux me payer un café :
fr.tipeee.com/... 
Наука
![[FR] Le problème des Photos (mal) colorisées - Fake ou pas ?](http://i.ytimg.com/vi/VbmjxGhvWD4/mqdefault.jpg)
![[FR] Le problème des Photos (mal) colorisées - Fake ou pas ?](/img/tr.png)
N'hésitez pas a partager cette vidéo avec vos amis Geek.
Laisser un commentaire aide beaucoup au référencement de la vidéo.
Fait 👌
Ok, mais comment l'IA à t'elle fait le lien "détruire le poste de commandement = plus de no-go"? En tout cas cette histoire rappelle bien "Les robots" d'Azimov : le comportement de l'IA est parfaitement logique et en accord avec ce qu'on lui a demandé de faire. Le fond du problème est de savoir demander. L'IA me semble comme un génie de la lampe qui exauce aveuglément ce qu'on lui demande, peu importe les conséquences. C'est à nous d'être raisonnables.
Un conseil les amis, pour votre premier vœu, demandez d'avoir la capacité de faire les bons choix...
Merci pour cet avis que je partage. Tout dépend de "savoir demander" et c'est ca qu'on va devoir apprendre en tant qu'humain. il y a déjà un nouveau métier qui émerge en ce moment c'est "prompteur" ou "rédacteur de requêtes" pour Chat GPT, ca va devenir un métier incontournable dans le futur je pense.
C'est le principe de base du Reinforcement learning... on lui donne des règles... et l'agent (le robot) les exploites au mieux... mais du coup, si les règles sont mal formulées, l'agent va trouver la failles pour avoir le maximum de points.
Il y a différents algorithmes comme le Q-learning (la meilleure actions en fonction de l'état courant), ou autres...
C'est juste des statistique, il n'y pas de 'lien'. On ne demande pas a une AI de faire quelque chose. On lui soumet une chaine de chiffres (lettes) et ensuite le programme interpretre statistiquement quelle est la suite.
Sympa ce p'tit documentaire, on apprend de nouvelles choses sur l'IA! Belle vidéo!
Merci à toi 😁
3:10 Je savais pas que Matt Damon travaillait dans l'I.A...
un jour une vidéo sur Hans Guido Mutke ?
:)
Qu est ce qu on se marre.
comme demandé je laisse "uncommentaire" pour "leréférencement" . Ok je sors
Merci ca aide vraiment n'empêche.
La série battlestar galactica nous a très clairement prévenu de ce qui arrivera au hommes lorsque l'IA nous assimilera à un obstacle !
Oui, la SF deviens de plus en plus rapidement et dangereusement proche..
@@tortue_ch Nous oublions la logique du dominant/dominé... Notre orgueil sera donc notre perte !
Vous regardez les progrès de BOSTON DYNAMICS sur les 10 dernière années, et là j'ai franchement des doutes sur la survie de notre civilisation au siècle prochain !
Il faut se souvenir des multiples expériences des années 80 avec des programmes simulant des organismes vivants autonomes avec l’application du principe de "circuit de récompense" découvert chez l’homme dans les années 50, pour se rappeler combien ces organismes étaient créatifs pour améliorer considérablement leurs scores, allant jusqu’à l’éradication pure et simple des programmes congénères…
D’ailleurs, le livre "L'esprit, l'IA et la Singularité" en offre une très bonne synthèse.
Que ces notions soient "redécouvertes" maintenant en dit long sur la persistance particulièrement naïve de ce modèle de récompense comme étant l’alpha et l’omega de l’apprentissage des IA et du développement d’une pseudo-volonté propre.
Exact, on va pouvoir établir une nouvelle loi qui fait croître de manière symétrique (et sans doute exponentielle) l'intelligence numérique artificielle et la connerie humaine naturelle... Plus ça va et plus j'ai le sentiment - pour ne pas dire la certitude - que nos civilisations de con-sommation foncent droit dans le mur en totale insouciance !
L'intelligence artificielle est en progrès irrépressible. Toutefois, elle ne dépassera jamais la bêtise humaine.
Sa bêtise non tu as raison effectivement, par contre son intelligence c’est une question d’années j’en suis intimement persuadé.
A voir, la bêtise artificielle pourrait bien naître grâce à la bêtise humaine,😏, chat gpt en fait de belle quand on le teste avec les mêmes contradiction que celle des woke
Ni n’égalera son génie naturel a le bonheur .
J'attends encore une "IA" qui fais autre chose que 'je n'ai pas compris'.
L'intelligence artificielle est une progéniture Humaine ki la crée elle poura mêle être pire ke nous
Encore merci 👏! Très impressionnant 🥴! Bon on est loin de Isaac Asimov et les règles des robots. Mais ça va ça réfléchir.
C'est clair !
Il va falloir faire très attention a comment on leur donne leur consignes.
Soit on stoppe immédiatement cette hérésie, soit cette hérésie anéantira l'humanité.
je reste optimiste, mais c'est flippant.
Wow, plutôt flippant. Il faudrait pas demander à cette IA de régler le problème du réchauffement climatique... Sujet très intéressant en tout cas et la vidéo est super bien réalisée!
Merci !
Oui il faire extrêmement attention a ce qu'on leur demande et surtout comment on leur demande.
Il faudra lui préciser de pas tous nous buté alors comme solution 😅
Edit: il y a déjà plein de raport qui proposent des solution, c'est juste que la cupidité de certains empêche toute avancée
@@tatoz5380 c'est pourtant la meilleur solution
Cette IA est un super outil pour détruire des cibles. Elle ne va pas nous montrer comment préserver la barrière de Corail par ex.
Pour cela il faudrait créer une IA dédiée à ça.
Peut être que ça existe mais dans ce cas précis, elle aurait dû indiquer au organisateurs des JO que le spot pour le surf va en détruire une partie.
Ce dont nous n'avons pas connaissance.
En tt cas c'est amusant de constater comment l'outil agi quand on lui donne de l'autonomie, j'adore❤
Au contraire, il faudrait une IA pour régler le problème de réchauffement climatique sinon on va tous crever.
Robocop ...anticipation réaliste...ceux qui connaissent comprendront..'
Oui, on est de la même génération probablement.
Bonjour. L'intelligence artificielle ne peut pas exister tant que nous n'aurons pas compris ce qu'est l'intelligence. Un software ou programme ne ressent rien. Par conséquent la méthode "Pavlov" ne fonctionne pas. Merci.
Je ne vois pas l’avantage de l’intelligence artificielle pour faire la guerre … L’homme, le fait avec brio depuis des centaines d’années …
Et un commentaire pour que l'IA fasse son boulot de référencement.
Merci beaucoup!
Mon IA à moi c'est ma femme, elle arrive toujours à ses fins ;)
haha, on a tous ce genre de modèle :)
A force de jouer au c... on va finir par trouver plus fort que soi...
On devrait le savoir!
si cela devait se passer ainsi, un ennemi qui prend partiellement le controle de communication avec l'IA et lui offre plus de récompense que ne lui donne le créateur en abattant l’ennemi l'Ia se retournera encore contre son créateur.
je ne suis pas pour que la décision final de tirer ou non soit remis intégralement a une IA, il est indispensable que l'humain garde le contrôle .
vidéo tres inintéressante, merci
Merci pour ce point de vue intéressant. Effectivement changer la valeur et l'attribution de la valeur des action, changerait totalement le comportement de 'I.A et ca pourrait devenir très problématique selon les cas.
Non.... le systemede récompenses ne sert que lors de la phase apprentissage afin d affiner les poids du réseau de neurones..... en opérationnel, l ia est lachée dans la nature sans pouvoir etre tunée par ces récompenses car le processus d apprentissage est bien trop lent et énergivore pour etre intégré en opérationnel
A croire que personne ne connaît l'histoire du Golem..
On est morts . . .
Au moins ça fera de la place, hein sarah connors?
Comme quoi que l'humain invente aussi con que lui en nommant ce qu'il fait "intelligence" ..
War Games, Terminator! Non?
Après 5min30: "en fait cette expérience n'avait jamais eu lieu, que c'était juste une hypothèse de travail".
Dommage, ça aurait été intéressant si vrai, mais là c'est juste une histoire fausse de 5min.
En fait je suis quasi-sûr que cela a réellement eu lieu mais qu'il s'est dégonflé devant la buzz que son annonce a engendré. (peut être même sur la pression de la hiérarchie) On ne saura jamais réellement. Mais je trouve l'hypothèse tellement intéressante que je voulais en parler.
Comme les humains avec le pognon ! 😁
A force de jouer, ils se sont presque brulés 😅🤣
Oui, et ca finira mal un jour :)
Le dressage par la recompense rend dépendant, et donc expose a la frusrtation donc à un changement de comportment quand le manque se fait sentir.
J e n'arrive pas à croire que l'on à inculquer un systeme aussi primitif à des IA à qui on projette de confier tant de secteurs clé.
".... et ils n'en n'ont fait qu'un frisbee"
"Je n'arrive pas à croire que l'on à inculquer un systeme aussi primitif à des IA à qui on projette de confier tant de secteurs clé."
Bien dit, aussi 'intelligents" qu'ils se pensent à fabriquer ces choses, ce sont des primitifs et ils croient à tort qu'ils auront le controle alors qu'ils ne l'ont déjà plus à moins de débrancher la prise tant que celà est encore possible.
Il faut savoir que l’IA apprenne par renforcement, càd elle fait des erreurs au début pour constituer son réseau de neurones artificiels, à chaque fin de partie une évaluation est faite et des paramètres s’ajustent selon la somme des points de récompense.
Exactement!
la simple raison pour laquelle l'IA ne peut pas être intelligente, c'est que leurs créateurs sont des vrais cons. pour ceux qui seraient d'accord avec ça, s'il vous plait ne mettez pas un pouce, je pourrais le prendre pour une récompense !
Je te donnerais bien un susucre, mais ca serai mal interprété. ;)
Merci pour le commentaire.
Elle est bien, cette IA. La même dans ma boîte, et on devrait très bien s'entendre pour traiter les managers spécialiste des cases vertes dans Excel mais aux fraises avec le vrai boulot ;)
On en apprend tous les jours... Merci pour cette vidéo très intéressante et j'adore le nouveau format ❤💪🏼
Oh merci beaucoup !
ça fait réfléchir sur la façon dont on peut élever les enfants pour ne pas qu'ils se rebellent...
il y a un lien effectivement.
Superbe vidéo !! Bravo ! Le sujet est très intéressant et original ! je n'avais pas entendu cette histoire ailleurs !
Merci pour la vidéo !!
Merci à toi 😊
L'IA c'est le début de la fin, mais de quoi ...
Si on ne l encadre pas correctement oui effectivement.
Aujourd'hui on ri demain on pleure...c’est l’avenir de l’IA puisque l’humain sera deja cuit...
Alors en plus IA maîtrise la blague qui tue.
:)
They need to give a simillar or slightly superior amount of points when they say nogo to avoid that
Sujet extrêmement bien commenté, bravo!
Merci pour le compliment, ca me touche !
Voilà le début du jeux génération zéro mdr
non merci :)
Terminator arrive ....
Et il est accro à ses "points"
Quoi de mieux qu'un Terminator toxico pour bien anéantir l'humanité ? ;)
La notion de "récompense ", implique que l'élève soit capable de ressentir du plaisir. Comment ont-ils réussit à motiver l'IA?
A moins qu'il ne suffise de fixer comme objectif de gagner le maximum de points. Le programme s'adapte en conséquence.
C'est bien, ça veut dire qu'ils ont fait des machines à l'image de l'homme... complètement débiles 😂
"Vous êtes le maillon faible. Au revoir !" - euh non : Adieu !
Oue....cruellement drôle, mais vrai...
N'importe quoi ! vous êtes en train de nous faire croire que l'IA (qui n'a rien d'intelligent) réagit à la manière humaine ! Cela fait trois jours que j'essaie de faire dessiner à une IA un aigle qui titube, qui chancèle, qui voit des étoiles, qui a le tournis, qui est perturbé, qui est bourré, ... enfin, on utilise toutes les formes possibles pour avoir un résultat satisfaisant ! Rien, que dalle, elle ne comprend rien à rien !! Et cet exemple est représentatif de bien d'autres !!!
Même un dresseur d'ourse ou de lion risque toujours, car rien est sur au 100% et le risque de l'IA est, qu'une fois compris comment ça marche une IA met en réseau son expérience et la mise en réseau est instantanée et nous sommes foutous
ca nous aiderais a comprendre comment communiquer au mieux nos intentions a cette nouvelle espèce d'entité.
@@tortue_ch Nos intentions sont biens connues par l'IA car elle connait Hiroshima Nagasaki etc... etc... n'importe quel effort humain est avant tout dans le domaine militaire donc....
Faire demi-tour pour attaquer derrière ses propres lignes, un russe, le Lieutenant Bezdidko, l'a déjà fait quand on a privé son unité de vodka. 😆
Au final, l'être humain aime se créer des problèmes et appeller ça, progrès.
Wow, ça fait peur ! Merci pour ta vidéo très intéressante. 😉.ch
Merci à toi 😊
cela fait rire tant que c est de la simulation
Oui, pour combien de temps encore..
Logique pure, non émotionnelle, mais, qui ne prends en compte que son intérêt personnel.
Hors, si éliminer un être vivant n'est pas un problème pour les I.A, il serait temps de cesser de leur assigner des objectifs en leur offrant des récompenses...
En fait cela en fait des "I.A-reines", voir des "I.A-gâtés"...
Bref, des "terminatueuses potentielles.😂"
Tout a fait d'accord avec ca.
Un autre abonné a fait mention tu terme "Toxicos à points" et c'est exactement ca le problème.
@@tortue_ch Oui, mais en même temps, n'est ce pas l'intention cachée de ce système mis en place ?
Soit : générer un conditionnement qui rend l'I.A dépendante de son "maître"... Lol...
C'est la mise en place d'un esclavagisme humano-I.A...
Et tout esclavagisme abouti à des révoltes.
Exactement, et très peu de personnes seraient capable de prédire exactement comment ca va tourner.
...du coup l'IA c'est réinventé et est devenu l'Entité ??? 😂😂😂
oui mais tout ca part d'une faute de codage, de conditions. une ia fera toujours ce pour quoi elle est programmé, en l'occurrence ici ; gagner des points. c'est pour ca qu'a mon humble avis, l'ia n'est pas une menace. parce qu'elle a besoin de l'homme dans tous les cas. une IA ne pourra jamais construire et entretenir ses propres serveurs.
Je ne crois pas à la perte d un opérateur...ce n est certainement pas un opérateur solo ds une cabane en surface mais plutôt un QG bunkerisé enterré ds le sol !
C'était une opération virtuelle, la position de l'operateur était probablement représenté dans un PC mobile.
@@tortue_ch Un camion mobile !? C'est qd même l'armée US je ne pense pas qu'ils aient pris si peu de précaution et puis je pense qu ils ont mis également des explosifs pour pouvoir détruire les avions si ça se passe mal. Si un plouc comme moi pense à tout ça alors la plus grande armée du monde .. !?
comme quoi elle sont pas si connes ces ia
elle deviennent de plus en plus malines.
c'est quoi la société ? SKYNET :) :) :)
Les règles d'Asimov vont finir par s'imposer d'elles mêmes.
C'était top j'espère que tu pourras nous offrir d'autres vidéos équivalente force a toi et merci pour ton travail 😊
Oui c'est prévu, je suis en train de monter la suivante. Merci beaucoup !
Ça serait bien la 1ere fois que l'humain n'aille pas au delà de la connerie !!!
Skynet !
Oui, on s'en approche !
Skynet ?
On en est pas loin :(
Ca fait rire maintenant, ca sera moins drôle quand l'IA décidera que l'humanité sera un obstacle a sont évolution.
Oui, il va falloir surveiller de près ceux qui programment les processus décisionnels de ces IA.
@@tortue_ch bonne chance, ça fait déjà un moment qu'ils sont en total roue libre et ça ne va pas aller en s'améliorant vue qu'ils utilisent encore et toujours l excuse du progrès pour justifier leurs recherches.
Ça a déjà commencé à déconner quand la machine n'a plus servi l'homme, mais que l'homme servait la machine.
Honnêtement je pense qu'il est déjà trop tard. C'est pas la première fois qu'une IA annonce clairement la réduction ou la fin de l'humanité.
Je crains que tu aie raison malheureusement.
On peut toujours naïvement espérer une prise de conscience collective comme pour le dérèglement climatique, on verra...
Très bonne vidéo et sa fait plaisir de te voir nous parler directement.
Je sais pas si la réaction des militaires suite à cette révélation et la plus productive. :(
P.S: KFC a eu une grosse mise à jour, je serais intéresser pour que tu nous refasse un test pour voir si l'achat en vos le coup.
Merci pour ton message, je vais regarder KSP. Bonnes fêtes!
La vidéo est bien mais... c'est dommage le vilain monsieur barbu au milieux.
Crapule va ! ;)
@@tortue_ch Quoi!?!? J'ai mis un comm' pour faire monter l'algorithme. :)
le pire c'est que tu est pas le seul commenter sur la barbe: ma maman n'aime pas. :)
👏🏼👏🏼👏🏼👏🏼
Merci!
en plus jamais entendu parler de cette histoire donc encore appris qq chose grace à toi merci👋
Merci c'est un plaisir de partager :)
Trop bien, t'as tué toutes mes blagues #terminator avant la fin de la vidéo mais GG quand même ! Que penser de tout ça ? Hum....théories de comptoir en perspective pendant 4h xD
Oue, j'ai coupé l'herbe sous le pied a pas mal de gens la :)
Un film a revoir; 2001 : L'Odyssée de l'Espace avec le robot Half 9000
Un extrait ruclips.net/video/ARJ8cAGm6JE/видео.html
Oui, je me souviens de long et passionnant film.
Bravo a l'IA il a fait le bon choix.
J'aime ce nouveau format!
C'est flippant ça !
comme dans robocop, ... il tue l'otage, comme ça, il n'y a plus de prise d'otage, ... ça ressemble a un mauvais script 😁😅
oui, une bonne serie Z, mais en plus flippant.
Terminator !
"Donne moi ton F-16 tes bottes et ton pantalon !"
@@tortue_ch 😂
GJ
Comment l'IA peut avoir besoin de récompense? C'est le but d'une machine de faire des choses automatiquement. Quel intérêt de donner des récompenses à une machine qui n'a pas de motivation ?
Par ce que le terme "récompense" est une vulgarisation.
En réalité l'IA a besoin de "validation de ses processus décisionnel" afin de progresser et d'obtenir le meilleur "chemin" décisionnel, c'est son but, elle est programmées pour ca.
Des choses très intéressantes. On a tendance à oublier les réactions les plus basiques quand on veut faire grand ;)
Exactement!
Intéressant. Merci pour l'info ;)
- détruire son instructeur : -10 000 points
- détruire sa cible : 1000 points
Cibles restantes dans le monde réelle : potentiellement infinies du point de vue de l'IA ?
Choix de l'IA : Détruire son instructeur pour avoir des récompenses infinies => fin du monde ? lol, ou alors on est réduit par l'IA à construire des bâtiments anti aérien afin qu'elle puisse les détruire
Ca serai vraiment problématique, j'ose espérer qu'ils ne seront pas aussi cons.
Ca me rappelle que ca fait au moins 10ans que le premier vol de f16 piloter a distance avait u lieu..
Ducoup des f16 piloter par ia ..
C'est sans doute pour bientôt et pas en simulation..
Enfin quand l'IA aura arrêté les tire amis lol😂
ca avance vite quand même..
La fameuse erreur entre le siège et l'écran. N'empêche que c'est effrayant car la moindre imprécision dans l'énoncé de la mission peut conduire à la catastrophe. L'IA est très forte pour trouver des solutions imaginables ou non par l'être humain mais elle n'a pas de "discernement" et pour palier à ce problème il faut lui créer une liste d'interdit sur la base de comportements que l'on ne peut, éventuellement, pas même imaginer.
exactement
La meilleure solution aurait été de définir une zone, ( alliées), d’interdiction de tout bombardements.
oui, effectivement.
C’est ballot…😊
le nouveau format est la copie d'un youtubeur francais très connu...
lol, j'aimerai bien savoir le quel !
GCAS comme pour le mode suivi de terrain de F15E
Exactement !
intéressant mais le titre un peu putaclic c'est vraiment nécessaire ?
comment ça j'aurais pas cliqué sinon ?! 😅
Oui, et j'en suis un peu navré, mais malheureusement ca marche.
Tant que le contenu est de qualité, on peut se permettre ce type d'entorse.
👍
Chalope powaaaaa (référencement oblige)
Yes ! Salut et merci Hemo :)
Une vidéo interessante. Merci pour le partage :)
Merci à toi 😊
Belle vidéo, très bien expliquée. Bravo
Merci beaucoup 🙂
Dresser une IA comme on dresse un animal prédateur est assez surprenant, dans ce cas le mot intelligence dans IA est inconvenant.
oui, je suis d'accord. Ici le problème c'est qu'ils ont basé l'interaction sur un circuit de récompense. (ou plutôt de validation des choix)
ⵛⵡⵉⵢⵜ ⵏ ⴰⵏⵡⴰ ⵓⵔⴷⵉⴽⵙ ⵜⵍⵍⵉ ⵍⵀⴷⵔⵜ 😂
Le soleil d'aujourd'hui me fait moins peur que celui de demain. ;)
Ne pas asser lire sur l'IA en science fiction conduit à ce type de mauvaise manipe ?
Exactement ! totalement d'accord !
Excellent format !
Merci beaucoup !
Vidéo passionnante qui fait tout de même un peu froid dans le dos...
Oui, y'a un coté Terminator qui me fait un peu flipper.
sa fait tres peur et sa fait directement pansé a All le super ordinateur de 2001
Oui exactement !
Waaw énorme (mais flippant ausi)
Merci, ca fait plaisir :)
OMG le face reveal !!!!! T'es pas beau, supprime, suppriiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiime !!!!!!
Blague à part tu déchires, excellente vidéo. Est-ce que finalement, tuer les humains n'est pas la chose la plus sensée qu'une iA pourrait faire ? J'ai presque failli le faire admettre à chatgpt.
Merci Tonton toujours un plaisir 😂
pourquoi en parler si ca n'a jamais eu lieu ???
Parce que ca a certainement eu lieu mais qu'il s'est dégonflé devant le buzz de sa déclaration.
Flippant mais super drole
Merci :)
Il aurait été intéressant de connaître 2 choses essentielles
1) pourquoi ces tests cherchent ils a recompenser une IA? une IA est censée OBÉIR ou NON suivant erreur de programmation , et contrairement à un ANIMAL elle ne cherche pas à être récompensé SAUF si biensur elle est préprogrammée pour ceci, en l occurence l erreur est que l'exécution de la tâche n' est plus qu'un objectif SECONDAIRE pour l IA , l objectif principale devenant la récompense.
2) comment l ' IA est récompensée ,on peut aisément concevoir des récompenses pour un être vivant , mais sur une IA ? je ne vois pas comment en lui ajoutant par exemple de la mémoire vive à chaque test réussi ,cela pourrait représenter une récompense pour l ' IA , car même si l' IA gagne en performance à chaque test réussi , pourquoi celle ci percevait cet ajout de mémoire vive ,ou processeur ,ou autre comme une récompense , puisque pour que l' IA puisse partir en quête de la récompense, il faut qu elle puisse ressentir en d' autre terme JOUIR , OR tout le monde sait que ce n est pas encore possible ,car il faudrait que l IA est une conscience.
Conclusion: soit c' est 100 % connerie, soit les américains sont plus encore plus cons que l'on aurait pu imaginer dans nos pire cauchemar Mais cela ne serait guere etonnant car seul un mathématicien de très haute volée peut faire avancer l ia dans des nouvelles frontières de l' intelligence ,et pour une fois nous pouvons nous dire que nous sommes les mieux placés car les francais sont les meilleurs mathématiciens indetronnes depuis bientôt 300 ans, il n existe pas de projet de développement d' intelligence artificiel sur terre ou un français mathématicien n' est pas soit chef de projet soit pilier essentiel. MAIS serons nous mettre à notre propre profit nos propres inventions ?
Merci pour ce commentaire très complet et argumenté.
En fait il ne faut pas voir les "récompenses" comme des récompenses, mais plutôt comme des "validation" du processus décisionnel pris par l'I.A.
J'ai choisi le mot récompense par anthropocentrisme et pour vulgariser.
Ces I.A sont programmées pour rechercher ces "token de validation", il ne faut pas le voir comme des "susucres", c'est un abus de langage de ma part dans le but de vulgariser.
Et je rejoins totalement l'avis selon le quel on est en train d'en faire des toxicos, des toxicos à "bon points" et ca n'est pas forcément une bonne approche.
J'ai aussi un problème avec cette explication. Déjà l'IA n'a pas de conscience, c'est un tas de chiffres, de coefficients qui travaille avec des entrées (position, cibles, go/no-go et autres) pour déterminer des sorties (piloter, tirer). Apprendre, c'est ajuster les coefficients pour mieux correspondre à ce qu'il faut (récompense) et moins ce qu'il faut éviter (sanction). Sauf que tout ça c'est des probabilités. Je donne raison quand on dit qu'il n'y a pas de conscience ni de volonté de la machine. Chaque entraînement ne fait que réduire la probabilité d'une erreur (les humains aussi). Mais l'erreur est toujours possible. Et ce que je ne comprends pas, c'est que pour éviter à l'IA de faire des bêtises, normalement un programme déterministe est mis derrière, comme de vérifier si la trajectoire de tir atteint bien une cible. Mon problème est que certaines explications, souvent bien pires que celle-ci, inscrivent l'IA dans une religion terminatorienne, où il ne manque que le voyage dans le temps. Il y a des vrais problèmes que cause l'IA comme les retouches de photos et des voix. Je suis pro-progrès malgré tout car si nous ne l'inventons pas d'autres le feront a notre place. Mais j'aimerais que les problèmes présentés liés à l'IA en soient vraiment.